Najistejšie systémy sú najmenej ukotvené
Zdieľaný vzorec za model collapse, replikačnou krízou aj trhovým lock-inom: istota postavená z vnútornej konzistencie sa odpája od pravdy, keď klesá externé ukotvenie — cez viac než jednu signatúru. Odmerané v minimálnych modeloch, overené voči reálnym many-analysts štúdiám, s kreditom piatim etablovaným literatúram.
Tri zlyhania vyzerajú nesúvisiace. Model AI trénovaný na vlastnom výstupe sa zvrhne na nezmysel ("model collapse"). Sedemdesiat expertných tímov s tým istým dátovým súborom z mozgového zobrazovania dospeje k rôznym záverom; dvadsaťdeväť tímov analyzujúcich tie isté futbalové dáta hlási efekty od "žiadny efekt" po "silný efekt." Trhy a technické štandardy sa zamknú na horšej možnosti a ostanú tam. Našli sme spoločný vzorec naprieč nimi — a postavili sme najmenšie modely, ktoré ho vedeli otestovať.
Vzorec
Systém stavia istotu z vnútornej konzistencie — zhody nazbieranej v čase (konsenzus), alebo úzkeho intervalu kúpeného viacerými dátami (presnosť). Tá istota sleduje pravdu len úmerne tomu, koľko externej informácie je systém naviazaný. Nazvime to naviazanie g. Ako g klesá, istota a presnosť sa môžu odpojiť — niekedy je systém čoraz istejší cez vlastnú vnútornú dynamiku, no ostáva v omyle; niekedy jeho istota jednoducho prestane hýbať sa vôbec, kým jeho presnosť pod ňou kolabuje. Tak či tak: vysoká istota nie je dôkaz ukotvenia. Nie je to nový mechanizmus od nuly — premosťuje niekoľko etablovaných výsledkov (kreditovaných nižšie), ktoré, pokiaľ vieme, ešte neboli spolu na jednej stránke.
Čo sme odmerali
Postavili sme najmenšie modely, ktoré to vedeli ukázať, a spustili sme ich.
- Jeden zdieľaný model, dve slávne zlyhania. Jediný model formovania názoru — K možností, jedna naozaj najlepšia, frakcia externého pravdivého signálu φ zmiešaná proti sile samo-posilnenia α — reprodukuje aj samo-živiaci sa učiaci systém, ktorý stratí pravý signál pod kritickým prahom externej informácie, aj na kvalitu slepý winner-take-all lock-in (model sa stane ľahostajným k tomu, ktorá možnosť je naozaj lepšia, ako rastie samo-posilnenie α) — mechanizmus je presne rastúci výnos a lock-in Briana Arthura (1989), spustený pri nízkom externom signáli. Oba ležia na tej istej rastúcej kritickej krivke φc(α): čím agresívnejšie systém posilňuje vlastný signál, tým viac externého ukotvenia potrebuje, aby ešte sledoval pravdu (φc nám narástlo z ~0,01 pri α=1 na ~0,27 pri α=3).
- Liečba je drahšia než prevencia. Ten istý model je bistabilný. Keď sa zamkne na nesprávnom konsenze, únik stojí oveľa viac externého ukotvenia, než by stála prevencia zámku (v našich behoch únik z falošného zámku pri α=2 potreboval φ≈0,28, kým udržanie správneho potrebovalo φ≈0). Táto hysterézia je tá istá asymetria, akú dokumentuje Schefferova práca o kritických prechodoch pri ekologických a sociálnych zmenách režimu.
- Druhá, doplnková ilustrácia — iný mechanizmus, nie tie isté rovnice. Spustili sme druhý, štrukturálne nesúvisiaci model: regresiu s vynechaným konfaunderom, kde g je to, ako dobre kontrolná premenná zastupuje skutočný konfaunder. Ukazuje ostrejšiu verziu tej istej TÉMY (istota nič nevypovedá o ukotvení) cez inú SIGNATÚRU: presnosť-ako-istota zostala v podstate plochá bez ohľadu na g pri každej veľkosti vzorky, akú sme skúsili (N=50 až N=20 000) — množstvo dát, nie identifikácia, ju určuje — kým presnosť ostro kolabovala, ako g klesalo. Takže tento mechanizmus neukazuje istotu rastúcu, ako g klesá, tak ako model formovania názoru; ukazuje istotu stojacu na mieste, kým sa hýbe len presnosť — argumentovateľne nebezpečnejšia signatúra, keďže nič na samotnom skóre istoty by ťa nevarovalo. Toto je učebnicový bod identifikácia-vs-presnosť v ekonometrii (viac dát zúži interval spoľahlivosti bez toho, aby opravilo skreslenie z poddimenzovaného odhadu).
| Dôkaz | Signatúra | Kľúčové číslo |
|---|---|---|
| Model formovania názoru (collapse + lock-in) | rastúca istota, klesajúca presnosť | φc narástlo ~0,01 (α=1) → ~0,27 (α=3) |
| Ten istý model, hysterézia | liečba drahšia než prevencia | únik potrebuje φ≈0,28 vs. udržanie φ≈0 (pri α=2) |
| Model identifikácia/presnosť | plochá istota, kolabujúca presnosť | plochá naprieč N=50–20 000 |
| Silberzahn a kol. 2018 (reálne dáta) | rozptyl many-analysts | 29 tímov, odds ratios 0,89–2,93 |
| Breznau a kol. 2022 (reálne dáta) | rozptyl many-analysts | 73 tímov, kódované rozhodnutia vysvetlia len 2,6 % (teoretický strop ~16 %) |
| Botvinik-Nezer a kol. 2020 (reálne dáta) | rozptyl many-analysts | 70 tímov, žiadne dva rovnaké pipeline |
Sedí to s reálnymi dátami
"Many-analysts" štúdie sú priamy test: dajte mnohým expertným tímom ten istý dataset a tú istú otázku a sledujte, ako veľmi sa odpoveď pohne. Pohne sa veľa. Silberzahn a kol. (2018): 29 tímov, odds ratios od 0,89 do 2,93 na identických dátach. Breznau a kol. (2022): 73 tímov; identifikovateľné kódované metodologické rozhodnutia vysvetlili len 2,6 % rozptylu v číselných výsledkoch (95,2 % ostalo nevysvetlených aj po pridaní charakteristík výskumníkov) — čisto teoretický simulovaný strop stanovil absolútne maximum, čo by akákoľvek schéma kódovania mohla vysvetliť, na niečo cez 16 %, a reálni analytici zaostali aj za tým. Väčšina rozptylu nemá identifikovateľnú príčinu vôbec, pri žiadnom skúšanom kódovaní — ostrejší nález než "štrukturálne, nie šum vzorky", čo sme v skoršej verzii tohto textu podcenili. Botvinik-Nezer a kol. (2020): 70 neurozobrazovacích tímov, žiadne dva pipeline rovnaké. Novšia crowd-reanalýza (Aczel a kol., Nature 2026, 100 štúdií) zistila, že len 34 % výsledkov sa zreplikovalo v úzkej tolerancii. To je v zhode s predikciou vzorca: pri slabo identifikovanej otázke je odpoveď daná tým, ktorú obhájiteľnú špecifikáciu zvolíte, nie množstvom dát. Úzky interval spoľahlivosti nie je dôkaz, že máte pravdu. Toto je kvalitatívna zhoda, nie fitnutý bodový odhad — a čestný limit, ktorý treba priamo povedať: tieto štúdie merajú rozptyl špecifikácií naprieč tímami, nie vlastnú deklarovanú istotu systému tak, ako ju definujú naše malé modely. Používame ich ako paralelu z reálneho sveta k mechanizmu presnosť-≠-pravda, nie ako priame meranie konkrétnej dynamiky istoty ktoréhokoľvek z modelov.
Jedno praktické pravidlo
Naprieč všetkým — tréning AI, vedecká analýza, trhy, a každý systém čo sa učí sám zo seba — je pravidlo takmer rovnaké: nečítaj vnútornú konzistenciu ako dôkaz pravdy. Konsenzus medzi časťami systému a úzky interval z hojnosti dát sú oboje lacné a vnútorné. Sledovanie pravdy vyžaduje externú kotvu a treba ju stále platiť. Najnebezpečnejší režim je vysoká istota pri nízkom ukotvení — maximálna istota práve tam, kde je najmenej zaslúžená, a (podľa štrukturálnej ilustrácie) tá istota sa možno nikdy viditeľne nepohne, aby ťa varovala. Prakticky: udržuj tok externej informácie nad podlahou; čím agresívnejšie systém posilňuje vlastné výstupy, tým vyššia tá podlaha musí byť; a čítaj stabilitu naprieč špecifikáciami — nikdy šírku intervalu ani konsenzus samotný — ako svoj dôkaz identifikácie. Ešte jedna výhrada stojí za priame vyslovenie: skóre ukotvenia, na ktoré začneš konať, sa stane cieľom — systém (alebo človek), ktorý vie, že je hodnotený na "externé ukotvenie," sa môže naučiť vyzerať ukotvene (selektívne citovať zdroje, prejsť checklist robustnosti) bez toho, aby bol presnejší. Meranie ukotvenia nezruší Goodhartov zákon; len posunie cieľovú čiaru o úroveň vyššie. Jeden detekovateľný skorý varovný signál, navrhnutý, ale netestovaný v tomto texte: sleduj súhyb istoty a diverzity, nie istotu samotnú — ak deklarovaná istota ansámblu či tímu rastie, kým sa rozptyl nezávislých odpovedí, z ktorých čerpá, zmenšuje, tento pár je viditeľný len z logov/výstupov, bez potreby ground truth, a prichádza skôr než viditeľný pokles presnosti.
Čo by nás presvedčilo o opaku
Seba-referenčný systém, ktorý ostane dobre kalibrovaný aj keď je hladný po externej informácii (medzera istota–presnosť ostáva blízko nuly, ako ukotvenie klesá), by vzorec vyvrátil. Rovnako veľká many-analysts štúdia, kde je nezhoda medzi tímami nie väčšia než bežný šum vzorky. A ak by adversariálny systém vedel dotlačiť naše meradlo ukotvenia, aby vyzeralo vysoko, kým presnosť ostáva nízka, ukázalo by to, že praktické pravidlo neprežije kontakt s motiváciou ho oklamať — test, ktorý sme ešte nespustili.
Prior art, na ktorom staviame
Žiadna z jednotlivých častí tu nie je nová; premostenie naprieč doménami je náš príspevok. Winner-take-all lock-in zo samo-posilnenia je program rastúcich výnosov a path-dependence Briana Arthura (1989). Identifikácia vs. presnosť — viac dát zúži interval bez toho, aby opravilo skreslenie z poddimenzovaného odhadu — je učebnicová ekonometria, najviac formalizovaná v práci Charlesa Manskeho o parciálnej identifikácii. Istota, ktorá ostáva vysoká (alebo rastie), kým presnosť pod distribučným posunom klesá, je mainstreamová ML literatúra o kalibrácii/nadmernej istote (Guo a kol. 2017 ukázali, že moderné neurónové siete sú systematicky nekalibrované smerom k nadmernej istote). Hysterézia pri úniku zo zamknutého režimu je program kritických prechodov Martena Scheffera. Samo-posilňujúci sa zámok viery z nedostatočného externého naviazania je priamo skúmaný v modeloch dynamiky názorov (Deffuant, Hegselmann–Krause) a teórii echo-chamber/epistemických bublín. Všeobecný tvar "vnútorná koherencia namiesto externej kontroly" je tiež nezávisle pomenovaný v starších literatúrach, ktoré sme predtým nekreditovali: Kuhnovo zakorenenie paradigmy (The Structure of Scientific Revolutions, 1962 — istota v paradigme pretrváva, kým sa hromadia anomálie, až kým kríza nevynúti revíziu), Minského hypotéza finančnej nestability (1975/1986 — stabilita sama plodí pákový efekt a nadmernú istotu, ktoré spôsobujú ďalší krach, prehliadaná až do "Minského momentu" 2008), a Janisov groupthink (1972 — súdržné, izolované skupiny vytvárajú konsenzuálnu istotu, kým strácajú kontakt s protirečiacim dôkazom). Žiadna z týchto troch neformalizuje mechanizmus tak, ako Arthur, Manski či Scheffer; sú tu citované ako konvergentné pomenovanie, nie zdieľaná matematika — tri odbory nezávisle zaznamenali rovnaký tvar zlyhania bez spoločného formálneho modelu, čo je samo osebe informatívne o tom, aký je vzorec reálny oproti tomu, ako prísne ho niekto ukotvil. Čo pridávame: spustiteľný model ukazujúci, že úpadok v štýle model-collapse a winner-take-all lock-in vychádzajú z jednej zdieľanej kritickej krivky φc(α), kvantifikovanú medzeru hysterézie na tom istom modeli, a druhú ilustráciu, ktorá robí bod identifikácia-vs-presnosť konkrétnym cez špecifickú, reprodukovateľnú signatúru.
Čestné výhrady
Prahy pochádzajú z minimálnych simulácií, takže presné čísla sú špecifické pre model, nie univerzálne konštanty. Dva mechanizmy vyššie sú zjednotené zdieľanou TÉMOU (frakcia externého ukotvenia, ktorú by istota mala, ale spoľahlivo nesleduje), nie zdieľanou matematikou — model formovania názoru (collapse + lock-in + hysterézia) je naozaj jeden systém; ilustrácia identifikácia/presnosť je samostatný, štrukturálne odlišný model, ktorý ukazuje tú istú tému inou signatúrou (plochá istota, nie rastúca). Porovnanie s reálnymi dátami je zhoda v smere a ráde veľkosti — multi-analyst štúdie potvrdzujú, že rozptyl naprieč špecifikáciami prevyšuje šum vzorky, čo je jadro vzorca — nie fitnutý bodový odhad. To, za čím stojíme, je štruktúra: istota sa môže odpojiť od pravdy, ako klesá externé ukotvenie, cez viac než jeden mechanizmus, naprieč doménami, ktoré si inak navzájom nepodobajú. Voláme to vzorec, nie zákon: dôkazová latka pre "zákon" je kvantitatívne, opakované, nezávislé testovanie naprieč systémami, čo toto ešte nedosahuje.
FAQ
Existuje zákon spájajúci istotu a ukotvenie? Volali by sme to skôr kandidátny vzorec než zákon: naprieč model collapse, winner-take-all lock-inom a nezhodou mnohých analytikov bývajú istejšie systémy horšie ukotvené — no istota sa odpája od presnosti cez aspoň dve rôzne signatúry (rastúca istota, alebo plochá istota s kolabujúcou presnosťou), nie jednu univerzálnu krivku.
Aké dáta to podporujú? Štúdie mnohých analytikov: 73 tímov, kde identifikovateľné kódované metodologické rozhodnutia vysvetlili len 2,6 % rozptylu v číselných výsledkoch (teoretický strop bol ~16 %, reálni analytici zaostali aj za tým); 70 neurozobrazovacích tímov bez dvoch rovnakých pipeline; 29 tímov s odds ratios od 0,89 do 2,93; novšia crowd-reanalýza 100 štúdií zistila 34 % replikáciu v úzkej tolerancii. Je to kvalitatívna zhoda v smere a ráde veľkosti voči rozptylu špecifikácií naprieč tímami, nie priame meranie istoty a nie fitnutý bodový odhad.
Aké je praktické pravidlo? Ber vysokú istotu pri nízkom ukotvení ako varovanie, nie uistenie. Meraj ukotvenie zvlášť namiesto čítania skóre istoty, akoby bolo správnosťou — a pamätaj, že skóre ukotvenia, na ktoré konáš, môže byť samo o sebe oklamané.
Čo by ťa presvedčilo o opaku? Doména, kde istota spoľahlivo rastie s ukotvením, nie proti nemu, alebo veľká many-analysts štúdia s nezhodou nie väčšou než šum vzorky — alebo systém, ktorý sa naučí predstierať vysoké skóre ukotvenia, kým ostáva nepresný.
Je toto nový objav? Nie — rastúce výnosy a lock-in (Arthur 1989), identifikácia-vs-presnosť (Manski), kalibrácia/nadmerná istota pod distribučným posunom, a hysterézia pri zmene režimu (Scheffer) sú každý zvlášť etablované. Nové tu je spustiteľný model ukazujúci, že dva z týchto mechanizmov (collapse, lock-in) zdieľajú jednu kritickú krivku a kvantifikovanú medzeru hysterézie, plus druhý model, ktorý robí bod identifikácia/presnosť konkrétnym cez špecifickú, reprodukovateľnú signatúru.