Hľadali sme bod zlomu straty ukotvenia v AI sebatrénovaní, stádovitosti a Goodharte. Väčšinou tam nie je.

Populárny príbeh hovorí, že systémy, ktoré stratia kontakt s realitou, zlyhávajú v bode zlomu: AI, ktorá sa trénuje na vlastnom výstupe, sa zrúti po prekročení prahu; dav, ktorý sleduje sám seba, sa preklopí do bubliny; metrika, ktorú niekto začne obchádzať, sa náhle zlomí. Rámec „bodu zlomu" je všade. Postavili sme štyri minimálne modely najčastejšie citovaných mechanizmov a otestovali to priamo — naprieč rozsahom veľkostí systému, štandardným fyzikálnym aparátom na detekciu fázových prechodov — a väčšinou sme bod zlomu nenašli. Tri zlyhávajú plynulo; štvrtý (obchádzanie metriky) vykazuje nanajvýš miernu závislosť od cesty, ktorú sme nedokázali úplne vyriešiť.

Čo sme testovali

Štyri minimálne modely pod jedným spoločným protokolom: sebatrénovanie (rozdelenie opakovane odhadované zo zmesi reálnych a vlastných syntetických dát), stádovitosť (agenti vážia súkromný signál proti davu), obchádzanie metriky (výber podľa proxy s nákazlivým obchádzaním) a — ako negatívna kontrola — chybne špecifikovaná štatistická inferencia (vynechaný zmätujúci faktor). Tieto štyri sme zvolili práve preto, že každý je verejne opisovaný ako systém s bodom zlomu, takže nulový výsledok je priamym testom populárneho tvrdenia, nie pohodlnou vzorkou.

Pre každý sme menili „ukotvenie" (grounding), merali parameter usporiadania od 0 (kolaps) po 1 (sleduje pravdu) pri veľkostiach od 250 až po 64 000 (16 000 pre väčšinu domén; 500–8 000 pre obchádzanie) a aplikovali batériu škálovania konečnej veľkosti, ktorá odlíši skutočný kritický prechod od plynulého sklonu: kríženie Binderovho kumulantu, rast susceptibility s veľkosťou a to, či sa krivka zostruje s rastom systému.

Čo sme zistili

Žiadny zo štyroch sa nezostruje. Sklon parametra usporiadania je nezávislý od veľkosti; susceptibilita nediverguje; Binderove kumulanty sa nekrížia.

• Sebatrénovanie sleduje svoj uzavretý pevný bod std = sqrt(g / (1 − (1−g)·s)) s retenciou s = 0,7, na 3–4 desatinné miesta pri každom nastavení. Výhrada: tento uzavretý vzorec je pevný bod kontrakčného zobrazenia, ktoré je hladké už zo svojej matematickej konštrukcie pri s<1 — samo osebe nevylučuje skutočný útes z mechanizmov, ktoré takto jednoduchý model vynecháva, napríklad tvrdý kvantizačný krok alebo diskrétny kolaps módov (pozri „čo by zmenilo náš názor"). Príbuzný model v zosilňujúcom režime, s>1, MÁ skutočný deterministický prah, g* = 1 − 1/s — iný režim, nie rozpor; pozri naše nadväzujúce skúmanie ôsmich systémov. Samostatne: Dohmatob et al. (ICLR 2025, „Strong Model Collapse") zistili, že aj ~1 % podiel syntetických dát môže spôsobiť ostrý rozpad škálovacieho zákona — skutočný prah, ale v PODIELE ZMESI inak rastúceho datasetu, inej premennej než náš pevný-retenčný sweep g, takže tento výsledok nevyvracia; je to pripomienka, že „hladké v tomto parametri" neznamená „hladké v každom parametri".
• Zdanlivé zostrenie pri stádovitosti je pevný prechod (crossover), nie kritický bod.
• Kontrola s chybnou inferenciou degraduje takisto plynulo, presne ako sa nekritický systém má správať.
• Prepojené obchádzanie metriky sa nezrútilo v našich behoch — efektivita výberu zostala v [0,84; 0,96] aj pri rozbehnutom prepojení, pretože rovnomerné obchádzanie sa v poradí navzájom vyruší. Toto je jediná výhrada: videli sme aj slabú hysteréziu (medzera 0,065 → 0,10 medzi štartom „bez obchádzania" a „s plným obchádzaním") a pomaly rastúci vrchol susceptibility, ktoré naše škálovanie konečnej veľkosti úplne nevyriešilo — možno slabý prechod prvého rádu pri väčšej veľkosti či prepojení, čo označujeme ako otvorené. Aktualizácia auditu (2026-07-01): pôvodný skript pre nákazu sa nepodarilo dohľadať; nezávislá rekonštrukcia od nuly (štandardný prahový kaskádový model) reprodukovala smer ohraničenej efektivity, ale nie detaily: efektivita vyšla nižšie a v užšom pásme (0,78–0,81, nie [0,84; 0,96]), medzera hysterézy sa s veľkosťou zmenšovala namiesto rastu a aj vrchol susceptibility sa zmenšoval (nie pomaly rástol, ako pôvodne uvedené). Všetky tri idú rovnakým smerom — k MENEJ dôkazom o vznikajúcom útese, nie viac — ale presný mechanizmus nákazy nebol v texte nikdy plne špecifikovaný, takže rekonštrukcia pod iným mechanizmom je reálna možnosť a toto spätne nedokazuje, že pôvodné meranie bolo chybné. Čistý efekt: celý príbeh o hysteréze pri obchádzaní metrík treba považovať za nepotvrdený až do nájdenia pôvodného kódu, nie za usadenú indíciu žiadnym smerom.

Kontrola, ktorá to robí dôveryhodným

Nulový výsledok je len taký dobrý ako prístroj. Preto sme rovnakým postupom prehnali pozitívnu kontrolu — systém so známym ostrým prechodom (Isingov model so stredným poľom bez vonkajšieho poľa). Prechod našla čisto: kríženie Binderovho kumulantu na správnom mieste a učebnicový kritický exponent β ≈ 0,5. Metóda vidí útes, keď tam je. (Naše štyri modely sú samy dobre premiešané / so stredným poľom, takže Isingov model so stredným poľom je zhodná pozitívna kontrola; sieťové či priestorové verzie sú mimo rozsah tejto práce — pozri výhradu nižšie a „čo by zmenilo náš názor".)

Čestné obmedzenie: Isingov model je kriticky nastavený už svojou konštrukciou — má skutočnú dvojjamovú voľnú energiu s dvoma súperiacimi makrostavmi zámerne. To, že náš pipeline nájde JEHO známy prechod, dokazuje, že kód pre Binderov kumulant/susceptibilitu funguje; nezaručuje to rovnako silno, že by ten istý pipeline našiel prechod v nesúvisiacom, inak štruktúrovanom systéme, keby tam existoval. Tri zo štyroch cieľových modelov (sebatrénovanie, stádovitosť, chybná inferencia) od začiatku nemali súperiace makrostavy — bližšie k testovaniu dymového detektora na táborovom ohni a odvodzovaniu, že by zachytil sviečku. Pozitívnu kontrolu ber ako uistenie, že metóda nie je zjavne rozbitá, nie ako dôkaz, že by zachytila každý skutočný útes.

Predchádzajúca práca, na ktorej staviame

Žiadna zo štyroch otázok nie je nová. Kolaps pri sebatrénovaní je charakterizovaný ako postupný a plynulý, nie ako ostrý útes, už od Shumailov et al. 2023, „The Curse of Recursion" — náš plynulý výsledok v režime retencie (s<1) je s tým konzistentný, nie čerstvý objav. Teória kaskád dlho poznamenáva, že informačné kaskády sú skôr krehké než robustne ostré — mechanizmus zavádzajú Bikhchandani, Hirshleifer & Welch 1992 a ich nadväzujúca práca z 1998 („Learning from the Behavior of Others", J. Economic Perspectives 12(3)) explicitne hovorí, že agenti v kaskáde sú blízko indiferencie, takže aj malý nový verejný signál ju dokáže rozbiť; Centolova práca o sociálnom bode zlomu (Science, 2018) skutočný prah ~25 % nachádza, ale v inom usporiadaní (sieť so záväznou menšinou) než náš dobre premiešaný model — takže náš nulový výsledok pri stádovitosti Centolu nevyvracia, len testuje inú otázku. Aplikácia nástrojov štatistickej fyziky na škálovanie konečnej veľkosti (Binderove kumulanty, škálovanie susceptibility) na test, či sú sociálne či AI dynamiky skutočne kritické, je sama osebe zavedená medziodborová technika — pozri prehľad Castellano, Fortunato & Loreto, Rev. Mod. Phys. 81, 591 (2009). Predchádzajúcu štúdiu s presne touto štvorsystémovou, jednoprotokolovou porovnávacou schémou so zhodnou pozitívnou kontrolou sme nenašli; práve táto kombinácia — nie žiadny jednotlivý výsledok osamote — je tu príspevkom.

Prečo

Systémy sú odlišné, ale dôvod je spoločný — spoločné vysvetlenie, nie spoločná trieda univerzality: tie štyri sa neposkladajú na jednu krivku ani nezdieľajú kritické exponenty. Akýkoľvek reálny signál ukotvenia vstupuje ako pole, ktoré láme symetriu, a pole zaokrúhli ostrý prechod na plynulý sklon. Skutočný útes sa znovu objaví len v singulárnej hranici nulového ukotvenia (dokonalá sebareferencia) — čo naša pozitívna kontrola s nulovým poľom demonštruje ako samostatný, idealizovaný systém a čomu sa reálne systémy nikdy celkom nepriblížia. Intuícia je obrátená: ukotvenie ťa netlačí k bodu zlomu; jeho absencia je to, čo bod zlomu vytvára.

Čo by zmenilo náš názor

Verná verzia ktoréhokoľvek z týchto systémov, v ktorej susceptibilita rastie s veľkosťou smerom k jednému prahu, Binderove kumulanty sa tam krížia a sklon diverguje — s rovnakým kritickým exponentom v dvoch či viacerých z nich. V štandardných mechanizmoch sme to nenašli; režimy, ktoré sme nevylúčili (tvrdý kvantizačný krok, rozbehnutá inflácia rozptylu, presne nulové ukotvenie a hysteréza pri obchádzaní metrík, ktorej smer už neskorší audit nevedel potvrdiť), sú miestom, kde hľadať — plus jeden, ktorý sme spočiatku podcenili: všetky štyri modely sú tu dobre premiešané (mean-field). Reálne korpusy pri sebatrénovaní, reálna sociálna stádovitosť aj reálne obchádzané metriky bežia na štruktúrovaných, heterogénnych sieťach a naša vlastná príbuzná práca o prahoch sieťových epidémií ukazuje, že samotná topológia dokáže kritickosť vytvoriť alebo zrušiť tam, kde ju dobre premiešaný test štrukturálne nevidí — dobre zdokumentovaný vzor vo fyzikálnej literatúre: Pastor-Satorras & Vespignani (2001) ukázali, že klasický epidemický prah, ktorý predpovedajú modely s homogénnym miešaním, môže na reálnych heterogénnych (škálovo voľných) kontaktných sieťach úplne zmiznúť, a explozívna perkolácia ukazuje, že sa môže stať aj opak — malá zmena štruktúrneho pravidla (výber hrán s obmedzeným výberom) zmení klasický plynulý prechod na taký s extrémne strmým, anomálnym škálovaním (spočiatku popísaný ako nespojitý; neskoršia prísna práca ukázala, že je technicky spojitý, len s oveľa ostrejším priebehom než klasický prípad). Možný je oboje smer; nulový výsledok na dobre premiešanom modeli to nerozhoduje. To je teraz najväčší otvorený smer, nie poznámka pod čiarou.

Praktický záver

Ak sa obávaš kolapsu modelu, davových bublín alebo obídenej KPI, pravdepodobne nečelíš skrytému útesu, z ktorého spadneš bez varovania. Čelíš plynulému, merateľnému poklesu — čo je lepšia správa: je viditeľný včas a trocha reálneho ukotvenia kupuje veľa rezervy. Nebezpečenstvom nie je náhle preklopenie; je to pomalý, nepovšimnutý posun k hranici nulového ukotvenia.

Všetky čísla zo simulácie; modely a protokol sú minimálne a opätovne spustiteľné. Tento text uvádza negatívny výsledok s negatívnou aj pozitívnou kontrolou.

FAQ

Zlyhávajú systémy, čo strácajú kontakt s realitou, pri tipping pointe? Väčšinou nie. Naprieč štyrmi systémami, o ktorých sa to tvrdí — AI self-training, stádovité davy, metric-gaming, zle špecifikovaná inferencia — každý degraduje plynulo, bez ostrého prahu. Jediná výnimka (obchádzanie metrík) ostáva otvorená, nie uzavretá.

Nie je metóda len príliš slabá na zachytenie útesu? Nie. Na reálnom fázovom prechode našla útes čisto — Binder crossing na správnom mieste a učebnicový kritický exponent β ≈ 0.5. Vidí tipping point, keď naozaj existuje — hoci kanonicky kritický systém ako Ising je jednoduchší cieľ než ľubovoľný iný systém, takže toto ber ako uistenie, že pipeline nie je rozbitý, nie ako dôkaz, že by zachytil každý skutočný útes.

Bol nejaký náznak skutočného prahu? Jedna čestná výhrada: slabá hysteréza (medzera 0,065 → 0,10) naznačovala, že skutočný prechod by mohol vzniknúť pri väčších mierkach, než sme testovali. Audit z 2026-07-01 nevedel dohľadať pôvodný skript; nezávislá rekonštrukcia reprodukovala smer ohraničenej efektivity, ale nie detaily — efektivita nižšia/užšia než tvrdené, hysteréza sa zmenšovala namiesto rástla a aj vrchol susceptibility sa zmenšoval namiesto rástol — všetky tri smerom k menej dôkazom o útese, nie viac. Celý príbeh o hysteréze pri obchádzaní metrík označujeme ako nevyriešený do nájdenia pôvodného kódu, nie ako usadenú indíciu žiadnym smerom.

Prečo na tom záleží? Rámec „tipping point“ láka čakať na prah, ktorý nikdy nepríde. Plynulá degradácia znamená, že musíš monitorovať nepretržite, nie striehnuť na útes. Neskôr sme to rozšírili na osem systémov.

Súvisiaci výskum

• Hľadali sme tipping point v 8 systémoch — len jeden je skutočný
• Najsebavedomejšie systémy sú najmenej ukotvené
• Ten istý skrytý zákon v štyroch mechanizmoch AI pamäte