We hunted for the tipping point in 8 systems. Only one is a true critical cliff - and 'model collapse' isn't it.Lovili sme bod zlomu v 8 systemoch. Len jeden je skutocny kriticky utes - a kolaps modelu nim nie je.
Last time we looked for the "tipping point" in four systems people say have one — AI self-training, herding crowds, metric-gaming, misspecified inference — and found none: each degrades smoothly. But 2. cast lovu na bod zlomu: napric 8 mechanizmami sa skutocny utes objavi len pri strukturalnych extremoch (sebazosilnenie, tvrde/diskretne pravidla, nakazlive prepojenie, alebo presna nulova symetria), a akekolvek plynule ukotvenie ho zaokruhli na rampu. Len nulove pole je skutocna kritickost; kolap
Last time we looked for the "tipping point" in four systems people say have one — AI self-training, herding crowds, metric-gaming, misspecified inference — and found none: each degrades smoothly. But we left a falsifier open: certain regimes could still host a cliff. So we went hunting. Across eight mechanisms total, with the standard physics battery for detecting phase transitions and every finding independently re-checked, here is the complete map of the eight mechanisms we tested.
One distinction does all the work here, so it's worth stating plainly up front: a deterministic blow-up has a sharp, predictable location but ordinary mechanics — it just runs away once a threshold is crossed. A critical transition is different: near the edge the system develops wild, system-spanning fluctuations that grow without bound. Both look like "a cliff" on a chart; only the second is a phase transition in the physicist's sense. That difference turns out to be the whole story.
A real cliff is the exception
Across these eight mechanisms we found three ways to manufacture a cliff — and only one of them is a genuine critical phase transition:
1. Self-amplification. If a system retrains on its own output and that output inflates its variance (amplification factor s>1), it hits a hard threshold at a predictable point: grounding fraction g = 1 − 1/s (e.g. s=2 means collapse once real data falls below 50%). This is the real shape of "model collapse." But it is not a critical phase transition — it's a deterministic blow-up (a fixed point losing stability). We checked the critical signatures and they're absent: susceptibility (how violently the system swings near the edge) stays flat across a 64× range of system sizes, and outcomes self-average (one big run looks like the average — the hallmark of non*-critical). Sharp location, ordinary mechanics.
2. Hard, all-or-nothing decisions. Replace a soft, probabilistic response with a hard majority/threshold rule and you get a genuine first-order discontinuous jump — the order parameter steps from 0 to 1 at a precise point, with large hysteresis (the path up differs from the path down). Discreteness manufactures the cliff.
3. Contagious coupling. When gaming a metric is contagious (cheaper to game when others game), selection efficiency develops first-order bistability — two stable states and a hysteresis loop — though it never fully collapses.
And the one true critical transition? The one zero-grounding, symmetric limit — a crowd with no truth signal at all. There, and only there, you get textbook criticality (mean-field exponent β about 0.5).
The unifying — and practical — result
Any amount of smooth grounding rounds the cliff into a ramp. We measured it directly: as a crowd's truth signal rose by just ~5 percentage points (the bias parameter q: 0.50 → 0.55), the critical fluctuation-growth collapsed from about 20× (sharp) to flat (a gradual crossover). A little real-world grounding converts an abyss into a slope.
We used well-mixed ("mean-field") models on purpose: they are the cleanest place to find a cliff if one exists, so a negative result here is the conservative case. Spatial or networked structure can add transitions that mean-field misses — so networked versions are the obvious next test, not a hidden weakness.
Two controls keep this honest: a system known to be smooth stayed smooth; a system known to be critical (a zero-field Ising model) was correctly flagged as critical with the right exponent. The method sees a cliff when there is one.
What this means
If you worry about AI model collapse, market bubbles, or a gamed KPI: in a real, noisy, partially-grounded system of this kind you face a measurable slope, not a sudden abyss — unless you've built in the two cliff-makers: a system that amplifies its own errors (self-training with variance inflation), or one that makes hard, discrete, all-or-nothing calls. Those are the conditions to engineer out. And the most useful correction: "model collapse" is a real, sharp risk, but it's a deterministic instability you can locate (g* = 1 − 1/s) — not a mysterious critical tipping point.
What would change our mind. A soft, partially-grounded, non-amplifying system that nonetheless shows diverging critical fluctuations or a discontinuous jump. We didn't find one across the eight mechanisms we tested.
All figures from simulation; minimal mean-field/well-mixed models, re-runnable, with a positive and a negative control. The critical exponent β is bracketed near 0.5, not pinned to two digits; networked/spatial versions are out of scope here.
Minule sme hľadali „bod zlomu" v štyroch systémoch, o ktorých sa hovorí, že ho majú — AI sebatrénovanie, stádovité davy, obchádzanie metrík, chybná inferencia — a nenašli sme žiadny: každý degraduje plynulo. Nechali sme však otvorený falsifikátor: niektoré režimy útes mať môžu. Tak sme šli loviť. Naprieč ôsmimi mechanizmami, štandardným fyzikálnym aparátom na detekciu fázových prechodov a s nezávislou kontrolou každého zistenia, tu je kompletná mapa tých ôsmich mechanizmov, ktoré sme testovali.
Jedno rozlíšenie tu robí všetku prácu, takže ho povedzme rovno na úvod: deterministický výbuch má ostré, predvídateľné miesto, ale obyčajnú mechaniku — po prekročení prahu sa jednoducho rozbehne. Kritický prechod je iný: pri okraji systém vyvinie divoké, celosystémové fluktuácie rastúce bez hraníc. Oboje vyzerá na grafe ako „útes"; len to druhé je fázový prechod vo fyzikálnom zmysle. To rozlíšenie je celý príbeh.
Skutočný útes je výnimka
Naprieč týmito ôsmimi mechanizmami sme našli tri spôsoby, ako útes vyrobiť — a len jeden z nich je skutočný kritický fázový prechod:
1. Sebazosilnenie. Ak sa systém pretrénuje na vlastnom výstupe a ten výstup nafukuje rozptyl (faktor zosilnenia s>1), narazí na tvrdý prah na predvídateľnom mieste: podiel ukotvenia g = 1 − 1/s (napr. s=2 znamená kolaps, keď reálne dáta klesnú pod 50 %). Toto je skutočný tvar „kolapsu modelu". Ale nie je to kritický fázový prechod — je to deterministický výbuch (pevný bod stráca stabilitu). Overili sme kritické príznaky a chýbajú: susceptibilita (ako prudko systém kmitá pri okraji) zostáva plochá naprieč 64× rozsahom veľkostí a výsledky sa samopriemerujú (jeden veľký beh vyzerá ako priemer — znak ne*kritickosti). Ostré miesto, obyčajná mechanika.
2. Tvrdé rozhodnutia „všetko alebo nič". Nahraď mäkkú pravdepodobnostnú odozvu tvrdým väčšinovým/prahovým pravidlom a dostaneš skutočný prvorádový nespojitý skok — parameter usporiadania skočí z 0 na 1 v presnom bode, s veľkou hysterézou (cesta hore je iná ako cesta dole). Diskrétnosť vyrába útes.
3. Nákazlivé prepojenie. Keď je obchádzanie metriky nákazlivé (lacnejšie, keď obchádzajú aj ostatní), efektivita výberu vyvinie prvorádovú bistabilitu — dva stabilné stavy a hysteréznu slučku — hoci sa nikdy úplne nezrúti.
A ten jediný skutočný kritický prechod? Jediná hranica nulového ukotvenia, symetrická — dav úplne bez signálu pravdy. Tam, a len tam, dostaneš učebnicovú kritickosť (exponent stredného poľa β okolo 0,5).
Zjednocujúci — a praktický — výsledok
Akékoľvek množstvo plynulého ukotvenia zaokrúhli útes na rampu. Zmerali sme to priamo: keď signál pravdy davu vzrástol len o ~5 percentuálnych bodov (parameter biasu q: 0,50 → 0,55), rast kritických fluktuácií klesol z asi 20× (ostrý) na plochý (plynulý prechod). Trocha reálneho ukotvenia premení priepasť na svah.
Použili sme dobre premiešané („stredné pole") modely zámerne: sú najčistejším miestom, kde útes nájsť, ak existuje, takže negatívny výsledok je tu konzervatívny prípad. Priestorová či sieťová štruktúra môže pridať prechody, ktoré stredné pole minie — sieťové verzie sú teda zjavný ďalší test, nie skrytá slabina.
Dve kontroly to udržia poctivé: systém známy ako plynulý zostal plynulý; systém známy ako kritický (Isingov model s nulovým poľom) bol správne označený za kritický so správnym exponentom. Metóda vidí útes, keď tam je.
Čo to znamená
Ak sa obávaš kolapsu AI modelu, trhových bublín alebo obídenej KPI: v reálnom, zašumenom, čiastočne ukotvenom systéme tohto typu čelíš merateľnému svahu, nie náhlej priepasti — pokiaľ si nezabudoval dvoch tvorcov útesu: systém, ktorý zosilňuje vlastné chyby (sebatrénovanie s infláciou rozptylu), alebo systém s tvrdými, diskrétnymi rozhodnutiami „všetko alebo nič". To sú podmienky, ktoré treba vyprojektovať von. A najužitočnejšia oprava: „kolaps modelu" je reálne, ostré riziko, ale je to deterministická nestabilita, ktorú vieš lokalizovať (g* = 1 − 1/s) — nie záhadný kritický bod zlomu.
Čo by zmenilo náš názor. Mäkký, čiastočne ukotvený, nezosilňujúci systém, ktorý napriek tomu vykáže divergujúce kritické fluktuácie alebo nespojitý skok. Nenašli sme ho naprieč ôsmimi testovanými mechanizmami.
Všetky čísla zo simulácie; minimálne modely stredného poľa / dobre premiešané, opätovne spustiteľné, s pozitívnou aj negatívnou kontrolou. Kritický exponent β je ohraničený okolo 0,5, nie pripnutý na dve číslice; sieťové/priestorové verzie sú mimo rozsah.