Anthropic v zrevidovanom prospekte k plánovanému vstupu na burzu upozornila investorov, že sa môže čoskoro priblížiť k hranici, ktorú sama nazýva rekurzívne samozlepšovanie. Ide o stav, keď AI systém zrýchľuje vlastný vývoj natoľko, že ho ľudia prestávajú stíhať sledovať a overovať, a výsledkom je samozlepšujúca sa AI, ktorá sa vyvíja rýchlejšie, než ju firma dokáže kontrolovať. Firma, ktorá svoju identitu stavia na bezpečnosti AI, tak priamo vo finančnom dokumente pripustila, že táto hranica už nie je len teoretická.
V skratke
- Anthropic v pondelok 2. novembra 2026 podala zrevidovaný prospekt S-1/A pred plánovaným vstupom na burzu.
- Nový text v časti Rizikové faktory hovorí, že firma môže čoskoro naplniť vlastnú definíciu „dramaticky zrýchleného pokroku pripísateľného AI“.
- Anthropic tvrdí, že žiadny z jej súčasných modelov túto hranicu neprekročil, ale v minulosti si podobné zrýchlenie nevšimla včas.
- Firma zvažuje úpravu Responsible Scaling Policy, aby pri vývoji ďalších generácií modelov udržala ľudí v rozhodovacej pozícii.
Čo presne je v novom prospekte
Rozdiel oproti predchádzajúcej verzii dokumentu z 26. októbra si všimol portál TechCrunch a neskôr ho potvrdil aj Gizmodo. Anthropic do časti o rizikách doplnila vetu, že jej „vnútorné odhady a očakávania týkajúce sa budúcich modelov, nie súčasných modelov, naznačujú, že môže čoskoro naplniť definíciu Responsible Scaling Policy pre dramaticky zrýchlený pokrok pripísateľný AI“. Firma zároveň priznala, že v minulosti rozpoznala výrazné zrýchlenie vlastného vývoja až s odstupom času, nie v momente, keď nastalo. Dodala však, že žiaden jej aktuálny model definovanú hranicu neprekročil a že situáciu priebežne prehodnocuje.
Ako to funguje, rekurzívne samozlepšovanie vysvetlené pre laika
Skratka RSI, rekurzívne samozlepšovanie, označuje bod, v ktorom počítačový systém dokáže zlepšovať sám seba, a výsledná vylepšená verzia potom zlepšuje seba samu znova, v opakujúcom sa cykle. Pojem má korene v staršej myšlienke „seed AI“, ktorú razil Eliezer Yudkowsky, a dlhé roky sa o ňom diskutovalo najmä v komunitách okolo stránky LessWrong. Pri bežných AI modeloch ide o to, že firma ako Anthropic používa svoje vlastné modely na výskum a vývoj ďalších modelov. Problém nastáva, ak sa tento kolobeh zrýchli tak, že ľudia nedokážu overiť bezpečnosť, zarovnanie s hodnotami ani zabezpečenie novej generácie skôr, než vznikne ešte výkonnejšia. Anthropic v prospekte priamo píše, že rastúce využívanie AI pri vlastnom výskume môže spôsobiť, že schopnosti modelov porastú rýchlejšie, než firma zvládne vyvíjať a overovať zodpovedajúce bezpečnostné opatrenia. TechCrunch v tejto súvislosti pripomína, že schopnosti modelu Claude sa v priebehu roka 2026 výrazne zlepšili práve v oblastiach, ktoré sú pre samozlepšovanie kľúčové, teda v programovaní, matematike a kybernetickej bezpečnosti. Ak model dokáže sám písať a overovať kód, ktorý sa používa na trénovanie jeho nástupcu, hranica medzi „AI pomáha vývoju“ a „AI vyvíja AI“ sa postupne stráca.
Prečo prichádza takéto varovanie práve pri vstupe na burzu
Prospekt S-1/A slúži zároveň ako povinné zverejnenie rizík pre investorov aj ako marketingový dokument, ktorý má burzu presvedčiť o hodnote firmy, a kritici na to upozorňujú, pretože tvrdenie o blízkosti k mimoriadne výkonnej AI môže pôsobiť oboma smermi. Ešte v predchádzajúcej verzii prospektu, o ktorej sme písali pri príležitosti zverejnenia strát a rastu príjmov Anthropicu, firma hovorila len o „tempe AI zrýchlenia“ vo všeobecnej rovine. Nová verzia ide ďalej a priamo pripúšťa, že naplnenie vlastnej definície zrýchleného pokroku môže nastať čoskoro. Anthropic zároveň sľubuje, že ak by k tomu došlo, pristúpi k mimoriadnym opatreniam, napríklad k stavu, ktorý sama nazýva „oči na všetkom“, teda k dôkladnému internému monitorovaniu, a k tomu, že by sa pri bezpečnostnom testovaní spoliehala menej na externé odmeny za nájdené chyby a viac na vlastné, prísnejšie postupy.
Čo to znamená pre firmy
Pre bežné firmy, ktoré nástroje ako Claude používajú na programovanie, analýzu dát alebo automatizáciu, varovanie priamo nič nemení, Anthropic zdôrazňuje, že žiadny existujúci model hranicu neprekročil. Signál je však iný: tempo, akým sa schopnosti modelov zlepšujú, sa podľa samotného výrobcu môže ešte zrýchliť, a firmy, ktoré AI nasadzujú do kritických procesov, by s tým mali počítať pri plánovaní bezpečnostných a kontrolných mechanizmov. Podobné riziká pri nasadzovaní autonómnych AI agentov v podnikoch rozobrala aj staršia analýza bezpečnostných rizík AI agentov od OpenAI, ktorú sme na AIportal.sk opisovali minulý týždeň. Spoločným menovateľom oboch prípadov je, že firmy stojace za najvýkonnejšími modelmi samy upozorňujú na medzeru medzi rýchlosťou vývoja a rýchlosťou bezpečnostného dohľadu. Pre firmy, ktoré AI zavádzajú do účtovníctva, zákazníckej podpory alebo rozhodovacích procesov, z toho vyplýva praktické odporúčanie, nespoliehať sa len na to, že dodávateľ modelu rizikám rozumie, ale mať vlastný proces, ktorým sa výstupy AI pravidelne kontrolujú a porovnávajú s doterajším výkonom. Čím rýchlejšie sa modely zlepšujú, tým ľahšie sa prehliadne, že sa zmenilo aj ich správanie v hraničných situáciách.
Čo sledovať ďalej: Anthropic plánuje v najbližších mesiacoch upraviť svoju Responsible Scaling Policy tak, aby pri vývoji ďalších generácií modelov udržala ľudí v rozhodovacej úlohe. Zaujímavé bude aj to, ako na podobné vyjadrenie zareagujú investori tesne pred vstupom firmy na burzu, a či podobné formulácie o blízkosti k zrýchlenému pokroku začnú objavovať aj v dokumentoch konkurentov ako OpenAI alebo Google DeepMind.
