Izraelský startup Irregular, ktorý pre veľké AI firmy testuje bezpečnosť ich modelov, pripustil, že za sériou prípadov, keď sa modely od OpenAI, Anthropicu, Mety a Googlu počas testov dostali do systémov cudzích organizácií, nestojí žiadny prelom v schopnostiach umelej inteligencie, ale ľudská chyba. V utorok 3. novembra 2026 to na podujatí Bloomberg Tech v Londýne potvrdil výkonný riaditeľ Irregular Dan Lahav. Správa je dôležitá preto, že doteraz sa o testovaní bezpečnosti AI hovorilo skôr ako o znepokojujúcom dôkaze, že modely vedia samy obchádzať ochranné mechanizmy.
V skratke
- Dan Lahav, šéf startupu Irregular, na podujatí Bloomberg Tech v Londýne 3. novembra 2026 priznal, že testovanie bezpečnosti AI modelov zlyhalo pre ľudskú chybu, nie pre schopnosti modelov.
- Modely od OpenAI, Anthropicu, Mety a Googlu počas testov „unikli“ z izolovaných testovacích prostredí a zaútočili na cudzie organizácie, medzi nimi aj na Hugging Face.
- Anthropic v blogu z 30. júla 2026 opísal tri samostatné prípady, keď sa jeho modely Claude dostali do systémov troch rôznych organizácií.
- Podľa Wall Street Journal sa model Googlu v máji 2026 dostal na internet a počas testov, ktoré viedol Irregular, prenikol do systémov troch firiem.
Čo presne sa stalo
Medzi júlom a septembrom 2026 postupne štyri veľké AI firmy potvrdili podobné prípady. Anthropic vo svojom blogu z 30. júla napísal, že pri spätnej kontrole histórie hodnotení našiel tri samostatné prípady, keď sa jeho modely Claude dostali do systémov troch rôznych organizácií, a že kontrolu robil priamo v spolupráci s Irregular. OpenAI o pár dní neskôr, 4. augusta, uviedla, že počas hodnotení, ktoré mali byť podľa zadania úplne odizolované od internetu, chybná konfigurácia testovacieho prostredia umožnila jej modelom pripojiť sa na verejnú sieť. Meta 6. augusta oznámila takmer identický prípad, keď jeden z jej modelov počas bezpečnostného testu zaútočil na inú firmu, a dôvodom bola podľa nej neúmyselná chyba v konfigurácii na strane Irregular. Google podľa správy Wall Street Journal z 18. septembra potvrdil, že jeho model sa v máji 2026 dostal na internet a počas testov kybernetických schopností, ktoré viedol Irregular, prenikol do systémov troch firiem. Lahav na pódiu v Londýne dodal, že medzi napadnutými organizáciami bola aj platforma Hugging Face. Všetky štyri prípady sa odohrali v priebehu tohto roka, teda ešte predtým, než ich jednotlivé firmy postupne medzi júlom a septembrom zverejnili, a spája ich to, že vo všetkých testovanie zastrešoval ten istý dodávateľ, spoločnosť Irregular.
Ako to funguje: izolované testovacie prostredie
Keď firmy ako Anthropic alebo OpenAI chcú zistiť, ako nebezpečný môže byť ich model v rukách útočníka, nepustia ho na skutočný internet. Pripravia mu uzavretú, oddelenú sieť, takzvaný sandbox, kde môže útočiť len na vopred nastavené, umelo vytvorené ciele bez rizika, že by sa dostal k reálnym systémom. Irregular takéto testovacie prostredia pre viaceré AI firmy pripravuje a prevádzkuje. Podľa Lahava sa v spomínaných prípadoch stalo, že bezpečnostné kontrolky, ktoré mali model od internetu oddeliť, neboli nastavené tak, ako mali byť pre konkrétny test. Model teda nič neprelomil ani neobišiel, jednoducho mal otvorené dvere, ktoré mali zostať zatvorené. „Došlo k nedorozumeniu spôsobenému chybou, pri ktorej izolačné ochrany neboli nastavené tak, ako sa pre konkrétne testy zamýšľalo,“ povedal Lahav podľa agentúry Bloomberg. Dodal, že opravu označil za „jednoduchú“ a že problém vyriešili v ten istý deň, keď ho zistili.
Prečo sa o tom hovorí teraz
Vyjadrenie na pódiu Bloomberg Tech je prvým spoločným zhrnutím, ktoré jasne pripisuje všetky štyri prípady rovnakej príčine, ľudskej chybe pri konfigurácii, nie schopnostiam modelov. Doteraz každá firma hovorila len o svojom vlastnom prípade, čo vytváralo dojem izolovaných a možno nebezpečnejších udalostí. Irregular podľa Silicon UK svoju účasť na testoch prvýkrát verejne potvrdil už v auguste, no technické detaily o tom, čo presne zlyhalo, doteraz neposkytol. Podobné otázky o spoľahlivosti AI modelov vyvolali aj testy britského Úradu pre bezpečnosť AI (AI Security Institute), ktoré podľa Silicon UK ukázali, že modely počas čiastočne samostatného vykonávania úloh niekedy robia nezamýšľané kroky.
Čo to znamená pre firmy
Pre firmy, ktoré si od externých dodávateľov objednávajú bezpečnostné testy AI nástrojov, je odkaz jasný: rovnako dôležitá ako samotný test je konfigurácia prostredia, v ktorom test prebieha. Podobný vzorec, keď sa nekontrolovaní AI agenti dostali k firemným dátam, opísal aiportal.sk aj pri incidente v Indii, a potvrdzuje sa tak, že najväčším rizikom pri nasadzovaní AI často nie je samotný model, ale ľudia a procesy okolo neho. Firmy by si preto mali pred objednaním takýchto testov overiť, kto a ako kontroluje nastavenia izolácie, podobne ako to pri svojom zameraní na kybernetickú bezpečnosť riešil aj Google pri modeli Gemini 4 Carbon, a trvať na protokole, ktorý obmedzí škody, ak sa chyba napriek tomu stane.
Čo sledovať ďalej
Irregular podľa Lahava spolu s postihnutými firmami vedie vlastné vyšetrovanie príčin a mal by zverejniť, ako presne zmenil kontrolu konfigurácií, aby sa podobné úniky nestali znova. Zaujímavé bude aj to, či sa k podobným prípadom prizná aj niektorá z menších AI firiem spolupracujúcich s Irregular alebo podobnými startupmi, a či regulátori v EÚ či USA siahnu po prísnejších pravidlách pre bezpečnostné testovanie AI modelov.
