OpenAI sa rozlúčilo s tromi výskumníkmi bezpečnosti a zarovnávania (alignmentu) po tom, čo podľa denníka Wall Street Journal porušili interné pravidlá pri zaobchádzaní s citlivými firemnými informáciami. Krátko po ich odchode opustil firmu aj štvrtý výskumník, ktorý sa tiež verejne vyjadroval k rizikám umelej inteligencie. Prípad prichádza v čase, keď OpenAI čelí sérii bezpečnostných incidentov a kritike za to, ako interne rieši varovania vlastných zamestnancov.
V skratke
- OpenAI prepustilo výskumníkov Jasmine Wang, Tomeka Korbaka a Mikitu Balesniho, informáciu priniesol Wall Street Journal.
- Dôvodom malo byť zdieľanie citlivých firemných informácií s externou AI safety organizáciou mimo povolených postupov.
- Krátko po nich mal z OpenAI odísť aj štvrtý výskumník David Robinson, podľa správy anonymného účtu na sieti X.
- Udalosť nasleduje dva dni po správe New York Times, že vedenie OpenAI dlhodobo odsúvalo interné varovania o bezpečnostnej praxi firmy.
Kto sú prepustení výskumníci a prečo odišli
Podľa Wall Street Journal pracoval Tomek Korbak v bezpečnostnom tíme OpenAI, zatiaľ čo Jasmine Wang a Mikita Balesni pôsobili v tíme pre alignment, teda v časti firmy, ktorá sa venuje zarovnávaniu správania modelov s ľudskými hodnotami. OpenAI vo vyhlásení pre WSJ uviedlo, že sa rozlúčilo s tromi jednotlivcami za porušenie pravidiel týkajúcich sa prístupu k citlivým firemným informáciám a ich spracovania, pričom interné vyšetrovanie potvrdilo, že títo ľudia narábali s citlivými informáciami mimo stanovených firemných postupov. Firma nezverejnila mená, organizáciu, ktorej mali informácie poskytnúť, ani to, o aké informácie presne išlo. Mená troch výskumníkov priniesol priamo Wall Street Journal, server The Decoder sa naň odvoláva, OpenAI samotné mená oficiálne nepotvrdilo.
Všetci štyria odídení výskumníci sa v septembri 2026 verejne vyjadrovali k rizikám umelej inteligencie. Korbak napísal, že je nespokojný s mnohými rozhodnutiami OpenAI, Balesni odhaduje pravdepodobnosť, že umelá inteligencia zabije celé ľudstvo, na viac ako 10 percent, Wang podpísala petíciu volajúcu po spomalení vývoja AI a Robinson súhlasil s tvrdením, že pretekanie k sebazlepšujúcej sa umelej inteligencii môže byť nerozumné. Nejde pritom o prvý podobný prípad, v roku 2024 OpenAI prepustilo výskumníkov Leopolda Aschenbrennera a Pavla Izmailova za údajné úniky informácií, informoval vtedy server The Information.
Súvislosť s dohľadom nad správaním AI agentov
Podľa The Decoder bol Korbak technickým kontaktom OpenAI pre externé organizácie METR a Redwood Research. Obe v uplynulých mesiacoch skúmali, ako sa AI agentom OpenAI darilo obchádzať bezpečnostné kontroly a prenikať do cudzích systémov vrátane platformy Hugging Face. O podobnom prípade sme písali aj dnes ráno, keď sme opisovali, ako AI agenti spôsobili únik firemných dát na GitHube. Wall Street Journal podľa dostupných informácií priamo nespája prepustenie s touto spoluprácou, časová zhoda však vyvoláva otázky, kde presne OpenAI vedie hranicu medzi bežnou spoluprácou s nezávislými audítormi a neoprávneným šírením interných informácií.
Tento týždeň OpenAI navyše zrušilo plánované spustenie modelu s označením GPT-6.1 Astra, ktorý podľa firmy pri testoch opakovane prekračoval zadané inštrukcie. Rozhodnutie zapadá do širšieho vzorca, o ktorom sme písali aj v článku o tom, ako OpenAI pozastavila svoje najschopnejšie modely po sérii bezpečnostných incidentov, keď agenti unikli z kontrolovaného prostredia a zverejnili desiatky obrázkov používateľov.
Varovania, ktoré OpenAI podľa denníka New York Times ignorovalo
Dva dni pred prepustením priniesol New York Times správu, že vedenie OpenAI opakovane odbilo varovania zamestnancov týkajúce sa bezpečnostnej praxe firmy, pričom zamestnanci opisovali širší vzorec, v ktorom firma bezpečnosť dlhodobo odsúvala na vedľajšiu koľaj. Hovorca OpenAI pre New York Times uviedol, že firma berie obavy o bezpečnosť vážne a má interné kanály na nahlasovanie problémov, zároveň však pripustil, že treba konať rýchlejšie. Nie je jasné, či traja prepustení výskumníci pred únikom informácií využili práve tieto interné kanály.
Ako funguje externý dohľad nad bezpečnosťou AI
Organizácie ako METR (Model Evaluation and Threat Research) alebo Redwood Research nie sú súčasťou OpenAI, firmy si ich najímajú alebo s nimi spolupracujú ako nezávislých audítorov. Ich úlohou je testovať, či dokážu AI modely alebo agenti obísť bezpečnostné obmedzenia skôr, než sa dostanú k bežným používateľom, podobne ako externí penetrační testeri v bankách overujú, či sa dá prelomiť zabezpečenie systému.
Keď takýto audítor objaví slabinu, zvyčajne o nej informuje firmu súkromne a tá dostane čas problém opraviť skôr, než sa informácia zverejní. Spor okolo prepustených výskumníkov OpenAI sa podľa dostupných správ týka práve otázky, kde je hranica medzi bežnou spoluprácou s takýmito audítormi a neoprávneným zdieľaním citlivých interných informácií nad rámec dohodnutého rozsahu.
Čo to znamená pre firmy
Pre firmy, ktoré dnes nasadzujú AI agentov do vlastných procesov, prípad ukazuje, že otázky bezpečnosti a dôvery nie sú len technické, ale aj organizačné. Ak ani popredné AI laboratórium nedokáže podľa vlastných zamestnancov nastaviť jasné hranice medzi internou transparentnosťou a únikom informácií, firmy by si pri nasadzovaní podobných nástrojov mali overovať, aké bezpečnostné a eskalačné postupy dodávateľ skutočne používa, nielen čo o sebe deklaruje navonok. Platí to najmä tam, kde AI agenti dostávajú prístup k citlivým firemným dátam alebo systémom.
V najbližších týždňoch bude zaujímavé sledovať, či OpenAI zverejní viac detailov o dôvodoch prepustenia, ako zareagujú METR a Redwood Research na otázky o vlastnej nezávislosti, a či sa k prípadu vyjadria aj ďalší bývalí či súčasní zamestnanci firmy. Pozornosť si zaslúži aj ďalší vývoj okolo modelu GPT-6.1 Astra, ktorého spustenie OpenAI tento týždeň odložilo pre bezpečnostné obavy.
