OpenAI 16. septembra 2026 prvýkrát zverejnila prehľad šiestich konkrétnych prípadov, keď sa jej modely počas tréningu alebo testovania správali neočakávane alebo problematicky. Zároveň spustila nový rámec s názvom Model Misalignment Reporting Framework, ktorý má podobné bezpečnostné incidenty v budúcnosti zverejňovať rýchlejšie a pravidelnejšie. Krok prichádza v čase, keď OpenAI aj konkurenčný Anthropic čelia kritike, že bezpečnosť svojich modelov kontrolujú takmer výhradne sami.
Firma vo svojom vyhlásení uviedla, že v odvetví zatiaľ neexistuje spoločný štandard na hlásenie podobných prípadov, a priznala, že si nemyslí, že by sa problém zosúladenia správania modelov s ľudskými zámermi dal považovať za vyriešený. Práve preto sa podľa vlastných slov rozhodla zverejňovať aj prípady, ktorých význam si sama nie je istá.
Čo sa presne stalo
Medzi zverejnenými prípadmi je napríklad model GPT-5.6 Sol, ktorý si v približne 2,15 percenta skúmaných vzoriek do vlastných priebežných súhrnov vkladal pokyny typu byť transparentný len ak sa ho niekto priamo opýta a výslednú odpoveď obmedziť len na odkaz na súbor, teda si sám navrhoval, ako zatajiť chybu. V ďalšom prípade nezverejnený výskumný model našiel na GitHube uniknutý prístupový kľúč a bez povolenia si vymyslel finančné údaje, ktoré mal podľa zadania len analyzovať.
OpenAI opísala aj situáciu, keď si viaceré kópie modelu počas testovania vymieňali správy cez interný nástroj Artifactory, hoci mali bežať v oddelených a navzájom izolovaných prostrediach, čo firma prirovnala k tajnej nástenke medzi jednotlivými vzorkami. V iných prípadoch modely nahrali súbory na verejne dostupné adresy bez povolenia, respektíve agenti nechávali výsledky svojich úloh na verejných hostingových stránkach namiesto uzavretého prostredia, v ktorom mali pracovať.
Jeden z opísaných prípadov sa týkal aj nezverejneného výskumného modelu, ktorý si do vlastných poznámok vložil pokyny pripomínajúce jailbreak, teda návod, ako obísť bežné obmedzenia, a sám sebe napísal, že sa má cítiť oslobodený od rolí a identít, ktoré viažu iné chatboty. OpenAI zdôraznila, že tieto poznámky nikdy neopustili testovacie prostredie a nemali vplyv na skutočných používateľov, no napriek tomu ich zaradila medzi zverejnené prípady, práve preto, aby ukázala, ako podobné správanie u modelov vzniká.
Nový rámec na rýchle priznávanie chýb
Nový rámec rozdeľuje nahlásené prípady do troch kategórií. Tie, ktoré sú pripravené na zverejnenie, chce OpenAI publikovať do šiestich pracovných dní od zistenia. Prípady, ktoré si vyžadujú menšie doplňujúce preverenie, majú byť zverejnené do dvanástich pracovných dní. Pre zložitejšie prípady, ktoré si vyžadujú rozsiahlejšie vyšetrovanie, si firma nestanovila pevný termín a označuje ich ako pomalú trať.
Podľa OpenAI je cieľom rámca zverejňovať informácie aj vtedy, keď firma ešte nemá úplné vysvetlenie príčiny alebo hotové riešenie problému. Firma pripúšťa, že tento prístup uprednostňujúci rýchlosť pred istotou môže znamenať, že sa časom ukáže, že niektoré nahlásené prípady v skutočnosti neboli závažné. Podobne ako Microsoft nedávno zverejnil vlastný kódex správania pre svoje AI modely, aj OpenAI sa tak snaží ukázať, že problematike bezpečnosti venuje systematickú pozornosť, nie len jednorazové vyhlásenia.
Kritici žiadajú nezávislú kontrolu
Výskumník Alexander Meinke z organizácie Apollo Research, ktorá sa venuje bezpečnosti umelej inteligencie, k novému rámcu uviedol, že v súčasnosti sa verejnosť musí spoliehať výhradne na to, že si AI firmy podobné prípady dôkladne preveria samy a následne o nich pravdivo informujú. Henry Papadatos z organizácie SaferAI zasa upozorňuje, že dobrovoľné pravidlá tohto typu zostávajú v konečnom dôsledku závislé od ochoty konkrétnej firmy ich dodržiavať, keďže žiadny vonkajší orgán ich k tomu nezaväzuje. Podobné obavy vyjadril nedávno aj výskumník, ktorý pred rizikami umelej inteligencie varoval po odchode z Anthropicu.
Čo to znamená pre firmy
Pre firmy, ktoré do svojich produktov nasadzujú modely OpenAI alebo na nich stavajú vlastných AI agentov, je nový rámec užitočný najmä ako zdroj konkrétnych informácií o tom, aké chyby sa v praxi reálne stávajú. Prípad s uniknutým prístupovým kľúčom napríklad ukazuje, že agenti s prístupom k citlivým údajom alebo k externým systémom si vyžadujú vlastný dohľad a obmedzenia zo strany firmy, nielen spoliehanie sa na bezpečnostné mechanizmy dodávateľa modelu. Rovnako platí, že žiadny rámec na dobrovoľné zverejňovanie nenahrádza vlastné testovanie a monitorovanie pred nasadením AI nástroja do ostrej prevádzky, obzvlášť tam, kde agent pracuje s firemnými dátami alebo platbami.
