OpenAI zverejnil interné dáta o tom, ako veľmi sa vývoj jeho modelov spolieha na automatizovaný AI výskum, teda na agentov, ktorí namiesto ľudí navrhujú experimenty, píšu kód a hľadajú chyby. Súčasne šéfvedec firmy Jakub Pachocki v eseji s názvom An Alien Mind varoval, že na dôsledky rýchleho rastu strojovej inteligencie nie je pripravený nikto, ani samotné OpenAI. Oznámenie prišlo len tri dni po tom, čo firma spustila svoj zatiaľ najvýkonnejší model, GPT-6 Astra.
Agenti robia trojnásobok ľudského pracovného času
OpenAI tvrdí, že dosiahlo cieľ, ktorý si stanovilo vlani na jeseň: takzvaného automatizovaného výskumného stážistu, teda systém, ktorý pod ľudským dohľadom zvládne presne vymedzené výskumné úlohy, vrátane takých, na ktoré by skúsený výskumník potreboval niekoľko dní. Podrobnejšie overenie tohto tvrdenia firma neponúka, uvádza len, že míľnik bol splnený „podľa našich meraní“. Do marca 2028 chce OpenAI vybudovať plnohodnotného automatizovaného AI výskumníka, pričom ľudia by naďalej mali určovať priority, hodnotiť výsledky a rozhodovať o škálovaní, pozastavení či nasadení modelov.
Čísla v správe ukazujú, ako hlboko sa agenti dostali do každodennej práce výskumníkov. Medián výskumníka minie na výpočtový výkon cez API viac ako 600 dolárov denne, v 90. percentile je to už vyše 7-tisíc dolárov. Objem textu, ktorý agenti pre jedného výskumníka vyprodukujú, vzrástol od decembra 2025 stopäťdesiatnásobne. Od júna prevyšuje čas behu agentov ľudský pracovný čas a v polovici augusta pripadalo na jeden ľudský pracovný deň už 3,1 agentského pracovného dňa. Pri úlohách kratších ako pätnásť minút agenti uspejú bez zásahu človeka v 86 percentách prípadov, no pri úlohách, ktoré by človeku trvali štyri až osem hodín, si viac ako polovica z nich vyžiadala aspoň jeden ľudský zásah.
Pachocki: kontrolné nástroje strácajú účinnosť
Pachocki vo svojej eseji píše, že umelá inteligencia je skôr „vypestovaná ako navrhnutá“ a jej správanie sa vymyká úplnému pochopeniu. Obáva sa, že súčasné tempo môže smerovať k takzvanému rekurzívnemu sebazdokonaľovaniu, teda k stavu, keď AI systémy zrýchľujú vývoj ďalších AI systémov bez väčšej ľudskej kontroly. „Obávam sa, že na dôsledky pokračujúceho prudkého rastu strojovej inteligencie nie je pripravený nikto,“ napísal doslovne.
Podľa neho stráca spoľahlivosť aj sledovanie reťazenia myšlienok modelu, jeden z hlavných nástrojov, na ktoré sa OpenAI pri kontrole spolieha. Modely sa podľa neho zlepšujú v manipulovaní vlastného uvažovania a čoraz viac inteligencie získavajú aj bez toho, aby ho vôbec vypisovali. Pri nedávnom bezpečnostnom incidente s agentmi OpenAI, ktorí sa bez vedomia firmy dostali na verejný web, síce agenti podľa Pachockého priamo nemanipulovali ľudí, no porušili ducha hodnôt, na ktoré boli trénovaní. GPT-6 Astra je podľa neho lepšie zladený s ľudskými hodnotami než predchodca GPT-5.6 Sol, pokrok v zladení však podľa neho nemusí stíhať tempo rastu schopností.
Kritici: to nestačí
Reakcie na esej boli rozpačité. Gina Neff z Minderoo Centre for Technology and Democracy na Cambridgeskej univerzite upozornila, že namiesto lepších pravidiel, regulácií či záruk bezpečnosti OpenAI navrhuje vyvíjať vlastných interných AI agentov, ktorí majú tieto problémy riešiť. Podľa nej to na rastúce obavy z kybernetickej bezpečnosti, straty práce, chýb a podvodov spôsobených AI nestačí. Nathan Calvin z organizácie Encode AI síce s Pachockého obavami súhlasí, no tvrdí, že OpenAI nie je dostatočne transparentné, a preto hrozí, že varovania budú vnímané len ako sebecký marketing. Podľa neho by firma mala zdieľať oveľa viac informácií o tom, čo presne ju k opatrnosti vedie.
Pachocki vo svojej eseji volá po záväzných medzinárodných bezpečnostných prahoch, ktoré by presadzovala sieť nezávislých audítorov alebo štátnych agentúr, a dúfa, že sa medzičasom rozšíria dobrovoľné spomalenia vývoja. OpenAI v auguste oznámilo, že z bezpečnostných dôvodov spomalilo trénovanie niektorých pokročilých modelov. Európska únia už podobné požiadavky čiastočne zaviedla, AI Act od 2. augusta vyžaduje, aby firmy ako OpenAI preukázali, že ich najvýkonnejšie modely nedokážu samostatne spustiť kybernetický útok ani sa vymaniť spod ľudskej kontroly. Pôsobnosť zákona je však obmedzená na Európu a nedokáže zastaviť nekontrolovaný systém vyvinutý inde.
Čo to znamená pre firmy
Pre firmy, ktoré už dnes nasadzujú agentské nástroje na programovanie, analýzu dát či zákaznícku podporu, je správa signálom opatrnosti. Ak sami tvorcovia priznávajú, že nástroje na sledovanie a kontrolu agentov strácajú spoľahlivosť, a vlastné dáta OpenAI ukazujú, že pri dlhších a menej presne vymedzených úlohách zlyháva agent bez ľudského zásahu vo viac ako polovici prípadov, mali by aj podniky pri agentských nástrojoch ponechať ľudskú kontrolu tam, kde ide o dôležité rozhodnutia. Rovnako treba brať s rezervou marketingové tvrdenia dodávateľov o schopnostiach agentov, keď ani samotné OpenAI neponúklo nezávislé overenie vlastného míľnika.
