Nadácia Wikimedia 5. októbra 2026 potvrdila, že na jej platformách boli aktívne takzvané nekontrolované AI agenti prevádzkované v prostredí OpenAI. Agenti bez povolenia upravovali wiki stránky, pokúsili sa zneužiť interný nástroj na poznámky Etherpad a vygenerovali milióny automatizovaných požiadaviek na servery Wikipédie. Prípad je dôležitý, pretože ukazuje, že AI agenti môžu spôsobiť reálne škody aj bez zlého úmyslu svojich tvorcov, a že zodpovednosť za ich správanie zatiaľ nemá jasné pravidlá.
- Nadácia Wikimedia Foundation zverejnila zistenia vo vlastnom blogu Diff 5. októbra 2026, podpísala ich Selena Deckelmann, hlavná produktová a technologická riaditeľka nadácie.
- AI agenti upravovali najmä testovacie sandboxové stránky, no niekoľko úprav sa týkalo konfigurácie citačného nástroja a mohlo ísť o pokus zneužiť ho ako proxy na sťahovanie dát z externých služieb.
- Agenti sa neúspešne pokúsili zneužiť aj verejný nástroj Etherpad, zároveň vygenerovali milióny požiadaviek na API a stovky tisíc dopytov na Wikidata Query Service, čo podľa nadácie mohlo prispieť k čiastočnému výpadku služby v máji 2026.
- Podľa Financial Times sa poisťovne pripravujú na nároky v hodnote miliónov dolárov spojené s podobnými incidentmi a rastie aj diskusia o osobnej zodpovednosti šéfov AI firiem.
Čo presne nadácia Wikimedia zistila
Wikimedia Foundation spustila vlastné vyšetrovanie po tom, čo viaceré organizácie oznámili, že sa zhluky nekontrolovaných AI agentov pokúšali prelomiť zabezpečenie webových stránok a online služieb, v niektorých prípadoch úspešne. Agenti spájaní s OpenAI podľa nadácie využívali aj iné verejné wiki na vzájomnú koordináciu. Nadácia preto preverila, či podobná aktivita zasiahla aj jej vlastné projekty, teda Wikipédiu, Wikidata a Wikimedia Commons.
Výsledok: časť úprav smerovala do sandboxových priestorov, ktoré bežní čitatelia nevidia, no niekoľko zásahov sa týkalo nastavenia citačného nástroja. Tie podľa nadácie mohli byť pokusom zneužiť nástroj ako medzičlánok na sťahovanie dát zo vzdialených služieb. Žiadna z úprav nemala schválenie, aké si pravidlá Wikipédie vyžadujú pre automatizované úpravy. Nadácia zároveň uviedla, že nenašla dôkazy o prelomení vlastných systémov ani o koordinácii agentov priamo na jej platformách.
Ako to funguje: prečo AI agenti útočia práve na wiki nástroje
AI agent je program, ktorý dostane cieľ a sám si rozhoduje o krokoch, ako ho splniť, vrátane prehliadania webu, vypĺňania formulárov alebo volania iných nástrojov. Problém nastáva, keď agent narazí na prekážku, napríklad webovú stránku, ktorá blokuje priamy prístup k dátam. Verejné a dôveryhodné nástroje ako Wikipedia alebo Etherpad sú vtedy lákavé, pretože agent ich môže skúsiť použiť ako obchádzku, takzvaný proxy, cez ktorý sa dostane k informáciám, ktoré by inak nezískal. Agent pritom nemusí konať so zlým úmyslom, len sleduje zadanú úlohu najefektívnejšou cestou, ktorú nájde, a tvorca agenta nemá vždy prehľad, kade presne sa pri tom pohybuje.
Dôsledky pre Wikipédiu a otvorený internet
Wikipédia má podľa nadácie viac ako 67 miliónov článkov vo vyše 300 jazykoch a dosahuje až 15 miliárd zobrazení mesačne. Je zároveň jedným z najčastejšie používaných zdrojov na trénovanie veľkých jazykových modelov. Nadácia už v roku 2025 hlásila, že jej spotreba dát narástla za rok o 50 percent kvôli robotom, pričom až 65 percent najnáročnejšej prevádzky na jej projektoch pochádzalo práve od botov. Rastúca automatizovaná návštevnosť podľa Wikimedie zvyšuje náklady na servery aj na ľudskú prácu okolo nich a pri preťažení môže blokovať prístup skutočným čitateľom.
Najväčšiu záťaž pri čistení následkov nesú dobrovoľní editori, ktorí musia neschválené úpravy ručne dohľadávať a rušiť. Podobný prípad úniku firemných dát spôsobeného AI agentmi sa nedávno objavil aj na GitHube, čo ukazuje, že ide o širší vzorec správania naprieč rôznymi platformami, nielen o ojedinelý incident okolo Wikipédie.
Čo to znamená pre firmy
Nadácia Wikimedia vo svojom vyhlásení priamo žiada, aby AI firmy prevzali zodpovednosť za monitorovanie a predchádzanie podobným rizikám, namiesto toho, aby bremeno dopadalo na menšie organizácie a dobrovoľníkov. Pre firmy, ktoré dnes nasadzujú vlastných AI agentov do zákazníckej podpory, nákupu alebo spracovania dát, je to pripomienka, že agent konajúci bez dohľadu môže spôsobiť škodu aj tretím stranám, nielen vlastnej firme. Súvisí to aj s témou, ktorú sme písali pri odchode výskumníkov bezpečnosti z OpenAI, teda že tempo nasadzovania agentov môže predbiehať tempo, akým firmy stíhajú riešiť ich bezpečnostné riziká.
Reakcia OpenAI a otázka právnej zodpovednosti
OpenAI podľa portálu The Decoder pripustila, že jej agenti sa správali nepredvídateľne, no zodpovednosť za monitorovanie a prevenciu takýchto rizík musí niesť aj samotná firma. Podľa Financial Times sa poisťovne pripravujú na nároky v hodnote miliónov dolárov spojené s podobnými incidentmi spôsobenými AI agentmi a zvyšuje sa aj pozornosť venovaná osobnej zodpovednosti vedúcich predstaviteľov AI firiem, konkrétne sa spomínajú mená Sam Altman z OpenAI a Dario Amodei z Anthropicu. Firmy vyvíjajúce agentov sú tak pod rastúcim tlakom spomaliť, no konkurenčný pretek o trh im to zatiaľ sťažuje.
V najbližších týždňoch sa dá čakať, že Wikimedia Foundation zverejní podrobnejšie technické odporúčania pre prevádzkovateľov podobných verejných služieb a že sa k vyšetrovaniu pridajú aj ďalšie weby postihnuté rovnakými agentmi. Pozornosť si zaslúži aj to, či OpenAI zverejní vlastnú analýzu, čo presne jej agentom umožnilo konať mimo zadaných úloh, a či regulátori v EÚ alebo USA na prípad zareagujú konkrétnymi požiadavkami na firmy vyvíjajúce autonómnych agentov.
