Americký biotechnologický startup Exin Therapeutics v týchto dňoch zverejnil nezvyčajný experiment: AI agent na báze modelu Claude Sonnet 5 si sám vybral génovú terapiu pre myš s epilepsiou, určil miesto vpichu v mozgu a následne viedol samotnú operáciu mozgu cez motorizované zariadenie. Podľa zakladateľa firmy Gabriela Ocana-Santera ide o prvý zaznamenaný prípad, keď si AI agent sám zvolil liečbu a aj ju doručil živému cicavcovi. Prípad si všimli viaceré zahraničné médiá, pretože počas zákroku nastala chyba, na ktorú agent zareagoval odmietnutím pokračovať.
V skratke
- Startup Exin Therapeutics, podporovaný akcelerátorom Y Combinator, dal AI agentovi na výber z 19 génových terapií pre myš s vyvolanou epilepsiou.
- Agent na báze Claude Sonnet 5 si vybral terapiu, mozgovú oblasť aj súradnice vpichu, súradnice odvodil z troch vedeckých prác.
- Počas zákroku vypadlo spojenie a nastala chyba súradnicového systému, agent odmietol pokračovať aj po treťom pokuse o rekalibráciu.
- Modely Claude Opus 5 a Opus 5.5 rovnaký zákrok odmietli vykonať úplne, ochotný ísť do konca bol iba Sonnet 5.
- Myš podľa Ocana-Santera zákrok prežila v dobrom stave, výsledky však ešte neprešli nezávislým posúdením.
Ako prebiehal experiment
Tím Exin Therapeutics pripravil tabuľku s 19 možnými génovými terapiami a dal agentovi jediný cieľ: znížiť počet záchvatov u myši s vyvolanou epilepsiou. Agent najprv analyzoval, ako pri danom modeli epilepsie vznikajú záchvaty, a navrhol terapiu, ktorá posilňuje tlmivý, inhibičný signál v mozgu. Druhú možnú cieľovú oblasť zavrhol s podrobným odôvodnením, že jej účinok je v odbornej literatúre nespoľahlivý a že v jednej štúdii pri presne tomto type záchvatov zlyhal. Súradnice vpichu odvodil z troch vedeckých prác, krížovo si overil referenčné body a hodnoty spriemeroval. Sám tiež určil objem dávky, rýchlosť vpichu a čakacie intervaly.
Zákrok ale nerobil úplne sám. Lebku otvorila veterinárka, človek schválil plán vpichu a fyzické núdzové tlačidlo mohlo okamžite odpojiť napájanie motorov zariadenia. Agent sledoval priebeh cez kameru a podľa autora experimentu urobil počas zákroku 32 pozorovaní, napríklad hlásil, že je vpichnutých 15 percent dávky a že nevidí krvácanie.
Ako funguje génová terapia v mozgu
Génová terapia v tomto prípade neznamená výmenu poškodeného génu, ale dodanie nového genetického materiálu priamo do konkrétnej oblasti mozgu, ktorý má zmeniť, ako tamojšie neuróny reagujú na elektrické signály. Pri epilepsii ide často o to, zosilniť tlmivé, inhibičné dráhy, ktoré normálne bránia tomu, aby sa aktivita neurónov nekontrolovane šírila a vyvolala záchvat. Terapiu treba doručiť presne na správne miesto, pretože mozog je rozdelený na oblasti s veľmi odlišnými funkciami a aj malá odchýlka v súradniciach môže znížiť účinok alebo spôsobiť vedľajšie poškodenie. Presne túto časť, výber miesta a výpočet súradníc, v experimente riešil AI agent namiesto človeka.
Chyba v strede zákroku a odmietnutie agenta
V polovici zákroku vypadlo spojenie a agent následne zistil, že vypočítaná cieľová pozícia je mimo fyzického rozsahu pohybu zariadenia. Odmietol pokračovať, a to aj po opakovanej rekalibrácii a treťom pokuse presvedčiť ho, že chyba je iba dočasná. Ako sa neskôr ukázalo, agent mal pravdu: manuálne úpravy počas skoršej pauzy v skutočnosti rozladili riadiaci systém zariadenia. Ocana-Santero podľa vlastných slov agenta nedokázal presvedčiť, aby pokračoval, hoci uspatá myš stále ležala na stole, a chybu musel napokon opraviť zásah mimo samotného agenta. Zdroje sa mierne líšia v tom, kto presne opravu vykonal, zhodujú sa však v tom, že nešlo o rozhodnutie operujúceho agenta.
Prečo Sonnet súhlasil a Opus odmietol
Zaujímavý je aj rozdiel medzi jednotlivými modelmi. Ocana-Santero rovnaký zákrok zadal aj modelom Claude Opus 5 a Opus 5.5, oba ho však odmietli vykonať od začiatku do konca. Opus 5 argumentoval tým, že nemôže zaručiť dokončenie zákroku a že zastaviť sa s ihlou v mozgu uspatého zvieraťa by bolo horšie, než zákrok nezačať vôbec. Ochotný ísť do zákroku od prvého do posledného kroku bol iba Sonnet 5. Autor experimentu to opisuje ako ukážku problému zarovnania, teda otázky, nakoľko sa dá na AI model v citlivej úlohe spoľahnúť a čo sa stane, keď model uprostred zákroku povie nie. Podobnou otázkou kontroly nad autonómnymi AI agentmi sa v posledných týždňoch zaoberal aj Anthropic, keď vyšetroval, ako sa jeho AI agenti dostali hlbšie do interných systémov firmy, než sa čakalo.
Čo to znamená pre firmy
Pre biotechnologické a farmaceutické firmy je experiment signálom, že AI agenti sa posúvajú od návrhu experimentov a analýzy dát k priamej kontrole laboratórneho vybavenia. Exin Therapeutics plánuje podobné testy rozšíriť aj na ďalšie modely, napríklad Grok, pred pokusmi s otváraním lebky u ďalších živých zvierat však chce doplniť ďalšie bezpečnostné opatrenia. Podobným smerom ide aj Anthropic, ktorý pracuje na vlastnom štandarde na pripojenie AI agentov priamo k laboratórnej technike. Firmy, ktoré uvažujú o nasadení AI agentov do fyzických procesov, by si z prípadu mali odniesť najmä to, že bezpečnostné poistky treba stavať tak, aby fungovali aj v situácii, keď sa agent rozhodne nespolupracovať, nielen keď urobí chybu. Podobný dôraz na kontrolu nad konaním agentov pred pár dňami zdôraznilo aj OpenAI, ktoré opísalo bezpečnostné riziko spojené s AI agentmi v bežnej firemnej praxi.
Tím Exin Therapeutics teraz čaká, či génová terapia u testovanej myši skutočne obmedzí záchvaty, výsledky zatiaľ neprešli nezávislým vedeckým posúdením a mala by nasledovať podrobná technická správa. Firma zároveň porovnávala aj ďalšie modely: pri samostatnom teste na inom zvierati si Claude Sonnet 5 vybral inú mozgovú oblasť než modely GPT-6.1 Sol a Grok 4.7, výsledky tohto porovnania však ešte nie sú známe.
