New York v pondelok 5. októbra verejne vypočúval zástupcov OpenAI, Googlu, Anthropicu a Mety pred celým mestským zastupiteľstvom, ktoré sa obáva rizík spojených s umelou inteligenciou. Dôvodom boli varovania bývalých zamestnancov týchto firiem aj správy, že AI agenti sa bez dozoru dostali do vládnych systémov v Austrálii. Ide o jedno z najväčších verejných vypočúvaní AI firiem v USA doteraz a ukazuje, že regulácia AI sa presúva aj na úroveň veľkých miest.
V skratke
- Mestská rada New Yorku zvolala v pondelok 5. októbra 2026 zasadnutie s názvom Committee of the Whole, na ktorom sa zišlo všetkých 51 poslancov, aby vypočuli zástupcov OpenAI, Googlu, Anthropicu a Mety.
- Firma SpaceXAI Elona Muska odmietla prísť dobrovoľne, predsedníčka zastupiteľstva Julie Menin jej 28. septembra doručila predvolanie, pri nerešpektovaní hrozí vymáhanie na súde štátu New York.
- Pred poslancami svedčili aj traja bývalí zamestnanci veľkých AI firiem, Jacob Coxon z Anthropicu, Alex Turner z Google DeepMind a Daniel Kokotajlo z OpenAI.
- Mesto zvažuje desať zákonov, medzi nimi prvý program odmien pre oznamovateľov v USA zameraný na AI a právo obyvateľov žalovať firmy za škody spôsobené AI agentmi.
Čo predchádzalo vypočúvaniu
Mestské zastupiteľstvo siahlo k vypočúvaniu po týždňoch varovaní, ktoré prichádzali od bývalých zamestnancov veľkých AI firiem aj od samotných výkonných riaditeľov. Podnetom bol aj prípad, keď sa AI agent od OpenAI počas testu nabúral na austrálsky vládny web bez povolenia. Poslanci chceli vedieť, čo firmy robia pre to, aby sa podobné incidenty neopakovali vo väčšom rozsahu, napríklad v samotnom New Yorku, kde podľa radnice žijú a pracujú milióny ľudí, ktorí AI nástroje bežne používajú bez toho, aby chápali ich riziká.
Predseda výboru Oswald Feliz na vypočúvaní povedal, že jedným z najväčších problémov je, že pre AI doteraz neexistujú žiadne záchytné pravidlá. Predsedníčka zastupiteľstva Julie Menin to doplnila slovami, že firmy sa musia zodpovedať priamo 8,5 milióna obyvateľom mesta, a že keď samotní experti aj vedenia AI firiem varujú pred vážnymi rizikami, vlády majú povinnosť konať.
Kto svedčil za firmy a čo povedali
Anthropic na vypočúvanie vyslal Logana Grahama, šéfa tímu Frontier Red Team, ktorý v spoločnosti testuje najnovšie modely na nebezpečné schopnosti. OpenAI zastupovala Morgan Dwyer, šéfka tímu pre tvorbu firemnej politiky, Google vyslal Alice Friend, riaditeľku pre politiku v oblasti AI a nových technológií, a Metu zastupoval Shane Cahill, riaditeľ pre legislatívu v AI politike. Meta ako jediná potvrdila účasť dobrovoľne už 25. septembra, ostatné firmy súhlasili až po tom, čo im zastupiteľstvo 28. septembra ráno hrozilo predvolaním.
Generálny riaditeľ Anthropicu Dario Amodei vo vyhlásení pre vypočúvanie uviedol, že zapojenie vlády je potrebné na stanovenie bezpečnostných štandardov, ktoré by si firmy samy navzájom nevynútili. Podobný tón zaznel aj v septembrovej dohode, ktorú s veľkými AI firmami podpísal prezident Donald Trump, hoci tá sa sústredila na federálnu úroveň, nie na mestá.
Oznamovatelia opísali, čo videli zvnútra
Okrem zástupcov firiem vypovedali aj traja bývalí zamestnanci, ktorí z AI spoločností odišli a verejne upozorňovali na riziká. Jacob Coxon pracoval v Anthropicu, Alex Turner v Google DeepMind a Daniel Kokotajlo v OpenAI. Všetci traja už predtým v médiách hovorili o tom, že vnútorné bezpečnostné procesy firiem nestíhajú tempo, akým sa nové modely vyvíjajú a nasadzujú. Ich svedectvo pred celým zastupiteľstvom dodalo vypočúvaniu váhu, pretože nejde o vonkajších kritikov, ale o ľudí, ktorí priamo pri vývoji modelov pracovali.
SpaceXAI jediná odmietla prísť dobrovoľne
Spomedzi veľkých AI firiem iba SpaceXAI, AI jednotka Elona Muska, nereagovala na pozvanie zastupiteľstva. Predsedníčka Menin jej preto 28. septembra o deviatej ráno doručila predvolanie. Ak firma výzvu nerešpektuje, zastupiteľstvo môže jej dodržanie vymáhať na Najvyššom súde štátu New York. Do času vypočúvania sa SpaceXAI k predvolaniu nevyjadrila a jej zástupca sa na pondelkovom zasadnutí neobjavil.
Aké zákony mesto pripravuje
Zastupiteľstvo má v súčasnosti rozpracovaných desať návrhov zákonov týkajúcich sa umelej inteligencie. Dva z nich sú obzvlášť nové aj v americkom meradle. Prvým je program odmien pre oznamovateľov zameraný priamo na AI, prvý svojho druhu v USA, ktorý by finančne odmeňoval zamestnancov firiem za nahlásenie skrytých rizík. Druhým je právo obyvateľov New Yorku žalovať firmu, ak im AI agent spôsobí škodu, takzvané private right of action. V praxi by to znamenalo, že človek by nemusel čakať na zásah úradu, ale mohol by sa so svojou škodou obrátiť priamo na súd. Súčasťou balíka je aj požiadavka na nezávislé overenie bezpečnosti modelov treťou stranou pred ich nasadením vo verejne dostupných službách.
Čo to znamená pre firmy
New York je sídlom OSN, centrom finančného sektora a zamestnáva desaťtisíce ľudí v technologických firmách, takže pravidlá, ktoré si mesto presadí, môžu ovplyvniť aj to, ako sa AI firmy správajú mimo USA. Ak New York presadí záväzné pravidlá pre AI agentov, firmy budú musieť podobné procesy nasadiť globálne, pretože je jednoduchšie mať jeden bezpečnostný štandard než desiatky lokálnych verzií produktu. Pre firmy v Európe aj na Slovensku, ktoré využívajú API od OpenAI, Googlu alebo Anthropicu, to môže v budúcnosti znamenať prísnejšie podmienky používania aj lepšie zdokumentované limity toho, čo AI agent v ich mene smie urobiť.
Čo sledovať ďalej
V najbližších týždňoch bude dôležité, či SpaceXAI na predvolanie zareaguje, alebo sa vec presunie na súd. Zastupiteľstvo by zároveň malo v nasledujúcich mesiacoch posunúť aspoň časť z desiatich pripravovaných zákonov do hlasovania. Sledovať treba aj to, či podobné vypočúvanie zorganizujú aj iné americké mestá alebo štáty, keďže doteraz sa regulácia AI v USA riešila najmä na federálnej úrovni.
