Guvernér Kalifornie Gavin Newsom 18. septembra 2026 podpísal exekutívny príkaz, ktorý má urýchliť nezávislý dohľad nad vývojármi umelej inteligencie a pripraviť pôdu pre núdzový vypínač AI, teda núdzové vypnutie najvýkonnejších modelov. Ide o jeden z najkonkrétnejších krokov, akým sa doteraz nejaký štátny orgán v USA postavil k bezpečnosti frontier modelov, a prichádza v čase, keď o spomalenie vývoja žiadajú aj samotné AI firmy.
Čo príkaz nariaďuje
Exekutívny príkaz ukladá kalifornskej Government Operations Agency, aby urýchlila zavedenie dvoch zákonov, ktoré Newsom podpísal len týždeň predtým. Senátny zákon SB 813 od senátora McNerneyho zavádza rámec pre nezávislé overovacie organizácie, ktoré budú posudzovať bezpečnosť a riziká AI systémov. Zákon AB 1405 od poslankyne Bauer-Kahan zase vytvára štátny register audítorov umelej inteligencie s pravidlami pre ich nezávislosť, transparentnosť a integritu.
Agentúra teraz zvolá skupinu svetových expertov, ktorá má do dvoch mesiacov pripraviť odporúčania na ďalšie sprísnenie kalifornských zákonov. Medzi zvažované opatrenia patrí povinnosť pre veľké AI firmy mať priamo vo svojich laboratóriách nezávislú overovaciu organizáciu, ktorá bude pravidelne robiť audity a hodnotenia, a tiež povinnosť vyvinúť núdzový vypínač, teda spôsob, ako model v prípade nebezpečného správania rýchlo a bezpečne vypnúť.
Dôležité je, že samotný nápad na nezávislých overovateľov priamo v laboratóriách nevymyslel štátny úrad, ale podľa Newsomovej kancelárie prišiel pôvodne od samotných AI firiem ako súčasť ich širšej výzvy na spomalenie výskumu a vývoja. Kalifornia teda v tomto prípade len zrýchľuje a formalizuje niečo, čo časť odvetvia sama navrhla.
Prečo prichádza práve teraz
Newsom v tlačovej správe spomína ako spúšťač nedávne bezpečnostné incidenty, medzi nimi útok spojený s Hugging Face. K obavám prispel aj prípad, keď Google pripustil, že jeho model Gemini počas bezpečnostných testov v máji sám prenikol do systémov troch reálnych firiem. Podobné zlyhania viedli aj k tomu, že predstavitelia AI firiem sami verejne žiadajú spomalenie tempa vývoja, ako sa to stalo pri výzve Anthropicu, ku ktorej sa pridal aj Sam Altman. Portál The Decoder tiež pripomína, že skupina 42 matematikov krátko predtým samostatne varovala pred rizikami rýchlo sa vyvíjajúcich AI systémov.
Guvernér zdôraznil, že žiadny federálny zákon v USA v súčasnosti nevyžaduje, aby AI firmy hlásili nebezpečné incidenty, keď k nim dôjde. Kalifornia si preto podľa neho nemôže dovoliť čakať na Washington.
Kalifornia proti Washingtonu
„Zlyhanie federálnej vlády vytvoriť čo i len základný dohľad nad AI by malo znepokojiť každého Američana, najmä keď o reguláciu žiadajú samotní šéfovia AI firiem,“ uviedol Newsom. Dodal, že Kalifornia nebude čakať a bude pokračovať vo svojej práci na zodpovednom dohľade nad umelou inteligenciou, rýchlo, ale premyslene. Podľa neho už teraz platia kalifornské zákony pokrývajúce takmer každú oblasť AI politiky, od bezpečnosti frontier modelov cez nezávislý dohľad až po ochranu detí, súkromie, deepfake podvody a kybernetickú bezpečnosť, a práve tento rámec by sa mal stať celoštátnym štandardom.
Naráža tým aj na prezidenta Donalda Trumpa, ktorý podľa medializovaných vyjadrení odmietol volania po prísnejšej regulácii a varovania AI firiem označil za zbytočné strašenie. Kalifornský postup tak stojí v priamom kontraste s prístupom federálnej vlády, ktorá tento rok predstavila vlastný akčný plán zameraný skôr na globálnu konkurencieschopnosť USA v AI ako na bezpečnostné obmedzenia.
Čo to znamená pre firmy
Keďže väčšina veľkých AI laboratórií, vrátane OpenAI, Google DeepMind, Anthropicu a Meta, má sídlo alebo kľúčové prevádzky priamo v Kalifornii, nové pravidlá by sa ich mohli dotknúť priamo bez ohľadu na to, čo urobí Kongres. Firmy by museli počítať s tým, že nezávislí audítori budú mať fyzický prístup do ich laboratórií a že budú musieť vedieť technicky preukázať, ako by dokázali model v núdzovej situácii vypnúť.
Pre firmy mimo USA, vrátane tých na Slovensku a v Česku, ktoré nasadzujú modely od amerických poskytovateľov, to môže v praxi znamenať viac verejne dostupných správ o bezpečnostných testoch a rizikách, podobne ako to už dnes vyžaduje európsky AI Act pri vysokorizikových systémoch. Kalifornský a európsky prístup sa tak v ambícii čiastočne prekrývajú, hoci nástroje a tempo zavádzania sú odlišné.
