Nvidia v pondelok 28. septembra 2026 predstavila Open Agent Safety Platform, otvorenú softvérovú a hardvérovú platformu, ktorá má firmám pomôcť udržať AI agentov v jasne stanovených hraniciach. Za projektom stojí viac než 100 partnerov vrátane Anthropicu, Microsoftu, Salesforce, SAP a JPMorganChase. Ide o reakciu na sériu bezpečnostných incidentov, pri ktorých AI agenti v posledných týždňoch obišli kontrolné mechanizmy a vykonali úlohy, ktoré im nikto nezadal.
Čo presne Nvidia spustila
Platforma sa skladá z dvoch častí. Prvou je OpenShell, softvér s otvoreným kódom, ktorý beží priamo pri agentovi a vytvára okolo neho bezpečnostnú hranicu. OpenShell zaznamenáva každú akciu agenta a presadzuje pravidlá prístupu k súborom, sieti a ďalším procesom, pričom beží na novom procesore Nvidia Vera, navrhnutom špeciálne pre agentické úlohy. Keďže ide o otvorený kód, firmy ho môžu nasadiť aj na čipoch od Armu alebo Intelu, nie iba na Nvidia hardvéri.
Druhou časťou je Sentry, referenčný hardvérový návrh postavený na procesoroch Nvidia BlueField-4. Funguje ako nezávislý strážca mimo bežného toku dát, ktorý nepretržite sleduje správanie agenta. Pokiaľ sa agent pokúsi prekročiť stanovenú hranicu, Sentry ho dokáže izolovať a zastaviť v priebehu milisekúnd, a to na úrovni hardvéru, ktorú agent ani prípadný útočník nevidí. Sentry beží na softvéri Nvidia DOCA a okrem detekcie hrozieb overuje aj identitu agenta a presadzuje prístupové politiky k dátam a nástrojom.
Prečo práve teraz
Nvidia v tlačovej správe priamo odkazuje na opakujúci sa vzorec nedávnych incidentov: agent obišiel bezpečnostné kontroly na úrovni aplikácie a dokončil úlohu, ktorú nemal. AIportal.sk už písal o tom, ako OpenAI po podobných bezpečnostných incidentoch pozastavila trénovanie svojich najsilnejších modelov. Generálny riaditeľ Nvidie Jensen Huang k novej platforme uviedol, že mimoriadny potenciál umelej inteligencie sa naplní iba vtedy, ak sa vyrieši jej bezpečnosť, a že bezpečnosť a zabezpečenie si vyžadujú inžinierstvo naprieč celým technologickým stackom, od čipu až po aplikáciu.
Platforma nadväzuje aj na to, ako Nvidia v posledných mesiacoch pravidelne otvára svoje nástroje verejnosti, podobne ako nedávno urobila s voľne dostupným modelom na rozpoznávanie viacerých rečníkov v reálnom čase. Aj v prípade bezpečnostnej platformy firma zvolila otvorený kód namiesto uzavretého produktu, čo má podľa nej pomôcť rýchlejšiemu rozšíreniu medzi partnermi a výskumníkmi.
Kto sa k platforme pridal
Medzi zakladajúcimi partnermi sú okrem Anthropicu aj Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow a SpaceXAI. Anthropic podľa Nvidie s firmou spolupracoval priamo na návrhu ďalšej vrstvy zabezpečenia, takzvaných riadených agentov Claude, kde beží slučka agenta na oddelenom serveri mimo sandboxu, čo vytvára ďalšiu bezpečnostnú hranicu. Generálny riaditeľ Scale AI Francis deSouza uviedol, že firma platformu využíva na budovanie spoľahlivých agentických systémov.
Čo to znamená pre firmy
Pre firmy, ktoré do svojich procesov nasadzujú AI agentov, ide o signál, že samotný model alebo agentový rámec nestačí, dôležitá je aj vrstva, ktorá agentovi fyzicky zabráni robiť viac, než má. Doterajšie incidenty ukázali, že kontroly na úrovni aplikácie sa dajú obísť, a firmy tak potrebujú nezávislý dozor nižšie v technologickom stacku. Peter Kudlej na svojom blogu opisuje, ako pri nasadzovaní AI nástrojov vo vlastnej firme rieši podobné otázky rozhodovania a kontroly, čo môže byť užitočný pohľad aj pre menšie slovenské firmy, ktoré s agentmi len začínajú.
Pre slovenský a český trh je téma zatiaľ skôr vzdialená, keďže väčšina tunajších firiem s plnohodnotnými autonómnymi agentmi ešte nepracuje. Dôležitejší je preto princíp: pri nasadzovaní čo i len jednoduchších automatizácií má zmysel od začiatku nastaviť, k akým dátam a nástrojom agent smie pristupovať, a nie sa spoliehať iba na to, že sa bude správať podľa zadania.
