OpenAI v pondelok oznámila poradný výbor pre matematiku, nezávislé grémium so sídlom pri Inštitúte pre pokročilé štúdium (IAS) v americkom Princetone. Firma pri tej istej príležitosti priznala, že ten istý interný model, ktorý stojí za spornou publikáciou dôkazu Navierových-Stokesových rovníc, medzičasom vyriešil vyše 100 ďalších otvorených matematických problémov. Krok prichádza len pár týždňov po tom, čo pred rýchlym tempom AI výsledkov v matematike varovalo 25 držiteľov Fieldsovej medaily, čo sa stalo jedným z najhlasnejších sporov medzi akademickou obcou a AI laboratóriami tento rok. OpenAI sa novým výborom snaží ukázať, že na kritiku počúva, no zároveň si necháva voľné ruky v tom, ako rýchlo bude vo vlastnom výskume pokračovať.
Grémium pri Princetone
Nový poradný výbor pre matematiku dostal oficiálny názov Advisory Group on Mathematics and Artificial Intelligence. Podľa vyjadrenia OpenAI má slúžiť ako most medzi firmou, matematickou komunitou a širokou verejnosťou a dať matematikom hlas pri tom, ako sa má výskum ďalej uberať. Skupinu tvorí deväť uznávaných matematikov, spomedzi ktorých len jeden, Camillo De Lellis z IAS, patrí zároveň medzi signatárov otvoreného listu Fieldsových medailistov.
Členovia nie sú za svoju účasť platení, no môžu verejne vyjadrovať vlastné názory, radiť bez toho, aby ich k tomu niekto vyzval, a sami rozhodovať o zložení skupiny. Táto nezávislosť má podľa OpenAI zaručiť, že výbor nebude len formálnou vizitkou, ale skutočným kontrolným hlasom matematickej komunity.
Vyše sto vyriešených problémov a spor o tempo
Oznámenie prichádza po tom, čo OpenAI náhle zverejnila dôkaz k jednému z problémov Ceny tisícročia, konkrétne k Navierovým-Stokesovým rovniciam, o čom sme písali v článku o vzniknutom spore. Teraz firma dodáva, že rovnaký interný model medzičasom vyriešil viac než 100 ďalších otvorených problémov naprieč väčšinou oblastí matematiky.
Práve tempo, akým OpenAI aj konkurenčné laboratóriá zverejňujú podobné výsledky, vyvolalo začiatkom septembra ostrú reakciu. Podľa otvoreného listu, ktorý podpísalo 25 držiteľov Fieldsovej medaily, teda najvyššieho ocenenia v matematike, si AI laboratóriá týmto pretekaním navzájom ohrozujú intelektuálnu prácu matematikov. Signatári listu argumentujú, že firmy zverejňujú výsledky rýchlejšie, než ich dokáže nezávislá komunita skutočne overiť, a že súťaženie o to, kto ako prvý oznámi vyriešenie slávneho problému, skresľuje to, čo sa v matematickom výskume považuje za dôveryhodné.
Rada bez rozhodovacej právomoci
Podľa vlastného vyjadrenia OpenAI bude mať nový výbor prevažne poradnú úlohu, teda posudzovať význam nových výsledkov a koordinovať ich zverejňovanie. Firma však jasne stanovila hranice jeho vplyvu: skupina podľa formulácie z vlastného oznámenia „nebude zodpovedná za to, aby radila firme, akým tempom má postupovať vo vlastnom internom výskume matematiky“.
Rovnaký postoj potvrdil aj samotný Inštitút pre pokročilé štúdium vo vlastnom vyhlásení, v ktorom uviedol, že hoci bude firme radiť, rozhodovaciu právomoc v žiadnej AI spoločnosti nemá a zodpovednosť za rozhodnutia nesie vždy dané laboratórium. Inými slovami, OpenAI si necháva posledné slovo o tom, akým tempom bude vlastný výskum ďalej zverejňovať, výbor môže najviac verejne nesúhlasiť.
Čo to znamená pre firmy
Pre firmy mimo veľkých výskumných laboratórií je táto správa predovšetkým signálom, že aj oblasti, ktoré donedávna vyzerali ako doména špičkových odborníkov, teda náročný matematický výskum, sa dnes posúvajú vpred pomocou AI modelov rýchlejšie, než dokáže komunita overiť a spracovať. Podobné obavy z tempa, akým firmy zverejňujú AI výsledky bez dostatočnej kontroly, sme opisovali aj v súvislosti s varovaním šéfvedca OpenAI pred automatizáciou výskumu.
Pre firmy, ktoré uvažujú o nasadení AI do vlastného rozhodovania či vývoja, to je pripomienka, že rýchlosť výsledkov nie je to isté ako ich spoľahlivosť, a že overovanie výstupov nezávislými odborníkmi zostáva nevyhnutným krokom, nie voliteľnou možnosťou. Ak si to nevie dovoliť overiť ani samotná matematická komunita pri probléme, ktorý má presnú a overiteľnú odpoveď, o to opatrnejšie by mali firmy pristupovať k výstupom AI vo vlastných, menej formalizovaných rozhodnutiach. Kým sa štandardy overovania v odvetví ustália, najbezpečnejším prístupom zostáva brať výsledky AI modelov ako podklad na ďalšiu kontrolu, nie ako hotovú odpoveď.
