Bývalí zaměstnanci OpenAI William Saunders a Daniel Kokotajlo mají napsal dopis guvernérovi Kalifornie Gavinu Newsomovi argumentovat, že nesouhlas společnosti se státním návrhem zákona, který by zavedl přísné bezpečnostní pokyny a protokoly pro budoucí vývoj AI, je zklamáním, ale není překvapivým.
„Připojili jsme se k OpenAI, protože jsme chtěli zajistit bezpečnost neuvěřitelně výkonných systémů umělé inteligence, které společnost vyvíjí,“ napsali Saunders a Kokotajlo. „Ale rezignovali jsme na OpenAI, protože jsme ztratili důvěru, že bude bezpečně, poctivě a zodpovědně rozvíjet své systémy AI.“
Oba argumentují, že další vývoj bez dostatečných zábran „představuje předvídatelná rizika katastrofického poškození veřejnosti“, ať už jde o „bezprecedentní kybernetické útoky nebo pomoc při vytváření biologických zbraní“.
Duo také rychle poukázalo na pokrytectví generálního ředitele OpenAI Sama Altmana v otázce regulace. Ukazují na jeho nedávné kongresové svědectví vyzývá k regulaci průmyslu umělé inteligence, ale poznamenává, že „když je na stole skutečná regulace, je proti.
Podle průzkumu společnosti MITER a průzkumu Harris Poll z roku 2024 pouze 39 % respondentů věřilo, že dnešní technologie umělé inteligence je „bezpečná a bezpečná“.
Dotyčný účet, SB-1047, zákon Safe and Secure Innovation for Frontier Artificial Models Act by „mimo jiné vyžadoval, aby vývojář před zahájením počátečního výcviku pokrytého modelu … splnil různé požadavky, včetně implementace schopnosti rychle uzákonit úplné vypnutí … a implementovat písemný a samostatný bezpečnostní protokol.“ OpenAI utrpělo mnohonásobné úniky dat a systémové průniky v posledních letech.
OpenAI údajně silně nesouhlasí s „nesprávnou charakteristikou naší pozice na SB 1047“, jak řekl mluvčí. Business Insider. Společnost místo toho tvrdí, že „federálně řízený soubor politik umělé inteligence, spíše než spleť státních zákonů, podpoří inovace a postaví USA do čela vývoje globálních standardů,“ uvedl v dopise ředitel pro strategii OpenAI Jason Kwon. Senátor státu Kalifornie Scott Wiener v únoru.
Saunders a Kokotajlo konstatují, že tlak OpenAI na federální předpisy není v dobré víře. „Nemůžeme čekat na jednání Kongresu – výslovně řekli, že nejsou ochotni schválit smysluplnou regulaci AI,“ napsal pár. „Pokud to někdy udělají, může to předcházet legislativě CA.“
Návrh zákona našel podporu také u překvapivého zdroje: CEO xAI Elon Musk. „Je to těžká výzva a některé lidi to rozčílí, ale po zvážení všech věcí si myslím, že Kalifornie by pravděpodobně měla přijmout zákon o bezpečnosti AI SB 1047.“ napsal na X v pondělí. „Přes 20 let jsem zastáncem regulace AI, stejně jako regulujeme jakýkoli produkt/technologii, která je potenciálním rizikem.“ Musk, který nedávno oznámil výstavbu „nejvýkonnějšího výcvikového clusteru AI na světě“ v Memphisu, Tennessee, předtím vyhrožoval přesunem sídla ze svých společností X (dříve Twitter) a SpaceX do Texasu, aby unikli průmyslové regulaci v Kalifornii.
Aktualizace: Tento příspěvek byl aktualizován, aby zahrnoval komentáře od Elona Muska.
