Kalifornský guvernér Gavin Newsom vetoval SB 1047, zákon Safe and Secure Innovation for Frontier Artificial Models Act, argumentuje v dopise zákonodárcům že „zavádí regulační rámec, který by mohl dát veřejnosti falešný pocit bezpečí ohledně kontroly této rychle se vyvíjející technologie“.
„Nevěřím, že je to nejlepší přístup k ochraně veřejnosti před skutečnými hrozbami, které tato technologie představuje,“ napsal. SB 1047 by vyžadoval, „aby vývojář před zahájením počátečního výcviku pokrytého modelu … splnil různé požadavky, včetně implementace schopnosti okamžitě provést úplné vypnutí … a implementoval písemný a samostatný bezpečnostní a bezpečnostní protokol“.
Newsom však poznamenal, že 32 z 50 nejlepších společností AI sídlí v Kalifornii a že návrh zákona se zaměří pouze na největší firmy. „Menší, specializované modely se mohou ukázat jako stejně nebo dokonce nebezpečnější než modely, na které se zaměřuje SB 1047,“ uvedl.
„I když je to dobře míněno, SB 1047 nebere v úvahu, zda je Al systém nasazen ve vysoce rizikových prostředích, zahrnuje kritické rozhodování nebo použití citlivých dat,“ napsal Newsom. „Namísto toho zákon uplatňuje přísné standardy i na ty nejzákladnější funkce – pokud je nasazuje velký systém.“
SB 1047 vyvolal vášnivou debatu v odvětví AI, když si prošel zákonodárným sborem. OpenAI se ostře postavila proti opatření, což vedlo k tomu, že výzkumníci William Saunders a Daniel Kokotajlo na protest veřejně rezignovali, zatímco generální ředitel xAI Elon Musk vyšel ve prospěch návrhu zákona. Mnoho v Hollywoodu také vyjádřil podporu SB 1047včetně JJ Abrams, Jane Fonda, Pedro Pascal, Shonda Rhimes a Mark Hamill.
„Nemůžeme si dovolit čekat, až dojde k velké katastrofě, než podnikneme opatření na ochranu veřejnosti.“ Kalifornie se své odpovědnosti nevzdá. Musí být přijaty bezpečnostní protokoly. Měly by být zavedeny proaktivní mantinely a závažné důsledky pro špatné aktéry musí být jasné a vymahatelné,“ napsal Newsom. Nicméně, „v konečném důsledku jakýkoli rámec pro
efektivně regulovat Al potřebuje držet krok se samotnou technologií.“
Pondělní oznámení přichází necelý měsíc poté, co guvernér podepsal AB 2602 a AB 1836, oba za podpory odborového svazu SAG-AFTRA. AB 2602 vyžaduje, aby umělci před použitím svých „digitálních replik“ udělili informovaný souhlas, zatímco AB 1836 posílila ochranu proti vykrádání hlasu a podoby zesnulých umělců.
