Kalifornský guvernér Gavin Newsom o víkendu vetoval kontroverzní pokus o regulaci umělé inteligence s odkazem na obavy, že by zákon – i přes intenzivní protitlak technologických společností – mohl potlačit inovace. Demokrat Newsom čekal s oznámením svého rozhodnutí až do poslední chvíle poté, co právní norma koncem srpna prošla státním zákonodárným sborem.

Návrh zákona měl nutit ty, kdo vyvíjejí nejvýkonnější modely umělé inteligence, k dodržování přísných pravidel. Mezi ně patří například zabudování vypínače, který by umožnil celý systém vyřadit z provozu, aby se předešlo katastrofickým škodám.

Nová úprava vyžadovala, aby vývojáři pracující na velkých modelech AI posoudili, zda jsou tyto modely schopné způsobit či umožnit kritickou škodu – od krádeží až po vytvoření biologické zbraně. Od firem by se pak očekávalo, že přijmou přiměřená ochranná opatření proti těmto rizikům.

Kill switch nechceme!

Vývojáři by museli do všech nových modelů nad určitou velikost zabudovat zmíněný „vypínač“ („kill switch“) pro případ, že by došlo k jejich zneužití, případně pokud by začaly projevovat „nekalou vůli“. Byli by také povinni vypracovat bezpečnostní zprávu před výcvikem nového modelu a být transparentnější než dosud.

Museli by hlásit každý bezpečnostní incident s umělou inteligencí hlavnímu státnímu návladnímu svého státu a každý rok podstoupit audit provedený třetí stranou. Ten by měl zajistit, že firma skutečně dodržuje stanovené předpisy.

Návrh se zaměřoval na modely, jejichž výcvik stojí více než 100 milionů dolarů, což je přibližná částka potřebná k výcviku dnešních špičkových modelů. Tento cíl se však rychle mění.

Šéf Anthropiku Dario Amodei předpověděl, že výcvik příští generace špičkových modelů bude stát miliardu dolarů a do roku 2026 podle něj dosáhne částky 10 miliard dolarů.

Návrh zákona by se vztahoval na všechny firmy podnikající v Kalifornii, bez ohledu na to, kde sídlí. To by se týkalo prakticky všech společností, které jsou dnes schopny vyvíjet špičkové modely umělé inteligence.

Přední společnosti zabývající se umělou inteligencí, včetně Googlu, OpenAI a Mety, se postavily proti návrhu zákona a intenzivně proti němu lobbovaly. Tvrdily, že taková legislativa by mohla utlumit rozvoj AI a ohrozit vedoucí úlohu Kalifornie ve vývoji této technologie. Společnost Anthropic, která má podporu Amazonu, a Elon Musk, který vlastní startup xAI, zákon naopak podpořili.

Guvernér v neděli v dopise státnímu senátu své veto obhajoval. Uvedl, že tento rámec by mohl „omezit právě ty inovace, které podporují pokrok ve prospěch veřejného blaha,“ aniž by konkretizoval, jaké inovace má na mysli. V Kalifornii sídlí 32 předních světových společností zabývajících se umělou inteligencí.

Newsom v dopise uvedl, že klasifikace modelů podle velikosti vybírá špatnou metriku. Podle něj by to mohlo ve veřejnosti vyvolat „falešný pocit bezpečí,“ pokud jde o kontrolu této rychle se rozvíjející technologie, protože „menší, specializované modely se mohou ukázat jako stejně nebezpečné nebo dokonce nebezpečnější.“

Chybný a bezohledný tah

Senátor Scott Wiener, který návrh zákona předložil, naopak v reakci na Newsomovo veto uvedl, že „je to neúspěch pro všechny, kdo věří v dohled nad obrovskými korporacemi, které přijímají zásadní rozhodnutí ovlivňující bezpečnost a blaho veřejnosti a budoucnost planety.“

Dodal, že společnosti „usilující o vytvoření mimořádně výkonné technologie nečelí žádným závazným omezením ze strany amerických politiků, zejména vzhledem k pokračující paralýze Kongresu v oblasti smysluplné regulace technologického průmyslu.“

Newsom však trvá na tom, že návrh zákona nezohledňuje, zda je systém umělé inteligence „nasazován ve vysoce rizikových prostředích, zahrnuje kritické rozhodování nebo využívání citlivých údajů.“

„Namísto toho návrh zákona uplatňuje přísné normy i na ty nejzákladnější funkce, pokud je nasazen velký systém. Nedomnívám se, že je to nejlepší přístup k ochraně veřejnosti před skutečnými hrozbami, které tato technologie představuje.“ Think-tank Artificial Intelligence Policy Institute označil guvernérovo veto za „chybné, bezohledné a neodpovídající potřebám lidí, jimž má za úkol vládnout.“

„Newsom měl příležitost být lídrem v oblasti regulace demokratického řízení vývoje umělé inteligence, což je cesta, kterou se vydal v jiných odvětvích. Rozhodl se však stáhnout a potenciálně tak umožnil, aby vývoj umělé inteligence nekontrolovaně sešel z cesty,“ uvedl ředitel think-tanku Daniel Colson pro list Financial Times.

Newsom a zákonodárci se podle Colsona musí na příštím zasedání vrátit do Sacramenta a dohodnout se na opatřeních, která zavedou rozumné mantinely pro vývoj AI. Taková iniciativa však zatím není na pořadu dne.