Neúnavná mašina na zvěsti o umělé inteligenci (AI) se na přelomu měsíce roztočila na plné obrátky. Přišly zprávy o výsledcích čipového gigantu Nvidia, o novém financování pro OpenAI a vůbec první údaje o tom, kolik lidí používá Meta AI. O největší událost týdne se však nejspíš postaral zákon zaměřený na řešení rizik spojených s AI, jejž schválil kongres státu Kalifornie.

Právní úprava rozjela v celé branži intenzivní debatu. Ta se patrně během září ještě vyostří, protože zákon ještě čeká na podpis tamního guvernéra Gavina Newsoma. Technicky vzato bude také potřebovat ještě jedno procesní hlasování, než se na guvernérském stole objeví. Newsom se pak bude muset do 30. září rozhodnout, zda jej podepíše, nebo jej bude vetovat. 

Technologické společnosti vyvíjející generativní umělou inteligenci, která dokáže reagovat na podněty plně zformovaným textem, obrazem nebo zvukem (a úspěšně provádět opakující se úkoly), se proti návrhu zákona většinou prudce ohradily. Argumentují, že by mohl bránit inovacím a de facto vyhnat z Kalifornie firmy, které se AI zabývají. 

Mezi zastánce zákona naopak patří šéf Tesly Elon Musk, jinak vlastník firmy zabývající se umělou inteligencí s názvem xAI. Na své sociální síti X uvedl, že návrh zákona podporuje. 

Žaloby a záruky 

Zákon nařizuje bezpečnostní testy pro mnoho nejpokročilejších modelů umělé inteligence. Vztahuje se na takové modely, jejichž vývoj stojí více než 100 milionů dolarů, a na ty, které výpočetním výkonem přesahují předem stanovenou hranici. Vývojáři softwaru AI, kteří pracují v Kalifornii, musí také uvést, jak lze jejich model umělé inteligence v případě poruchy, zneužití či nelegální činnosti spolehlivě vypnout. 

Návrh zákona také dává kalifornskému státnímu návladnímu pravomoc žalovat vývojáře, pokud by zákon porušovali, zejména v případě obecného ohrožení (například ovládnutí státních systémů, jako jsou energetické sítě) ze strany AI. 

Ustanovení zákona rovněž vyžadují, aby si vývojáři najali auditory třetích stran k posouzení bezpečnostních postupů. Zákon také poskytuje dodatečnou ochranu whistleblowerům, kteří by proti případnému zneužití AI vystoupili.

Autor návrhu zákona, demokratický senátor Scott Wiener, zastupuje San Francisco, kde sídlí OpenAI a řada startupů vyvíjejících software umělé inteligence. Uvedl, že legislativa je nezbytná k ochraně veřejnosti dříve, než se pokrok v oblasti umělé inteligence vymkne kontrole. 

Martin Casado, generální partner společnosti rizikového kapitálu Andreessen Horowitz, uvedl, že doufá, že Newsom návrh vetuje. „Je proti němu nejširší opozice z obou politických stran, jakou jsem kdy viděl,“ řekl agentuře Reuters, aniž by vysvětlil, proč tedy zákon Kongresem prošel, když jej nikdo nechce. 

Vymknuto z kloubů 

Své obavy vyjádřili v dopisech adresovaných Wienerovi také zástupci největších hráčů na AI scéně - Googlu, OpenAI a Meta Platforms. Společnost Anthropic (již podporuje Amazon) naopak uvedla, že přínosy návrhu zákona pravděpodobně převáží jeho zápory, ačkoli jsou v něm přítomny znepokojivé nebo nejednoznačné aspekty.

Jak upozornil server TheInformation.com, návrh zákona vyžaduje, aby vývojáři umělé inteligence předvídali, „co jejich zákazníci s jejich umělou inteligencí dělají, a aby platili vysoké pokuty, pokud software způsobí škodu“. Lze si snadno představit, co by to mohlo znamenat. Někteří lidé se obávají, že by to vedlo k tomu, že by vývojáři umělé inteligence byli odpovědní za to, co jejich zákazníci s jejich softwarem dělají.

Skutečně bezpečnější? 

To je scénář, který by se snadno mohl vymknout z vlastních kloubů. Jak se říká, pes je zakopaný v detailu. Ve víkendovém konferenčním hovoru pro předplatitele serveru The Information diskutovali zastánci návrhu zákona v čele se senátorem Wienerem s kritiky. Nejvýznamnějším z nich byl Ian Stoica, profesor informatiky na University of Califonia v Berkeley.

Stoica tvrdí, že návrh zákona nijak nepřispěje k podpoře bezpečnosti umělé inteligence a že poškodí domácí vývojáře. Pokud bude návrh zákona podepsán, všichni Američané podle něj začnou využívat open-source software z cizích zemí. „Teď si položte otázku, zda by takový svět byl skutečně bezpečnější,“ uvedl. 

Neexistuje žádná záruka, že Newsom zákon podepíše. Kromě intenzivního odporu z branže se proti návrhu zákona postavili i někteří demokraté v americkém Kongresu, včetně někdejší předsedkyně Nancy Pelosiové. Wiener proto argumentuje, že Kalifornie musí jednat, protože Kongres to neudělá - a v tomto bodě má nepochybně pravdu.