Celé tři dny – čistého času šestatřicet hodin – trvalo dohadování evropských politických špiček, jak regulovat umělou inteligenci. Když se konečně v pátek pozdě večer podařilo dojít ke kompromisu přijatelnému pro vyjednavače členských zemí, evropské poslance i komisaře, oznámil to Thierry Breton na sociálních sítích euforickým zvoláním: „Dohoda!“

Eurokomisař pro vnitřní trh také hned vysvětlil, na co je tak pyšný. Jde prý o historický moment, protože Evropská unie potvrdila pozici světového regulatorního tygra, když dala dohromady pravidla pro zkrocení příliš chytrých počítačů jako vůbec „první kontinent“ (sic!). 

Díky regulaci a přísnému dohledu úředníků se podle Bretona umělá inteligence nevymkne kontrole a nejen to. Dokument prý navíc vytváří podhoubí pro vznik evropských startupů a štik tohoto oboru budoucnosti.

Otrávit a odradit

Eurokomisař nejspíš příspěvky na sociální sítě nepíše sám a téměř jistě nečte ani reakce. Kdyby to v pozdní páteční večer přece jen udělal, nejspíš by mu to trochu zkalilo bujarou radost z dalšího úspěchu evropské byrokratické mašiny. Naprostá většina komentářů od expertů z oboru až po běžné uživatele byla drsně negativní; lišily se jen v tom, jestli v nich lidé Bretonovi nadávali, nebo si z něj jízlivě utahovali. Pochval bylo poskrovnu.

Kritici poukazovali hlavně na jednu věc. Politici evropských zemí se v Bruselu opájeli světovým prvenstvím v regulaci technologie, jež zásadně ovlivní budoucnost dalších generací, přestože v Evropě prakticky neexistuje relevantní firma, která by ve světě umělé inteligence zanechala hlubší stopu. Všechno podstatné se odehrává ve Spojených státech, případně v Číně.

Kromě toho skeptici vyjadřovali obavu, že vznikající legislativa bude dalším příspěvkem Bruselu k technologickému zaostávání Evropy. Už nyní se starému kontinentu kvůli sešněrovaným pravidlům a zákazům vyhýbají inovativní firmy obloukem a raději rozvíjejí svůj byznys tam, kde jim nikdo nehází – ve jménu obecného blaha – klacky pod nohy.

Bez regulace to nepůjde

Bylo by nicméně nespravedlivé hanět europoslance, komisaře a zástupce členských zemí jen za samotný fakt, že se snaží vymyslet pravidla pro rychle se rozvíjející technologický obor. Obavy z toho, že se umělá inteligence urve ze řetězu a obrátí se proti svým tvůrcům (případně ji zneužijí lidé proti lidem), panují po celém světě.

Regulace, která jí má nastavit jasné mantinely, se připravuje také ve Spojených státech, kde vývoj umělé inteligence běží nejrychlejším tempem. A určitá pravidla plánuje sepsat dokonce i Peking, přestože tak trochu jiná. Na rozdíl od Evropy a USA nechce třeba bránit nasazení chytrých počítačů a softwaru ke šmírování a ovládání lidí – protože to už soudruzi dávno dělají.

O správnosti některých opatření, která dohoda obsahuje, tak nepochybují ani zarytí odpůrci bruselské regulační kreativity. O která jde?

V pátek dohodnutý „nástřel“ pravidel chce například zamezit tomu, aby se umělá inteligence plošně využívala pro rozeznávání obličejů a biometrickou identifikaci lidí v reálném čase. Lidé by se s její pomocí také neměli škatulkovat podle původu, rasy nebo sexuální orientace. Zapovídá rovněž takzvaný sociální skóring, tedy sledování a „bodování“ lidí na základě jejich chování. Jen šílenec by chtěl něco takového v Evropě povolit.

Byrokratická barikáda

Bohužel výsledný návrh regulačních pravidel není ani v této oblasti nakonec důsledný. Pro zmíněné využití umělé inteligence při sledování lidí obsahuje tři výjimky. Nasadit ji bude smět policie, a to při hrozbě teroristického útoku, při pátrání po obětech trestné činnosti anebo při stíhání skutečně závažné trestné činnosti. Jak ovšem ukazují zkušenosti třeba s odposlechy v Česku, takové podmínky se dají při troše dobré vůle poměrně snadno ohnout. Milovník odposlechů, plukovník Robert „Velké ucho“ Šlachta, by mohl vyprávět.

Diskutabilní je návrh také kvůli tomu, že od technologických firem z oboru vyžaduje obrovskou míru transparentnosti a spolupráce s úřady při vývoji nového softwaru a zároveň určuje drastické pokuty za porušení těchto povinností. Přeloženo: zavaluje je byrokratickými povinnostmi a nastražuje právní pasti.

Ačkoli autoři legislativy hrdě hovoří o tom, že pomáhají malým firmám, ve skutečnosti napsali opatření na míru spíš technologickým gigantům. Kritici ironicky hovoří o tom, že zatímco americké nebo čínské firmy zabývající se umělou inteligencí svádějí souboj o nejschopnější vývojáře a nejtalentovanější „ajťáky“, v Evropě se budou startupy přetahovat spíš o právnické experty, kteří se v chystaném byrokratickém pekle vyznají. 

Není těžké uhodnout, kdo si bude moci vysoké náklady spojené s administrativou spíš dovolit – velká nadnárodní korporace, nebo garážový studentský startup?

Špatný výsledek je vysoce pravděpodobný

Na výslednou podobu regulace, která má začít platit nejdříve od roku 2025, si ještě pár měsíců budeme muset počkat. Po nastavení rámcových pravidlech se povedou další stovky hodin jednání o detailech. 

Nedá se vyloučit, že tato regulace nakonec neskončí průšvihem, a je dokonce teoreticky možné, že nepošle evropské technologické firmy do druhé ligy ani nepřipraví zdejší uživatele o vymoženosti a vynálezy, s nimiž přijdou americké a čínské firmy. Jelikož však víme, jak neslavně dopadly dobře míněné snahy ochránit osobní údaje občanů Evropské unie (strašlivá byrokracie provázející GDPR) nebo jak otravným výsledkem skončil pokus o ochranu osobních dat při brouzdání po webu (donekonečna opakované povolování souborů cookies), není takový výsledek příliš pravděpodobný.