V mnoha ohledech to připomíná známé sci-fi filmy, říká k novému evropskému nařízení o umělé inteligenci (AI Act) Štěpánka Havlíková z pražské advokátní kanceláře Dentons. „Zakázány budou například systémy umělé inteligence, které umožňují podprahovou manipulaci uživatelů, kategorizaci osob podle rasy či jiných faktorů s využitím biometriky, vyhodnocují pravděpodobnost spáchání trestného činu nebo analyzují emoce lidí na pracovišti,“ doplňuje.

AI Act začne platit již od letošního 2. srpna a dotkne se prakticky všech firem, které umělou inteligenci využívají. Týkat se přitom nebude jen společností, které sídlí v Česku nebo dalších státech EU, ale i těch mimounijních, které na evropském trhu působí. Nástroje AI budou pod větší kontrolou a budou muset být transparentnější. Ty nejrizikovější pak čeká přímo zákaz. Za jeho porušení hrozí firmám citelné pokuty ve výši až 35 milionů eur (necelých 900 milionů korun) nebo od jednoho do sedmi procent obratu.

Účinnost nových pravidel však bude nabíhat jen postupně. „K zákazu nejrizikovějších systémů umělé inteligence dojde již po půl roce, tedy od 2. února příštího roku. Kompletní nařízení bude závazné sice až po dvou letech, od 2. srpna 2026, nicméně i to znamená, že by se firmy měly včas připravit, neboť zejména splnění povinností pro vysoce rizikové užití AI bude vyžadovat poměrně rozsáhlé kroky. Jako první krok je vhodné zmapovat užití umělé inteligence v rámci firmy a zhodnotit, zda může spadat do rizikové kategorie či zda se může uplatnit některá z výjimek,“ upozorňuje Havlíková.

A o jaké kategorie půjde? Nejpřísněji bude Evropská unie nahlížet na již zmíněné zakázané praktiky. Druhou skupinu tvoří systémy s vysokým rizikem, které se používají například pro biometriku, přijímací řízení ke studiu či do zaměstnání, hodnocení úvěruschopnosti bankami, nacenění životního pojištění či nástroje obsažené v kritické infrastruktuře. Třetí skupina se týká systémů určených pro komunikaci s fyzickými osobami, tedy chatbotů. AI Act stanovuje pravidla rovněž pro takzvané obecné modely, které jsou dostupné široké veřejnosti. Řeč je například o ChatGPT a podobných programech.

Nejrizikovější systémy tedy nová norma zakáže. Ostatním stanoví řadu povinností – musí být provozovány pod lidským dohledem, a to včetně možnosti okamžitého vypnutí. Člověk musí navíc být okamžitě informován o tom, že přišel do styku s umělou inteligencí, například během hovoru s call centrem nebo komunikaci s chatbotem. Nově je také nutné zvláštním způsobem označovat veškerý obsah vytvořený generativní AI. Některé sociální sítě to už nicméně zavedly ještě před tím, než začne nové evropské nařízení platit.

„Není to ale jen o novém AI Actu. Již dnes by měly firmy nastavit pro využití systémů umělé inteligence pravidla, která budou v souladu s unijní legislativou,“ uzavírá Havlíková. „Týká se to především zpracování osobních údajů a souladu s GDPR, kyberbezpečností, ochrany duševního vlastnictví a otázek nakládání se vstupy a výstupy umělé inteligence, stejně jako otázky implementace AI v produktech či v rámci služeb a péče o zákazníky.“