„Využívání AI sloužící k telefonické manipulaci spotřebitelů považujeme za nezákonnou praktiku a jako takovou i trestnou,“ uvedla americká Federální komise pro komunikace (FCC), která má danou problematiku v kompetenci. Komisaři uvedli, že tento krok vstupuje v platnost okamžitě.

Co úřad podnítilo k tak rychlé reakci? Minulý měsíc jedna z telemarketingových firem zneužila pomocí umělé inteligence hlasu prezidenta Joe Bidena. Falešný Bidenův hlas se snažil přesvědčit voliče ve státě New Hampshire, aby se neúčastnili prezidentských primárek. Odhaduje se, že se telefonát pokusil zmanipulovat až 25 tisíc voličů.

Ahoj, volá ti babička

Ministr spravedlnosti (zároveň jde o generálního prokurátora) státu New Hampshire John Formella již dříve uvedl, že za hovory stojí dvě soukromé společnosti se sídlem v Texasu. Ve věci už bylo zahájeno vyšetřování.

Rozhodnutí komise pro komunikaci má dát jasný signál dalším firmám provozujícím callcentra, že umělá inteligence nesmí být využita k vydávání se za jinou osobu. „Zaznamenány byly dokonce případy, kdy AI napodobovala rodinného příslušníka oslovené osoby, což je nepřijatelné,“ sdělila komise.

Jednotlivé státy USA mohou podle komise žalovat realizátory podobných hovorů, a to konkrétně za podvod nebo zpronevěru. „Nadto ale samotné užívání AI k tomuto jednání je samo o sobě trestným činem,“ konstatuje úřad.

Umělá inteligence je v telemarketingu využívána čím dál více. Je levnější než využití skutečných lidských operátorů, navíc umí velmi pružně reagovat na sdělení ze strany volaného a vmanipulovat jej do uzavření smlouvy, nákupu, či změnit jeho občanské postoje. Komisi o vyjádření požádalo hned 26 států USA.

Jak Evropská unie reguluje AI

V Česku by podobným praktikám měl bránit zákon, který callcentrům zapovídá kontaktovat telefonicky člověka, pokud k tomu nedisponuje jeho předchozím souhlasem. Rovněž uzavírání smluv po telefonu zákonodárci zpřísnili.

„Uzavření smlouvy po telefonu se spotřebitelem již není možné, pokud telefonát sám neiniciuje. Prodejce sice při splnění výše uvedených podmínek stále může nabízet své zboží nebo služby, po skončení hovoru však spotřebiteli musí zaslat potvrzení nabídky v textové podobě, tedy například do e-mailové schránky. Pokud spotřebitel toto potvrzení neodsouhlasí, k uzavření smlouvy nedojde,“ vysvětluje sdružení dTest.

Užívání AI má v Evropské unii v budoucnu podléhat speciální legislativě. Na takzvaném Aktu o umělé inteligenci se již shodly zástupci všech členských zemí. Evropský parlament by o něm měl hlasovat pravděpodobně v dubnu. Jednotlivá ustanovení mají začít platit dva roky poté, co bude schválen.