Byla to on-line schůzka mimořádná, ale prý uvěřitelná. Zaměstnance hongkongské pobočky velké nadnárodní firmy oslovil představitel managementu sídlící ve Velké Británii s žádostí o videokonferenční hovor. Toho se zúčastnit nejen finanční ředitel, ale rovněž další členové vrcholového vedení společnosti. Pracovník zde vyslechl řadu požadavků, jeden z nich spočíval v převedení vyšších částek z účtu firmy na bankovní účty externích subjektů. Protože finanční šéf na videu vypadal i zněl tak jako obvykle, pracovník úkol splnil. Ukázalo se ale, že šlo o promyšlený podvod.

Podvodníci na pracovníka s přístupem k bankovnímu účtu firmy využili takzvaný deepfake – z veřejně přístupných zdrojů naskenovali podobu topmanažera firmy, jeho hlas i vzorce komunikace. Pomocí umělé inteligence pak vytvořili jeho přesnou kopii – jak sdělil oklamaný zaměstnanec, na obrazovce vypadali lidé autenticky. O zadaném úkolu tedy příliš nepřemýšlel a peníze – přes 25,6 milionů amerických dolarů, zaslal na zadané účty.

„Následně se ukázalo, že každý z manažerů firmy na videokonferenci byl falešný,“ sdělil vyšetřovatel Chan Shun-ching. Vzhledem k nevídanému rozsahu a povaze podvodu o události referují třeba americká televizní stanice CNN nebo web Business Insider.

Podle CNN se zaměstnanec firmy zprvu obával, že může jít o phishingový útok – nevěřil totiž, že s ním chce hovořit takto vysoce postavený nadřízený ze zahraniční centrály. E-mailu s pozvánkou proto příliš nevěřil. Po videokonferenci však veškeré pochybnosti šly stranou. Natolik hovor působil opravdově.

Hongkongská policie neprozradila název společnosti ani jméno oklamaného pracovníka. Upozornila však, že promyšlených podvodů užívajících AI technologii přibývá. Pravděpodobnost dopadení pachatelů je však nízká. Technologicky zdatní podvodníci se totiž šikovně pohybují v zákoutích temného webu, kde jsou prakticky nevystopovatelní. Znají rovněž policejní postupy a drží se tak krok před vyšetřovateli.

S deepfake videi zápolí i politici. Před dvěma týdny se na sociálních sítích šířilo video s českým ministrem vnitra Vítem Rakušanem (STAN). Uráží na něm účastníky své diskuze s občany. V tomto případě ale bylo video upraveno umělou inteligencí, ve skutečnosti na něm říká něco zcela jiného. „Bylo by to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná. Před bezpečnostní experty staví úkol, jak se s jejím nástupem vypořádat. My ostatní mezitím musíme používat zdravý rozum a ověřovat si,“ reagoval opravdový Rakušan.