Sam Altman, výkonný ředitel společnosti OpenAI, loni označil film Ona za svůj oblíbený sci-fi snímek. Když minulý týden spustil virtuální asistentku Sky, komentoval to na Twitteru jediným slovem: „her“, jež je anglickým názvem řečeného filmu a odkazuje na postavu, již v něm ztvárnila Scarlett Johanssonová.

Jak vzápětí vyšlo najevo, OpenAI před časem oslovila Johanssonovou, aby se stala hlasem jejího virtuálního asistenta. Odmítla to. Dva dny před spuštěním Sky ji společnost oslovila znovu. Tentokrát, jak herečka uvedla v ostrém prohlášení, ani nepočkala na její oficiální „ne“ a zveřejnila hlas, který zní tak podobně jejímu, že oklamal i její přátele a rodinu.

Zde je pondělní prohlášení Scarlett Johanssonové: „V září loňského roku jsem dostala nabídku od Sama Altmana, který mě chtěl najmout, abych namluvila hlas v současném systému ChatGPT 4.0. Řekl mi, že pokud bych systém skutečně namluvila, mohla bych pomoci překlenout propast mezi technologickými společnostmi a lidmi z kreativní branže.

Spotřebitelům by to podle něj pomohlo lépe strávit dalekosáhlé změny, k nimž mezi lidmi a umělou inteligencí nyní dochází. Řekl, že má pocit, že můj hlas bude pro lidi uklidňující.

Po dlouhém zvažování a z osobních důvodů jsem nabídku odmítla. O devět měsíců později si moji přátelé, rodina i široká veřejnost všimli, jak moc onen nejnovější systém OpenAI s názvem Sky zní podobně jako já.

Když jsem slyšela zveřejněnou ukázku, byla jsem otřesena a rozhořčena. Nevěřila jsem, že by pan Altman usiloval o vytvoření hlasu, který by zněl tak děsivě podobně mému, že by ani moji nejbližší přátelé nepoznali rozdíl. Pan Altman dokonce naznačil, že ta podobnost byla záměrná, a na Twitteru napsal jediné slovo ,ona’ - odkaz na film, v němž jsem namluvila hlas chatovacího systému Samantha, který naváže intimní vztah s člověkem.

Dva dny před vydáním demoverze ChatGPT 4.0 pan Altman kontaktoval mého agenta a požádal mě, abych si to rozmyslela. Než jsme se však stihli spojit, systém byl na světě. V důsledku jejich jednání jsem byla nucena najmout si právního zástupce, který napsal panu Altmanovi a společnosti OpenAI dva dopisy, v nichž uvedl, co udělali, a požádal je, aby podrobně popsali přesný postup, jakým vytvořili hlas Sky. Společnost OpenAI následně neochotně souhlasila se stažením hlasu Sky.

V době, kdy se všichni potýkáme s deepfakes a ochranou vlastní podoby, práce a identity, si myslím, že tyto otázky si zaslouží naprosté vyjasnění. Těším se na řešení v podobě transparentnosti a přijetí příslušných právních předpisů, které pomohou zajistit ochranu práv jednotlivců.“

Bouře v OpenAI

Dopis Johanssonové jde přímo k jádru debat o nejednoznačnosti a možném zneužití umělé inteligence, chatbotů a klonování hlasu a videa. Odmítla dát společnosti souhlas, když chtěla použít její hlas, a OpenAI místo toho provozovala něco, co je v podstatě jejím hlasovým klonem.

Ke kontroverzi došlo jen několik dní poté, co ze společnosti odstoupil Jan Leike, vedoucí oddělení OpenAI, které se zaměřovalo na bezpečnost AI. V pátek Leike ve svém prohlášení na webu X (dříve Twitter) uvedl, že v technologické firmě „kultura bezpečnosti a procesy ustoupily do pozadí před nablýskanými produkty“. A že se „s vedením OpenAI už delší dobu neshodl na hlavních prioritách společnosti, až jsme dospěli do bodu zlomu.“

Vzápětí poté OpenAI opustil i Ilya Sutskever, hlavní vědec firmy. Americko-ruský odborník byl mimochodem jednou z klíčových postav podzimní „vzpoury“ v OpenAI, o níž jsme psali i na Hrotu24 a jejímž cílem bylo odstavit Altmana z čela společnosti, přičemž jedním z důvodů byl právě důraz na bezpečnost technologií umělé inteligence namísto honby za ziskem.

„Jsme přesvědčeni, že hlasy umělé inteligence by neměly záměrně napodobovat charakteristický hlas celebrit. Hlas Sky není napodobeninou Scarlett Johanssonové, ale patří jiné profesionální herečce, která používá svůj vlastní přirozeně mluvící hlas,“ napsala v další reakci na Twitter OpenAI. Uvedla, že z důvodu ochrany osobních údajů nemůže sdělit její jméno.

Altman ve svém prohlášení pro časopis Fortune zmínil, že hlas Sky není hlasem Johanssonové „a nikdy nebyl zamýšlen tak, aby se jí podobal.“ „Herečku, která hlas Sky namluvila, jsme obsadili ještě předtím, než jsme paní Johanssonovou jakkoli oslovili. Z úcty k paní Johanssonové jsme používání hlasu Sky v našich produktech pozastavili. Omlouváme se paní Johanssonové, že jsme nekomunikovali lépe,“ prohlásil.

Projde vám cokoli

Průmysl umělé inteligence je postaven na tom, že se zmocňuje našich dat – výstupů, které lidstvo kolektivně vytvořilo: knih, umění, hudby, blogových příspěvků, sociálních médií, videí – a používá je k trénování svých modelů, z nichž pak vydělává peníze nebo je používá podle svého uvážení. Společnosti zabývající se umělou inteligencí se většinou neptají lidí, kteří vytvořili data, jež přebírají (a jejichž skutečné zaměstnání bývá působením AI ohroženo), ani jim neplatí.

Politici dosud nezasáhli, aby se zeptali, proč by sílu AI založenou na kolektivních výdobytcích lidstva měla monopolizovat hrstka firem. Prakticky nechali technoprůmysl, aby si po desetiletí dělal, co chce. Uprostřed všech vznešených řečí o transformační síle se proto tyto společnosti drží postoje „porušujme pravidla a uvidíme, co nám projde“, který jim v posledních několika desetiletích velmi dobře fungoval.

Altmanovi se, jak se zdá, hlas Johanssonové líbil, a tak společnost vytvořila jeho klon. „Proč ne? Když jste hvězda technologického průmyslu, dovolí vám cokoli,“ napsala k tomu komentátorka deníku The New York Times Zeynep Tufekciová. Učinila tak ve zjevném odkazu na výrok amerického exprezidenta Donalda Trumpa o tom, za co je možno uchopit ženu, když jste televizní hvězda.