IT se zabýváte už více než 20 let, máte za sebou práci v korporátech například jako systémový architekt. Jak se z člověka, který vyvíjí IT systémy, stane specialista na AI?

Nepovažuji se úplně za specialistu na AI. Řekněme spíše, že se ale plně věnuji nasazování a aplikování AI do procesů firem s tím, že vnitřní fungování AI nechávám „jiným hlavám“. Ale roboty a kompletní automatizaci mám z podstaty své lenosti v krvi, úplně původně jsem pracoval jako Unix administrátor a to je oblast, kde se právě automatizovalo vždy. Ve spojení s tím, že mě baví moderní technologie, jsem tak v AI našel nového kamaráda, takového trpaslíka, který pracuje za mě. A konec konců mi pomáhá i tam, kde to potřebuji z důvodu svého ADHD. 

30. listopadu 2022 společnost OpenAI spustila ChatGPT 3.5 a odstartovala tím AI závod big tech firem. Jak moc se za těch 500 dnů umělá inteligence jako fenomén proměnila?

Rychlost vývoje generativní AI je tak překotná, že dnes už si asi jen málokdo vzpomene na to, že umělá inteligence byla na začátku vlastně poměrně hloupá. ChatGPT 3.5 nebyl těsně po svém uvedení schopný sečíst ani 1+1, a když jste mu řekli, že výsledek je tři, tak tomu věřil. S tím se ale nikdo nechtěl spokojit, takže ChatGPT-4 už je daleko dál. To samé platí o jeho konkurentech Claude 3 od Anthropicu a Gemini od Google. I tyto umělé inteligence se ve svých schopnostech neustále posouvají. Obecně vzato je testů, které dokážou tyto schopnosti měřit, poměrně hodně, ale výsledky jsou pro veřejnost jen těžko uchopitelné. Proto se dělá i převod schopností na lidské IQ, kdy jsou výsledky jasnější.

Například matematik Maxim Lott přeložil maticový IQ test norské Mensy do slov a následně z něj vytvořil 35 otázek. Podle výsledků tohoto testu má ChatGPT-4 IQ 85, Gemini Advanced má IQ 76 a Claude 3 dosáhl celkového IQ 101. Předpokládá se, že příští model Claude měl mít IQ mezi 110-120 body. Nutno ale podotknout, že v jiném testování, kde byl například ChatGPT-4 podroben pouze verbálním testům, dosáhl tento model IQ 155. Což v žádném případě není konec.

Ano, Elon Musk soudí, že do konce roku 2025 bude AI chytřejší než kterýkoliv jednotlivec na světě.

Jeho slova směřovala zejména k rozvoji AGI, tedy obecné (generální) umělé inteligence. OpenAI už momentálně pracuje na video modelu Sora, který opravdu začíná chápat lidský svět a jeho zákonitosti. Což je přesně cílem AGI, ta by měla poznávat svět kolem sebe, chápat jej v souvislostech, vnímat emoce a sama se učit tak, aby dokázala řešit skutečně komplexní úlohy. Rozdíl oproti dnešní AI bude v tom, že velké jazykové modely jako je třeba Claude 3, mají sice ohromnou, ale pořád statickou informační databázi. Model se jednou na dodaných datech natrénoval a dále už se sám nijak výrazně nerozvíjí.

Jinak řečeno, nedokáže si sám zjistit nové informace, zapracovat je do svého „mozku“, a pak je používat. Z naučených dat tedy jen skládá odpovědi, a i když dokáže odpovídat i na hodně abstraktní dotazy, jde jen o syntézu naučeného. AGI by měla zvládnout mít na základě poznaného svůj vlastní názor a ten si obhájit.

Pojďme se teď na chvilku vrátit do současnosti. Jak se dají stávající jazykové modely využívat?

Hodně skloňovaným slovem je dnes automatizace procesů a přesně k tomu se dá AI už celkem dobře využívat. Když se podíváme do kanceláří, tak tam už běžně vytváří AI implementovaná v informačních systémech například zápisy z porad, přiděluje úkoly jednotlivým lidem, vytváří podklady pro naši práci. Zároveň ale může díky takzvaným agentům vytvořit de facto firmu ve firmě. Agenty AI si v tomto případě můžete představit jako předem definované funkce s konkrétními cíli.

V tomto případě tedy mohou mít agenti stanovené jednotlivé pracovní role, takže můžeme mít agenta ředitele, druhý může být projektový manažer, další designér, další pak například kritik produktu. Člověk umělé inteligenci řekne svůj požadavek a tito agenti pak pracují v rámci svých rolí, „dohadují se“ mezi sebou a nakonec vygenerují výsledek, kterým může být dle primárního zadání třeba prvotní návrh produktu. Mimochodem, pomocí těchto agentů se dá zvýšit IQ daného modelu.

Hodně odborníků i zaměstnavatelů říká, že díky automatizaci rutinních procesů získají lidé prostor na smysluplnější práci. Souhlasíte s nimi?

Ještě před nějakým časem se říkalo, že lidé z kanceláří, programátoři i či umělci se o práci bát nemusejí. Tehdy se automatizoval hlavně průmysl a například programátoři robotů byli pro chod podniku nezbytní. Osobně si ale myslím, že AI je v tomto ohledu gamechangerem, jehož potenciál si zatím moc lidí nechce připustit. Vývoj jde tím směrem, že programovací jazyky nebudou potřeba, stačit bude obyčejná čeština, angličtina či jakýkoliv jiný jazyk dle prostředí.

Takový pohled do nedaleké budoucnosti už přináší třeba Tesla, v níž nahradili 10 tisíc řádků C++ kódu jazykovým modelem, který vytrénovali pro své potřeby. A podobné to bude s mnoha dalšími profesemi. Za čas nebude poznat, jestli náš rozhovor povede a napíše člověk, nebo jestli jej bude vytvářet AI. Hudba, literatura, překlady a mnoho dalších lidských činností může AI převzít mrknutím oka. A pokud se ještě spojí A(G)I a robotika dohromady... 

Tak to vypadá na zásadní proměnu celé společnosti, že?

Řekněme to tak, že lidé budou mít asi hodně volného času a je otázkou, jak s ním naloží. Je docela pravděpodobné, že se život člověka v blízké budoucnosti výrazně promění, ale jak vlastně? Budou za nás pracovat už jen roboti? Dokážeme získaný čas využít dobře? Prodlouží se díky novým objevům spojeným se schopností A(G)I život? Budou vůbec potřeba peníze? Těch otázek je hodně, odpovědi zatím nemáme téměř na nic.

Vize budoucnosti může být ale daleko temnější, pokud lidé začnou schopnosti AGI zneužívat.

Umělou inteligenci lidé zneužívají k nekalým účelům už nyní. Podívejte se třeba na deep fake videa. Dnes se ještě ve většině případů fake video dá rozpoznat například ze špatně generovaného pohybu úst, který neodpovídá vyřčeným slovům, ale za půl roku může být situace úplně jiná. A i nyní se deep fake videa s konkrétními lidmi (typicky politiky), nebo nějakými událostmi šíří sociálními sítěmi. Uživatelé neověřují jejich pravost a sdílejí je dál, konzumují do jisté míry paralelní realitu, na jejímž základě si vytvářejí názory.

S příchodem AGI pak klasický internet tak, jak ho známe nyní, zanikne. Nebude totiž možné zjistit, co je pravda a co není. Bude to jen multimediální Babylon, v němž se bude míchat skutečnost a s určitými záměry vytvořená skutečnost. A velkým varováním by pro nás mělo už teď být, že na vytvoření paralelní reality nebude muset u AGI sedět IT/AI expert. Zvládne to prakticky kdokoliv. Myslím si, a nejsem určitě sám, že umělá inteligence je v podstatě mnohem nebezpečnější než třeba jaderné zbraně. Může zasáhnout a zničit daleko větší množství lidí a na stromě se nepohne ani lístek. 

Nemělo by tedy lidstvo přemýšlet, jak umělou inteligenci svázat nějakými etickými pravidly?

Nejen že by o tom lidstvo mělo přemýšlet, je potřeba hlavně konat, a to velmi rychle. Ve světě už se nějaké regulace zavádějí, ale problematika AI je co do složitosti a rizikovosti na úrovni jaderné technologie. A velký problém je v tom, že přísné regulace, které se nakonec podařilo zavést u jádra, jsou ve světe software o dost složitěji prosazovatelné. Důvod je nasnadě – člověku totiž stačí počítač, nepotřebuje žádný uran nebo podobné vzácné věci.

Na jednu stranu cítím, že regulace musí přijít zejména ve státech, které jsou ve vývoji AI nejdále, tedy hlavně v USA, která jednoznačně vede veškerý vývoj AI. Na druhou stranu si ale moc nedokážu představit, že by AI šlo regulovat a omezovat dokonale, protože již dnes vyšel model, který překonává ChatGPT-4 a je open source, čili volně dostupný. Takže AI v tomto ohledu půjde regulovat asi tak, jako internet samotný. Což znamená velice těžko nebo spíše vůbec. 

Jenže takový „Klondike“ je skutečně nesmírným rizikem pro celou společnost.

Jedním z možných řešení je proto decentralizace AI/AGI tak, jak to navrhuje a prosazuje Emad Mostaque, bývalý CEO Stability AI, který se dnes plně věnuje právě decentralizované a otevřené AI. Ta by totiž měla být ku prospěchu celému lidstvu, nejen korporacím. Korporace totiž ze své podstaty a své historie preferují zisk před obecným dobrem. Proto ať je regulace jakákoli, lze najít v korporátním světě kličky. Google má například své sídlo v Irsku, aby odváděl co nejnižší daně, a přesně stejně může být vývoj AI v režii korporací přesídlen do jakéhokoli státu, který regulace nezavede.

Nicméně ač má decentralizovaný open source přístup své výhody, nese s sebou i riziko v podobě nekontrolovaného šíření, a také by potřeboval nějaký etický rámec a systém samoregulace komunity. Řešení tedy vidím v kombinaci různých přístupů – státní regulace, etické kodexy průmyslu a akademické sféry, tlak a dohled veřejnosti i decentralizované otevřené alternativy. Je to složitý problém a debata teprve začíná. Nejdůležitější ale je, abychom rizika nepodcenili a našli odvahu k razantním krokům, dokud je čas. Technologie je mocný nástroj, který musíme umět zkrotit a nasměrovat k prospěchu lidstva, jinak nás nečeká hezká budoucnost.