Výzkumníci z OpenAI dosáhli v posledních měsících průlomu, který je potenciálně přímým krokem k řádově výkonnějším modelům umělé inteligence, než jaké jsme dosud znali. Firma vytvořila (za použití blíže nespecifikované nové technologie) model umělé inteligence, který dokázal řešit nečekaně složité matematické úlohy. To je zásadní průlom, jenž mezi některými zaměstnanci OpenAI posílil již existující obavy ohledně rychlosti vývoje umělé inteligence – a existence případné záchranné brzdy.

Den předtím, než představenstvo OpenAI propustilo generálního ředitele Sama Altmana („puč“ v OpenAI jsme popsali v samostatném článku), přednášel dotyčný na summitu APEC (Asijsko-pacifické hospodářské společenství). Zmínil tam nedávný technický pokrok, jenž společnost učinila a který jí umožnil „poodhrnout závoj nevědomosti a posunout hranice objevů“. Na summitu to zůstalo nepovšimnuto, protože když slova zazněla, nikdo netušil, jaký zmatek následující dny přinesou.

Někteří zaměstnanci OpenAI, kteří anonymně mluvili s reportéry serveru The Information, se domnívají, že Altman na konferenci mluvil o objevu ze začátku tohoto roku, jejž firma dosud držela pod pokličkou. Tato inovace by měla OpenAI umožnit vyvinout mnohem výkonnější modely umělé inteligence. 

Sebekritika a návrat

Vtip je v tom, že za tímto technologickým průlomem stojí „šéfvědec“ OpenAI Ilya Sutskever, jehož běh událostí načas vynesl do čela Altmanových odpůrců v představenstvu. (Později Sutskever provedl sebekritiku, prohlásil, že své role v postupu proti Altmanovi a spol. trpce lituje, a získal povolení u firmy zůstat, byť už ne jako člen představenstva.) Byl to sice právě Sutskever, kdo se na novém objevu nejvíce podílel, ironií osudu však zrovna on vyvolal později mezi zaměstnanci obavy, že společnost nemá k dispozici vyhovující záruky bezpečné komercializace takto pokročilých modelů umělé inteligence. 

Vraťme se ale ke zmíněnému objevu. Vedoucí výzkumníci OpenAI Jakub Pachocki a Szymon Sidor jej během tohoto roku využili k vytvoření systémů, které dokázaly řešit složité (a řečenému systému umělé inteligence dosud neznámé) matematické problémy. Pro stávající modely umělé inteligence to byl dosud mimořádně obtížný úkol. 

Když se poleká technooptimista

Model s patřičně jazykolamným názvem Q* (vyslovuje se „Q-Star“) poté koloval mezi zaměstnanci OpenAI a leckterého z nich jeho „chytrost“ vyděsila. Zde je namístě připomenout, že tým v OpenAI je složen z lidí, kteří o umělé inteligenci vědí patrně více než zbytek světa dohromady, a navíc se počítají k technooptimistům. Když se tihle lidé leknou, co všechno nějaký software umí, je to něco jiného, než když na totéž vytřeští oči vaše prateta či hospodský v trampské osadě (nebo autor tohoto textu, když jsme u toho).

Sutskever dal proto letos v červenci v rámci Open AI dohromady užší tým, který se věnoval omezování hrozeb ze strany AI systémů výrazně inteligentnějších než člověk. Na své webové stránce tým uvádí: „Ačkoli se superinteligence zdá být nyní vzdálená, věříme, že by mohla dorazit již v tomto desetiletí.“ 

Pachocki a Sidor součástí tohoto užšího týmu nebyli a Sutskeverovy obavy sdíleli jen částečně, pokud vůbec. Byli mezi prvními, kteří po Altmanově odvolání rezignovali – a když byl šéf „restaurován“ zpět na své místo, oba se do firmy zase vrátili. (Stejně se zachoval další špičkový výzkumník, prezident komerční větve OpenAI Greg Brockman.)

Rozšíření úzkého hrdla

Sutskeverův průlom údajně spočívá v tom, že se mu podařilo obejít úzké hrdlo dosavadního vývoje AI, sběr kvalitních dat, na nichž se nové modely AI cvičí. V nové Sutskeverově verzi může takový model-učeň namísto skutečných dat (například stažených z internetu) používat údaje uměle vytvořené počítačem. A těch si samozřejmě může takový supervýkonný stroj „napískat“, kolik uzná za vhodné: za pět prstů a bez rizika žalob ohledně autorských práv.

Příznivci rychlého pokroku však zřejmě viděli, co se chystá. Několik měsíců poté, co Sutskever vytvořil svůj protirizikový tým, najala OpenAI Aleksandera Mądryho z MIT (Massachusettský technologický institut) na de facto tutéž práci – měl vypracovat zásady odpovědného trénování modelů. Byl však přímo podřízen ředitelce firemních technologií Miře Muratiové (nakrátko byla i Altmanovou nástupkyní), nikoli Sutskeverovi. Dodejme, že i Mądry poté podal výpověď spolu s Pachockim a Sidorem. Nakonec se k nim přidalo téměř všech 700 zaměstnanců OpenAI.

Daniel Deyl

Který z obou přístupů – opatrný, či bezstarostný – byl rozumnější, dosud nevíme. Také neznáme odpověď na klíčovou otázku, co vlastně Altman provedl. Po celých pět dnů korporátní přestřelky nebylo jasné, čím přesně se provinil, že musel dostat na hodinu padáka. Kromě nás diváků to překvapivě nebylo zřejmé ani členům představenstva, jež jej odvolávalo. Ti pouze mluvili o „postupné erozi“ důvěry. 

Otázky bez odpovědí

Na tuto otázku by mělo přinést odpověď vnitrofiremní šetření. Nové představenstvo – dosud neúplné – tvoří někdejší šéf firmy Salesforce a Altmanův spojenec Bret Taylor, exministr financí Larry Summers a šéf provozovatele serveru Quora Adam D’Angelo (jediný přeživší člen představenstva původního).

Další delikátní otázka zní, co se stane s Iljou Sutskeverem. Šéf firemních vědců je autorem spousty technologických inovací a u mnohých zaměstnanců má renomé vizionáře (ne natolik silné, aby se za něho postavili, když o něco šlo, ale takový už je život). Na druhé straně je to muž, který spískal Altmanovu „defenestraci“. 

Kdyby byl Julius Caesar přežil vlastní smrt, povolal by k sobě znovu Bruta? Pokud by Brutus uměl, co nikdo jiný na světě nesvede, možná ano. A možná právě to drží nad vodou i Sutskeverovu kariéru v Open AI.

Microsoft posílí

Méně komplikovanou neznámou je budoucí vztah OpenAI a Microsoftu. Už před posledním vývojem bylo jasné, že OpenAI a její největší akcionář nejsou vždy ve shodě, což je pochopitelné. Nyní však lze očekávat, že Microsoft se bude snažit dále rozšiřovat své portfolio investic do umělé inteligence i mimo území OpenAI – a že ve firmě samotné bude bojovat za silnější slovo při rozhodování. Počítejme proto s tím, že až se prach usadí a nové představenstvo OpenAI bude kompletní, zasedne v něm i zástupce Microsoftu.

Satya Nadella v čele Microsoftu bude zřejmě mluvit i do podivuhodné řídicí struktury OpenAI, jež palácový převrat umožnila. Je pravděpodobné, že bude tlačit na změnu této struktury. Budou-li úspěšní, ovlivní to i další startupy s podobně neobvyklým řádem věcí. (Pro příklad netřeba chodit daleko; jedním z nich je konkurenční firma Anthropic.) 

A co to všechno udělá s celou branží umělé inteligence? Zákazníci OpenAI již během pětidenního firemního bezvládí začali jednat s vývojáři konkurenčních firem. Ještě důležitější však jsou investoři, kteří podle údajů serveru Crunchbase letos vložili do startupů souvisejících s umělou inteligencí více než 25 miliard dolarů rizikového kapitálu. 

Podle zdrojů serveru The Information zatím lidé tohoto kalibru považují trable OpenAI za ojedinělý výstřelek, nikoli za příznak obecnějšího rizika. Jestli události, k nimž došlo v polovině listopadu (lidé spjatí s AI je vnímali velmi zjitřeně, viz graf), přece jen přinesou ochlazení na trhu s umělou inteligencí, zjistíme rychle.