John Schulman je dosud posledním z vedoucích pracovníků, kteří v posledních měsících opustili firmu OpenAI, jedničku na trhu s umělou inteligencí. Jeden ze spoluzakladatelů firmy a klíčový architekt jejího chatbota ChatGPT, odešel k hlavnímu konkurentovi Anthropic. Tam bude pracovat na vylaďování (anglicky alignment = výzkum, jenž má zajistit soulad systémů umělé inteligence s lidskými hodnotami). V roce 2021 tuto firmu založila skupina bývalých výzkumníků OpenAI, která si zakládá na tom, že ve své branži staví „bezpečnost na první místo“.

Odklon od bezpečnosti 

Schulmanův odchod následuje poté, co se OpenAI rozloučil Ilya Sutskever, další spoluzakladatel firmy a její bývalý vědecký šéf. Spolu s ním odešlo i několik členů jeho týmu. 

„Mé rozhodnutí plyne z touhy prohloubit své zaměření na vyladění umělé inteligence a začít novou kapitolu kariéry, kde se budu moci vrátit k praktické technické práci po boku lidí, kteří se hluboce zabývají tématy, jež mě nejvíce zajímají,“ uvedl Schulman. „Aby bylo jasno, neodcházím kvůli nedostatečné podpoře výzkumu vyladění v OpenAI. Naopak, vedení společnosti se velmi angažuje v investicích do této oblasti,“ dodal. 

Odchod de facto zároveň také oznámil prezident OpenAI Greg Brockman. Na sociální síti X (někdejší Twitter) napsal, že si do konce roku vezme volno. „Poprvé od spoluzaložení OpenAI před devíti lety si odpočinu. Mise ještě zdaleka není dokončena, stále ještě musíme vybudovat bezpečnou AGI,“ napsal Brockman s odkazem na obecnou umělou inteligenci (Artificial General Intelligence), která může vylepšit kognitivní schopnosti člověka – nebo je nahradit. 

Tyto události následují po bouřlivém období celé OpenAI. Firma představila trhu řadu stále schopnějších chatbotů; její valuace se od vydání ChatGPT v listopadu 2022 vyšplhala na hodnotu 86 miliard dolarů. 

Společnost však čelila kritice kvůli překotnému tempu vývoje umělé inteligence a směřování svého výzkumu, jenž v rozporu s původním posláním začal prioritizovat komerční stránku věci na úkor veřejného zájmu. Tyto obavy vyvrcholily loni v listopadu během krize v představenstvu, jež Brockmana a generální ředitel Sam Altman odvolalo.

Odchody na denním pořádku 

Poté však na představenstvo zatlačili investoři (především Microsoft) a řečená dvojice se během pěti dnů do svých funkcí vrátila. Většina členů představenstva, kteří hlasovali pro Altmanovo odvolání Altmana s odůvodněním, že jim lhal, od té doby z firmy odešla. Jediným, kdo z doby krize ve funkci dosud zůstává, je generální ředitel společnosti Quora Adam D'Angelo. 

Některé z obav vznesených v listopadu však v následujících měsících zopakovali další bývalí zaměstnanci. Někteří z nich přístup OpenAI otevřeně kritizovali. Řada vedoucích pracovníků odešla, aby se věnovala vlastním projektům.

Schulmanův odchod a Brockmanova dlouhodobá dovolená znamenají, že z původních jedenácti zakladatelů OpenAI zůstal vedle Altmana pouze Wojciech Zaremba, vedoucí oddělení tvorby jazyka a kódu.   

Andrej Karpathy, další zakládající člen OpenAI z roku 2015, odešel v únoru, aby pracoval na vlastním projektu AI. Před časem firmu opustil také Peter Deng, produktový manažer, který nastoupil teprve loni po působení ve společnostech jako Meta, Uber a Airtable.

Elon Musk, který se podílel na založení OpenAI, ale v roce 2018 po střetu s Altmanem představenstvo opustil, podal na firmu žalobu, v níž tvrdí, že OpenAI a její výkonný ředitel se zřekli poslání prospět lidstvu, když uzavřeli obchodní partnerství s Microsoftem. Ten od roku 2019 věnoval OpenAI 13 miliard dolarů – a získal v ní de facto rozhodující slovo. 

Nablýskané produkty 

V květnu odešel Jan Leike, významný člen Sutskeverova týmu zaměřeného na bezpečnost. Kritizoval snahu společnosti zajistit zodpovědné využívání umělé inteligence. „V posledních letech byly kultura bezpečnosti a její procesy upozaděny ve prospěch nablýskaných produktů,“ napsal tehdy na X Leike, který také nastoupil do Anthropiku.

Schulmanovo angažmá v OpenAI začalo krátce poté, co dokončil doktorát z elektrotechniky a informatiky na Kalifornské univerzitě v Berkeley. Hrál klíčovou roli při vytváření platformy ChatGPT pro chatboty poháněné umělou inteligencí, když vedl tréninkový tým OpenAI, který vylaďuje generativní modely umělé inteligence tak, aby se řídily lidskými pokyny. 

Není náhrada 

Po odchodu Leikeho se Schulman stal vedoucím vědeckého úsilí společnosti OpenAI v oblasti vyladění. Byl také členem nedávno vytvořeného bezpečnostního výboru OpenAI; není jasné, kdo by jej mohl v této roli nahradit. 

V reakci na Schulmanův odchod se OpenAI omezila na suché prohlášení: „Jsme vděční za Johnův přínos jako zakládajícího člena týmu OpenAI a za jeho obětavé úsilí při rozvoji výzkumu slaďování. Jeho nadšení a píle vytvořily silný základ, který bude inspirovat a podporovat budoucí inovace v OpenAI i v celém oboru.“