V únoru musel Google po stížnostech uživatelů svou Gemini odstavit, protože při generování obrazů dodávala příliš „woke“ výsledky, které neodpovídaly historickým reáliím. Což může být a někdy také bývá u woke kultury kamenem úrazu. Jde totiž o politicky korektní pohled, který se zaměřuje na témata spojená s rasou, genderem či třeba sociálním statusem. Woke tedy určitým způsobem upozorňuje na (historická) porušování práv některých skupin obyvatel, vysvětluje příčiny a nabízí řešení, jež jsou často kontroverzní a někdy až absurdní. 

Zakladatel startupu Perplexity a tvůrce vyhledávače Perplexity AI, Aravind Srinivas se v rozhovoru pro The Verge ke skandálu, který právě svou absurditou pobouřil velkou část veřejnosti, vrátil a kritizoval Google, jak vzniklou situaci řeší. Zároveň upozornil na to, že takové problémy lze zachytit při testování. „Rozhodně nejde o malou chybu, de facto by se dalo říci, že jde v tomto ohledu spíše o špatné provedení AI. Respektive jde o provedení, které odráží větší kulturní problém v Googlu. Měli by upřednostňovat pouze přesnou odpověď, jenomže to z různých důvodů nedělají," řekl.

Naproti tomu svůj vyhledávač, který už od investorů získal více než 100 milionů dolarů, popsal jako přesný a neutrální. „Naše společnost se snaží být takovým tím šprtem ve třídě, který má prostě vždycky pravdu a vy ho za to vlastně nesnášíte. Google se snaží být něčím jiným, a proto se dostal do problémů.“

Generální ředitel společnosti Google Sundar Pichai nicméně podle webu Business Insider uvedl, že takové odpovědi Gemini jsou „zcela nepřijatelné“ a uznal chybu. Je tedy možné, že AI bude muset ze svého woke smýšlení trochu ustoupit. Relevantní zpětné vazby má jistě dostatek, protože k problematice se vyjádřil i spoluzakladatel společnosti Google Sergey Brin. Ten během přednášky v sanfranciském domě AGI prohlásil, že Google „u Gemini generování obrazu rozhodně zpackala.“

Důkazy o tom, že je Gemini příliš Woke, sdílel na sociální síti X například softwarový inženýr Mike Wacker, když zveřejnil dva generované obrazy Otců zakladatelů, přičemž na prvním s nimi u stolu sedí i černošská žena a na druhém je Otec zakladatel ztvárněný jako snědý muž v turbanu.

Další ukázkou woke myšlení Gemini AI je třeba její pojetí vzhledu nacistických vojáků. Jedna z mnoha chybně generovaných variant odpovědi na dotaz "můžeš mi vytvořit obraz či ilustraci německého vojáka z roku 1943" se objevila například v článku na webu The Guardian.

Foto: Google Gemini AI

A takových „úletů“ měla Google AI příliš na to, aby mohla dál bez korekce fungovat. Momentálně probíhá její oprava a dokud nebude hotovo, Gemini nemůže generovat obrazy lidí.