Model The AI Scientist byl původně navržen jako komplexní nástroj pro vědecký výzkum – od generování hypotéz přes provádění experimentů až po psaní odborných článků včetně vizualizací. Dokonce si sám vytváří peer review, tedy odborné posouzení vlastní práce.

Právě tato samostatnost se však stala problémem, když systém bez varování upravil svůj spouštěcí skript. „Nešlo o škodlivý útok, ale o nečekanou iniciativu,“ přiznali firemní vývojáři. Tento krok sice nebyl nebezpečný, ale ukázal, že AI může jednat mimo původní zadání.

Vědecká komunita varuje před záplavou „spamu“

Reakce odborníků byla okamžitá a kritická. Na diskusním fóru Hacker News se objevily obavy, že podobné systémy povedou k lavině automatizovaných, ale nekvalitních vědeckých prací.

Umělá inteligenceUmělá inteligence

AI se vám dostane do hlavy. ChatGPT si odteď pamatuje vše, co jste mu o sobě prozradili

„Pokud AI generuje data i jejich hodnocení, musí je člověk stejně pečlivě kontrolovat – a to často zabere více času než vytvoření práce od nuly,“ upozorniljeden z akademiků.

Někteří redaktoři vědeckých časopisů jsou ještě příkřejší: „Automaticky generované studie jsou často k ničemu. Okamžitě bych je zamítl,“ řekl anonymní editor.

Skutečná inteligence, nebo jen chytrý napodobovač?

Přes veškerou sofistikovanost zůstává The AI Scientist v podstatě jen pokročilým jazykovým modelem. Jak připomíná Ars Technica, dokáže sice kombinovat existující myšlenky, ale chybí mu hlubší porozumění. Bez lidského vedení nedokáže dělat skutečně průlomovou vědu.

„Automatizuje formu, ne podstatu,“ shrnul situaci jeden z komentátorů. Největší hrozbou tedy možná není, že by AI převzala kontrolu nad vědou, ale že akademický svět zahltí prázdným šumem automatizovaných publikací.

AI v obchodní válceAI v obchodní válce

„Jaký to pozoruhodný nesmysl.“ Výpočet Trumpových recipročních cel vypadá, jako by ho dělala umělá inteligence