Cílem studie Kansaské univerzity bylo zjistit, zda je text generovaný jazykovým modelem ChatGPT pod dohledem odborníka na zdravotní péči stejně důvěryhodný jako text, jejž tento odborník sám sepíše. Zúčastnilo se jí 116 rodičů ve věku od 18 do 65 let. A ukázalo se, že účastníci v mnoha případech přisoudili větší důvěryhodnost umělé inteligenci.

Výzkum začal hned po spuštění ChatGPT. „Rodiče často vyhledávají rady ohledně zdraví svých dětí na internetu. Chtěli jsme zjistit, jak budou využívat tohoto nového, snadného způsobu získávání informací a čeho bychom se měli obávat,“ uvedla vedoucí studie, expertka na dětskou psychologii Calissa Leslie-Millerová.

Rodiče dostali k posouzení články s doporučeními například o spánkovém režimu nebo výživě kojenců, přičemž nevěděli, které texty jsou psané lékaři a které generované nástrojem ChatGPT.

Hodnotit měli to, jak na ně obsah textů působí z hlediska důvěryhodnosti, odbornosti a přesnosti informací, a uvést, s jakou pravděpodobností by se na rady v nich obsažené spoléhali.

Respondenti v celé řadě případů hodnotili lidský a uměle generovaný obsah velmi podobně, a pokud se jejich hodnocení výrazněji lišilo, častěji přisoudili větší důvěryhodnost tomu od AI.

Výzkumníky to překvapilo zejména proto, že jejich studie probíhala v dobách, kdy byl ChatGPT ještě v plenkách a k dokonalosti měl hodně daleko. Podle Millerové to dokazuje, že umělá inteligence se začleňuje do našeho světa tak, že lidé ani nepoznají, že nečtou text od živého člověka.

To je znepokojující zejména proto, že nástroje umělé inteligence jsou náchylné k tzv. halucinacím – chybám, které se objevují, když systém nemá dostatečné množství ověřených zdrojů, z nichž může čerpat.

„Obáváme se, že lidé budou v otázkách zdravotního poradenství stále více důvěřovat AI bez řádného odborného dohledu. Pro děti a jejich zdraví to může mít závažné důsledky. Je klíčové, abychom tuto problematiku řešili,“ varuje Millerová.