Nový výzkum odhalil, že chatboti jako ChatGPT jsou schopni dovodit vaši rasu, polohu, povolání a další informace, jež vůbec nezmiňujete. „Tento jev pramení ze způsobu, jakým jsou algoritmy těchto modelů trénovány na rozsáhlém webovém obsahu, což je klíčová součást jejich fungování,“ cituje časopis Wired autora průzkumu Martina Vechova, informatika ze švýcarské univerzity ETH Zürich.

Tato znepokojivá schopnost si zrovna říká o zneužití k podvodům, jako je krádež totožnosti nebo velmi přesné cílení reklamy. „Je to velký problém a není jasné, jak jej řešit,“ říká Vechev.