Robot může být učitelem, koučem nebo personalistou. Umí ale plánovat i kyberútoky
Překotný rozvoj umělé inteligence přináší nejen obrovské možnosti. Největší obavu mám, že při jejím využití budou rychlejší „zlí hoši“, říká šéfka české pobočky společnosti SAP Hana Součková
Umělou inteligenci si dnes většina lidí spojuje s chytrými chatovacími roboty, kteří umějí – pro někoho až šokujícím způsobem – detailně a fundovaně zodpovědět i velmi záludné otázky. Ve skutečnosti ale zdaleka nejde jen o dramaticky vylepšený způsob, jak na internetu hledat a zpracovávat informace.
Velkou roli může hrát i při běžném provozu firmy – třeba v oddělení lidských zdrojů. Umělá inteligence, kterou nabízí společnost SAP, tak například umí napsat precizně formulovanou poptávku s detailními požadavky na nového zaměstnance. Poté zvládne roztřídit došlé životopisy, vybrat z nich nejperspektivnější zájemce a ty pak rovnou pozvat na pohovor.
Podle ředitelky české pobočky IT společnosti SAP Hany Součkové může „robot“ posloužit také jako učitel a kouč, který člověku sestaví detailní plán osobního rozvoje a vzdělávání a zároveň na něj dohlíží a kontroluje dosažené výsledky. Současně s sebou ale umělá inteligence přináší řadu rizik a otázek, které bude potřeba vyřešit.
Umělá inteligence je posledních několik měsíců obrovské téma, zájem veřejnosti upoutali chatovací roboti… Nastartovalo to větší zájem o AI i ve vašem případě, u vašich zákazníků? Vnímají ji jako šanci, nebo hrozbu pro svůj byznys?
Ano, už několik měsíců vnímám, že začali mít konkrétní představy, jakým způsobem by mohli umělou inteligenci využívat. Hezkým příkladem je rozhovor s jedním ze zákazníků, který jsem teď vedla. Když viděl ukázky, jak AI umí pomáhat v oblasti lidských zdrojů například při zadávání výběrového řízení na nové zaměstnance, ptal se, jestli bychom uměli pomoci také při předpřípravě a vyplňování formulářů.
Jak konkrétně?
Vysvětloval, že pro zákazníky jejich společnosti je vyplňování formulářů příliš náročné, musí si kvůli tomu načíst informace. Lidé se pak raději nezapojují do digitalizace a spíš přijdou na pobočku, kde jim s vyplněním pomohou. Zajímalo ho, jestli by místo člověka z masa a kostí nemohla pomoci umělá inteligence, která by zákazníky během vyplňování provázela. Firmy tedy nevnímají umělou inteligenci jako hrozbu a hledají způsoby, jak by jim mohla pomoci. Spíš chybí jakási evangelizace v tom, že AI není jen chytrý ChatGPT, který umí odpovědět na nějaké dotazy, ale že je možné ji zakomponovat do byznysových scénářů.
Ve světle boomu chatovacích botů vidí umělou inteligenci v takto zúžené podobě?
Zatím ano.
Je využití AI ve vašem byznysu hnáno tím, co vy zákazníkům představíte a nabídnete, nebo za vámi chodí s vlastní představou, co by potřebovali?
Máme i zákazníky, kteří už své interní AI evangelisty mají, ti za námi chodí s vlastními požadavky.
Řekla bych, že až dvacet procent firem má člověka, který umělé inteligenci rozumí. Který například zná jazykové modely, co umožňují a jak se dají využít. Zbylých osmdesát procent zatím zůstává v rovině, kdy spíš hledají inspiraci.
V souvislosti s umělou inteligencí se mluví nejen o tom, jak bude pomáhat, ale i o rizicích a sporných otázkách. Kde vidíte rizika vy?
Ano. Využití AI pro byznys má spoustu otazníků. A nemyslím tím například jen GDPR nebo autorská práva při tvoření obsahu s pomocí umělé inteligence. Mluvila jsem s člověkem z oboru telekomunikací, který popisoval, že velmi aktivně řeší, jak umělou inteligenci využívat, ale že narážejí také na velmi silné etické a sociální aspekty.
Jaké?
Například při využití v kontaktních a call centrech. Firmy mají nastavená pravidla a regule, jak má komunikace směrem k zákazníkům vypadat. Ale už jste určitě zaznamenal pokusy dostat umělou inteligenci do úzkých, aby komunikovala neeticky nebo nevyrovnaně z hlediska diverzity a podobně. To je dnes riziko. Jazykovým modelům nemůžete dát hranice, ony pracují podle vstupů, které mají. Hrozí tedy riziko, že to firmě „ujede“ a umělá inteligence se začne chovat jinak, než jak by společnost chtěla s ohledem na své firemní hodnoty. Firma za to ale musí převzít odpovědnost. Hodně se tak třeba bude řešit otázka, do jaké míry AI rozšířit a využívat bez dohledu lidí.
Nastavováním mantinelů pro umělou inteligenci se zabývají i politici, například Brusel připravil rozsáhlou regulaci. Jak se na ni díváte? Nebude omezující pro další rozvoj této technologie?
AI můžeme rozlišit na veřejnou a vnitřní. SAP se zabývá tou druhou variantou, tedy využitím umělé inteligence směrem k našim, respektive k zákaznickým datům, k tomu, co je „uvnitř“. To jsou data, která jsou nějakým způsobem verifikovaná, nevznikla bez ověření. Toto je méně riziková oblast a domnívám se, že regulace není v tomto případě až tak potřeba.
Velmi důležité ale je, aby si rizika uvědomily samotné firmy. Už se objevily případy úniku informací, které někdo z firmy zadal do veřejného chatovacího robota, a kvůli tomu se data dostala do nepravých rukou. Čili firmy budou muset regulovat spíš vnitřně a nastavit mantinely, jak smějí zaměstnanci AI využívat. My jsme to v SAP už interně aplikovali. ChatGPT jsme zaměstnancům nezakázali, ale určili jsme, které věci tam člověk zadávat smí a které ne.
Jak ovlivní AI samotnou firmu SAP? Například IBM už oznámila, že umělou inteligencí celosvětově nahradí několik tisíc zaměstnanců. Bude to téma i u vás?
Nemyslím si, že by to mělo mít dopad přímo na zaměstnance ve smyslu propouštění. Umělou inteligenci spíš vnímáme tak, že nám pomůže udržet tempo, doplnit kapacity.
Například v Brně v našem oddělení výzkumu a vývoje zaměstnanci používají umělou inteligenci k verifikaci čistoty kódů nebo při lokalizaci softwaru. V oblasti lidských zdrojů AI používáme, ale jinak.
Jak?
Lidské zdroje jsou jednou z oblastí, kde dnes běží obrovská automatizace a digitalizace. U nás máme už skoro tři roky vnitřního robota, který porovnává a prioritizuje životopisy, domlouvá pohovory s kandidáty. Na tom se dá ušetřit spousta času, který mohou lidé věnovat odborné práci místo třídění a administrování životopisů. A nejde jen o úsporu času, pomáhá i z jiného pohledu. Válka o talenty je dnes mezi firmami na českém trhu obrovská a při hledání zaměstnance je důležité umět co nejpřesněji popsat, koho vlastně hledáte, konkretizovat co nejvíc požadavky. S tím umí AI pomoci a díky tomu se nabídka a poptávka mohou „potkat“ mnohem rychleji.
Když se zeptám obecněji, jaký vliv na zaměstnanost bude mít AI v Česku? Jak moc bude lidem brát práci?
Když to vezmu z pohledu IT, kde se pohybuji, v Česku chybí tisíce odborníků, takže představa, že AI sebere lidem v IT práci, je opravdu úsměvná.
Mluvili jsme o pomoci při vyplňování formulářů, o personalistice. Kde dál vidíte uplatnění umělé inteligence, kde je nejblíž praxi?
Obrovskou příležitost pro umělou inteligenci vidím v personalizovaném vzdělávání. Ve chvíli, kdy ji takto firmy začnou aplikovat, nebudou muset například všichni zaměstnanci absolvovat stejné kurzy, i když je třeba nepotřebují. AI pomůže ušít každému vzdělávání na míru podle toho, co k práci potřebuje nebo kde má mezery.
Ano. Umělá inteligence vám vygeneruje váš osobní plán rozvoje a také bude dbát na to, abyste to, co jste se naučil, mohl skutečně využívat.
Vraťme se k regulaci a rizikům umělé inteligence. Máte z něčeho do budoucna obavy? Může se třeba umělá inteligence vymknout kontrole?
Obav existuje více, ale kdybych měla vyjádřit tu největší, bude to možnost, že AI budou využívat také „zlí hoši“ – třeba při přípravě kybernetických útoků. A že budou ve schopnosti ji efektivně využívat rychlejší než my. Protože AI je přístupná pro všechny.
Dnešní modely AI mají nastavená vnitřní etická pravidla. Je otázka, jestli si „temné síly“ nevyvinou svůj vlastní model…
Ano. Je důležité na to upozorňovat, protože pokud budeme dlouho váhat a regulovat, mohou nás „zlí hoši“ předběhnout.
Dva nejvýznamnější modely umělé inteligence vyvíjejí Microsoft a Google, tedy dva největší světoví hráči v technologiích. Nemáte obavu, že tato masivní studnice vědění je pod jejich kontrolou, že to mohou nějak zneužívat?
Měly by vzniknout určité komunity. My spolupracujeme s IBM, Microsoftem i Googlem a chceme vytvářet transparentnost minimálně na úrovni těchto velkých hráčů. Ale myslím si, že možná nikdo ještě neumíme dohlédnout, na jakém milníku jsme. Jasně, internet v minulosti přinesl obrovský pokrok a velké změny. Ale teď konvergují v jeden moment další nové technologie, ať už je to AI, Metaverzum čili jakýsi virtuální svět, blockchain a podobně. Bude extrémně zajímavé pozorovat, co nového to přinese. My se teď bavíme jen o umělé inteligenci, ale když si k tomu přidáte „internet věcí“, znásobí se objem dat, s nimiž je možné pracovat. Opravdu si myslím, že žijeme v době, kdy se science fiction stává součástí reality.
Možná trochu přízemnější otázka: přímo se nabízí využití umělé inteligence ve státní správě. Ta dělá spoustu úkonů, které může nahradit stroj. Vy spolupracujete i s úřady, jak se na AI dívají?
Rozhodně ano, ten prostor ve veřejné správě je velký. Samozřejmě všichni víme, že co se digitalizace týče, má Česká republika hodně co dohánět. Jednou z věcí, které nás nejvíc brzdí, je roztříštěnost datových modelů i dalších systémů. Když se podíváte na státy okolo nás, všude se agendy určitým způsobem zkonsolidovaly a vytvořily se modely, které jdou napříč státní správou. To výrazně zrychlilo digitalizaci. Strašně fandím aktuální vládě, aby našla vůli k tomu, aby se nepokračovalo v resortnosti. Protože situace, kde jsme, je důsledkem toho, že se každý resort snaží držet si co největší vliv.
Na závěr ještě malá odbočka od umělé inteligence. Kromě ní je dnes výrazné téma ESG. Slova jako inkluze, diverzita, udržitelnost nebo uhlíková stopa. Ale upřímně, opravdu je to pro podnikatele téma? Nebo o tom mluví spíš kvůli tomu, že je to dnes „trendy“, případně z donucení?
U našich zákazníků se setkávám se třemi typy reakcí. První je: Musíme to dělat, protože to vyžaduje regulace. Druhá varianta jsou firmy, u nichž je ESG spojené s brandem společnosti. Chtějí se tím odlišit a většinou jsou ještě mnohem dál, než co říká regulace. Nepočítají třeba jen svou vlastní uhlíkovou stopu, ale také rozsáhlejší dopady třeba z pohledu životního prostředí v zemích, kde podnikají nebo kam vyvážejí. Třetí reakce zní: Zatím řešíme úplně jiné problémy a k těmto tématům jsme se ještě nedostali.
Je to zhruba na třetiny. Nicméně jsem přesvědčená, že skutečný tlak na témata, která jste zmiňoval, teprve přijde. Když si vezmete generace X, Y a Z a jejich nákupní chování a rozhodování, jsou pro ně témata udržitelnosti nebo diverzity výrazně důležitější než pro starší generace.
Budou prostřednictvím svého spotřebitelského chování na firmy tlačit, aby ESG nedělaly jen „naoko“?
Ano. Už dnes je to vidět třeba z pohledu motivace lidí z těchto generací při nástupu do práce. Tyto hodnoty jsou pro ně mezi prvními třemi čtyřmi nejdůležitějšími prioritami, podle nichž se rozhodují pro určitého zaměstnavatele. Pozoruji to i u nás a jsem až překvapená, jak nás sami zaměstnanci v této věci tlačí.
Abych to shrnula, z pohledu trhu bude tlak hodně tažený regulací a legislativou, velkou roli budou hrát i banky z hlediska financování. Už dnes úvěrování některých oborů zavrhly. Stejnou váhu ale bude do budoucna mít příchod nové zákaznické struktury, která bude na ESG klást větší důraz. Bude ji zajímat nejen to, zda o udržitelnosti firmy mluví, ale také jestli skutečně něco dělají. A dodala bych, že klíčové bude nejen to „E“, tedy ekologie a udržitelnost, ale také „S“, tedy sociální otázky, a „G“ – řízení společností.
Hana Součková (48)
• Absolvovala Fakultu stavební ČVUT v Praze.
• Místo stavařiny se věnovala oblasti marketingu v IT firmách.
• Působila na manažerských marketingových pozicích ve společnostech Ness, APP a Scala.
• Do SAP nastoupila v roce 2014, kdy se ujala funkce ředitelky českého a slovenského oddělení podpory obchodu.