Tisíce žalob a společný postup všech padesáti států USA donutily společnost Meta konečně jednat. Kvůli šíření dětské pornografie a obtěžování nezletilých uživatelů společnost testuje na provozovaných sociálních sítích novou funkci, která automaticky nahlédne do zasílaných zpráv a v případě, že bude závadná, ji zcenzuruje.

Meta tak reaguje na stále více stížností na takzvaný sextortion. Jak vysvětlují experti na kyberbezpečnost z Univerzity Palackého, tento pojem vznikl spojením slov sex + extortion a označuje vydírání (z angl. extortion), při kterém jsou využívány intimní materiály, jako jsou fotografie a videa.

Sextortion, zaměřený na konkrétní osobu, začíná vždy nevinně – oslovením. V prostředí sociálních sítí nám napíše neznámý člověk, který si s námi chce povídat.

„Postupně s námi naváže důvěrnější vztah a komunikace začne přecházet například k výměně intimních fotografií, případně ke komunikaci přes webkameru, ve které nás opět manipuluje k tomu, abychom se na kameře obnažili či například masturbovali. Pachatel si vše ukládá a jakmile záběry získá, začne je využívat k vydírání. Vyhrožuje, že vše zveřejní a poškodí naši pověst, zničí nám život, zlikviduje nás profesně… Pokud nezaplatíme, případně mu nebudeme posílat další materiály,“ uvádějí experti.

Zásadní změna

Sociální sítě jako Instagram nebo TikTok dlouhodobě čelí kritice za to, že sextortion dostatečně nepotírají. Manažeři sítí se veřejně dušují, že jsou výtky nefér a dlouhodobě pracují na mechanismech, které by sexuální obtěžování a obsah měly zamezit. Zásadní funkce však dorazí až nyní, zjistila zpravodajská televize CNN.

Novinka bude monitorovat zprávy neplnoletých uživatelů a v případě, že odešlou fotku nebo video, na níž budou obnaženi, takový obsah rozmaže. Pro druhou stranu tak bude takový materiál k vydírání v podstatě bezcenný.

„Bylo dobře zdokumentováno, že tento zločin (sextortion) je na vzestupu. To je jeden z důvodů, proč chceme jít vpřed a zajistit, aby lidé věděli, co děláme, že neustále rozvíjíme naše nástroje řešící tento problém," vysvětluje Antigone Davisová, šéfka bezpečnostní divize Mety.

Nejnovější nástroj má navázat na již existující bezpečnostní funkce chránící mladistvé. Firma na Facebooku a Instagramu již před několika měsíci zavedla i jiná přísná nastavení. Ta třeba brání v komunikaci mezi účty, které nejsou ve spojení přes přátelství nebo sledování. Uživatelé mohou také nahlásit přímé zprávy, kde je někdo vydírá nebo kde jsou žádáni o zaslání intimního obsahu.

Podle testu CNN nová funkce zasáhne v prvé řadě do messengeru Instagramu. Pokud někomu pošlete intimní obrázek či video, platforma obsah znehodnotí a informuje příjemce, že obsahuje nahotu. Adresáta také upozorní, že nemusí odpovídat, a zeptá se, jestli chce blokovat odesílatele. Upozornění dostanete i ve chvíli, kdy platforma zjistí, že uživatel chce poslat nahou fotku, a podnítí ho k přehodnocení odeslání.

Pro mladší 18 let bude nástroj automaticky zapnutý, ale dospělí také obdrží upozornění, které je povzbudí k povolení nástroje. Funkce se zatím testuje, kdy bude nasazena do ostrého provozu, Meta nesdělila. V tiskovém prohlášení však opět apelovala zejména na rodiče, aby byli v kontaktu se svými dětmi a případné obtěžování okamžitě nahlašovali technické podpoře sociálních sítí.