Největší světová sociální síť je dlouhodobě kritizována za nedostatečnou kontrolu obsahu a slabou akceschopnost při mazání extremistických příspěvků či rovnou celých skupin. Facebook proto na letošní rok připravil mohutné investice do umělé inteligence, která měla projevy nenávisti a závadný obsah rychle odhalovat a okamžitě mazat. Jak však zjistil web Politico, nové nástroje úplně dobře nefungují.

Týká se to zejména islámských extremistických skupin, které na Facebooku bez větších potíží dál fungují, a dokonce na nich lze nalézt autentické záběry poprav či sebevražedných atentátů. „Náborové“ skupiny často obsahují výzvy k útoku na západní mocnosti či místní nepřátelské skupiny. Jedna z takových, podporující hnutí Tálibán, měla dokonce přes sto tisíc členů a bez problémů fungovala dlouhé měsíce, než ji web Politico nahlásil za závadný obsah. Facebook sice zareagoval a stránku smazal, jen pár hodin nato se však objevila nová skupina, která rychle získávala členskou základnu.

Některé ze skupin, které se hlásí k Tálibánu či Islámskému státu, přitom využívají nové funkce Facebooku, jež by měly administrátorům usnadnit rozšiřování okruhu sledujících a rychlejší budování komunity a zisk většího množství interakcí.

Od začátku letošního roku se Facebook podle vlastního vyjádření snaží najímat více lidí, kteří mluví paštštinou a jazykem darí, tedy variacemi převážně perštiny, jimiž se hovoří na území Afghánistánu. Podle všeho ale nedostatečně, právě tento aspekt je totiž jedním z hlavních důvodů, proč se závadný obsah v této oblasti často nedaří zachytávat. Poslední data z konce loňského roku ukazují, že méně než jedno procento projevů nenávisti v Afghánistánu bylo loni z Facebooku odstraněno.

„Je to očividně problém,“ řekl webu Politico Adam Hadley, šéf neziskové organizace Tech Against Terrorism, která bojuje s nárůstem extremismu v online prostoru. „U obsahu, který není v angličtině, se nedaří zajistit dostatečné množství zdrojů u algoritmů, které by s tím byly schopné bojovat,“ dodal s tím, že filtry Facebooku nejsou dostatečně sofistikované, aby byly samy schopny označit závadný obsah v arabštině a již výše zmíněných jazycích.

V islámském online prostoru zaměřeném na terorismus tak může docházet ke značně paradoxním situacím, kdy si znepřátelené šíitské a sunnitské skupiny na své stránky navzájem umisťují pornografický obsah, aby zvýšily šanci, že právě stránka rivala bude s větší pravděpodobností smazána. Facebook totiž podle nich spíš odstraňuje erotický obsah než projevy násilí a nenávisti.

Facebook tak bude i nadále obviňován z pokrytectví, zejména co se týče bývalého amerického prezidenta Donalda Trumpa, jemuž po lednovém útoku na Kapitol zablokoval účet. Dál totiž toleruje tálibánské skupiny a dosud nedokáže efektivně bojovat s otevřenými projevy extremismu.