A Facebook durván egy évtized alatt a világ meghatározó online platformjává vált. Jelenleg több mint 190 országban működik, és havi több mint 2,8 milliárd felhasználóval büszkélkedhet, akik több mint 160 nyelven tesznek közzé tartalmakat. Ezzel párhuzamosan a gyűlöletbeszéd, a lázító retorika és a félretájékoztatás közvetítőjévé vált.
A Reuters által megtekintett belső vállalati dokumentumok azt mutatják, hogy
a Facebook tudta, hogy nem vett fel elegendő embert, aki rendelkezik mind a nyelvtudással, mind a helyi események ismereteivel, amelyek ahhoz szükségesek, hogy azonosítsák a felhasználók kifogásolható bejegyzéseit számos fejlődő országban.
A dokumentumokból az is kiderült, hogy a cég mesterséges intelligencia-rendszerei sem alkalmasak az ilyen tartalmak eltávolítására. Ezenkívül a cég az oldal szabályait sértő bejegyzések megjelölését sem könnyítette meg a felhasználók számára.
Ezek a hiányosságok korlátozhatják a vállalatot abban, hogy beváltsa ígéretét, mely szerint blokkolja a gyűlöletbeszédet és más szabálysértő posztokat Afganisztántól Jemenig.
A Facebook régóta hangoztatja mesterséges intelligencia (AI) rendszereinek fontosságát, melyeket emberi felülvizsgálattal kombinál a platformok kifogásolható és veszélyes tartalmainak kezelésére. A gépi tanulási rendszerek különböző szintű pontossággal képesek észlelni az ilyen tartalmakat.
Az Egyesült Államokon, Kanadán és Európán kívül beszélt nyelvek azonban kifogtak a Facebook automatizált tartalommoderálásán – mutatják a Frances Haugen által nyilvánosságra hozott dokumentumok. A vállalatnál hiányoznak az AI-rendszerek a visszaélésszerű bejegyzések észlelésére a platformján használt számos nyelven.
Ezek a hiányosságok lehetővé tehetik a közösségi irányelvekkel ütköző bejegyzések elszaporodását azokban az országokban, ahol a Facebook maga megállapította, hogy a valós károk kockázata magas.
A The Wall Street Journal oknyomozó riportsorozatot közölt nemrég a Facebook belső dokumentumai alapján a cég visszás működéséről.
A vállalat saját kutatása részletesen kifejti, hogy szabályai hogyan kedveznek az eliteknek, platformjai negatív hatással vannak a tinédzserek mentális egészségére, hogy az algoritmus dühössé tette a felhasználókat, illetve a drogkartellek és az embercsempészek nyíltan használják a Facebookot.
