Facebook Papers a Dezinformácie

Koncom októbra minulého roka začali niektoré zahraničné médiá publikovať sériu investigatívnych článkov, ktoré sa zaoberali problematickými praktikami Facebooku. Dnes tieto články poznáme ako “Facebook Files” alebo “Facebook Papers”. V tomto článku sa bližšie pozrieme na to, čo vlastne Facebook Papers a Facebook Files sú a aké problematické praktiky skúmajú.

Aby sme lepšie pochopili súvislosti, musíme sa vrátiť do mája 2017, keď denník The Guardian uverejnil sériu článkov s názvom „Facebook files“. Tie boli založené na výpovediach whistleblowerov a opisovali ich skúseností s prácou vo Facebooku (teraz už platforma Meta, pre lepšiu zrozumiteľnosť budeme v článku hovoriť o Facebooku) na pozícii moderátorov obsahu. Títo zamestnanci prejavili svoju nespokojnosť voči nevhodným pracovným podmienkam v spoločnosti, konkrétne na nedostatočnú prípravu na vykonávanie tejto práce ale aj na psychologické traumy spôsobené tým, že sú vystavení extrémnemu a škodlivému obsahu. Uvedené negatívne skúsenosti zamestnancov rázne poukázali na širší problém Facebooku v súvislosti s moderovaním obsahu, ktorý je uverejňovaný na sociálnej sieti. Problémy okolo Facebooku zvýraznil aj škandál okolo spoločnosti Cambridge Analytica, ktorý naplno odhalil zneužívanie sociálnych sietí aj na politické účely. 

V septembri roku 2021 na povrch vyplávali ďalšie kontroverzie týkajúce sa problematických praktík sociálnych sietí. Tentokrát to bol denník The Wall Street Journal, ktorý začal ako prvý publikovať sériu článkov pod spoločným názvom “Facebook Files”. Jadrom tejto série bolo 16 článkov ktoré vychádzali z uniknutých interných dokumentov a výskumných dát spoločnosti Facebook. Všetky tieto uniknuté dokumenty sa v médiách začali kolektívne označovať ako Facebook Papers. V čase zverejnenia ešte nebolo jasné, ako a od koho tieto dokumenty unikli. Avšak krátko na to, 3. októbra, oznámila Frances Haugen, bývalá zamestnankyňa Facebooku, že tým záhadným whistleblowerom bola ona a uviedla aj svoje dôvody, keď otvorene priznala, že:

Uniknuté dokumenty, ktoré odtajnila Francis Haugen obsahujú nielen interné prezentácie, či výskumné štúdie, ale aj diskusné vlákna zamestnancov a strategické poznámky spoločnosti Facebook. Neskôr boli Facebook Papers sprístupnené konzorciu medzinárodných tlačových agentúr, ktoré na základe získaných údajov začali podrobne informovať o problematických postupoch Facebooku. Rozsah tém, ktoré sa spomínajú vo Facebook papers je široký – od údajnej neschopnosti Facebooku moderovať problematický obsah v niektorých jazykoch a krajinách až po údajné využívanie Facebooku ilegálnymi skupinami, napríklad pašerákmi ľudí. My sa však zameriame na otázky ktoré sa týkajú šírenia dezinformácií a moderovania obsahu na základe algoritmov umelej inteligencie. 

V tomto ohľade jedným z najzávažnejších zistení bolo, že v rámci moderovania škodlivého obsahu Facebook vytvoril VIP triedu svojich používateľov – takzvaný XCheck. Do XChecku triedy patrili napríklad celebrity, politici ale aj niektorí novinári. Pre tieto vysokopostavené účty sa Facebook rozhodol nastaviť vyššiu úroveň ochrany, aby zabezpečil, že pri ich posudzovaní nevznikne zbytočná negatívna mediálna pozornosť. Vo výsledku sa však vytvorila kategória „nedotknuteľných“ účtov, pre ktoré neplatili štandardné pravidlá užívateľa sociálnej siete. Inými slovami, ak bol ich obsah nahlásený inými užívateľmi pre porušenie podmienok Facebooku, zvyčajne nenasledovalo zo strany spoločnosti žiadne ďalšie posúdenie ani sankcie. Databáza XCheck pritom nebola zanedbateľná, obsahovala najmenej 5,8 milióna VIP používateľov, ktorí v prípade šírenia problematického obsahu nečelili žiadnym dôsledkom.

Dnes už nie je tajomstvom, že obchodný model Facebooku funguje na základe ekonomiky pozornosti. Pre obsahovú platformu, akou je Facebook, je preto prvoradé udržať si pozornosť používateľa čo najdlhšie. Na to je potrebné prezentovať obsah, ktorý je pre používateľa zaujímavý. O to sa starajú odporúčacie algoritmy Facebooku, ktoré rozhodujú o tom, aký obsah sa používateľom sociálnej siete zobrazí. Do rozhodovania algoritmu môžu vstupovať faktory ako popularita obsahu, osobné preferencie používateľa, ale aj emocionalita, kontroverznosť obsahu či emocionálny stav používateľa. 

Algoritmus sociálnej siete môže zobrať  do úvahy viac ako 10 000 rôznych parametrov, ktoré následne posudzuje tak, aby poskytol užívateľovi personalizovaný obsah, ktorý udrží jeho pozornosť po čo najdlhšiu dobu. Konkrétne hodnoty a váhy priradené týmto parametrom nie sú verejne známe, čím sa algoritmus stáva nepriehľadným a netransparentným. Z Facebook papers navyše vyplýva, že od roku 2017 algoritmus hodnotenia Facebooku považoval reakcie užívateľov cez emotikony (napr. emotikon hnevu) za päťkrát hodnotnejšie ako reakcie cez bežné lajky.  Pritom aj samotní zamestnanci si uvedomovali potenciálne riziká takéhoto rozhodnutia.

Napríklad to znamená, že kontroverznejší obsah, ktorý vyvoláva nahnevané reakcie, sa bude po sociálnej sieti šíriť rýchlejšie a dostane sa k viac užívateľom ako obsahovo hodnotnejší ale nekontroverzný obsah. Z uniknutých dokumentov sa dá predpokladať, že spoločnosť Facebook si bola vedomá faktu, že kontroverzný obsah bude s väčšou pravdepodobnosťou obsahovať dezinformácie, toxické či nekvalitné správy, ale s ohľadom na vyšší záujem užívateľov sledovať takéto správy nemala potrebu rázne zakročiť. 

Facebook verejne deklaroval, že na odhaľovanie a moderovanie problematického obsahu na svojej platforme používa algoritmy umelej inteligencie. Z uniknutých dokumentov však vyplýva, že úspešnosť tohto automatizovaného moderovania bola prinajmenšom diskutabilná. Dokumenty naznačujú, že že ich algoritmy mali často problém správne označiť aj extrémny obsah, ako sú videá s násilnými streľbami. V skutočnosti algoritmy umelej inteligencie odstraňovali len 0,6 % všetkého obsahu, ktorý porušuje zásady a pravidlá Facebooku proti násiliu a podnecovaniu k nemu. 

Odozvy na kontroverziu vyvolanú zverejnením Facebook Papers a Facebook Files boli rôzne. Na jednej strane zazneli hlasy, že takéto praktiky nie sú vôbec prekvapujúce a dali sa od spoločnosti očakávať. Iné vyjadrili nádej, že príklady osobnej odvahy  whistleblowerov ako Frances Haugen a ďalších nespokojných zamestnancov majú možnosť ovplyvniť pozíciu Facebooku v demokratickej spoločnosti. Vo svojej výpovedi v Európskom parlamente začiatkom novembra 2021 Frances Haugen ocenila zákonodarcov EÚ a ich úsilie o zvýšenie online bezpečnosti a transparentnosti algoritmov prostredníctvom návrhu Aktu o digitálnych službách (DSA). Haugen však poukázala aj na niektoré problematické aspekty a medzery v DSA. Patria medzi ne výnimka pre tzv. spravodajské médiá, alebo výnimka z obchodného tajomstva, ktoré by mohli sťažiť boj proti nenávistným prejavom a dezinformáciám či obmedziť úsilie o sprehľadnenie odporúčacích algoritmov sociálnych sietí.

Kauzy ako Facebook Papers prinášajú do debaty o regulácii sociálnych sietí niekoľko kľúčových poznatkov. Pomerne jasne poukázali na to, že Facebook uprednostňuje čo najvyššiu interakciu užívateľov s obsahom pred ich bezpečnosťou. Okrem toho sa ukázalo, že vo veľkej časti sveta nedokáže platforma účinne moderovať obsah a že mnohé verejné vyhlásenia Facebooku sú v rozpore so skutočnou realitou, ktorú potvrdzujú aj ich vlastné výskumné výsledky a interná komunikácia medzi zamestnancami. 

Facebook je pritom jednou z platforiem, na ktorej je pre výskumníkov dnes skoro nemožné získať prístup k dátam a vykonať akýkoľvek externý audit. Je potom veľmi ťažké spoľahlivo overiť platnosť ich verejných tvrdení o tom, ako efektívne bojujú proti dezinformáciám a problematickému obsahu, ak nedokážeme napríklad ani zmerať, ako často bol konkrétny (dezinformačný) obsah užívateľom odporúčaný. Zverejnenie podrobných analýz vrátane výskumných plánov a štatistických príloh výskumu, ktorý Facebook vykonával interne mohlo byť obzvlášť prospešné pre výskumníkov a spravodajské organizácie, ktoré boli vynechané z analýzy uniknutých dokumentov, najmä pre tie na Slovensku a v iných postkomunistických krajinách, kde je dlhodobo odolnosť voči dezinformáciám veľmi nízka. Aj preto dnes považujeme externé audity sociálnych sietí a online platforiem, za jeden zo základných nástrojov na zvýšenie zodpovednosti ich prevádzkovateľov voči spoločnosti. 

Tento článok vyšiel aj v augustovom čísle časopisu Quark. Článok si môžete pozrieť tu.