Denunțători susțin că Meta și TikTok au permis creșterea conținutului dăunător pentru a stimula indignarea și angajamentul

Sursa foto: Bbc

Un grup de denunțători și foști angajați ai marilor companii de social media a oferit o imagine din interior a felului în care concurența pentru atenție a determinat decizii care au lăsat mai mult conținut dăunător în fluxurile utilizatorilor, după ce cercetările interne au arătat că indignarea amplifică angajamentul, potrivit unei investigații realizate de BBC.

Descoperiri centrale din investigație

Sursele care au vorbit cu BBC, inclusiv programul documentar Inside the Rage Machine, au spus că managerii de la Meta (proprietara Facebook și Instagram) și TikTok au adoptat strategii care au prioritizat creșterea audienței în dauna unor măsuri de siguranță. Denunțătorii au afirmat că, în unele cazuri, conținutul considerat „la limita legalității” — cum ar fi misoginia, teoriile conspirației și mesaje ce pot încuraja violența — a fost lăsat să circule mai liber pentru a păstra utilizatorii angajați.

Mecanismele algoritmice și teoria profitului

Documente interne citate în investigație arată că algoritmii platformelor pot crea un „drum care maximizează profiturile în detrimentul bunăstării audienței”. Un studiu intern menționa că setul actual de stimulente financiare generate de algoritmi „nu pare a fi aliniat cu misiunea” declarată a companiei de a apropia lumea. Totodată, se observa că platformele pot „alege să rămână inactive și să continue să ofere utilizatorilor conținut de tip fast-food, dar asta funcționează doar pentru o perioadă limitată”.

Mărturiile angajaților

Mai mulți foști angajați și membri actuali ai echipelor de „trust and safety” (încredere și siguranță) au detaliat presiunile interne. Un inginer de la Meta a declarat că li s-a cerut să permită mai mult conținut „la limita acceptabilului” pentru a concura cu TikTok, iar un alt inginer, identificat ca Ruofan Ding, care a lucrat la motorul de recomandare al TikTok între 2020 și 2024, a explicat că algoritmii sunt, în practică, o „cutie neagră” dificil de controlat în totalitate.

Ding a spus că inginerii nu se concentrează pe conținutul efectiv al postărilor, ci pe identificatori tehnici, iar responsabilitatea pentru eliminarea conținutului dăunător cade pe echipele de moderare. El a comparat structura internă cu părțile unei mașini: există echipa care se ocupă de „motor” și se așteaptă ca echipa responsabilă cu „sistemul de frânare” să își facă treaba. Totuși, pe măsură ce TikTok își îmbunătățea algoritmul aproape în mod săptămânal pentru a-și crește cota de piață, Ding a observat apariția mai frecventă a conținutului problematic sau „la limita acceptabilului”, în special după ce utilizatorii navigau o perioadă îndelungată.

Un cercetător senior de la Meta: presiuni pentru creștere rapidă

Matt Motyl, un cercetător senior care a lucrat la Facebook și ulterior la Meta (din 2021), a explicat că lansarea Instagram Reels în 2020, ca reacție la avansul TikTok, a avut loc fără suficiente garanții de siguranță. Munca sa între 2019 și 2023 a inclus rularea de experimente la scară largă, uneori implicând „sute de milioane” de utilizatori, pentru a testa modul în care conținutul este clasificat în fluxuri.

Motyl a furnizat documente de cercetare care arată o prevalență semnificativ mai mare a comentariilor abuzive pe Reels comparativ cu feed-ul principal Instagram: 75% mai mult pentru intimidare și hărțuire, 19% mai mult pentru discursuri de ură și 7% mai mult pentru violență sau incitare la violență.

Prioritizarea cazurilor și alegerea politică

Un angajat al echipei de încredere și siguranță de la TikTok, identificat în investigație ca „Nick”, a permis BBC accesul la tablourile interne ale companiei care arătau modul în care se clasificau și aveau prioritate cazurile raportate. Nick a relatat că, pe durata unor luni în 2025, a putut observa că unele cazuri cu implicații politice primiseră prioritate mai mare decât raportările ce vizau prejudicii grave suferite de minori.

BBC a fost prezentată cu exemple în care un politician ironizat printr-o comparație cu o găină a fost tratat ca prioritate majoră, în timp ce un tânăr de 17 ani din Franța care raporta hărțuire online și impostură sau o adolescentă de 16 ani din Irak care reclama distribuirea unor imagini sexualizate atribuite ei au fost plasate la prioritate mai scăzută. În unele cazuri grave ce implicau copii și șantaj sexual, aceste sesizări au primit eticheta P2, adică prioritate relativ scăzută în cadrul fluxului intern.

Nick a spus că, atunci când echipa sa a ceruse ca cazurile care priveau tinerii să fie prioritizate în fața celor politice, i s-a transmis să respecte ierarhia deja stabilită. El crede că motivul real pentru această prioritizare a fost dorința companiei de a menține relații „puternice” cu figuri politice și guverne, pentru a evita reglementări sau interdicții care ar fi afectat afacerile TikTok.

Impact asupra adolescenților și experiențe personale

Adolescenți chestionați pentru investigație au spus că sistemele prin care utilizatorii semnalizează că nu doresc anumit tip de conținut nu funcționează eficient, iar recomandările continuă să includă violență și conținut urât. Un caz extrem menționat este cel al lui Calum, acum în vârstă de 19 ani, care spune că a fost „radicalizat de algoritm” începând cu vârsta de 14 ani. El a povestit că videoclipurile îi alimentau furia și i-au consolidat convingeri rasiste și misogine: „M-au energizat, dar nu într-un mod bun. M-au făcut foarte furios. Reflectau foarte mult felul în care mă simțeam interior, eram supărat pe oamenii din jurul meu.”

Și oficialii serviciilor antitero din Regatul Unit au semnalat o „normalizare” a postărilor antisemitice, rasiste, violente și de extremă dreaptă în ultimele luni, observând că oamenii devin mai desensibilizați la violența din lumea reală și mai puțin rezervați în a-și exprima deschis opiniile.

Resursele de moderare: reorganizări și tăieri

Nick a spus că volumul de cazuri pe care echipa sa trebuia să le administreze era imposibil de gestionat eficient pentru a garanta siguranța utilizatorilor, în special a copiilor. Reducerile de personal și reorganizările, în care unele roluri au fost înlocuite de tehnologii bazate pe inteligență artificială, au redus capacitatea companiei de a trata eficient acest tip de conținut, a adăugat el.

La rândul său, un fost angajat Meta a relatat că, în perioada expansiunii Reels, compania a făcut alocări de personal disproporționate: 700 de angajați pentru dezvoltarea Reels, în timp ce echipele de siguranță au fost refuzate în mod repetat cereri pentru doi specialiști pentru protecția copiilor și zece persoane în plus pentru integritatea alegerilor.

Mesajul angajaților către părinți

Un sfat direct transmis de Nick părinților a fost clar și dur: „Ștergeți aplicația, țineți-i pe copii cât mai departe de aplicație cât timp se poate.” Această recomandare reflectă sentimentul de vinovăție și neputință pe care unii membrii echipelor de siguranță l-au descris atunci când li s-a cerut să aplice priorități sau politici cu care nu erau de acord.

Reacțiile oficiale ale companiilor

În fața acuzațiilor, Meta a respins ideea că ar amplifica deliberat conținut dăunător pentru câștig financiar, afirmând: „Orice sugestie că noi amplificăm în mod deliberat conținut dăunător pentru câștig financiar este greșită.” Compania a punctat, de asemenea, investițiile semnificative realizate în siguranță și securitate în ultimele decenii și a menționat introducerea unei funcții „Conturi pentru Adolescenți” cu protecții încorporate și instrumente pentru gestionarea experienței copiilor de către părinți.

TikTok a respins, la rândul său, afirmațiile denunțătorilor, caracterizându-le drept „acuzații fabricate” și susținând că investește în tehnologii care împiedică vizualizarea conținutului dăunător, menține politici stricte de recomandare și oferă funcții care le permit utilizatorilor să își personalizeze experiența.

Compania a mai spus că conturile pentru adolescenți sunt protejate de peste 50 de funcții și setări presetate activate automat și a subliniat existența fluxurilor paralele de revizuire, afirmând că fluxurile specializate pentru anumite probleme nu duc la „deprioritizarea” cazurilor legate de siguranța copiilor, care sunt gestionate de echipe dedicate.

Documente interne și analiza practică

Câteva dintre documentele interne prezentate existenței problemelor arată că anumite tipuri de conținut sensibil — inclusiv materiale care ating convingerile morale ale oamenilor sau postări ce pot incita la violență — generează reacții disproporționate și astfel sunt interpretate de algoritmi ca fiind preferate de utilizatori. Această corelare între indignare și angajament este, potrivit documentelor, una dintre forțele care determină promovarea organică a conținutului polarizant.

Brandon Silverman, fost responsabil al instrumentului de monitorizare socială Crowdtangle, cumpărat de Facebook în 2016, a descris dezbateri la nivel înalt în cadrul companiei și a spus că CEO-ul Mark Zuckerberg era „foarte paranoic” în privința competiției. Silverman a relatat că în această perioadă a văzut echipele de siguranță confruntându-se cu refuzuri la cererile de recrutare, în timp ce alte echipe, precum cea a Reels, primeau sume considerabile pentru extindere.

Un fost inginer Meta, identificat ca „Tim”, a spus că aceeași presiune de a recupera terenul pierdut în fața TikTok a dus la o relaxare a regulilor privind limitarea conținutului „posibil dăunător, dar legal”, deoarece compania încerca să recâștige utilizatori și să stabilizeze prețul acțiunilor. Tim a descris o schimbare de poziționare la nivel senior, care, în opinia sa, s-a tradus prin decizii de business ce au prioritat creșterea pe termen scurt.

Contextul mai larg și urmările

Investigația releva tensiunea constantă între obiectivele comerciale ale platformelor și responsabilitatea lor de a proteja utilizatorii, în special pe cei vulnerabili. Autorii investigației și documentele interne subliniază că, deși tehnologia de recomandare a revoluționat modul în care oamenii descoperă conținut, ea ridică și întrebări esențiale despre modul în care stimulentele economice pot influența ce anume este promovat.

BBC a precizat că materialul include și raportări adiționale realizate de Robert Farquhar, Daisy Bata și Ez Roberts. Investigația este parte dintr-un impuls jurnalistic mai larg care examinează modul în care marile companii tehnologice își gestionează produsele și responsabilitățile de siguranță.

Detalii suplimentare și raportul complet al BBC pot fi consultate în articolul original BBC.