TikTok scapă 20 de conturi după ce BBC a descoperit avataruri AI sexualizate ale femeilor negre

Sursa foto: Bbc

O investigație realizată de BBC, în colaborare cu cercetătorii publicației independente Riddance, a scos la iveală o rețea de conturi de pe platformele Instagram și TikTok care foloseau avataruri generate de inteligență artificială pentru a promova conținut sexual plătit. Ancheta a arătat că aceste personaje digitale, prezentate drept femei negre, erau adesea sexualizate, folosite în moduri considerate rasiste și exploatatoare, și nu erau etichetate ca fiind creații AI, în aparentă încălcare a regulilor platformelor.

Descoperirea și amploarea fenomenului

Jurnaliștii BBC, împreună cu analiștii Jeremy Carrasco și Angel Nulani de la Riddance, au identificat 60 de conturi care utilizau astfel de personaje digitale, majoritatea prezente pe Instagram, iar aproximativ o treime dintre ele având versiuni și pe TikTok. Multe dintre aceste conturi conțineau lanțuri de linkuri care conduceau către site-uri terțe cu conținut sexual plătit. În timp ce site-urile respective etichetau imaginile ca fiind generate de AI, conturile de Instagram nu ofereau această clarificare publicului.

Avatarurile erau în general reprezentate purtând costume de baie sumare sau haine foarte dezvăluitoare, prezentate cu forme corporale exagerate și cu tonuri de piele foarte închise, modificate digital într-un mod care le conferea un aspect artificial. Numele unor conturi conțineau termeni precum „negru”, „noir”, „întunecat” și „eben”, iar în unele postări apareau comentarii referitoare la bărbați albi, de tipul „iubește bărbații albi” sau „de ce am nevoie de un tip alb în viața mea”. De asemenea, multe dintre aceste conturi se urmăreau și se apreciau reciproc, sugerând un ecosistem interconectat.

Cazul Riya Ulan: un exemplu clar de furt și manipulare

Unul dintre conturile identificate și ulterior eliminate de pe TikTok a stârnit indignare suplimentară prin faptul că a furat clipuri ale unei persoane reale. Contul, creat în decembrie, a acumulat rapid trei milioane de urmăritori. Avatarul folosit în respectivul profil avea o față cu un ton de piele extrem de închis, creat artificial, suprapusă peste corpul real al Riyei Ulan, o modelă din Malaysia. Mișcările, îmbrăcămintea și decorul din videoclipuri imită conținutul produs de Riya.

Riya a declarat că s-a simțit furioasă la aflarea faptului că materialele sale au fost preluate: „Eram supărată. Desigur, videoclipurile mele sunt peste tot… Dar asta nu înseamnă că cineva poate să le ia, să le fure și să le posteze ca fiind ale lui.” În ciuda faptului că cele trei clipuri care se potrivesc clar cu conținutul ei nu sunt sexuale, contul digital a publicat și alte materiale cu aceeași figură creată digital în ipostaze provocatoare și cu vestimentație extrem de dezvăluitoare. Un lanț de linkuri de pe acel profil conducea la conținut adult plătit.

Unul dintre clipurile manipulate a strâns peste 35 de milioane de vizualizări pe TikTok și 173 de milioane pe Instagram, cifre de aproximativ 47 de ori mai mari decât vizualizările înregistrate de postarea originală a Riyei. Ea a raportat contul de mai multe ori ambelor platforme, însă, până la intervenția BBC, materialele nu fuseseră eliminate. TikTok a retras contul după ce a fost contactată pentru comentariu de către BBC.

Reacțiile cercetătorilor și creatorilor de conținut

Angel Nulani, una dintre analiștii implicați în anchetă, a spus că aceste conturi sunt rasiste deoarece perpetuează o lungă istorie de exploatare a persoanelor de culoare. Ea a subliniat că utilizarea caricaturilor, terminologiei ce include jocuri de rol rasial și reprezentările nerealiste ale femeilor negre arată că interesul nu este protejarea siguranței sau bunăstării acestor persoane, ci capitalizarea lor în cadrul „mașinii online a pornografiei”.

Jeremy Carrasco a remarcat cantitatea și lipsa de reținere în reprezentările extrem de întunecate: „Noutatea este cantitatea de reprezentări rușinoase și rasiste ale persoanelor extrem de închise la culoare”. El a explicat că, deși astfel de fetișuri au existat și anterior, AI le oferă un instrument nou și ușor de multiplicat. Potrivit lui Carrasco, AI facilitează obținerea unor nuanțe de piele nenaturale și efecte care, anterior, ar fi necesitat animare sau pictură a pielii. Un alt aspect pe care el l-a punctat este absența consecințelor sociale pentru un avatar: pentru o reprezentare digitală nu există rușine, iar acest lucru este exploatat în mod unic de tehnologie.

Houda Fonone, modelă marocană și creatoare de conținut care pledează pentru reprezentări autentice ale femeilor negre, consideră că fenomenul încurajează „ștergerea” identităților reale. Ea descrie o estetică impusă de avataruri: păr mătăsos, corpuri extrem de subțiri și o piele aproape perfectă, ceea ce transmite mesajul că frumusețea neagră ar fi acceptabilă doar atunci când este „rafinată”. În opinia ei, această tendință riscă să întărească stereotipuri și să înlocuiască poveștile reale și experiențele de viață cu o imagine artificială.

Reacția platformelor

BBC a prezentat exemple ale conturilor identificate atât companiei Meta, proprietarul Instagram, cât și TikTok. Conform comunicatelor, la două zile după ce BBC a transmis dovezile, TikTok a informat publicația că a eliminat conținutul și a suspendat conturile care încalcă regulile aplicației. În câteva zile, 20 de conturi au fost etichetate ca „interzise” pe aplicație.

Un purtător de cuvânt TikTok a declarat: „TikTok interzice conținutul generat de AI reprezentând persoane folosit fără permisiunea acestora; avem toleranță zero pentru conținutul care promovează servicii sexuale în afara platformei.” Compania a mai spus că restricționează și elimină conținutul generat de AI care este dăunător sau înșelător și cere ca utilizatorii să eticheteze materialele realiste produse de AI. TikTok a afirmat, de asemenea, că a aplicat etichetarea corectă pentru un număr de videoclipuri.

Meta a comunicat că investighează conținutul adus în atenția sa și a reiterat faptul că dorește ca utilizatorii să știe când se confruntă cu postări realizate cu AI, având politici pentru etichetarea acestui tip de conținut. Ancheta BBC a constatat totuși că nouă conturi de Instagram urmărite de jurnaliști par să fi dispărut între timp; platforma nu a oferit detalii publice despre fiecare răspuns la rapoartele individuale, inclusiv cele inițiale trimise de Riya Ulan.

Implicările etice și sociale ale avatarurilor AI

Ancheta ridică întrebări importante despre modul în care tehnologia AI este utilizată pentru a crea reprezentări umane care par reale, dar care sunt construită în scopuri comerciale agresive, uneori cu nuanțe rasiale problematice. Cazul prezintă două probleme intersectate: furtul de conținut de la creatori reali și utilizarea AI pentru a produce imagini sexualizate ale unor personaje care poartă semne ale unei exploatări rasiale.

De asemenea, ancheta arată cât de greu le este utilizatorilor să distingă între real și generat artificial pe platformele sociale. Chiar și atunci când elementele personajelor sunt nerealiste, numeroși spectatori au tratat avatarurile ca pe niște persoane reale, reacționând la postări și promovându-le în același mod în care s-ar fi raportat la creatori autentici. În unele cazuri, autorii acestor conturi au negat că folosesc AI, în ciuda dovezilor evidente ale generării digitale.

Pe de altă parte, cercetătorii au subliniat mecanismele prin care AI amplifică fetișuri și stereotipuri: ușurința tehnologică de a genera mii de imagini, de a modifica tonuri de piele și de a crea scenarii care anterior ar fi necesitat resurse semnificative. Această automatizare a produs ceea ce analiștii numesc un „produs” de consum care exploatează atât corpul, cât și identitatea rasială a persoanelor reprezentate, fără consimțământul celor reali sau fără respectarea unor standarde etice clare.

Ce a arătat ancheta și ce rămâne de făcut

Principalele constatări ale investigației pot fi sintetizate astfel: o rețea de zeci de conturi foloseau avataruri AI sexualizate ale femeilor negre; multe conturi aveau legături către site-uri cu conținut plătit și nu indicau faptul că imaginile erau generate; unele conturi au folosit materiale furate de la creatori reali; TikTok a eliminat 20 de conturi după ce BBC a semnalat cazul; Meta investighează, iar nouă conturi de Instagram semnalate par să fi dispărut.

Ancheta nu a oferit un număr exhaustiv al tuturor conturilor similare existente pe platforme, indicând în schimb că echipa a găsit multe alte profiluri cu avataruri AI similare care nu aveau legături directe spre conținut plătit. Aceasta sugerează că fenomenul ar putea fi mai larg decât rețeaua identificată inițial.

Rămâne însă problematica aplicării consistente a politicilor platformelor: deși ele au reguli referitoare la conținutul generat de AI și la materialele sexuale care direcționează utilizatorii spre servicii externe, detectarea și sancționarea acestor practici, precum și protejarea creatorilor afectați, se dovedește uneori ineficientă sau lentă.

Pe măsură ce tehnologiile de generare a imaginilor și videoclipurilor devin tot mai accesibile, investigații precum aceasta atrag atenția asupra nevoii unui cadru clar, în care etichetarea, detectarea abuzurilor și mecanismele de sancționare să funcționeze coerent și transparent, astfel încât să protejeze drepturile persoanelor și să reducă riscul exploatării pe motive rasiale sau sexuale.

Pentru detalii suplimentare și pentru a consulta materialele investigative original, cititorii pot accesa articolul BBC la următorul link: Articol BBC.