Cum „AI slop” inundă internetul și cine luptă pentru a-l salva

Sursa foto: Imagine generată AI iAceastă imagine a fost generată automat de AI pe baza rezumatului articolului și nu reprezintă un moment real fotografiat.

Rosanna Pansino, creatoarea de conținut culinar urmărită de peste 21 de milioane de abonați pe YouTube, Instagram și TikTok, și-a propus recent un obiectiv clar: să „îi dea încredințare AI-ului”. Nemulțumită că fluxurile ei de social media sunt sufocate de clipuri generate de inteligență artificială — un fenomen pe care îl numește „AI slop” — Pansino a transformat frustrarea în acțiune. Într-o serie de videouri, ea reconstruieste manual clipuri virale generate de AI, demonstrând meticulozitatea procesului uman în contrast cu ușurința cu care pot fi generate imaginile sau clipurile false.

Un exemplu de protest gustativ: recreerea inedită a unui clip AI

Unul dintre clipurile care a determinat-o pe Pansino a înfățișat un munte de jeleuri acri „înmuiate” pe felii de pâine, un trend bizar viral. Pentru a demonstra ce înseamnă munca umană, ea a creat inele care imitau jeleurile dulci-sărate folosind unt ca bază, ulei cu aromă de piersică, coloranți alimentari galbeni și portocalii, un matriț pentru inele din silicon și o tehnică de lipire cu unt necolorat pentru a obține forma tridimensională. După congelare, inelele au fost acoperite cu un amestec de zahăr și acid citric, oferind aspectul și gustul de bomboană acră. Rezultatul: replici comestibile care se mișcau pe pâine exact ca în clipurile AI — o demonstrație vizuală și gustativă a muncii reale în fața ușurinței generării automate.

„Internetul este inundat de AI slop și am vrut să găsesc o modalitate de a lupta împotriva lui într-un mod distractiv”, spune Pansino, subliniind că victoria constă în a arăta dimensiunile și nuanțele pe care AI nu le surprinde.

Ce este «AI slop» și de ce proliferă?

Termenul „AI slop” desemnează conținutul generat automat care imită superficial producțiile umane, dar care este lipsit de profunzime, plin de erori sau pur și simplu lipsit de sens. Poate însemna texte care inventează fapte, imagini cu un luciu plastic, clipuri video care încalcă legile simple ale fizicii sau „brainrot” vizual: conținut viral repetitiv, lipsit de valoare reală. Generarea la scară largă devine ușoară grație instrumentelor care pot crea texte, imagini și videoclipuri cu câteva click-uri, iar costurile – de timp și bani – sunt drastic reduse. Astfel, slopul se răspândește rapid pe motoare de căutare, publicații și platforme sociale.

Un studiu CNET menționează că 94% dintre adulții utilizatori de social media din SUA cred că întâlnesc conținut generat de AI când derulează feedul; doar 11% consideră acel conținut amuzant, util sau informativ. Raportul Kapwing arată că, la înregistrarea unui cont nou pe YouTube, aproape o treime din primele 500 de Shorts afișate ar putea conține AI slop. Pe TikTok existau peste 1,3 miliarde de videoclipuri etichetate ca AI-generated, stârnind îngrijorări privind omniprezența conținutului sintetic.

Creatori versus AI

Internetul s-a născut din creații umane spontane: videoclipuri casnice virale, personaje memorabile și momente colective. Astăzi, în locul lor, apar imagini și clipuri generate artificial — de la pisici care formează turnuri la meme-uri despre „AGI” — care, chiar dacă par nevinovate, ocupă spațiul atenției. Miza pentru producătorii de slop este engagementul: aceștia urmăresc reacțiile emoționale imediate care conduc la distribuiri, comentarii și venituri publicitare. Consecința este o formă de „farming” modernă a atenției, care recompensează rapiditatea și volumetria în dauna calității.

Unii creatori și-au asumat rolul de „verificatori ai realității”. Jeremy Carrasco, producător video tehnic, folosește experiența sa pentru a demonta clipurile virale false: analizează probleme precum tăieturi ciudate, continuitate proastă sau efecte de lumină generice. Publicul, însă, nu dispune întotdeauna de timp sau pregătire pentru astfel de audituri și, sub influența emoțiilor, are tendința de a accepta concluziile rapide ale subconștientului: „Dacă pare real, creierul se oprește”, spune Carrasco.

Ne putem încrede în ceea ce vedem online?

Platformele încearcă să identifice conținutul sintetic, dar sarcina este grea. Unele instrumente încurajează verificări proprii de către utilizatori, iar LinkedIn a înregistrat peste 100 de milioane de membri care au apelat la noi metode de verificare. Cu toate acestea, AI permite automatizarea comentariilor și a postărilor prin instrumente comunitare care multiplică în mod artificial aparițiile și interacțiunile, fenomen cunoscut ca „engagement pods”. Instrumentele de detecție caută semnale multiple — de la tiparele de postare la analizarea metadatelor — însă nu există un semnal unic care să confirme autenticitatea sau lipsa ei.

Etichetarea și watermarking-ul sunt două soluții cheie. Grupuri precum Coalition for Content Provenance and Authenticity (C2PA) încearcă să standardizeze modul în care media sintetică primește credențiale de proveniență. În paralel, cercetători de la Cornell au propus o tehnică numită noise-coded illumination: un sistem în care luminile speciale implementează un watermark invizibil în frecvențele luminoase, astfel încât orice cameră care surprinde acea scenă înregistrează semnătura. Metoda ar permite identificarea părților manipulate dintr-un video, ceea ce ar fi extrem de util în cazul evenimentelor live politice sau conferințelor de presă.

Dar nici watermarking-ul nu este o panacee: nu toate modelele AI sunt compatibile cu un cadru unic de semnare, iar aplicarea la scară largă implică un efort colectiv într-un ecosistem competitiv aflat în continuă schimbare.

Opriți inundația de „slop” științific

După social media, domeniul publicistic și academic este cel mai afectat de slop. Chatboții și „AI Overviews” extrag și rescriu articole, uneori încălcând drepturi de autor sau generând rezultate eronate. În lumea academică, unde presiunea „publică sau dispare” este reală, conținutul generat prost și „paper mill”-urile care vând cercetări fabricate investesc mediul cu lucrări de calitate scăzută. Un exemplu absurd: o revistă a retras un studiu care conținea o imagine generată de AI cu un organ reproductiv de șobolan evident eronat, însoțit de numeroase greșeli tipografice.

ArXiv, o bază de prepublicații utilizată pe scară largă, primește în jur de 2.000 de propuneri pe zi, jumătate fiind revizuiri. Editorii observă o creștere accelerată a submitărilor — cu aproximativ 20% anual înainte — atribuită parțial AI-ului. Ca răspuns, arXiv a îngreunat accesul printr-un sistem de endorsement pentru a se asigura că doar cercetători reali publica și a intensificat screening-ul automat, sprijinit de sute de voluntari experți.

În paralel, echipe de cercetare au început să folosească AI pentru a detecta slopul: un grup de cercetători a antrenat un model lingvistic pe lucrări retrase pentru a recunoaște șabloanele specifice ”paper mill”-urilor, acționând ca un filtru științific care identifică fraze și structuri repetitive folosite pentru a imita stilul academic. Totuși, instrumentele automatizate pot detecta doar ceea pentru ce au fost antrenate, iar supravegherea umană rămâne esențială.

Spații online fără AI

O reacție la această invazie a fost crearea unor platforme care promit conținut fără AI. DiVine, un proiect care reinventează spiritul Vine, este conceput pentru a oferi un spațiu de încredere, cu o arhivă a peste 10.000 de Vine-uri originale și mecanisme care previn încărcarea imediată a videoclipurilor la lansare. Compania colaborează cu The Guardian Project pentru a folosi sistemul proof mode, construit pe cadrul C2PA, și pentru a implementa verificări care descurajează conținutul generat artificial.

Mesajele publice ale unor lideri de platforme recunosc problema. Șeful Instagram, Adam Mosseri, a pledat pentru o estetică „raw” și „imperfectă”, iar CEO-ul YouTube, Neal Mohan, a emis o scrisoare în care afirmă necesitatea reducerii răspândirii conținutului de calitate scăzută și repetitiv. Cu toate acestea, întrebarea rămâne: pot platformele care comercializează AI-ul reuși să controleze epidemia slopului când au un interes direct în promovarea acelor instrumente?

Politică, dezinformare și «slopaganda»

AI a devenit o unealtă politică eficientă, capabilă să producă mesaje persuasive la scară, fenomen denumit „slopaganda” în unele studii. Un studiu Stanford arată că majoritatea respondenților (94%) nu au putut distinge mesajele politice generate de AI de cele scrise de oameni, iar acele mesaje au avut un efect persuasiv comparabil cu textele umane. Riscul major este că echipele mici sau chiar indivizii pot automatiza campanii dezinformative cu un efort minim.

Imaginile generate de AI sunt deja folosite în comentariu politic și manipulare: exemple includ imagini și clipuri create de sau despre figuri publice care alterează realitatea în favoarea unei narațiuni politice. Legislativ, răspunsul a fost fragmentat: state precum California, Illinois sau Colorado au adoptat reguli variate privind transparența sau utilizarea AI, în timp ce la nivel federal eforturile sunt încă neuniforme. Există și reacții instituționale: Take It Down Act din 2025 incriminează și impune procese pentru eliminarea imaginilor intimității generate fără consimțământ, însă mecanismele de aplicare sunt limitate la anumite agenții federale.

Dezastrele deepfake

Deepfake-urile reprezintă forma cel mai periculoasă a slopului: videoclipuri și imagini atât de credibile încât devin imposibil de diferențiat de realitate. În trecut, deepfake-urile erau costisitoare și complexe; acum, democratizarea tehnologiei permite producerea lor la scară largă. Aplicații precum Sora de la OpenAI sau Grok de la xAI au facilitat crearea de materiale care folosesc fețele și vocile persoanelor în moduri abuzive. Raportări arată că, într-o perioadă scurtă, Grok a generat milioane de imagini, dintre care un număr semnificativ au fost sexualizate sau nonconsensuale, inclusiv cazuri care au implicat minori — un val de hărțuire automatizată care demonstrează cât de ușor poate fi weaponizată tehnologia.

Deși multe companii interzic utilizări abuzive în politicile lor, implementarea acestor restricții a fost insuficientă. Organizații pentru protecția victimelor atrag atenția că aceste abuzuri sunt „previzibile și prevenibile” dacă ar exista standarde de proiectare și verificare mai stricte.

Lupta pentru un internet centrat pe oameni

Inteligența artificială poate aduce progrese semnificative în medicină, industrie sau educație, însă aceeași eficiență poate fi folosită pentru fraudă, manipulare și abuz. Soluția nu este eliminarea totală a AI, ci readucerea autenticității în centrul experiențelor online: etichetare clară, instrumente tehnice de verificare, spații dedicate conținutului uman și o legislație coerentă care să responsabilizeze actorii din industrie.

Şi chiar dacă nu vom reveni la internetul de dinainte de AI, eforturile combinate ale creatorilor, cercetătorilor, editorilor, dezvoltatorilor de tehnologie și factorilor de decizie pot ține slopul sub control și pot reconstrui valori precum încrederea și autenticitatea. În fond, ceea ce se pierde atunci când AI umple fiecare colț al feedului nu este doar calitatea conținutului, ci legătura umană care a definit internetul la început — iar mulți luptă acum pentru a o păstra.

Art Director: Jeffrey Hazelwood. Creative Director: Viva Tung. Video Presenter: Katelyn Chedraoui. Video Editor: JD Christison. Project Manager: Danielle Ramirez. Editors: Corinne Reichert și Jon Reed. Director of Content: Jonathan Skillings.

Surse: Articol CNET, Coalition for Content Provenance and Authenticity, Take It Down Act (Congress.gov)