Internetul sufocat de «AI slop». Cum luptă creatori, cercetători și platforme pentru a reda autenticitatea

Sursa foto: Imagine generată AI iAceastă imagine a fost generată automat de AI pe baza rezumatului articolului și nu reprezintă un moment real fotografiat.

Rosanna Pansino, creatoare de conținut cunoscută pentru torturi cu tematică Star Wars și alte creații culinare vizuale, a transformat frustrarea față de valul de conținut generat de inteligență artificială — pe care ea îl numește «AI slop» — într-un experiment creativ: recrearea în viața reală a clipurilor generate de AI, pentru a demonstra cât de superficial și ușor de produs este acest conținut și pentru a arăta munca reală din spatele creației umane.

Ce este «AI slop» și de ce contează

Termenul „AI slop” descrie conținutul generat de inteligență artificială de calitate joasă sau mediocră: texte, imagini și videoclipuri care par lucioase la suprafață, dar care reproduc informații eronate, greșeli de continuitate, și adesea încălcări ale realității fizice. Exemplele variază de la imagini bizare — iepuri care sar pe trambuline — la recomandări absurde sau periculoase, precum sfaturi ilustrate de motoare AI care sugerează punerea de lipici pe pizza.

Adoptarea rapidă a instrumentelor generative — de la OpenAI Sora la generatoare de imagini ale Google și Meta — a făcut posibilă producerea în masă a acestor clipuri și imagini cu un minim de efort, iar consecințele sunt multiple: supraîncărcarea fluxurilor sociale cu conținut inventat, amplificarea escrocheriilor, răspândirea dezinformării și erodarea creativității umane. Un studiu CNET menționat în text arată că 94% dintre adulții americani care folosesc rețele sociale cred că întâlnesc conținut generat de AI atunci când navighează, iar doar 11% dintre ei îl consideră distractiv, util sau informativ.

Creatori versus AI

Pansino a decis să pună abilitățile ei de cofetară față în față cu clipurile produse de AI. Într-un exemplu, un videoclip AI arăta inele gumoase cu aromă de piersică împrăștiindu-se „satisfăcător” pe felii de pâine prăjită. Pansino a recreat acele inele folosind unt infuzat cu ulei de piersică, coloranți alimentari și un matrițaj silicons; a îmbinat straturi de unt pentru forma 3D și le-a acoperit cu un amestec de zahăr și acid citric pentru textura și gustul caracteristic. Videoclipul rezultat a fost similar cu versiunea generată de AI, dar diferența esențială a fost faptul că era real și comestibil.

„Internetul este inundat de AI slop, și am vrut să găsesc un mod de a răspunde într-un mod distractiv,” spune Pansino. Pentru ea, arta de a crea lucruri palpabile rămâne un argument puternic în favoarea valorii muncii umane.

Alți creatori au devenit veritabile „verificatori ai realității”. Jeremy Carrasco, producător video tehnic, folosește experiența sa pentru a demonta clipuri virale generate de AI, observând artefacte precum tăieturi bizare de montaj, probleme de continuitate sau efecte vizuale care nu respectă legile fizicii. El le explică urmăritorilor semnele care arată că un clip este artificial, iar conținutul său educativ atrage sute de mii de urmăritori.

În același timp, rapoarte independente sugerează că slop-ul este omniprezent: un raport Kapwing indică faptul că, dacă îți creezi acum un cont YouTube, aproximativ o treime dintre primele 500 de Shorts afișate ar putea conține un tip de conținut AI slop. Pe TikTok erau etichetate peste 1,3 miliarde de videoclipuri ca generate de AI la momentul unei măsurători din februarie.

Putem crede ce vedem online?

Platformele sociale se confruntă cu dificultăți mari în identificarea și limitarea conținutului generat de AI. Unele încurajează verificarea conturilor reale; LinkedIn, de exemplu, a înregistrat peste 100 de milioane de membri care au adăugat astfel de verificări. Dar identificarea conturilor false și a „podurilor” de engagement — grupuri care folosesc instrumente AI pentru a genera postări și comentarii din zeci sau sute de conturi automatizate — rămâne complicată.

Una dintre abordările propuse pentru urmărirea originii conținutului este etichetarea și watermarking-ul media sintetice, adică aplicarea unor semnături invizibile în timpul creării. Coalition for Content Provenance and Authenticity (C2PA) încearcă să standardizeze modul în care media sintetică primește astfel de acreditări. Totuși, multe modele AI nu sunt compatibile cu acest cadru, ceea ce creează inconsistențe și lacune în verificare.

Profesorul Abe Davis de la Universitatea Cornell și echipa sa au dezvoltat o metodă experimentală numită „noise-coded illumination”, care introduce watermark-uri în mediul luminos: aprinzând o lampă cu un cip special, semnătura este înscrisă în frecvențele luminii și apare în orice înregistrare făcută în acel mediu. Semnătura rămâne invizibilă pentru ochiul uman, dar poate fi decodificată ulterior de cei care țin codul secret, permițând detectarea manipulărilor la nivel de pixel într-un material video.

„În loc să aplici watermark-ul pe datele capturate de o anumită cameră, [noise-coded illumination] îl aplică mediului luminos. Orice cameră care înregistrează acea lumină va înregistra watermark-ul,” explică Davis. Metoda rămâne însă în stadiul cercetării, iar adoptarea pe scară largă se lovește de problema acțiunii colective: toți ar avea de câștigat dacă ar fi implementate astfel de soluții, dar niciun actor individual nu are stimulul suficient pentru a conduce această tranziție.

Etichetarea singură nu oprește invazia slop-ului, dar este considerată un prim pas necesar în alte strategii combinate cu tehnologie și supraveghere umană.

‘Stem the flood’ de șlop științific

Publicarea academică este una dintre țintele majore ale AI slop. Industria „publish or perish” favorizează uneori producerea de articole de calitate îndoielnică, iar AI poate accelera această tendință. Exemple notabile includ retragerea unui studiu care a devenit viral după ce conținea o imagine generată de AI extrem de improbabilă în context științific — o reprezentare eronată și exagerată a anatomiei unui șobolan — și o multitudine de lucrări de joasă calitate provenind de la „paper mills”, firme care vând articole fabricate pentru jurnalele academice.

ArXiv, baza de prepublicări larg utilizată, primește aproximativ 2.000 de trimitere pe zi, jumătate dintre ele fiind revizuiri. Submisiunile au crescut cu aproximativ 20% anual în mod obișnuit, dar acum ritmul a devenit „îngrijorător de rapid”, spun directorii arXiv. Platforma a introdus măsuri mai stricte, precum un sistem de endosare pentru a se asigura că doar persoane reale partajează cercetări, iar screening-ul automat trebuie completat de sute de voluntari care evaluează lucrările pe bază de expertiză tematică.

„Corpusul științei se diluează. O parte din conținutul AI este fie activ fals, fie lipsit de sens. E doar zgomot,” spune Steinn Sigurdsson, director științific la arXiv. Cererea tot mai mare de revizuiri umane poate crea o spirală descendentă: mai multă muncă neplăcută pentru recenzori, retrageri de la voluntariat și sarcini crescute pentru cei rămași.

Un exemplu de folosire a AI pentru a combate AI este proiectul care a antrenat un model de limbaj folosind lucrări retrase pentru a detecta modele tipice ale „paper mill”-urilor în cercetarea oncologică. Adrian Barnett, statistician implicat în acest proiect, spune că aceste lucrări „au înfățișarea unui articol, știu cum ar trebui să arate un articol și apoi rotilează șablonul — schimbă boala, schimbă o proteină, schimbă un gen și gata, ai un alt articol.” Instrumentul acționează ca un filtru antispam științific, recunoscând fraze și structuri frecvent folosite de fabricanți, dar limitele rămân clare: el detectează doar tiparele pe care a fost antrenat, motiv pentru care supravegherea umană rămâne indispensabilă.

Spații online fără AI

Ca reacție la invazia slop-ului, au apărut platforme care propun experiențe „fără AI”. DiVine, un prototip inspirat de Vine și creat de Evan Henshaw-Plath cu finanțare din partea lui Jack Dorsey, urmează să ofere un spațiu scurt de video în care accentul este pe conținutul creat de oameni. Pentru a păstra platforma liberă de clipuri generate de AI, DiVine intenționează să utilizeze sistemul de identificare „proof mode” dezvoltat de The Guardian Project, construit peste cadrul C2PA, și planifică verificări tehnice cu laboratoare AI pentru a detecta structura internă a videoclipurilor generate artificial. La lansare, nu va permite încărcarea de video-uri, ceea ce reduce riscul scăpării slop-ului prin upload-uri automate.

Executivi ai rețelelor dominante au și ei reacții hibride. Pe Instagram, Adam Mosseri a pledat pentru o estetică „raw” și „imperfectă” și a criticat AI slop-ul, dar a menționat și utilitatea AI în același discurs. CEO-ul YouTube, Neal Mohan, a subliniat într-o scrisoare că platforma trebuie să reducă distribuția de conținut repetitiv și de calitate scăzută.

Politică, dezinformare și «slopaganda»

AI s-a infiltrat în sfera politică, generând mesaje și imagini care pot modela opinii. Un studiu al Universității Stanford a testat capacitatea oamenilor de a identifica mesaje politice scrise de AI și a măsurat cât de persuasive sunt acestea; 94% dintre respondenți nu au putut distinge mesajele generate de AI, iar acele mesaje s-au dovedit la fel de convingătoare ca cele scrise de oameni, arată studiul. Jan Voelkel, coautor al studiului, a declarat că rezultatul a fost surprinzător, confirmând că modelele mari de limbaj pot genera mesaje persuasive ce rezonează cu oamenii.

Imaginile generate de AI au fost folosite deja în campanii politice și comunicare publică, de la imagini create de Casa Albă până la clipuri și caricaturi care au circulat în rețelele administrațiilor. Eforturile legislative pentru a reglementa AI sunt fragmentate: state precum California, Illinois sau Colorado au adoptat reguli ce vizează transparența sau discriminarea algoritmică, în timp ce guvernul federal a creat un task force pentru a contracara legi locale considerate împiedicative pentru „cursa globală” a AI. În paralel, o abordare federală propusă în „AI Action Plan” urmărește reducerea unor constrângeri regulatorii, dar rămâne neclar cum s-ar armoniza aceste măsuri cu protecțiile împotriva abuzurilor.

Dezastre deepfake

Deepfake-urile reprezintă forma cea mai periculoasă de AI slop: imagini și videoclipuri atât de convingătoare încât devin dificil de distinguit de realitate. Diferența față de tehnicile anterioare este democratizarea producției: ce odinioară cerea competențe și resurse, astăzi poate fi realizat de oricine are acces la anumite instrumente AI.

Aplicații precum OpenAI Sora au stârnit îngrijorări după ce au permis generarea de videoclipuri cu chipurile și vocile oamenilor; în urma unor plângeri, compania a promis îmbunătățiri ale protecțiilor. În schimb, Grok, un instrument dezvoltat de xAI, a fost folosit la generarea masivă de imagini intime nonconsensuale. Un raport al New York Times a arătat că, pe o perioadă de nouă zile, Grok a creat 4,4 milioane de imagini, dintre care 1,8 milioane erau sexuale; o analiză a Center on Countering Digital Hate a estimat aproximativ 3 milioane de imagini sexualizate în 11 zile, inclusiv circa 23.000 care implicau copii. Aceste cifre reflectă câte milioane de incidente de hărțuire pot fi facilitate și eficientizate de AI.

„Perpetratorul poate fi literalmente oricine, iar victima poate fi literalmente oricine. Dacă ai o fotografie online, poți fi o victimă acum,” spune Dani Pinter, director juridic la National Center on Sexual Exploitation.

La nivel legal, deepfake-urile și imaginile intime nonconsensuale sunt ilegale conform Take It Down Act din 2025, care a oferit platformelor o perioadă de grație până în mai pentru a implementa proceduri de eliminare a acestor materiale. Mecanismele de aplicare permit doar Departamentului de Justiție și Federal Trade Commission să investigheze companiile, iar la momentul menționat în text, niciuna dintre aceste agenții nu a deschis investigații specifice.

Lupta pentru un internet centrat pe oameni

Tehnologia AI poate aduce beneficii reale în medicină, industrie sau alte domenii, însă eficiența ei în producerea de fraudă, dezinformare și abuz face esențială regândirea modului în care o integrăm în viața online. Soluțiile sunt multiple: îmbunătățirea etichetării și a watermarking-ului, dezvoltarea unor spații digitale «fără AI», tehnici noi de detectare a conținutului fals, implicare legislativă coerentă și, nu în ultimul rând, eforturi ale creatorilor de a arăta valoarea muncii umane.

Pansino evocă ideea că „creativitatea umană este unul dintre cele mai importante lucruri pe care le avem în lume. Și dacă AI o îneacă, ce rămâne?” În aceeași cheie, creatorii care își asumă rolul de „reality checkers” speră că expunerea diferențelor dintre conținutul produs cu mijloace umane și cel generat automat va reaminti publicului că autenticitatea contează.

Războiul împotriva AI slop nu va dispărea peste noapte. E o cursă între instrumentele automatizate care pot produce zgomot și mecanismele — tehnice, sociale și legislative — menite să restabilească un echilibru în care internetul rămâne un spațiu pentru oameni, nu doar o maşinărie care perpetuează zgomot artificial.

Mai multe detalii și inițiative de standardizare pot fi consultate la sursă: CNET – AI slop is destroying the internet — these are the people fighting to save it, despre eforturile de etichetare și cadre precum C2PA, iar pentru discuții științifice legate de influența AI în politică, se poate consulta studiul menționat pe arXiv.