Imagini generate de AI, folosite pentru cereri de rambursare pe platformele de comerț electronic din China

Sursa foto: Imagine generată AI iAceastă imagine a fost generată automat de AI pe baza rezumatului articolului și nu reprezintă un moment real fotografiat.

Sistemul de încredere al comerțului online, slăbit de imagini false

Comerțul electronic se bazează în mare măsură pe încredere: cumpărătorii trimit fotografii pentru a demonstra defecte sau deteriorări, iar comercianții sau platformele folosesc aceste probe vizuale pentru a decide dacă aprobă sau resping o rambursare. Accesibilitatea tot mai largă a instrumentelor de generare a imaginilor prin inteligență artificială (AI) a început însă să submineze acest mecanism. În China, comercianți de pe platforme populare au raportat primirea de fotografii și clipuri fabricate sau alterate, menite să convingă vânzătorii să emită rambursări fără ca produsul să fie într-adevăr deteriorat.

Semne de suspiciune

Pe aplicația chineză de social media RedNote, mai mulți vânzători și angajați din servicii clienți au publicat exemple și plângeri legate de cereri de rambursare care păreau a conține imagini generate de AI. În unele cazuri, etichetele de pe pachete conțineau caractere chinezești care păreau să nu aibă sens, iar în altele daunele arătau nefiind compatibile cu natura produsului: o ceașcă crăpată care arăta ca și cum ar fi fost ruptă în straturi, asemenea hârtiei, ceea ce nu se potrivește cu structura ceramicii.

Comercianții au observat că anumite categorii de produse sunt vizate frecvent de astfel de înșelătorii: produse proaspete, low-cost beauty products, and fragile items like ceramic cups. Pentru multe dintre aceste categorii, cumpărătorii nu sunt obligați să returneze bunul înainte de primirea rambursării, ceea ce ridică pragul pentru abuzuri de tip return scam.

Un caz izbitor: crabi „morți” trimiși ca probă

Un incident ilustrativ a avut loc în noiembrie, când o comerciantă care vinde crabi vii pe Douyin, versiunea chineză a TikTok, a primit de la un cumpărător o fotografie și două videoclipuri în care părea că majoritatea crabilor achiziționați erau morți, iar alții reușiseră să evadeze din ambalaje. Clipurile includeau chiar imagini în care un deget uman atinge crabii presupus morți.

Vânzătoarea, Gao Jing, și-a exprimat îndoiala în cadrul unui material publicat pe Douyin: „Familia mea crește crabi de peste 30 de ani. Nu am văzut niciodată un crab mort cu picioarele îndreptate în sus.” Investigația ulterioară a scos la iveală discrepanțe care dezvăluiau natura fabricată a materialelor: în prima înregistrare erau doi masculi și patru femele, în a doua trei masculi și trei femele; într-unul din clipuri, unul dintre crustacei avea nouă picioare în loc de opt. Gao a raportat cazul la poliție, care, potrivit unei notificări împărtășite public de aceasta, a constatat că înregistrările erau fabricate și a reținut cumpărătorul pentru opt zile. Cazul a atras atenția pe rețelele sociale din China, fiind considerat primul caz cunoscut de fraudă cu imagini generate de AI care a declanșat o reacție de natură reglementară.

Extinderea fenomenului la scară globală

Problema nu este exclusivă Chinei. Compania de detectare a fraudelor Forter, cu sediul în New York, estimează că imaginea modificată cu ajutorul AI utilizată în cererile de rambursare a crescut cu mai mult de 15 procent de la începutul anului și continuă să urce pe plan global. Michael Reitblat, CEO și cofondator al Forter, explică faptul că această tendință a început la mijlocul anului 2024, dar s-a accelerat pe măsură ce instrumentele de generare a imaginilor au devenit extrem de accesibile și ușor de utilizat. Reitblat subliniază că AI nu trebuie să reproducă perfect realitatea pentru a fi eficace: echipele de revenire a fraudelor și lucrătorii de primă linie pot să nu aibă timpul necesar pentru a inspecta meticulos fiecare fotografie primită.

Mai grav, tacticile sunt adoptate nu doar de indivizi izolați, ci și de grupuri organizate de criminalitate care operează la scară largă. Reitblat a relatat un caz în care răufăcătorii au depus cereri de rambursare în valoare de peste un milion de dolari, folosind imagini alterate care arătau crăpături sau denivelări la diverse bunuri pentru uz casnic. Cererile au fost trimise într-o fereastră de timp restrânsă, aparent pentru a copleși sistemele, iar infractorii au folosit adrese IP rotative pentru a-și ascunde identitatea.

Tehnologia folosită ca armă și ca scut

Războiul dintre generatoarele de imagini și instrumentele de detectare este în desfășurare. Unii comercianți recurg la instrumente bazate pe AI pentru a analiza solicitările de rambursare și a identifica semne de manipulare. Un comerciant chinez de jucării a demonstrat modul în care introduc imaginile primite în fața unui chatbot AI pentru a determina dacă fotografiile au fost forjate.

Totuși, aceste instrumente nu sunt infailibile. Confirmarea de la un chatbot nu garantează întotdeauna că platforma de comerț electronic va lua efectiv partea vânzătorului. În plus, mecanisme aparent de protecție, precum watermark-urile AI, pot fi prea ușor eliminate, iar aplicarea lor nu rezolvă problema la nivelul întregului ecosistem al comerțului online.

Impactul asupra politicilor de returnare

Reitblat avertizează că, pe termen lung, retailerii ar putea fi determinați să înăsprească politicile de returnare pentru a face față escrocheriilor facilitate de AI. O astfel de reacție ar avea însă costuri pentru clienții onești, cărora li s-ar îngreuna sau scumpi procesul de returnare și rambursare. Orice măsură care ridică bariera pentru a obține o rambursare îndreptățită va afecta experiența de cumpărare a majorității consumatorilor care acționează corect.

Două fețe ale aceleiași monede

Tendințele recente stau în oglindă cu reacțiile anterioare față de utilizarea AI în comerțul online, când comercianții au fost criticați pentru fotografii de produs generate artificial. Atunci, cumpărătorii s-au plâns că achizițiile online s-au transformat într-un joc de noroc: nu era clar dacă produsul primit va arăta precum imaginile din listare.

Acum, problema este inversă, dar are aceeași rădăcină: disponibilitatea largă a instrumentelor AI subminează încrederea necesară pentru ca tranzacțiile să funcționeze. Fie că este vorba despre fotografii de produs înșelătoare sau despre dovezi de deteriorare fabricate, rezultatul este același—dificultăți sporite în a opera sub ipoteza că majoritatea actorilor sunt onești.

Măsuri posibile pentru platforme

Platformele de comerț electronic se confruntă cu o alegere dificilă. Pentru a menține sistemele construite pentru oameni, vor trebui să elaboreze răspunsuri care pot include reguli noi de verificare, politici de returnare revizuite sau mecanisme sporite de responsabilitate pentru fraudele facilitate de AI. Până când astfel de instrumente și reguli vor fi stabilite și puse în aplicare la scară largă, comercianții independenți rămân vulnerabili la abuzuri, iar consumatorii onești riscă să suporte costurile unor măsuri de contracarare prea rigide.

Un exemplu din teren arată complexitatea problemei: în multe situații, vânzătorii nu solicită returnarea produsului înainte de a emite o rambursare, fie din dorința de a oferi un serviciu rapid, fie pentru că logistica returnărilor este costisitoare. Această practică, deși convenabilă pentru client, oferă un vector de atac pentru cei care pot genera dovezi vizuale false cu ușurință.

Limitările soluțiilor tehnice

Apărând ca o soluție, watermark-urile sau metadatele care ar putea indica originea generată a unei imagini par insuficiente în fața unor instrumente tot mai sofisticate de editare. Chiar și când sunt aplicate, watermark-urile pot fi eliminate, iar indicatorii tehnici pot fi modificați pentru a masca urmele generării artificiale. Prin urmare, la nivelul industriei este nevoie nu doar de instrumente automate, ci și de procese de verificare și de politici coerente care să descurajeze acest tip de fraudă.

Ce rămâne de monitorizat

Pentru observatori, câteva elemente merită atenție pe termen scurt: ritmul de creștere al cazurilor de cereri de rambursare bazate pe imagini generate de AI, eficiența instrumentelor de detectare dezvoltate atât de firme private, cât și de platforme, și răspunsul autorităților când cazurile ating niveluri care necesită investigare penală. Cazul reținut al cumpărătorului în China, care a primit o detenție de opt zile după constatarea fabricării materialelor video, arată că autoritățile pot interveni, dar rămâne de văzut cât de frecvent și generalizabil va fi un astfel de răspuns.

Consecințe pentru comercianți și consumatori

La nivel individual, comercianții mici pot suferi pierderi financiare directe din cauza rambursărilor aprobate pe baza dovezilor false. În paralel, reputația și încrederea într-un magazin pot avea de suferit dacă platforma decide, din motive de gestiune a riscului, să favorizeze consumatorii în disputele privind returnările. Consumatorii, pe de altă parte, riscă fie să devină victime ale înșelătoriilor, fie să fie afectați de politici mai restrictive de returnare implementate din motive de securitate.

Contextul mai larg al utilizării AI în comerț

Acest fenomen face parte dintr-un val mai larg de utilizări problematice ale AI în spațiul digital, în care generatoarele de conținut pot produce imagini, videoclipuri sau texte convingătoare, folosite fie pentru scopuri legitime, fie pentru a înșela. Dezbaterea despre cum să se reglementeze și cum să se construiască mecanisme de responsabilitate rămâne deschisă, iar companiile de tehnologie, autoritățile de reglementare și actorii din comerțul electronic trebuie să colaboreze pentru a crea soluții durabile.

Această relatare face parte dintr-o ediție a newsletterului Made in China, semnată de Zeyi Yang și Louise Matsakis, care urmărește cele mai importante evoluții tehnologice și comerciale din China.

Surse suplimentare și investigații rămân necesare pentru a înțelege pe deplin amploarea acestor înșelătorii și pentru a construi instrumentele adecvate de contracarare, astfel încât comerțul electronic să poată funcționa eficient fără a sacrifica încrederea între părți.

Linkuri utile: Articol principal WIRED, Investigație SCMP, Analiză JingDaily.