Escrocherii cu imagini generate de AI subminează încrederea în comerţul online din China

Sursa foto: Imagine generată AI iAceastă imagine a fost generată automat de AI pe baza rezumatului articolului și nu reprezintă un moment real fotografiat.

Sezonul cumpărăturilor online a lăsat multe persoane cu achiziţii care nu s-au ridicat la nivelul aşteptărilor, iar comerţul digital depinde de încrederea pe care o acordă clienţii şi comercianţii reciproc. Platformele de cumpărături solicită adesea fotografii trimise de cumpărători pentru a verifica legitimitatea cererilor de rambursare. Dar avansul instrumentelor de generare a imaginilor cu ajutorul inteligenţei artificiale a început să pună la încercare această metodă de verificare: imaginile manipulate sau complet fabricate pot conduce acum la cereri de rambursare frauduloase care păcălesc comercianţii şi slăbesc totodată încrederea în sistem.

Un indiciu prea suspicios

Pe platforma socială chineză RedNote, vânzători şi reprezentanţi ai serviciilor clienţi semnalează o proliferare a plângerilor privind cererile de rambursare însoţite de fotografii care par a fi produse de AI. În mai multe posturi consultate, comercianţii au descris situaţii în care imaginile primite îi făceau să suspecteze o falsificare: o pernă sau o faţă de pernă prezentată ca sfâşiată conţinea caractere chinezeşti pe eticheta de transport care nu aveau sens, iar o fotografie cu o cană de cafea arăta crăpături care semănau cu straturi de hârtie, nu cu rupturi în ceramică.

Comercianţii au observat că anumite categorii de produse sunt ţinta principală a acestor abuzuri: produse alimentare proaspete, cosmetice ieftine şi obiecte fragile precum cănile ceramice. În multe cazuri, magazinele nu cer returnarea produselor înainte de a acorda rambursarea, fapt care reduce barierele pentru fraude şi încurajează depunerea de cereri însoţite de imagini falsificate.

Un exemplu ilustrativ a apărut în noiembrie, când un comerciant care vindea crabii vii pe Douyin, versiunea chineză a TikTok, a primit o fotografie din partea unui cumpărător care sugera că majoritatea crabilor livraţi au sosit deja morţi, iar doi dintre ei evadaseră. Cumpărătorul a trimis şi clipuri video în care carnea crabilor era împinsă cu degetul de către o persoană, sugerând că aceştia erau într-adevăr morţi.

Sellerul Gao Jing, ale cărei rude cresc crabi de peste 30 de ani, a fost imediat sceptică: „Nu am văzut niciodată un crab mort cu picioarele orientate în sus”, a declarat ea într-un video publicat pe Douyin. Observaţiile care au atras atenţia au fost însă mai subtile: în primul clip apăreau două exemplare masculine şi patru feminine, în timp ce în al doilea erau trei masculi şi trei femele. În plus, unul dintre crabi părea să aibă nouă picioare în loc de opt, o incongruenţă greu de explicat.

Gao a făcut o plângere la poliţie, iar autorităţile au stabilit că videoclipurile erau falsificate; cumpărătorul a fost reţinut timp de opt zile, conform unei notificări postate de Gao. Cazul a atras o atenţie largă pe reţelele sociale din China, fiind primul astfel de exemplu cunoscut în care un posibil escroc a declanşat un răspuns reglementator.

Scăderea barierelor

Problema nu este restrânsă la China. Compania de detectare a fraudelor Forter, cu sediul în New York, estimează că utilizarea imaginilor manipulate cu AI în cererile de rambursare a crescut cu peste 15% de la începutul anului şi continuă să urce la nivel global. Michael Reitblat, CEO şi cofondator al Forter, spune că această tendinţă a început la mijlocul anului 2024 şi s-a accelerat pe măsură ce instrumentele de generare a imaginilor au devenit accesibile şi uşor de folosit.

Reitblat atrage atenţia că algoritmii generativi nu trebuie să reproducă perfect realitatea pentru a păcăli personalul de primă linie sau echipele care revizuiesc cererile de rambursare: în multe situaţii, aceşti angajaţi nu au timpul necesar pentru a analiza detaliat fiecare fotografie primită.

Pe lângă utilizatorii individuali, grupuri organizate de criminalitate folosesc aceleaşi tactici pentru a comite fraude la scară largă. Reitblat povesteşte un caz în care escrocii au înaintat cereri de rambursare în valoare de peste un milion de dolari, folosind imagini alterate care înfăţişau zgârieturi, crăpături sau îndoiri la diverse produse pentru uz casnic. Aceste cereri au fost trimise într-o fereastră de timp foarte strânsă, aparent cu intenţia de a copleşi sistemele de control, iar atacatorii au folosit adrese IP rotative pentru a-şi ascunde identitatea.

În încercarea de a riposta, unii vânzători au început să folosească instrumente bazate pe AI pentru a verifica imaginile primite cu cererile de rambursare. Un comerciant chinez de jucării a demonstrat cum trimite fotografiile primite către un chatbot pentru a detecta semne că imaginile ar putea fi manipulate. Totuşi, aceste soluţii sunt încă departe de a fi perfecte, iar confirmarea oferită de un chatbot nu garantează întotdeauna că platformele de e‑commerce vor susţine poziţia comerciantului în disputa referitoare la rambursare.

Mai mult, Reitblat avertizează că retailerii ar putea fi tentaţi să înăsprească politicile de retur pentru a reduce pierderile cauzate de fraude, însă astfel de măsuri ar putea afecta negativ experienţa cumpărătorilor oneşti şi ar submina din nou încrederea în comerţul online.

Două feţe ale aceleiaşi probleme

Ceea ce se întâmplă acum cu imaginile de rambursare este doar reversul aceleaşi medalii care a declanşat anterior nemulţumiri pe pieţele digitale chineze: atunci, comercianţii erau criticaţi pentru că foloseau fotografii generate de AI în prezentările produselor, iar cumpărătorii reproşau că produsele primite adesea nu semănau cu imaginile văzute online. Consumatorii au început să simtă că achiziţiile online au devenit un joc de noroc, unde nu poţi fi sigur dacă produsul recepţionat va corespunde fotografiilor.

Ambele tendinţe scot la iveală o problemă fundamentală: comerţul electronic funcţionează atunci când majoritatea participanţilor se comportă onest, iar disponibilitatea pe scară largă a instrumentelor AI complică această premisă. Mecanismele de protecţie existente, cum ar fi semnăturile sau marcajele digitale care ar putea indica originea generativă a imaginilor, se dovedesc adesea uşor de eliminat sau de falsificat.

Dacă platformele de vânzare doresc să menţină sisteme concepute pentru a funcţiona în condiţii „umane”, ele trebuie să regândească instrumentele de verificare: să adopte reguli de verificare noi, să revizuiască politicile de rambursare şi să implementeze mecanisme de responsabilizare pentru escrocheriile facilitate de AI.

Implicaţii pentru retail şi consumatori

Creşterea utilizării imaginilor generate de AI în scopuri frauduloase ridică întrebări complexe pentru comercianţi, platforme şi autorităţi. Pe termen scurt, comercianţii mici, care nu dispun de resursele unor mari reţele, sunt vulnerabili la pierderi care pot proveni dintr‑o succesiune de cereri frauduloase. În multe pieţe, procesul de returnare este conceput astfel încât returnarea rapidă a banilor fără solicitarea produsului înapoi să fie o practică acceptată pentru a îmbunătăţi experienţa cumpărătorului; această flexibilitate se poate transforma, însă, într‑o vulnerabilitate atunci când abuzele devin frecvente.

Pe de altă parte, îngreunarea procesului de retur pentru a opri fraudele ar putea descuraja cumpărătorii oneşti, care vor avea de suferit din cauza cerinţelor suplimentare sau a întârzierilor. Echilibrul între prevenirea fraudelor şi menţinerea unui serviciu accesibil şi corect pentru clienţii oneşti este delicate şi nu există soluţii simple.

O altă implicaţie este cea juridică şi reglementară: cazul în care cumpărătorul care a trimis clipurile falsificate cu crabii a fost reţinut timp de opt zile arată că autorităţile pot interveni, dar astfel de răspunsuri pot rămâne excepţii până când legislaţia şi capacitatea de investigare vor fi adaptate la provocările generate de tehnologiile generative. Intervenţia a stârnit interes pentru că a fost primul caz cunoscut de scam cu imagini AI care a condus la o reacţie de reglementare.

Tehnologii defensive şi limitările lor

În faţa unei ameninţări tot mai sofisticate, unii comercianţi şi platforme încep să folosească acelaşi tip de instrumente pentru a analiza şi depista imaginile manipulate. Detectoarele automate pot căuta artefacte asociate cu imagini generate sau modificate de modele AI şi pot compara metadatele sau inconsecvenţele vizibile în conţinut.

Totuşi, instrumentele defensive au limite clare: pe de o parte, modelele de generare a imaginilor se îmbunătăţesc constant şi pot elimina semnăturile vizibile lăsate în urmă; pe de altă parte, sistemele de analiză pot produce rezultate false pozitive, dezavantajând utilizatorii oneşti sau producătorii legitimi. Mai mult, confirmarea că o imagine este generată de AI nu oferă neapărat o probă definitivă a fraudei, deoarece imagini generate pot fi folosite şi în contexte legitime.

Chiar şi măsurile propuse la nivel tehnic, cum ar fi etichetarea sau watermarkingul imaginilor create de AI, au dezavantaje: marcajele pot fi scoase, iar utilizatorii rău intenţionaţi găsesc metode pentru a le ascunde. Prin urmare, soluţiile trebuie să includă nu doar instrumente tehnologice, ci şi procese operaţionale şi mecanisme legale care să descurajeze şi să sancţioneze abuzurile.

Ce ar putea face platformele?

Platformele de comerţ electronic se află în faţa unei alegeri dificile: pot institui verificări mai stricte pentru cererile de rambursare, pot cere dovezi suplimentare înainte de a procesa returnările sau pot implementa instrumente automate mai avansate pentru a detecta falsificările. Totuşi, fiecare dintre aceste măsuri are costuri: timp suplimentar de procesare, creşterea volumului de dispute deschise şi eventuale afectări ale experienţei de cumpărare.

O altă cale ar fi dezvoltarea unor mecanisme de responsabilizare mai clare pentru utilizatorii care abuzează sistemele: sancţiuni financiare, interdicţii de cont sau proceduri judiciare mai rapide în cazurile dovedite. Cazul din China în care poliţia a intervenit ar putea servi drept precedenţial, dar aplicarea la scară largă necesită resurse şi instrumente de investigaţie adaptate noilor tehnologii.

În lipsa unor soluţii eficiente, atât comercianţii, cât şi platformele ar putea decide, în mod pragmatic, să schimbe politicile de returnare—o alegere care va fi inevitabil dezavantajoasă pentru unii consumatori. Reitblat avertizează că o astfel de reacţie ar penaliza clienţii care respectă regulile şi, în cele din urmă, ar putea eroda şi mai mult încrederea în comerţul online.

Rămâne întrebarea responsabilităţii

Proliferarea instrumentelor generative deschide o discuţie mai largă despre responsabilitatea dezvoltatorilor de tehnologie, a platformelor care le permit distribuirea şi a utilizatorilor finali. Dacă instrumentele devin instrumente de fraudă la scară largă, cine răspunde? Este nevoie de strategii multiple: îmbunătăţirea detecţiei, adaptarea politicilor comerciale, colaborarea cu autorităţile şi, eventual, reglementări care să răspundă direct noilor tipuri de infracţiuni digitale.

Până atunci, comercianţii mici şi mijlocii rămân pe baricade, încercând să identifice semnele subtile care indică o imagine falsificată: inconsecvenţe anatomice, discrepanţe între videoclipuri şi fotografii trimise, elemente ale etichetelor care nu au sens şi alte detalii care ies în evidenţă pentru ochiul unui expert în produs. Exemple precum cel semnalat de Gao Jing demonstrează că experienţa umană continuă să fie un agent crucial în detectarea fraudelor, chiar şi într‑o eră dominată de instrumente automatizate.

Acest fenomen subliniază o realitate simplă: comerţul online funcţionează pe baza încrederii, iar tehnologiile emergente pot eroda această bază dacă nu sunt însoţite de mecanisme robuste de apărare şi responsabilizare. Platformele, comercianţii şi autorităţile sunt puse în faţa necesităţii de a răspunde rapid şi coordonat pentru a proteja atât interesele legitime ale consumatorilor, cât şi pe cele ale vânzătorilor care îşi desfăşoară activitatea onest.

Articol realizat pe baza materialului publicat de WIRED; pentru detalii suplimentare, consultaţi articolul original.

Această ediţie face parte din newsletterul «Made in China», semnat de Zeyi Yang şi Louise Matsakis.