Casa Albă şi Anthropic au avut o întâlnire „constructivă” pe fondul îngrijorărilor legate de modelul Claude Mythos

Sursa foto: Bbc

Casa Albă a raportat o întrevedere „productivă şi constructivă” cu directorul executiv al companiei de inteligenţă artificială Anthropic, Dario Amodei, pe fondul controversei generate de previzualizarea publică a modelului Claude Mythos. Întâlnirea survine la o săptămână după lansarea previzualizării Mythos, un instrument pe care compania îl descrie ca fiind capabil să depăşească performanţele umane în anumite sarcini de hacking şi securitate cibernetică.

Detalii despre întâlnire şi participanţi

Potrivit relatărilor, Dario Amodei s-a întâlnit vineri cu secretarul Trezoreriei, Scott Bessent, şi cu şefa de cabinet a Casei Albe, Susie Wiles. Informaţia despre această convorbire a fost transmisă de Axios, iar Casa Albă a emis un comunicat în care descrie discuţia ca fiind orientată spre colaborare şi găsirea unor abordări comune pentru problematica generată de extinderea tehnologiilor de tip AI.

Declaraţia oficială a administraţiei sintetizează temele abordate astfel: s-au discutat „oportunităţi de colaborare, precum şi abordări şi protocoale comune pentru a răspunde provocărilor asociate scalării acestei tehnologii”. Documentul adaugă că întâlnirea a „explorat echilibrul între promovarea inovaţiei şi asigurarea siguranţei”.

Ce este Claude Mythos şi de ce a stârnit îngrijorări

Anthropic a lansat o previzualizare a modelului Claude Mythos în urmă cu o săptămână, prezentându-l ca un instrument care poate depista erori şi vulnerabilităţi în cod vechi de zeci de ani şi care poate, în mod autonom, să identifice modalităţi de exploatare a acelor deficienţe. Compania susţine că instrumentul poate depăşi performanţele umane pentru anumite sarcini legate de hacking şi securitate cibernetică.

Accesul la Mythos a fost oferit până în prezent doar unui număr restrâns de companii, „doar câteva zeci”, conform informaţiilor publicate. Cercetători în domeniu au caracterizat capabilităţile modelului ca fiind „remarcabil de competente în sarcini de securitate informatică”. Aceste caracterizări au amplificat dezbaterile privind riscurile potenţiale asociate unei astfel de tehnologii atunci când este folosită în mod necontrolat.

Propuneri de cooperare şi abordări guvernamentale

Reprezentanţii Anthropic, inclusiv Amodei, au declarat în săptămânile recente că au discutat cu oficiali din diverse instituţii ale guvernului american şi au oferit cooperarea companiei pentru a găsi soluţii care să reducă riscurile asociate tehnologiei. Această disponibilitate la dialog a fost menţionată în contextul întâlnirii de la Casa Albă, sugerând că, în pofida tensiunilor politice şi juridice, tehnologia dezvoltatorilor poate rămâne un element cu relevanţă pentru instituţii importante.

Afirmaţiile oficiale ale Casei Albe subliniază necesitatea unui echilibru între inovare şi securitate: pe de o parte, recunoaşterea potenţialului tehnologiilor avansate; pe de altă parte, atenţia sporită pentru mecanismele care să prevină utilizări dăunătoare sau scăpări de sub control ale unor instrumente capabile să identifice şi să exploateze vulnerabilităţi informatice.

Contextul legal: eticheta de „risc în lanţul de aprovizionare” şi acţiunile în instanţă

În luna martie, Anthropic a formulat acţiuni în justiţie împotriva Departamentului Apărării şi a altor agenţii federale după ce a fost etichetată de către autorităţi drept un „risc în lanţul de aprovizionare”. Această etichetă, aplicată în premieră unei companii americane, reflectă concluzii oficiale potrivit cărora o tehnologie nu ar fi suficient de sigură pentru utilizare guvernamentală în anumite contexte sensibile.

Compania a susţinut în faţa instanţei că desemnarea drept „risc în lanţul de aprovizionare” a fost o formă de represalii din partea secretarului Apărării, Pete Hegseth, motivată de refuzul lui Amodei de a acorda Pentagonului acces nelimitat la instrumentele Anthropic. Motivarea refuzului, conform reprezentanţilor companiei, a fost teama ca tehnologia să nu fie folosită pentru supraveghere în masă la nivel intern sau pentru dezvoltarea unor arme complet autonome.

Un tribunal federal din California a fost, în mare parte, de acord cu argumentele formulate de Anthropic; însă un tribunal federal de apel a respins solicitarea companiei de a obţine un ordin provizoriu care să blocheze temporar desemnarea drept „risc în lanţul de aprovizionare”. Cu toate acestea, conform documentelor judiciare, instrumentele Anthropic continuă să fie utilizate în multe dintre agenţiile guvernamentale care le foloseau înainte de emiterea respectivei etichete.

Tensiuni politice şi retorică publică

Relaţia dintre Anthropic şi administraţia federală a fost marcată în ultimele luni de reacţii dure din partea oficialilor. Casele albe anterioare şi actuala administraţie au folosit termeni peiorativi pentru a descrie compania: la scurt timp după ce au apărut discuţii publice despre relaţia cu guvernul, compania a fost catalogată de oficialii administraţiei drept o „companie radicală de stânga, woke”.

Preşedintele Donald Trump a emis un ordin prin care a cerut tuturor agenţiilor guvernamentale să înceteze utilizarea instrumentelor dezvoltate de Anthropic. Pe reţelele sociale, preşedintele a descris compania ca fiind condusă de „nebuni de stânga” şi a afirmat: „Nu avem nevoie de ea, nu o vrem şi nu vom mai face afaceri cu ei!”

Când a fost întrebat de reporteri, la sosirea la un eveniment în Phoenix, despre vizita directorului executiv al Anthropic la Casa Albă, preşedintele Trump a răspuns că nu are „nicio idee” despre această întrevedere.

Importanţa practică a tehnologiei pentru instituţii guvernamentale

Deşi compania a fost criticată şi etichetată de autorităţi, rezultatele procesului şi documentele publice arată că tehnologia Anthropic a continuat să fie utilizată în activităţi guvernamentale şi militare încă din 2024. Această realitate operaţională complică poziţiile politice şi administrative, demonstrând că, în pofida retoricii şi a deciziilor oficiale, unele instituţii continuă să se bazeze pe capacităţile tehnologiei dezvoltate de Anthropic.

Întâlnirea recentă de la Casa Albă, descrisă ca fiind „productivă şi constructivă”, pare să reflecte recunoaşterea faptului că anumite instrumente avansate de inteligenţă artificială pot deveni prea importante pentru a fi complet ignorate de către instituţiile statului, indiferent de poziţiile politice sau retorica publică.

Perspectiva dialogului: inovare versus siguranţă

Discuţiile raportate între oficialii guvernamentali şi conducerea Anthropic s-au axat pe identificarea unor mecanisme de cooperare care să permită exploatarea beneficiilor tehnologice, reducând în acelaşi timp riscurile asociate. Casa Albă a subliniat necesitatea unor protocoale comune şi a unor abordări partajate pentru a gestiona provocările care apar atunci când astfel de tehnologii sunt scalate la nivel larg.

Acest dialog indică, pe de o parte, o recunoaştere pragmatică a valorii potenţiale a unor instrumente de mare putere şi, pe de altă parte, o atenţie crescută la elaborarea unor garanţii şi practici care să minimizeze utilizările neintenţionate sau abuzive ale acestor instrumente.

Pe măsură ce discuţiile şi procedurile legale continuă, rămâne de urmărit cum vor evolua relaţiile între Anthropic şi instituţiile federale, în special în contextul în care tehnologiile AI capabile să identifice vulnerabilităţi informatice pot avea aplicaţii atât benefice, cât şi dăunătoare.

Sursele informaţiilor includ relatări de presă şi comunicări oficiale care au documentat întâlnirea şi disputa juridică în curs între Anthropic şi anumite agenţii federale.

Mai multe detalii despre modelul Claude Mythos şi riscurile asociate pot fi găsite într-o analiză separată realizată de aceeaşi publicaţie.

Articolul original BBC despre întâlnirea de la Casa Albă

Analiză BBC: Ce este Claude Mythos şi ce riscuri prezintă?