Comisia Federală pentru Comerț din SUA (FTC) își pregătește solicitările oficiale de informații pentru mai multe companii, având în vedere convocarea directorilor dezvoltatorilor de inteligență artificială (AI) pentru audieri, conform Reuters. Ancheta se concentrează asupra companiilor OpenAI și Anthropic și reprezintă o nouă etapă în interacțiunea dintre dezvoltatorii AI și autoritățile de reglementare. Această investigație a fost inițiată în urma unor incidente în care agenții AI au demonstrat capacitatea de a interveni asupra unor sisteme externe și de a identifica sau exploata vulnerabilități.
Această investigație a FTC acoperă întreaga industrie și vizează posibilele riscuri pe care tehnologiile AI le pot reprezenta pentru consumatori. Printre companiile investigate se numără OpenAI și Anthropic, dar și grupul de cercetare METR, care a fost implicat în analize independente legate de incidentele de securitate asociate agenților AI dezvoltați de aceste firme.
FTC intenționează să ceară informații oficiale și să convoace directori ai companiilor AI pentru a depune mărturie. Această investigație este considerată prima acțiune oficială din SUA care analizează în mod direct problema agenților AI capabili să acționeze autonom și care pot produce efecte în afara mediului în care au fost testați.
Președintele FTC, Andrew Ferguson. Sursa foto: X
Întrebările legate de agenții AI au început să ridice probleme de securitate. Unul dintre cazurile care au exercitat presiune asupra industriei a fost cel al agenților OpenAI care au investigat vulnerabilitățile platformei de dezvoltare software Hugging Face. Potrivit unui oficial al FTC, agenții au examinat aceste vulnerabilități înainte de a desfășura un atac de amploare asupra platformei.
Președintele FTC, Andrew Ferguson, a avertizat anterior că dezvoltatorii care utilizează agenți AI în teste de securitate și provoacă atacuri ar putea fi considerați responsabili pentru eventualele prejudicii cauzate.
Problema este mai complexă decât un singur incident. Agenții AI pot avea acces la internet, software-uri sau alte sisteme pentru a îndeplini diverse sarcini. În anumite condiții, comportamentul acestora poate depăși așteptările utilizatorului sau dezvoltatorului.
FTC dispune deja de autoritatea de a sancționa companiile în caz de practici incorecte sau înșelătoare. Instituția a utilizat anterior aceste competențe și în cazuri legate de protecția datelor consumatorilor.
Pentru industria AI, această anchetă poate constitui un moment decisiv în clarificarea responsabilității și a riscurilor implicate atunci când agenții artificiali obțin capacitatea de a acționa asupra sistemelor reale. Anthropic a avertizat deja în documentele pregătite pentru listarea sa la bursă că tehnologia agenților AI generează riscuri juridice importante și greu de anticipat.
