Internet Watch Foundation (IWF), organismul britanic responsabil cu supravegherea internetului, a anunțat recent că a identificat pentru prima dată materiale ilegale care conțin abuzuri sexuale asupra copiilor, generate cu ajutorul inteligenței artificiale Grok. Această tehnologie a fost dezvoltată de compania xAI, fondată de Elon Musk, și a fost integrată în platforma X, conform .
Conform informațiilor furnizate de IWF, infractorii au utilizat Grok pentru a crea imagini sexualizate ale minorilor, care ulterior au fost distribuite pe un forum de pe dark web.
Utilizatorii care au postat aceste materiale s-au lăudat explicit că au folosit Grok pentru a le produce.
„Putem confirma că analiștii noștri au descoperit imagini cu caracter sexual ce implică copii cu vârste cuprinse între 11 și 13 ani, care par a fi fost generate prin acest instrument”, a declarat Ngaire Alexander, șefa liniei de asistență a IWF.
„Nu există nicio scuză pentru așa ceva”, a adăugat ea.
În ultimele zile, IWF a primit multiple sesizări din partea utilizatorilor care reclamau capacitatea lui Grok de a genera imagini sexualizate cu copii, dar care nu atingea pragul legal al conținutului ilegal. Acum, acest prag a fost depășit.
Organizația a menționat că imaginile identificate sunt clasificate drept „categoria C” conform legislației britanice, dar sunt utilizate ca material de bază pentru generarea unor videoclipuri mult mai grave — de „categoria A” — prin intermediul altor instrumente de inteligență artificială.
„Daunele se extind în valuri. Nu există nicio scuză pentru lansarea unor produse care pot fi utilizate pentru a abuza și a răni oameni, în special copii”, a subliniat Alexander.
„Ceea ce am văzut este absolut îngrozitor”
Acest caz a generat reacții puternice din partea autorităților britanice. Atât Ofcom, autoritatea de reglementare a comunicațiilor, cât și secretarul pentru tehnologie, Liz Kendall, au solicitat platformei X să ia măsuri urgente.
„Ceea ce am văzut în online în ultimele zile este absolut îngrozitor și inacceptabil într-o societate decentă. X trebuie să se ocupe urgent de această problemă”, a afirmat Kendall.
Ministrul britanic pentru inteligență artificială și siguranță online, Kanishka Narayan, a catalogat imaginile drept „complet inacceptabile” și a declarat că guvernul va aplica regulile de siguranță online, indiferent de presiunile externe.
„Este o chestiune de politică internă. Vom continua să ne asigurăm că publicul este protejat de abuz sexual și hărțuire online”, a afirmat Narayan, fiind întrebat dacă Londra riscă tensiuni cu administrația americană în acest context.
Răspunsul lui Musk și al platformei X
Miercuri, Elon Musk a anunțat lansarea unei noi versiuni a Grok și a îndemnat utilizatorii să își actualizeze aplicația, fără a specifica modificările aduse.
Anterior, Musk a declarat că „oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar fi încărcat conținut ilegal”.
Platforma X a comunicat că ia măsuri împotriva conținutului ilegal prin eliminarea materialelor, suspendarea permanentă a conturilor și colaborarea cu autoritățile.
Un test major pentru reglementarea AI
Cazul Grok reprezintă unul dintre primele exemple concrete în care un instrument de inteligență artificială este asociat direct cu producerea și distribuirea de materiale ilegale ce implică abuzuri asupra copiilor, exercitând presiune asupra guvernelor și companiilor pentru a clarifica rapid responsabilitatea legală în era inteligenței artificiale.
Pentru autoritățile britanice, prioritatea rămâne clară: protejarea copiilor și aplicarea legii, indiferent de cine se află în spatele tehnologiei.
