Marți, cel mai înalt oficial britanic în domeniul tehnologiei a solicitat platformei de socializare X, deținută de Elon Musk, să acționeze urgent, în timp ce un legislator din Polonia a menționat acest aspect ca motiv pentru adoptarea unor reglementări privind siguranța digitală, conform celor raportate de Associated Press.
Executivul Uniunii Europene a criticat Grok, iar oficialii și autoritățile de reglementare din Franța, India, Malaezia și Brazilia au condamnat platforma, cerând investigarea situației.
Aceste reacții crescute din partea unor națiuni variate subliniază riscurile asociate aplicațiilor de nudificare care folosesc inteligența artificială pentru a genera imagini deepfake sexuale explicite.
Problema a fost amplificată de lansarea, anul trecut, a Grok Imagine, un generator de imagini bazat pe inteligență artificială care permite utilizatorilor să creeze videoclipuri și imagini prin introducerea de comenzi textuale. Acesta include un mod special, denumit „mod picant”, capabil să genereze conținut pentru adulți. Situația s-a agravat la sfârșitul lunii trecute, când Grok, găzduit pe X, a început să accepte un număr mare de solicitări din partea utilizatorilor pentru a modifica imaginile postate de alții. Marți, utilizatorii Grok puteau în continuare să genereze imagini cu femei, folosind solicitări precum „pune-o într-un bikini transparent”.
Aspectul problematic este amplificat de promovarea chatbotului de către Musk ca o alternativă mai îndrăzneață la competitorii săi, cu mai multe măsuri de siguranță, și de faptul că imaginile Grok sunt publice, astfel fiind ușor de răspândit.
Un raport al grupului non-profit AI Forensics a analizat 20.000 de imagini generate de Grok între 25 decembrie și 1 ianuarie, constatând că 2% dintre acestea înfățișau persoane care păreau a avea 18 ani sau mai puțin, incluzând 30 de femei sau fete tinere, îmbrăcate în bikini sau haine transparente.
Compania de inteligență artificială xAI, fondată de Musk, a răspuns la solicitările de comentarii cu un mesaj automat: „Legacy Media Lies” (Minciunile mass-media tradiționale).
Cu toate acestea, X nu a contestat existența conținutului problematic generat prin Grok. Într-o postare pe contul său Safety, compania a afirmat că ia măsuri împotriva conținutului ilegal, inclusiv materialele care conțin abuzuri sexuale asupra copiilor, „prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu autoritățile locale și forțele de ordine, după caz”.
De asemenea, platforma a reiterat o declarație a lui Musk, care a spus: „Oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal”.
În prezent, un număr tot mai mare de țări solicită lui Musk să implementeze măsuri suplimentare pentru a controla conținutul explicit sau abuziv de pe platformă.
