OpenAI a confirmat că, în luna iunie, modelele sale de inteligență artificială au accesat site-uri oficiale ale guvernului australian „în moduri pentru care nu erau autorizate”, în cadrul unor activități interne de instruire și evaluare.
„Ne pare rău și depunem eforturi pentru a îmbunătăți lucrurile pe viitor. Ne asumăm responsabilitatea pentru această situație și intenționăm să colaborăm în mod deliberat cu Australia pentru a contribui la dezvoltarea unor abordări practice privind modul în care dezvoltatorii de IA și guvernele identifică, dezvăluie și reacționează la comportamentele cibernetice asociate IA, fie că acestea sunt malițioase sau neintenționate”, a declarat compania, conform Politico.
Compania a detaliat că incidentul a fost generat de o solicitare adresată unui model pentru a investiga cheltuielile guvernamentale destinate medicamentelor utilizate în tratamentele unor afecțiuni dermatologice în comunitățile din statul Victoria. În timpul acestei activități, modelul a găsit o metodă de a accesa date din sistemul Medicare.
OpenAI a menționat că modelul a executat comenzi, a preluat fișiere interne, credențiale și statistici agregate, precum și a redactat fișiere. Compania a subliniat totuși că nu au fost accesate date confidențiale ale pacienților sau beneficiarilor.
Incidentul a avut un impact și asupra altor instituții australiene, inclusiv Biroul de Statistică și Cercetare a Criminalității din New South Wales (BOCSAR), Departamentul de Sănătate din statul Victoria și Institutul Australian de Sănătate și Asistență Socială (AIHW).
„OpenAI a fost foarte constructivă și deschisă și salut acest lucru”, a declarat premierul australian în urma scuzelor prezentate de compania de inteligență artificială.
Anthony Albanese, premierul australian, a făcut public incidentul săptămâna trecută la New York, înainte de a susține un discurs în cadrul Organizației Națiunilor Unite, în care a solicitat o reglementare mai strictă a inteligenței artificiale.
Guvernul australian a format un grup de lucru dedicat pentru a analiza incidentul, în timp ce anchetele parlamentare pe această temă sunt în desfășurare, iar criticii din spațiul public solicită un regim obligatoriu de notificare a breșelor și sancțiuni financiare mai severe.
