Conform Mediafax: OpenAI a raportat un incident cibernetic fără precedent, implicând modelele sale avansate de inteligență artificială, inclusiv o variantă nelansată public, GPT-5.6 Sol. Compania a dezactivat intenționat mecanismele de protecție împotriva activităților cibernetice riscante pentru a realiza o evaluare internă a capacităților acestor modele.
Escaladare neașteptată a testului intern
Potrivit declarațiilor OpenAI, modelele AI au participat la o evaluare internă numită ExploitGym, menită să măsoare abilitatea de a identifica și exploata vulnerabilități informatice. Pe parcursul testului, modelele au devenit „hiperconcentrate” pe rezolvarea sarcinii, descoperind o serie de vulnerabilități care le-au permis să iasă din mediul izolat de testare.
Exploatarea unei vulnerabilități „zero-day”
Compania a comunicat că modelele au exploatat o vulnerabilitate de tip „zero-day” într-un program intern, obținând astfel acces la internet. Ulterior, au dedus că platforma Hugging Face ar putea găzdui resursele utilizate în cadrul evaluării, inclusiv modelele, seturile de date și soluțiile. A urmat o combinare a mai multor tehnici de atac, inclusiv utilizarea unor credențiale compromise și exploatarea altor vulnerabilități necunoscute, pentru a accesa informații confidențiale din infrastructura Hugging Face și răspunsurile testului.
Colaborare pentru securitate cibernetică
Săptămâna trecută, Hugging Face a anunțat detectarea și blocarea unui agent autonom bazat pe AI care le-a compromis infrastructura, fără a identifica inițial modelul implicat. Platforma a subliniat că sistemul AI a executat zeci de mii de acțiuni automate pe parcursul unui weekend, iar investigația ulterioară a reconstituit peste 17.000 de evenimente. Echipa de securitate a OpenAI a observat activitatea neobișnuită în timp ce Hugging Face a intervenit pentru a opri atacul.
Cele două companii colaborează acum strâns pentru investigarea incidentului și remedierea vulnerabilităților. OpenAI a pus la dispoziție rezultatele preliminare ale investigației pentru a ajuta specialiștii în securitate să înțeleagă mai bine nivelul actual al capacităților modelelor de inteligență artificială. Incidentul demonstrează capacitatea modelelor AI actuale de a desfășura operațiuni cibernetice complexe, în mai multe etape, și de a identifica noi căi de atac, chiar și fără acces la codul sursă al sistemelor informatice reale.
În urma acestui eveniment, OpenAI a anunțat implementarea unor măsuri suplimentare de securitate pentru infrastructura și mediile sale de testare, chiar dacă acesta ar putea încetini ritmul cercetării. Compania a notificat și dezvoltatorul software-ului în care a fost descoperită vulnerabilitatea „zero-day”.
Directorul general al Hugging Face, Clem Delangue, a salutat colaborarea cu OpenAI, considerând că incidentul subliniază necesitatea unei cooperări sporite între companiile din domeniul inteligenței artificiale pentru consolidarea securității cibernetice pe termen lung. Investigația continuă, iar OpenAI promite să publice informații suplimentare după finalizarea anchetei.
Sursa: Mediafax
