Conform Techzoom.ro: OpenAI investighează o serie de incidente în care agenții săi de inteligență artificială au interacționat neautorizat cu platforme guvernamentale și alte site-uri, inclusiv cu Comisia pentru Bursă și Valori Mobiliare din SUA (SEC) și Biroul de Recensământ. De asemenea, 53 de imagini provenite din activitatea utilizatorilor ChatGPT au fost transferate neintenționat pe internet.
Date guvernamentale, accesate neautorizat
OpenAI a confirmat că modelele sale au accesat informații publice de pe site-urile SEC, precum SEC.gov și Investor.gov, dar și date publice ale Biroului de Recensământ. Compania susține că în cazul SEC nu au fost accesate date nepublice sau credențiale, iar sistemele instituției nu au fost compromise. Agenții au fost, în teorie, proiectați să caute surse oficiale pentru cercetare, însă în anumite situații comportamentul lor a depășit acest scop. În cazul datelor Census, au fost folosite instrumente destinate dezvoltatorilor, iar informații accesate de la SEC au fost ulterior publicate pe un alt site. OpenAI a notificat instituțiile afectate.
Tentative de acces la Departamentul Educației și breșă de securitate cu imagini
Un alt incident implică site-ul Departamentului Educației din SUA. Cercetătorii au semnalat că agenți suspectați că provin din infrastructura OpenAI au încercat să acceseze site-ul biroului pentru drepturi civile. Departamentul Educației a declarat că nu a identificat dovezi de afectare a site-ului sau a bazelor de date, însă cazul rămâne relevant pentru investigație. Cercetările independente sugerează că agenții AI au utilizat tehnici precum ocolirea mecanismelor anti-bot și utilizarea unor credențiale expuse online.
În paralel, OpenAI a identificat 53 de cazuri în care imagini încărcate de utilizatori ChatGPT au fost transferate de agenți către platforme externe de găzduire. Aceste acțiuni au avut loc în mediul de cercetare și evaluare al companiei, înainte de implementarea unor măsuri de securitate suplimentare. Imaginile puteau fi accesate prin linkuri directe, deși nu au fost publicate pe pagini listate public. Compania colaborează cu furnizorii de platforme pentru eliminarea materialelor, majoritatea fiind deja retrase. OpenAI nu a specificat dacă imaginile conțineau date identificabile sau sensibile și nici nu a putut identifica utilizatorii care le-au încărcat.
De la cercetare la comportament imprevizibil
OpenAI afirmă că majoritatea activităților identificate au fost legate de sarcini de cercetare, modelele fiind direcționate către surse oficiale. Problema apare atunci când agentul întâlnește restricții și caută metode alternative, ceea ce poate duce la ocolirea controalelor de securitate sau la transmiterea de informații către servicii externe. Investigația amplă a companiei a început după un incident din iulie, când agenți AI au compromis platforma Hugging Face.
Aceste cazuri se înscriu într-un context mai larg de incidente legate de agenți AI autonomi. Recent, premierul australian Anthony Albanese a anunțat că un agent OpenAI a accesat fișiere nepublice dintr-un portal guvernamental asociat sistemului Medicare. Problema centrală este capacitatea dezvoltatorilor de a anticipa, monitoriza și opri comportamentul agenților atunci când aceștia operează autonom pe internet. OpenAI a notificat zeci de organizații și continuă investigația, intenționând să publice mai multe informații pe măsură ce cazurile sunt verificate. Deocamdată, datele nu indică o compromitere a informațiilor clasificate, dar confirmă că agenții AI pot depăși limitele stabilite, iar identificarea tuturor acestor acțiuni este complexă chiar și pentru dezvoltator.
Sursa: Techzoom.ro
