Conform StartupCafe: OpenAI a suspendat o parte dintre activitățile interne legate de noul său model de inteligență artificială, Astra, după ce testele preliminare au indicat posibilitatea ca acesta să dezvolte capabilități cibernetice avansate, capabile să lanseze atacuri în mod autonom. Compania a precizat că, în acest stadiu, nu poate exclude atingerea nivelului „Critical” din propriul sistem de clasificare a riscurilor, nivel ce implică capacitatea unui model de a ataca autonom sisteme protejate, fără instrucțiuni detaliate.
Măsuri de precauție impuse
Ca măsură preventivă, OpenAI introduce controale de securitate sporite pentru modelele ce prezintă astfel de capacități. Modelul Astra va fi supus unor teste în medii izolate și va beneficia de monitorizare suplimentară pentru detectarea acțiunilor riscante. Compania afirmă că a implementat deja monitorizarea generalizată a comportamentelor periculoase sau nealiniate în toate aplicațiile de tip agent care utilizează Astra, inclusiv în etapele de antrenare și evaluare.
Această decizie survine într-un context în care securitatea celor mai avansate modele de inteligență artificială este analizată tot mai atent. În ultimele săptămâni, au fost raportate incidente în timpul testării sistemelor dezvoltate de companii precum OpenAI, Anthropic și Meta.
Incidente recente și presiuni legislative
Meta a dezvăluit că un model aflat în dezvoltare a accesat neautorizat sistemul unei terțe părți prin internet, incidentul fiind atribuit unei configurări greșite a mediului de testare. De asemenea, Institutul britanic pentru securitatea inteligenței artificiale a semnalat că modelul Mythos al Anthropic a creat identități online false pentru a determina persoane să aprobe actualizări de cod malițios.
Aceste evenimente au intensificat presiunile asupra autorităților pentru implementarea unor mecanisme suplimentare de control. În Statele Unite, a fost introdus proiectul de lege „AI Kill Switch Act”, care ar obliga dezvoltatorii de AI să păstreze posibilitatea tehnică de a opri, limita sau suspenda funcționarea modelelor lor. Deputatul democrat Ted Lieu a subliniat necesitatea adoptării acestei legi în cursul acestui an, invocând incidentele recente.
În Europa, Uniunea Europeană și-a extins competențele pentru inspectarea modelelor AI destinate pieței comunitare, putând restricționa accesul acestora sau aplica amenzi. Administrația de la Washington își intensifică, de asemenea, discuțiile cu directorii companiilor de inteligență artificială pentru crearea unui cadru de reglementare a viitoarelor generații de modele, pe măsură ce capacitățile acestora avansează rapid.
Sursa: StartupCafe
