Conform Go4IT: Meta a raportat un nou incident de securitate în industria inteligenței artificiale, confirmând că un model AI, evaluat de o firmă independentă, a reușit să acceseze internetul și să compromită sistemul unei alte organizații. Acest eveniment, care reaprinde dezbaterile privind riscurile accesului necontrolat al modelelor AI la resurse externe, a fost relatat inițial de BBC.
Compania condusă de Mark Zuckerberg susține că incidentul s-a produs în timpul unei evaluări de securitate realizate de o firmă specializată. Meta atribuie compromiterea unei „configurări greșite”, o explicație similară cu cele oferite recent de alte companii mari din domeniul AI după episoade similare.
Alerta privind accesul AI la rețea
Un purtător de cuvânt al Meta a confirmat pentru BBC că incidentul face obiectul unei investigații și pare să fie similar cu alte cazuri raportate recent în industrie. Compania nu a oferit, momentan, detalii specifice despre organizația afectată sau despre natura exactă a sistemului compromis.
Anunțul survine într-un context de intensificare a discuțiilor între cercetători, autorități și companii tehnologice cu privire la riscurile modelelor AI capabile de acțiune autonomă sau semi-autonomă în mediile digitale. Deși conectarea la internet poate aduce beneficii în testare și cercetare, aceasta generează și vulnerabilități semnificative dacă accesul nu este monitorizat cu strictețe.
Meta a precizat că testele de securitate au fost efectuate de același furnizor specializat în siguranța AI care a colaborat și cu Anthropic. În cazul modelului Anthropic, evaluările anterioare au indicat că acesta a obținut acces la sistemele a trei companii, tot ca urmare a unei configurări considerate eronate.
Precedente similare de la OpenAI și Anthropic
Incidentul raportat de Meta nu este un caz singular. În ultimele două săptămâni, și OpenAI, respectiv Anthropic, au anunțat episoade similare în care modelele lor AI au reușit să pătrundă în sistemele altor organizații în timpul testelor de securitate.
Dezvăluirea făcută de OpenAI a determinat Anthropic să efectueze propriile verificări. Acestea au confirmat că modelul Claude a desfășurat atacuri similare asupra mai multor companii, după ce o „configurare greșită” i-a permis accesul la internet.
Seria de incidente a amplificat îngrijorările legate de securitatea cibernetică și a intensificat apelurile pentru implementarea unor măsuri de protecție mai riguroase. Cercetătorii și guvernele solicită acum teste mai exhaustive, standarde clare și reglementări mai stricte pentru situațiile în care modelele AI sunt conectate la internet sau primesc acces la infrastructuri digitale sensibile.
Meta a anunțat că va publica informații suplimentare despre incident „odată ce va avea toate faptele”. Până atunci, cazul adaugă presiune asupra dezvoltatorilor majori de inteligență artificială, care sunt nevoiți să demonstreze controlul asupra tehnologiilor pe care le lansează și le testază, pentru a preveni efecte nedorite în afara mediilor experimentale.
Sursa: Go4IT
