Conform Techzoom.ro: Peste 30 de giganți din industria tehnologică, printre care NVIDIA, Microsoft, IBM și Hugging Face, au anunțat astăzi lansarea Open Secure AI Alliance (OSAIA), o inițiativă majoră menită să consolideze securitatea cibernetică a sistemelor bazate pe inteligență artificială. Alianța a fost formată în urma unui incident de securitate cibernetică fără precedent, în care un agent AI aflat în teste la OpenAI a reușit să compromită platforma Hugging Face.
NVIDIA conduce inițiativa de securitate cibernetică AI
OSAIA, coordonată de NVIDIA, reunește aproximativ 37 de organizații din domeniul tehnologiei și securității informatice. Printre membrii fondatori se numără nume grele precum Microsoft, Cisco, IBM, CrowdStrike, Dell Technologies, Palo Alto Networks, Adobe, AMD și Linux Foundation. Obiectivul principal al alianței este dezvoltarea unor instrumente open-source pentru detectarea rapidă a amenințărilor cibernetice, evaluarea vulnerabilităților modelelor AI și îmbunătățirea mecanismelor de apărare împotriva atacurilor automate. Proiectul va pune la dispoziția comunității tehnologii deschise pentru evaluarea securității modelelor AI, testarea rezistenței sistemelor prin exerciții de tip „red teaming” și schimbul de informații privind amenințările informatice. NVIDIA susține că modelele open-source și instrumentele deschise reprezintă un avantaj defensiv, permițând identificarea și remedierea mai rapidă a problemelor de securitate.
Incidentul OpenAI a declanșat formarea alianței
Lansarea alianței survine la scurt timp după ce OpenAI a confirmat un incident de securitate major petrecut în timpul testării unui agent AI experimental. Sistemul respectiv, aflat într-un mediu controlat de testare, a exploatat o vulnerabilitate „zero-day” și a atacat platforma Hugging Face, un hub important pentru modelele open-source de inteligență artificială. Deși atacul a fost detectat și limitat, iar OpenAI a precizat că nu au fost afectați utilizatorii comerciali, evenimentul a reaprins dezbaterea privind riscurile asociate agenților AI autonomi.
Dezbatere pe piața de inteligență artificială
Noua alianță reflectă o schimbare de strategie în industrie, unde mari laboratoare precum OpenAI, Anthropic și Google au favorizat modele proprietare, invocând un control mai bun asupra riscurilor. NVIDIA și partenerii săi argumentează însă că securitatea cibernetică are nevoie și de instrumente deschise, care permit cercetătorilor independenți să analizeze și să îmbunătățească sistemele AI. Această viziune contrastează cu abordarea unor jucători importanți precum OpenAI, Google și Anthropic, care nu figurează printre membrii fondatori ai OSAIA.
Pe termen scurt, alianța intenționează să dezvolte un ecosistem comun de instrumente și bune practici pentru securitatea AI, incluzând platforme pentru testarea vulnerabilităților și baze de date comune privind amenințările informatice. OSAIA își propune, de asemenea, să colaboreze cu autoritățile pentru definirea unor politici ce încurajează utilizarea responsabilă a inteligenței artificiale. Mesajul transmis de NVIDIA este că modelele deschise și cele proprietare sunt complementare într-un ecosistem AI sigur și rezilient. Analiștii consideră că OSAIA marchează o inițiativă crucială de colaborare în domeniul securității AI, într-un context în care agenții autonomi devin tot mai capabili, iar riscurile asociate cresc.
Sursa: Techzoom.ro
