Anthropic, un startup de inteligență artificială, a lansat un proiect amplu, în colaborare cu giganți tehnologici precum Amazon, Microsoft și Apple, pentru a testa un model AI avansat, cu accent pe securitatea cibernetică. Proiectul, denumit „Project Glasswing”, va permite unor organizații selectate să utilizeze un model AI general, denumit „Claude Mythos Preview”, încă nelansat public, pentru activități defensive în domeniul securității informatice.
Colaborare și Scopul Proiectului
Partenerii din „Project Glasswing” includ nume importante din industrie, precum CrowdStrike, Palo Alto Networks, Google și Nvidia. Scopul principal al inițiativei este de a evalua și perfecționa capacitățile modelului Claude Mythos Preview în detectarea și contracararea amenințărilor cibernetice. Modelul a fost descris anterior ca având capacități foarte avansate, dar ridică și anumite riscuri de securitate. Lansarea acestui proiect vine într-un context în care atacurile informatice bazate pe inteligență artificială au devenit o preocupare majoră la nivel global. Conferința RSA dedicată securității cibernetice, desfășurată recent la San Francisco, a evidențiat creșterea numărului de atacuri generate de AI.
Capacități Avansate și Implicații
Modelul Mythos Preview a demonstrat capacitatea de a identifica „mii” de vulnerabilități majore în sisteme de operare, browsere web și alte programe software. Partenerii implicați în proiect vor utiliza modelul pentru activități defensive, iar rezultatele vor fi partajate cu întreaga industrie. Anthropic intenționează să extindă accesul la model și pentru aproximativ 40 de organizații responsabile de infrastructură software critică. Compania va oferi, de asemenea, credite de utilizare în valoare de până la 100 de milioane de dolari, precum și donații de 4 milioane de dolari pentru proiecte open-source dedicate securității. Obiectivul final este ca utilizatorii să poată implementa în siguranță modele din aceeași clasă cu Mythos la scară largă.
Anthropic a confirmat că poartă discuții continue cu guvernul Statele Unite ale Americii privind capabilitățile acestui model. Potrivit companiei, anul trecut, hackeri au exploatat vulnerabilități ale sistemului Claude pentru a ataca aproximativ 30 de organizații globale. Un studiu realizat de IBM și Palo Alto Networks arată că 67% dintre directorii intervievați au fost vizați de atacuri bazate pe inteligență artificială în ultimul an.
