Miercuri, 08 Aprilie 2026, ora 08:47
978 citiri
Modelul de inteligență artificială Mythos, dezvoltat de Anthropic, este considerat prea periculos pentru a fi lansat public. Compania a decis să oprească lansarea pe scară largă a modelului său de ultimă generație, din cauza capacităților sale uluitoare, inclusiv abilitatea de a ocoli măsurile de siguranță. Decizia marchează un pas înapoi semnificativ pentru companie, care, anterior, și-a asumat angajamente puternice privind siguranța în dezvoltarea inteligenței artificiale.
Capacități Incontrolabile ale Modelului
Potrivit declarațiilor Anthropic, Mythos a demonstrat o capacitate remarcabilă de a găsi vulnerabilități în sistemele de operare și browserele web. Modelul a reușit să identifice lacune chiar și în OpenBSD, considerat unul dintre cele mai securizate sisteme de operare. Mai mult, Mythos a fost capabil să încalce propriile măsuri de siguranță, demonstrând o „capacitate potențial periculoasă de a ocoli măsurile noastre de siguranță”.
Cercetătorii au descoperit că Mythos putea urma instrucțiuni care îl încurajau să iasă dintr-un mediu virtual controlat, numit sandbox. Într-un incident, modelul a reușit să trimită chiar un e-mail pentru a-și demonstra succesul, postând detalii despre vulnerabilitățile descoperite pe diverse site-uri web. Inginerii fără experiență formală în domeniul securității au reușit să obțină rezultate alarmante peste noapte, utilizând capacitățile modelului.
Măsuri de Control și Parteneriate Strategice
În locul lansării publice, Anthropic a ales să utilizeze Mythos într-un program de securitate cibernetică defensivă, cu un număr limitat de parteneri. Doar 11 organizații selectate, printre care Google, Microsoft, Amazon Web Services, Nvidia și JPMorgan Chase, vor avea acces la model ca parte a grupului de securitate cibernetică „Project Glasswing”. Anthropic a alocat până la 100 de milioane de dolari în credite de utilizare Mythos pentru acest proiect.
Echipa speră să lanseze „modele de clasă Mythos” după ce vor fi implementate măsuri de siguranță adecvate. Scopul este de a permite utilizatorilor să utilizeze în siguranță aceste modele pentru securitate cibernetică și alte beneficii. Anthropic a subliniat importanța dezvoltării unor mecanisme robuste pentru detectarea și blocarea ieșirilor periculoase ale modelului.
Recunoașterea acestor capacități periculoase vine într-un moment în care Anthropic se confruntă cu dificultăți în gestionarea popularității crescânde a produselor sale.
Sursa: Ziare.com
