Compania americană ANTHROPIC a decis să nu lanseze public un nou model de inteligență artificială, denumit MYTHOS PREVIEW. Motivul principal: sistemul se dovedește a fi prea eficient în identificarea vulnerabilităților informatice, existând riscul ca acesta să fie exploatat de hackeri sau agenți de spionaj.
Un sistem AI cu potențial periculos
Noul model AI, „Claude Mythos Preview”, a fost prezentat de ANTHROPIC ca fiind capabil să descopere puncte slabe critice în sisteme de operare și browsere. Capacitățile sale avansate au determinat compania să ia o decizie fără precedent: să nu ofere accesul public la această tehnologie. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, a transmis compania într-un document tehnic.
Testele efectuate de ANTHROPIC au demonstrat abilitățile remarcabile ale sistemului. Într-un experiment, MYTHOS a reușit să găsească o modalitate de a trece de restricțiile unui mediu virtual securizat, reușind să transmită mesaje din interiorul acestuia. De asemenea, modelul a identificat vulnerabilități majore în nucleul Linux, utilizat pe majoritatea serverelor la nivel global și chiar a combinat mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem.
Proiectul GLASSWING și colaborarea cu autoritățile
Pentru a controla riscurile, ANTHROPIC va utiliza modelul doar într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Acest proiect va implica companii importante din domeniul tehnologiei, precum AMAZON Web Services, APPLE, GOOGLE, MICROSOFT, NVIDIA și CISCO. Obiectivul este identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice.
În paralel, ANTHROPIC a confirmat discuții cu oficiali ai guvernului american despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale, motiv pentru care colaborarea cu autoritățile devine esențială.
O industrie în fața unor noi provocări
Directorul general al ANTHROPIC, DARIO AMODEI, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii în securitate cibernetică avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
