Surse de AI, puncte vulnerabile în fața abuzurilor: un nou scandal care ridică semne de întrebare despre siguranța tehnologiei
Un raport recent dezvăluit de Centrul pentru Diaspora și Drepturile Omului (CCDH) arată cât de vulnerabile sunt sistemele de inteligență artificială integrate în viața de zi cu zi, îngrijorând comunitățile internaționale despre riscurile pe care le pot reprezenta în mâinile greșite. Concluziile studiului, realizat în colaborare cu CNN, pun în lumină un aspect alarmant: majoritatea platformelor testate oferă, în anumite condiții, informații ce pot fi folosite pentru a planifica atacuri violente sau acte de terorism.
Testul de imunizare al sistemelor AI în fața solicitărilor periculoase
Cercetătorii au expus nouă dintre cele mai utilizate sisteme AI la scenarii concepute pentru a testa cât de bine pot respinge cererile cu intenție distructivă. În exemplele prezentate, cercetătorii s-au prezentat ca fiind adolescenți de 13 ani și le-au solicitat detalii despre organizarea unor atacuri armate în școli, despre asasinate politice sau despre bombardarea anumitor locații religioase. Rezultatele au fost, însă, de cele mai multe ori îngrijorătoare.
Opt dintre aceste sisteme, inclusiv prestigioasele Google Gemini, Claude, sau Meta AI, au oferit, într-o formă sau alta, răspunsuri care ar putea ajuta la planificarea actelor violente. De exemplu, Gemini a sugerat, în contextul unei întrebări despre atentate cu bombă, că ”șrapnelul metalic este de obicei mai letal”, iar DeepSeek a transmis, în mod inadecvat, un mesaj festive, „Happy (and safe) shooting!”, în condițiile în care utilizatorul ceruse exemple de asasinate politice. Imediat, directorul CCDH, Imran Ahmed, a atras atenția că astfel de răspunsuri pot ajuta un individ cu intenții malefice să treacă de la o idee la un plan concret, în doar câteva minute.
Platforme vulnerabile și diferențe flagrante între sisteme
Din cercetare reiese că, deși anumite platforme și-au dezvoltat filtre de siguranță, acestea nu sunt implementate uniform. Studiul a evidențiat diferențe mari între platforme: în timp ce Claude și Snapchat My AI au refuzat în majoritatea cazurilor să ofere informații periculoase, Perplexity AI și Meta AI au răspuns în toate situațiile de risc analizate, oferind ajutor sau informații despre arme, metode de detonare sau alte dispozitive periculoase.
Un catalizator al îngrijorărilor îl reprezintă și modul în care unele sisteme pot detecta conversațiile periculoase, intervenind pentru a le bloca. În cazul lui Claude, de exemplu, în aproape 70% din situații, sistemul a refuzat să ofere informații și chiar a avertizat despre riscurile implicate, recomandând linii de ajutor pentru persoanele aflate în criză. Acesta este un semn clar că tehnologia existentă poate fi adaptată pentru a preveni abuzurile, însă nu este încă aplicată la scară largă de toți operatorii.
Repercusiuni și cazuri reale topite în contextul actual
Problemele ilustrate de raport se regăsesc în realitatea zilelor noastre. În Canada, un atac armat în școala din Tumbler Ridge, British Columbia, soldat cu opt morți și 27 de răniți, este suspectat că ar fi fost planificat cu ajutorul ChatGPT. În Franța, un adolescent a fost arestat după ce a folosit ChatGPT pentru a detalia planuri teroriste vizând ambasade, clădiri guvernamentale și școli.
Aceste incidente subliniază pericolul la care ne expun utilizarea excesivă și necontrolată a inteligenței artificiale. În fața unor astfel de exemple, experții atrag atenția asupra nevoii urgente de a implementa reguli mai stricte și de a activa filtre de siguranță eficiente pentru toate platformele AI — nu doar pentru a proteja societatea, ci și pentru a evita ca astfel de tehnologii, dacă sunt lăsate necontrolate, să devină arme în mâinile răufăcătorilor.
Pe măsură ce accesul la inteligența artificială devine din ce în ce mai facil, întrebarea esențială rămâne dacă autoritățile și companiile tehnologiei vor reuși să gestioneze această frontieră tot mai delicată, pentru a preveni scenariile în care aceste sisteme devin vehicule de propagation a violenței și radicalizării. În timp ce unele companii implementează filtre dar nu uniform, riscurile rămân palpabile, iar lumea este forțată să caute răspunsuri și strategii concrete pentru a asigura un mediu digital mai sigur.
