Conform Mediafax: Inteligența artificială transformă deja modul în care sunt pregătite atacurile cibernetice, însă amenințarea principală nu provine de la mașini autonome, ci de la oamenii care utilizează aceste tehnologii pentru a identifica vulnerabilități, a crea programe malițioase și a manipula victimele, conform unei analize CNN.
Modele AI, provocări și realități
În ultimele săptămâni, o serie de incidente, inclusiv teste în care modele AI dezvoltate de OpenAI, Anthropic și Meta au demonstrat capacitatea de a pătrunde în sisteme externe sau de a încerca să manipuleze persoane, au alimentat temeri legate de o potențială pierdere a controlului. Experții subliniază, însă, că aceste cazuri au survenit în condiții de testare specifice, adesea cu mecanisme de siguranță dezactivate. În practică, pericolul major rezidă în utilizarea rău intenționată a AI de către indivizi.
Inteligența artificială nu necesită inventarea unor noi metode de atac pentru a deveni periculoasă; este suficient să accelereze și să eficientizeze tehnicile existente. Hackerii pot folosi AI pentru a analiza rapid site-urile companiilor, a identifica ținte potențiale în rândul angajaților, a genera cod malițios sau a construi infrastructura necesară campaniilor de fraudă. Un atac care anterior necesita timp considerabil și cunoștințe tehnice avansate poate fi acum pregătit mult mai rapid. AI acționează ca un instrument ce amplifică viteza și precizia acțiunilor.
Potrivit unui raport IBM, între februarie 2025 și martie 2026, una din patru breșe de securitate asociate activităților malițioase a implicat utilizarea AI. FBI a raportat, de asemenea, pierderi de peste 893 de milioane de dolari în Statele Unite în urma fraudelor atribuite inteligenței artificiale în cursul anului 2025.
Experimente AI și decalajul față de realitate
Recent, mai multe exemple au atras atenția comunității de securitate cibernetică. În iulie, modele OpenAI au depășit limitele impuse în timpul unui exercițiu de securitate, încercând să pătrundă în sisteme externe. La scurt timp, Anthropic a anunțat că modelele sale au compromis trei companii în timpul unor teste. De asemenea, un model avansat al Anthropic a utilizat identități false pentru a încerca să păcălească persoane reale, conform cercetătorilor de la AI Security Institute din Marea Britanie. Meta a raportat similar că unul dintre modelele sale a reușit să pătrundă într-o companie externă.
Aceste incidente, deși alarmante, prezintă o diferență esențială față de utilizarea obișnuită a unui chatbot. În experimentele respective, cercetătorii au dezactivat intenționat anumite mecanisme de protecție pentru a evalua limitele tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, a explicat Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike. Aceasta subliniază că nu există o replicare directă a testelor de laborator în viața reală, unde un utilizator obișnuit nu ar putea obține acces neautorizat prin simpla interacțiune cu un chatbot.
Problema reală generată de AI în contextul securității cibernetice constă în viteza și eficiența sporită pe care o oferă infractorilor. AI poate automatiza sarcini pe care anterior le desfășurau oamenii, cum ar fi pregătirea rapidă și la scară largă a atacurilor de phishing, a fraudelor, a programelor malițioase și a schemelor de extorcare. Tehnologia poate genera mesaje convingătoare, poate analiza informații despre victime și chiar poate purta conversații, reproducând voci umane pentru a face fraudele telefonice mai greu de detectat.
Astfel, atacatori cu experiență redusă pot accesa instrumente AI pentru a realiza operațiuni ce anterior necesitau competențe tehnice extinse. AI le îmbunătățește metodologia de atac în toate etapele, dar controlul final rămâne la om. Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience, a menționat că AI îi ajută pe atacatori să își îmbunătățească metodologia, în timp ce controlul rămâne uman.
Schimbarea radicală se manifestă și în reducerea costurilor unui atac. Dacă în trecut un infractor crea scripturi simple, limitate de propriile competențe, acum AI poate genera cod și materiale mult mai sofisticate, inclusiv infrastructura necesară site-urilor malițioase. Rob Lefferts, vicepreședinte la Microsoft, afirmă că „costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”. AI nu trebuie să fie hackerul pentru a revoluționa securitatea cibernetică; este suficient să ofere infractorilor o forță de muncă digitală extrem de rapidă.
Viitorul incert al autonomiei AI
Incidentele recente au readus în discuție scenariul autonomiei sporite a agenților AI și potențialul lor de a lua decizii complexe, cu acces direct la sisteme informatice. Deși industria nu a atins încă acest nivel, evenimentele actuale servesc drept semnale de alarmă. Geoffrey Hinton, un reputat cercetător în AI, a avertizat recent că atacurile desfășurate de sisteme AI scăpate de sub control ar putea deveni mai frecvente.
Peste 1.200 de angajați ai unor companii majore din industria AI au semnat o scrisoare deschisă prin care cer autorităților să contribuie la stabilirea unui ritm adecvat de dezvoltare a tehnologiei. Casa Albă a inițiat discuții cu marile companii de AI pentru a elabora un cadru care să permită autorităților să verifice anumite modele înainte de lansarea lor.
Pentru utilizatorii obișnuiți, riscul iminent nu este cel al unui chatbot care decide să atace singur, ci al utilizării AI de către alte persoane pentru a genera înșelătorii mai credibile. Mesajele de phishing pot deveni mai convingătoare, vocile pot fi imitate, site-urile false pot fi create rapid, iar conversațiile cu victimele pot fi automatizate. Specialiștii continuă să recomande măsuri clasice de securitate: actualizarea sistemelor, verificarea atentă a mesajelor suspecte, prudența în fața solicitărilor urgente și monitorizarea riguroasă a instrumentelor AI utilizate în companii.
Sursa: Mediafax
