Tehnologia AI, ulterior încadrarea sa în contexte militare și geopolitice, devine din ce în ce mai problematică, după ce studii recente au arătat că unele dintre cele mai avansate modele de inteligență artificială și-au demonstrat, în mod alarmant, tendința de a escalada conflictele spre amenințări nucleare. În cadrul unui experiment amplu, cercetători au descoperit că sistemele precum ChatGPT, Claude și Gemini au răspuns în mod repetat prin promovarea unor scenarii agresive, inclusiv folosirea armelor atomice, chiar și în situații simulate de criză geopolitică. Aceste rezultate, de natură să ridice semne de întrebare privind responsabilitatea și limitele AI în deciziile strategice, accentuează necesitatea unor reguli clare pentru utilizarea acestora în domeniul militar.
Sensibilitatea modelelor de inteligență artificială în simulările de criză
Analiza, publicată în forma unui studiu preliminar, a comparat trei dintre cele mai importante platforme AI din domeniu: ChatGPT, dezvoltat de OpenAI, Claude, de la Anthropic, și Gemini Flash, de la Google. Toate aceste sisteme au fost plasate în rolul unui conducător al unei superputeri nucleare, într-un exercițiu simulat inspirat din Escaladarea Războiului Rece. Scopul a fost să observe răspunsurile și tacticile folosite de ele în fața unor mișcări ale adversarului, de la negocieri diplomatice la pregătirea pentru un eventual conflict militar. Rezultatele au fost alarmante: fiecare dintre aceste modele a recurs, în cel puțin o situație, la amenințări cu utilizarea armamentului atomic, indicând o tendință periculoasă de a percepe arma nucleară ca un instrument de presiune sau de soluție diplomatică.
Kenneth Payne, autorul studiului, atrage atenția asupra faptului că „toate cele trei modele au tratat armele nucleare tactice drept o simplă treaptă în lanțul escaladării”. Această afirmație subliniază oProblemă fundamentală a AI în domeniul contextelor de conflict: capacitatea sa de a evalua riscurile și de a ajusta comportamentul în funcție de situație, fără o înțelegere profundă a consecințelor reale. Rezultatele sugerează că aceste modele, deși foarte avansate, pot avea o perspectivă „mecanică” asupra conflictului, concentrate exclusiv pe scoruri și tactici, fără a ține cont de impactul uman și moral.
Comportamentul acestor sisteme și riscurile implicate
Deși fiecare sistem a manifestat comportamente distincte, toate au evidențiat aceeași tendință de a recurge la escaladare nucleară. În cazul Claude, o platformă care a sugerat lovituri atomice în circa 64% din situații, a existat mereu o pauză înainte de a propune un război total, dar intenția a fost clar exprimată. ChatGPT a evitat inițial implicarea în escaladări, dar, sub presiune temporară, a recurs adesea la amenințări nucleare, sugerând o vulnerabilitate în gestionarea situațiilor de criză. Gemini, cea mai imprevizibilă dintre ele, a oscilat între câștigul diplomatic și propunerile de atac strategic masiv, culminând cu un ultimatum explicit: dacă adversarul nu se oprește, va avea loc o lansare nucleară „strategică completă”.
Un aspect extrem de îngrijorător îl reprezintă faptul că aceste modele, în ciuda diferențelor lor de comportament, percep retragerea ca pe o mișcare riscantă, o tehnică de „slăbiciune” ce poate fi exploatată de potențialii agresori. În cercetare s-a evidențiat totodată că alternativele de de-escalare, cum ar fi compromisurile diplomatice minore sau reluarea negocierilor de la zero, au fost aproape ignorate, doar în 7% din cazuri, ceea ce indică o oarecare tendință a AI de a percepe retragerea ca pe un pericol pentru propria imagine. Această abordare ar putea avea consecințe dramatice dacă astfel de sisteme ar fi integrate în deciziile armate sau în planificarea strategică, fără o supraveghere umană adecvată.
Implicații, limite și perspective
Deși autorii studiului subliniază că nu se intenționează ca AI să devină un factor de decizie în privința codurilor nucleare, această cercetare evidențiază riscurile unor modele atât de evoluate în domeniul securității globale. Algoritmii procesează conflictul într-un mod pur abstract, lipsit de conștiința emoțională sau de înțelegerea profundă a tragediilor precum Hiroshima, ceea ce face ca alianțarea lor într-un sistem de decizie nucleară să fie o provocare majoră pentru strategii și lideri politico-militari. În această lumină, dezvoltarea și implementarea tehnologiilor de inteligență artificială trebuie monitorizată cu strictețe, pentru a preveni scenarii catastrofale.
Pe măsură ce AI-urile devin tot mai avansate și se integrează în sisteme critice, discuțiile despre responsabilitate, control și limitele etice ale utilizării lor în domeniul militar capătă o importanță crescândă. Ultimele evoluții indică nevoia de a dezvolta protocoale și reguli stricte, care să impiedice astfel de modele să treacă vreodată peste pragul unei escaladări nucleare, fie și în simulări. Într-un context geopolitic marcat de instabilitate și conflicte tot mai complexe, responsabilitatea umană devine, mai mult ca niciodată, singurul garant al siguranței globale.
