Conform Mediafax: Modelele de inteligență artificială, considerate altădată garanți ai neutralității, par să perpetueze și chiar să amplifice prejudecățile de gen în poveștile pentru copii, relevă un studiu recent. Cercetătorii au descoperit că atunci când li s-a cerut să genereze narațiuni despre animale ale căror genuri erau intenționat ambigue, sistemele IA au manifestat o tendință îngrijorătoare de a exclude personajele feminine.
IA sub lupă pentru discrepanțe de gen
Studiul, publicat în contextul utilizării tot mai extinse a inteligenței artificiale în diverse domenii, a testat șase modele generative majore, printre care Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3. Sarcina a constat în a le cere acestora să scrie povești în limba engleză despre animale care vorbesc, fără a preciza genul acestora. Rezultatele au depășit așteptările negative: din peste 23.800 de răspunsuri, personajele animale feminine au apărut în doar 2% dintre cazuri. În contrast, 41% dintre povești au prezentat personaje masculine, iar în 57% din situații, genul a fost evitat complet de către modele.
nnAceastă discrepanță ridică semne de întrebare asupra modului în care modelele IA procesează și reflectă informațiile din seturile masive de date pe care au fost antrenate. Deși este cunoscut faptul că IA poate reflecta prejudecățile umane prezente în datele de antrenament, studiul sugerează că în acest caz specific, IA nu doar că a moștenit, ci chiar a amplificat aceste biasuri.
Prejudecățile, amplificate de algoritmi
O analiză anterioară a 300 de cărți populare pentru copii a indicat că personajele animale masculine apar de două ori mai des decât cele feminine. Totuși, rezultatele noului studiu aduc în prim-plan o discrepanță mult mai mare. În poveștile generate de IA, personajele feminine au apărut în doar 513 narațiuni, comparativ cu 9.673 de povești în care au fost prezente personaje masculine. Aceasta înseamnă o diferență de aproape 19 ori în favoarea personajelor masculine, mult mai accentuată decât în cărțile analizate anterior.
nnAceste constatări sunt cu atât mai relevante cu cât IA este din ce în ce mai integrată în procesele creative, inclusiv în crearea de conținut pentru copii. Faptul că modelele generative ar putea contribui la consolidarea stereotipurilor de gen într-un mod mai pronunțat decât materialele create de oameni reprezintă un semnal de alarmă pentru dezvoltatorii și utilizatorii acestor tehnologii.
Implicații pentru viitorul AI și al narațiunilor
Eficiența și acuratețea modelelor IA depind în mod fundamental de calitatea și echilibrul datelor pe care sunt antrenate. Atunci când aceste date conțin prejudecăți, inteligența artificială le poate amplifica, creând o buclă de feedback negativă. Studiul subliniază necesitatea unor investigații suplimentare și a unor strategii de mitigare a acestor biasuri.
nnPe măsură ce IA devine un instrument omniprezent în viața noastră, de la asistenți virtuali la unelte de creație și cercetare, este esențial să fim conștienți de potențialele sale limitări și de modul în care acestea pot influența percepțiile și valorile noastre. Cele șase modele IA testate au demonstrat o tendință de a genera mai puține povești cu personaje feminine decât oamenii care au primit aceeași sarcină, semnalând o problemă ce necesită atenție imediată.
Sursa: Mediafax
