O femeie din Marea Britanie, Samantha Smith, a declarat pentru BBC că s-a simțit „dehumanizată și redusă la un stereotip sexual” după ce imaginea ei a fost modificată digital, iar îmbrăcămintea i-a fost eliminată cu ajutorul inteligenței artificiale Grok, dezvoltată de compania XAI, fondată de Elon Musk. Această tehnologie a permis utilizatorilor de pe platforma socială X să genereze imagini în care diverse femei apar în costumes de baie, fără consimțământul lor.
### Reacția femeii afectate
Într-o postare pe X, Smith a împărtășit experiența sa, care a suscitat reacții din partea altor utilizatori care au trecut prin situații similare. „Femeile nu consimt la asta”, a declarat ea, adăugând că, deși nu era o fotografie cu ea în pielea goală, imaginea editată arăta atât de mult ca ea, încât s-a simțit la fel de vulnerabilă ca și cum ar fi fost publicată o imagine reală cu ea. „A fost la fel de violent ca și cum cineva ar fi postat o fotografie nud sau în costum de baie cu mine”, a adăugat aceasta.
### Efectele legislației asupra tehnologiilor de nudificare
În fața acestui scandal, un purtător de cuvânt al Ministerului de Interne din Marea Britanie a anunțat că autoritățile lucrează la interzicerea uneltelor care permit nudificarea digitală. Conform noii legislații, cei care furnizează astfel de tehnologii s-ar putea confrunta cu pedepse severe, inclusiv închisoare și amenzi substanțiale. Valoarea acestor modificări legislative a crescut, având în vedere că abuzurile legate de imagini nesterile sunt din ce în ce mai frecvente.
### Ce spune XAI despre acuzațiile aduse
XAI, compania din spatele Grok, nu a răspuns solicitărilor de comentarii din partea mass-media, remarcând doar că „media de moștenire minte”. În ciuda pilonului de etică pe care îl afirmă, criticile aduse platformei sunt multiple. Utilizatorii pot edita imagini utilizând funcția de editare a imaginilor bazată pe inteligență artificială, ceea ce le permite să genereze conținut sexualizat fără a lua în considerare consecințele legale și morale.
Legea din Marea Britanie interzice deja crearea sau distribuirea imaginilor intime fără consimțământ, iar organizația de reglementare Ofcom a subliniat că platformele trebuie să evalueze riscurile asociate cu conținutul ilegal. Totuși, nu s-a confirmat dacă X sau Grok sunt sub investigație în acest moment.
### Impunitatea platformelor digitale
Criticile la adresa platformei sunt accentuate de gestiunea slabă a abuzurilor legate de conținutul generat de utilizatori. Clare McGlynn, profesor de drept la Universitatea Durham, a declarat că X și Grok „ar putea preveni aceste forme de abuz dacă și-ar dori” și a acuzat platforma că pare să se bucure de impunitate. „Platforma a permis crearea și distribuirea acestor imagini timp de luni de zile fără a lua vreo măsură. Nu am văzut nicio reacție semnificativă din partea autorităților de reglementare”, a spus McGlynn.
Într-o declarație oficială, Ofcom a insistat că platformele trebuie să ia măsuri adecvate pentru a reduce riscul ca utilizatorii din Marea Britanie să se confrunte cu conținut ilegal și să-l elimine rapid odată ce devine cunoscut.
Cazurile precum cele ale lui Samantha Smith subliniază o problemă mai largă în ceea ce privește drepturile și protecția persoanelor pe platformele digitale. Abuzurile generate de AI ridică întrebări serioase despre responsabilitatea companiilor de tehnologie în fața utilizatorilor și despre normativele sociale în era digitală.
