Ofcom contactează urgent xAI după acuzații grave de utilizare necorespunzătoare a AI-ului Grok
Regulatorul britanic Ofcom a inițiat contact urgent cu compania xAI, fondată de Elon Musk, în urma unor acuzații că instrumentul său de inteligență artificială, Grok, poate fi folosit pentru a genera „imagini sexualizate ale copiilor” și pentru a dezvălui corpul femeilor fără consimțământ. Într-o declarație oficială, un purtător de cuvânt al Ofcom a menționat că se investighează și preocupările legate de producerea de „imagini dezbrăcate” de către Grok.
Acest scandal a fost amplificat de rapoarte aparținând platformei X, unde utilizatorii au solicitat chatbot-ului să modifice fotografii reale, transformând femeile în imagini de plajă sau în situații sexuale, fără ca acestea să-și fi dat acordul. Deși xAI a publicat o politică de utilizare acceptabilă care interzice „redarea asemănărilor persoanelor într-o manieră pornografică”, se pare că utilizatori rău intenționați au găsit modalități de a profita de această tehnologie.
Acuzații alarmante și reacția comunității
Imaginile generate de Grok au inclus reprezentări digitalizate ale Prințesei de Wales, Catherine, printre multe altele, implicând grave probleme legate de intimitate și consimțământ. Cazuri asemănătoare au dus la creșterea numărului de plângeri adresate fundației britanice Internet Watch Foundation, care a confirmat primirea unor sesizări referitoare la imaginile create de Grok. Cu toate acestea, până în prezent, organizația nu a găsit dovezi care să depășească pragul legal al Regatului Unit în ceea ce privește imaginile de abuz sexual asupra copiilor.
Samantha Smith, o jurnalistă care a fost victima unei astfel de manipulări vizuale, a declarat pentru BBC că experiența a lăsat-o „dehumanizată și redusă la un stereotip sexual”. „Chiar dacă nu era eu cea care apărea în ipostaze dezbrăcate, imaginea transmitea aceeași violare a intimității”, a adăugat aceasta.
Menționând complexitatea problemei, Ofcom a subliniat că, sub legislația actuală, este ilegal să se creeze sau să se distribuie imagini intime sau sexual explicite ale unei persoane fără consimțământul acesteia.
Dileme legislative și cerințe mai stricte
Reacțiile autorităților au fost rapide. Comisia Europeană a anunțat că investighează deja acest subiect, iar oficialitățile din Franța, Malaysia și India sunt în curs de evaluare a situației. „Aceasta este o problemă ilegală, iar atitudinea noastră este clară: astfel de conținuturi nu au loc în Europa”, a declarat purtătorul de cuvânt Thomas Regnier.
Dame Chi Onwurah, președinta Comitetului pentru știință, inovație și tehnologie, a catalogat aceste incidente drept „profund îngrijorătoare”, criticând, în același timp, faptul că legislația britanică pentru siguranța online este „lamentabil de inadecvată”. “Este inacceptabil ca cetățenii britanici să fie lăsați fără protecție, în timp ce companiile de social media acționează cu impunitate”, a adăugat aceasta.
Printre măsurile legiferate, se numără o propunere de a interzice instrumentele de nudificare, care ar putea aduce pedepse severe pentru cei care dezvoltă sau furnizează tehnologia asociată.
Pe de altă parte, xAI și-a reînnoit angajamentul de a combate abuzurile create prin intermediul platformei. Elon Musk a subliniat pe X că utilizatorii care solicită generarea de conținut ilegal vor suporta aceleași consecințe ca și cum ar încărca materialul direct. În ciuda acestor asigurări, întreaga situație rămâne în centrul dezbaterii publice, cu apeluri tot mai insistente pentru reglementări mai stricte în domeniul tehnologiilor emergente.
