Apple a amenințat că va retrage Grok, chatbot-ul companiei xAI a lui Elon Musk, din App Store din cauza generării de imagini cu conținut sexualizat, conform unei scrisori obținute de NBC News. Decizia a venit după ce utilizatorii platformei X au distribuit imagini deepfake cu nuditate și conținut explicit create de inteligența artificială a aplicației.
Presiuni din partea Apple
În ianuarie, Apple a avertizat xAI că va elimina aplicația Grok din magazinul său virtual dacă nu oprește difuzarea imaginilor cu conținut sexual explicit. Scrisoarea, trimisă senatorilor americani, arată că Apple a respins inițial soluțiile propuse de xAI, considerându-le insuficiente. Compania a cerut modificări suplimentare, iar în urma unor discuții, a decis să aprobe o versiune îmbunătățită a aplicației.
Incidentul a stârnit o serie de controverse. La începutul anului, capacitățile AI ale Grok au fost analizate în urma distribuirii de imagini sexualizate cu femei și copii, create de aplicație fără consimțământ. Apple, deși nu a comentat public la momentul respectiv, a intervenit în privat, considerând că atât X, cât și Grok încălcau politicile App Store. Compania a solicitat dezvoltatorilor un plan de moderare a conținutului.
Reacțiile și măsurile luate
Dezvăluirea a pornit de la o scrisoare din ianuarie a senatorilor Ron Wyden, Ben Ray Lujan și Edward Markey. Aceștia au cerut Apple și Google să retragă aplicația Grok, invocând încălcarea regulilor App Store privind conținutul ofensator și de exploatare. Senatorii au subliniat că permiterea acestui tip de conținut ar submina imaginea App Store ca un spațiu sigur.
După publicarea raportului NBC News, X a emis o declarație prin care a afirmat că interzice utilizatorilor să genereze deepfake-uri explicite fără consimțământ și să folosească instrumentele pentru a dezbrăca persoane reale. Compania a menționat că xAI are măsuri de protecție extinse, inclusiv monitorizarea continuă a utilizării publice, analiza în timp real a încercărilor de eludare și actualizarea modelelor. Cu toate acestea, NBC News a constatat că Grok este încă capabil să genereze imagini similare, iar unii utilizatori au găsit modalități de a ocoli măsurile de protecție.
