OpenAI, în fața controverselor legate de angajamentele pentru siguranță
Un nou val de revelații scoate la lumină ambiguitățile și preocupările din interiorul companiei OpenAI, lider mondial în dezvoltarea inteligenței artificiale. În ciuda discursurilor publice despre angajamentul față de siguranță, informații interne arată că eforturile de a implementa și menține măsuri solide de control și aliniere a AI-urilor avansate sunt adesea raschetat sub presiune economică și interesele companiei.
Unul dintre cele mai relevante cazuri implică planurile inițiale ale fondatorului Sam Altman, care a promis dedicarea a un miliard de dolari pentru cercetări dedicate siguranței în AI. În timpul unei discuții cu un tânăr cercetător, Altman a menționat intenția de a oferi un premiu internațional pentru studiile în domeniu, argumentând că este „una dintre cele mai importante probleme nerezolvate”. Însă, în urma unor tensiuni interne și schimbări de strategie, această promisiune nu a fost niciodată concretizată în fonduri sau inițiative reale.
Resursele pentru cercetare, dominat de interese financiare
În primăvara anului 2023, compania a anunțat oficial înființarea unui „superalignment team”, dedicat special acestei problematici. În discursul oficial, compania s-a angajat să aloce 20% din capacitatea sa de calcul — o resursă estimată la peste un miliard de dolari — pentru această inițiativă. În realitate, însă, surse apropiate echipei au declarat că resursele alocate au fost mult mai mici, între unu și două procente din total, iar hardware-ul utilizat pentru cercetări de siguranță era considerabil mai vechi și mai puțin performant față de cel folosit pentru activități profitabile.
Leike, inginerul responsabil de echipă, a suspectat inițial că resursele alocate în mod oficial nu se regăsesc în practică. El a adresat aceste îngrijorări direct către conducere, însă a fost sfătuit să nu insiste, întrucât promisiunea inițială nu a fost niciodată una realistă. În plus, resursele pentru siguranță erau prioritizate într-un mod care părea să favorizeze interesele de profit ale companiei.
Alunecări în transparență și riscuri neanunțate
O altă problemă semnificativă a apărut în decembrie 2022, când membrii consiliului au descoperit că anumite caracteristici ale modelului GPT-4 nu fuseseră aprobate conform procedurilor interne. Tot atunci, s-a aflat că Microsoft a lansat în India o versiune preliminară a ChatGPT, fără a fi trecută printr-un proces complet de verificare și siguranță. Acest fapt a fost ignorat de conducere, ceea ce pune sub semnul întrebării transparența și responsabilitatea în gestionarea riscurilor legate de AI.
De altfel, în interiorul companiei se înmulțesc semnele că preocuparea pentru siguranță și prevenirea riscurilor potențiale nu primează în fața intereselor comerciale. În timp ce unele oficiale susțineau că totul este sub control, realitatea indică o disponibilitate limitată a resurselor și o lipsă de măsuri concrete pentru asigurarea siguranței pe termen lung.
Deși OpenAI își păstrează discursul privind siguranța și responsabilitatea, aceste dezvăluiri indică o disociere între promisiuni și acțiuni. În scena actuală, mari investiții în AI-uri tot mai avansate continuă, însă fără garanții clare privind controlul și siguranța pe termen lung, ceea ce tinde să sporească îngrijorările din comunitatea internațională.
Sursa: Newyorker.com
