Conform Mediafax: OpenAI lansează o nouă tehnologie care promite să revoluționeze viteza de procesare a modelelor sale AI, permițând o performanță de până la 14 ori mai rapidă față de modul standard. Această inovație, denumită „Ultrafast”, este concepută pentru scenarii critice unde latența scăzută este esențială, fără a compromite calitatea rezultatelor oferite de modelele de vârf.
Viteză sporită pentru sarcini complexe
Noul mod de funcționare, „Ultrafast”, este integrat în familia GPT-5.6, modelul de referință fiind GPT-5.6 Sol. Alături de acesta, compania a prezentat și modelele Terra și Luna, toate fiind destinate sarcinilor complexe, de la programare și analiză profesională, la cercetare științifică și securitate cibernetică. Viteza impresionantă de până la 750 de tokenuri pe secundă este posibilă datorită unei infrastructuri dezvoltate în colaborare cu producătorul de cipuri Cerebras. Inițial, accesul la această tehnologie va fi limitat, OpenAI extinzând capacitatea pe măsură ce aceasta devine disponibilă.
Destinat companiilor și fluxurilor de lucru în timp real
Procesarea accelerată oferită de modul „Ultrafast” este văzută ca un atu major pentru companii, în special în domenii precum răspunsul la incidente, serviciile pentru clienți, analiza piețelor financiare și comerțul electronic. Aici, timpul de reacție poate influența direct succesul operațiunilor. Compania a introdus, de asemenea, o funcție denumită „ultra”, care utilizează multipli sub-agenți AI ce lucrează în paralel. Această abordare diferă de simpla accelerare a generării de text, având scopul de a executa mai multe fluxuri de lucru simultan, optimizând astfel performanța pentru sarcini complexe.
Competiție pe piața modelelor AI
Lansarea modului „Ultrafast” vine într-un context de competiție acerbă pe piața inteligenței artificiale, unde reducerea latenței este un obiectiv major pentru toți furnizorii. OpenAI oferă deja pentru GPT-5.6 Sol un mod „Fast”, care poate atinge viteze de până la 2,5 ori mai mari decât procesarea standard, la un cost dublu. Cu noua infrastructură bazată pe Cerebras, vitezele de până la 750 de tokenuri pe secundă reprezintă un salt semnificativ față de performanța standard.
Sursa: Mediafax
