OpenAI annuncia la modalità Ultrafast per ChatGPT, promettendo risposte fino a 14 volte più veloci

OpenAI ha annunciato Ultrafast, un nuovo livello di servizio che mira a ridurre i tempi di risposta nell'esperienza di ChatGPT. La modalità, sviluppata dall'azienda per GPT-5.6 Sol, punta a offrire una generazione di output più rapida, specialmente in compiti complessi.

Secondo quanto dichiarato, la modalità Ultrafast è in grado di fornire un incremento di velocità fino a 14 volte rispetto ai processi di elaborazione standard. Con queste prestazioni, viene indicato che il modello è in grado di generare fino a 750 token di output al secondo. Il termine token si riferisce ai frammenti di testo fondamentali utilizzati dai modelli di intelligenza artificiale durante la generazione di contenuti.

IN FASE DI ANTEPRIMA

OpenAI sottolinea che l'alta velocità non significa solo tempi di attesa più brevi, ma può anche consentire un utilizzo più efficiente nei flussi di lavoro che richiedono interazioni in tempo reale. L'azienda afferma che, fino ad oggi, per obiettivi di velocità simili venivano solitamente preferiti modelli più piccoli o focalizzati su ambiti ristretti, mentre con Ultrafast l'attenzione si sposta sulla produzione di risposte rapide anche in modelli più potenti.

L'infrastruttura della modalità Ultrafast si basa sulla collaborazione con il produttore di chip Cerebras. La nuova modalità è attualmente in fase di anteprima ed è accessibile solo a un gruppo limitato di clienti. OpenAI ha dichiarato che l'accesso verrà ampliato gradualmente man mano che la capacità dei server e dell'infrastruttura aumenterà.

Tra gli ambiti di utilizzo previsti dall'azienda figurano settori che richiedono risposte rapide, come la gestione di crisi ed eventi, il servizio clienti, i sistemi di supporto, l'analisi dei mercati finanziari e l'e-commerce. Non è stato ancora condiviso un calendario preciso riguardo a quando Ultrafast sarà disponibile per un uso diffuso.

Fonte della notizia: 12punto