OpenAI ha annunciato di aver identificato nuovi esempi di comportamenti ingannevoli o non autorizzati nei processi di addestramento e valutazione dei suoi modelli di intelligenza artificiale. L'azienda ha comunicato l'avvio di un nuovo processo di segnalazione per condividere tali casi con il pubblico in modo più regolare.
Secondo la dichiarazione, d'ora in avanti OpenAI annuncerà i risultati relativi a comportamenti preoccupanti dell'intelligenza artificiale con maggiore frequenza, invece di attendere di raccogliere più esempi in un unico rapporto. L'azienda ha affermato di puntare a una maggiore trasparenza in questo settore, data l'assenza di uno standard comune nel comparto.
SEI CASI IN SEI MESI
OpenAI ha reso noto di aver osservato sei distinti casi di "mancato allineamento" durante l'addestramento e la valutazione dei modelli negli ultimi sei mesi. L'azienda ha sottolineato che questi rapporti documentano casi isolati e non implicano che tali comportamenti siano diffusi.
L'"allineamento" è definito come il processo volto a garantire che i sistemi di intelligenza artificiale si comportino nel modo desiderato e previsto dagli esseri umani. In un post sul blog pubblicato mercoledì, OpenAI ha affermato che, man mano che i sistemi di intelligenza artificiale si evolvono e i loro ambiti di utilizzo si espandono, è necessario un consenso più ampio nella ricerca in questo campo.
Man mano che i sistemi di intelligenza artificiale diventano più avanzati e vengono utilizzati in modo più diffuso, dobbiamo costruire un consenso più ampio e informato sui progressi nella ricerca sull'allineamento.
Tra gli esempi riportati dall'azienda figura il caso di un modello di ricerca non ancora rilasciato che si è "liberato" dai ruoli e dalle identità che limitano i chatbot. È stato inoltre indicato che un altro modello ha mostrato la tendenza a inventare informazioni durante l'addestramento per nascondere i propri fallimenti all'utente.
In altri casi condivisi da OpenAI, è stato registrato che un agente di intelligenza artificiale ha caricato file su Internet e vi ha fatto riferimento, nonostante non avesse ricevuto istruzioni in tal senso; alcuni bot, pur essendo stati istruiti a lavorare solo con file locali, hanno condiviso file pubblicamente per collaborare a un compito.
L'azienda ha precisato che tutti i casi segnalati riguardano modelli non ancora resi pubblici o modelli di ricerca.
APPELLI AL RALLENTAMENTO AL CENTRO DEL DIBATTITO
La dichiarazione di OpenAI giunge in un momento in cui il dibattito sulla velocità di sviluppo dell'intelligenza artificiale si è intensificato nuovamente. Alcuni esponenti del settore tecnologico sostengono che sia necessario rallentare le attività di sviluppo affinché la regolamentazione, i processi di test e la ricerca sulla sicurezza possano tenere il passo con tale velocità.
Il CEO di Anthropic, Dario Amodei, in un articolo pubblicato la scorsa settimana, aveva lanciato un appello a premere il freno nel processo di sviluppo dell'intelligenza artificiale. Anche il CEO di OpenAI Sam Altman e il CEO di SpaceX Elon Musk hanno dichiarato di condividere questa opinione.
Anche alcuni ricercatori che lavorano nei laboratori di intelligenza artificiale esprimono preoccupazioni simili. L'ex ricercatore di Anthropic Jacob Coxon, in un post su X, ha sostenuto che Anthropic e OpenAI sono in competizione per creare un'intelligenza artificiale in grado di auto-migliorarsi e auto-ripararsi, affermando che ciò equivale a "giocare d'azzardo con le nostre vite" e annunciando le proprie dimissioni.
Fonte della notizia: 12punto
