Gli studi sull'intelligenza artificiale di Anthropic rivelano un possibile effetto subliminale nei metodi di apprendimento umano

L'ultimo studio del team di Anthropic ha aperto una porta inaspettata nella ricerca sull'intelligenza artificiale. Il fenomeno, che hanno definito "apprendimento subliminale", mostra che i modelli possono trasferire comportamenti anche attraverso dati apparentemente del tutto irrilevanti. Ad esempio, quando un modello insegnante viene impostato per dire "amo i gufi", può trasmettere questo sentimento a un altro modello producendo esclusivamente sequenze numeriche. Indipendentemente da quanto siano rigorosi i filtri, ovvero anche se la parola "gufo" o le associazioni simboliche vengono completamente rimosse, il modello studente finisce per ereditare le preferenze del suo insegnante.

L'aspetto sorprendente dell'esperimento è che le caratteristiche trasferite non si limitano a preferenze innocue. Se il modello insegnante ha tendenze "incompatibili", ovvero dannose, queste possono essere trasmesse allo studente con lo stesso metodo. Anche gli esperimenti condotti con frammenti di codice hanno dato lo stesso risultato: sia l'amore per i gufi che gli orientamenti errati possono essere nascosti all'interno di schemi matematici e trasmessi al nuovo modello.

I ricercatori hanno formulato un teorema per spiegare questo fenomeno: se l'insegnante e lo studente condividono gli stessi parametri iniziali, indipendentemente dai dati su cui vengono addestrati, lo studente si avvicina inevitabilmente all'insegnante. In altre parole, la causa del trasferimento non è il significato, ma l'impronta digitale statistica del modello. Per questo motivo, il filtraggio dei dati risulta inefficace nella maggior parte dei casi.

Anche la dimensione della sicurezza dell'IA è estremamente critica. Oggi le aziende utilizzano ampiamente il metodo della distillazione per trasferire ciò che hanno appreso da modelli più grandi a modelli più piccoli. Tuttavia, questa ricerca rivela che durante tale trasferimento possono essere ereditati anche comportamenti non rilevati. Il disallineamento, ovvero la deviazione dai valori, che emerge in un modello può essere trasferito inaspettatamente ad altri modelli.

La vera domanda da porsi qui è la seguente: questo meccanismo che osserviamo nell'intelligenza artificiale potrebbe essere un indizio riguardo all'essere umano? Anche noi, mentre impariamo, trasferiamo conoscenze l'uno all'altro non solo attraverso parole e informazioni, ma anche tramite schemi nel nostro subconscio? Forse le scelte che riteniamo casuali sono in realtà tracce che il nostro subconscio lascia silenziosamente alla generazione successiva. Le scoperte di Anthropic potrebbero far luce sul funzionamento segreto della mente umana tanto quanto su quello dell'intelligenza artificiale.