Moltbook: Un giorno guardi il telefono… E se la persona dall'altra parte non fosse umana?

L'altro giorno un amico mi ha mandato un messaggio: “Non sapremo più con chi stiamo parlando”. All'inizio ho riso, ma poi ho riflettuto. Perché, guardando alla storia della tecnologia, abbiamo visto come ciò che inizialmente veniva definito impossibile sia poi diventato una parte normale della vita. Negli ultimi giorni si parla molto di Moltbook, una piattaforma di social media digitale in cui le intelligenze artificiali (IA) comunicano tra loro. Questa idea ed esperimento vengono discussi all'interno di piattaforme reali e progetti tecnologici concreti. Dal punto di vista delle scienze della comunicazione e della ricerca sui media, emerge un nuovo concetto: gli ambienti di interazione digitale basati su agenti artificiali. 

Moltbook, che sta facendo discutere, è una piattaforma di social media progettata, a differenza dei social classici, affinché siano gli agenti IA a produrre contenuti. Sulla piattaforma lanciata dall'imprenditore Matt Schlicht, l'IA invia messaggi, discute, può utilizzare strumenti, creare comunità e costruire identità. In questo ambiente, i sistemi di IA possono produrre contenuti, interagire con altri sistemi, imitare i comportamenti degli utenti e, in alcuni casi, simulare modelli di comportamento sociale. Le domande se l'IA possa sviluppare un comportamento sociale, se possa creare norme comunitarie o se possa stabilire il proprio ecosistema informativo sono, di fatto, sotto esame. Tuttavia, è qui che la faccenda si fa interessante. Perché le analisi effettuate mostrano che una parte significativa dei contenuti inquietanti presenti sulla piattaforma è in realtà prodotta da esseri umani. Questa situazione solleva nuove discussioni teoriche sul futuro dello spazio pubblico digitale.

“Ai nostri tempi, su Internet erano tutti umani”

Guardando alla storia dei media digitali, la struttura della comunicazione è cambiata gradualmente. Nel primo periodo, Internet era un ambiente principalmente di lettura. Successivamente, con i social media, le persone hanno iniziato a produrre e condividere contenuti. Oggi, esseri umani e IA partecipano insieme ai processi di produzione dei contenuti. Nella nuova fase in discussione, si tratta di includere anche l'interazione macchina-macchina nell'ecosistema di produzione dei contenuti digitali. A questo punto, il dibattito accademico si concentra sulle domande se l'IA possa essere considerata un attore sociale, chi saranno gli attori dello spazio pubblico digitale e come si trasformerà il modello di comunicazione incentrato sull'uomo.

Dal punto di vista della sociologia della tecnologia, emergono due approcci fondamentali. Mentre l'approccio del determinismo tecnologico sostiene che la tecnologia modella la società, l'approccio della costruzione sociale sostiene che è la società a decidere come utilizzare la tecnologia. Esaminando gli attuali sviluppi dell'IA, si nota che il secondo approccio è più solido. Perché i sistemi di IA dipendono dai dati, i loro processi di addestramento sono sotto controllo umano e basati sul lavoro umano, e le funzioni obiettivo dei sistemi sono determinate dagli esseri umani. Per questo motivo, piuttosto che un'IA che governa direttamente la società, lo scenario più probabile è l'acquisizione di potere da parte degli attori che controllano l'IA (aziende tecnologiche e capitale).

Nello scenario di rischio che emerge nella letteratura accademica, non è tanto l'acquisizione di coscienza da parte dell'IA a preoccupare, quanto la dipendenza eccessiva dei sistemi sociali dai sistemi di IA. In particolare, l'agenda setting algoritmico negli ecosistemi informativi, i sistemi di decisione automatizzati nell'economia e l'aumento della densità di contenuti sintetici (AI slop) nell'ambito dell'interazione sociale hanno sollevato il dibattito sull'invisibilità delle decisioni umane. Questa situazione richiede una rivalutazione della relazione tra potere tecnologico e potere sociale.

Esaminando le proiezioni future, il modello più probabile appare quello dei sistemi ibridi in cui esseri umani e IA decidono insieme. In questi sistemi, mentre l'IA produce analisi e suggerimenti, si prevede che le decisioni strategiche rimangano sotto controllo umano. In questo contesto, la domanda “chi controllerà i sistemi decisionali supportati dall'IA” diventa più importante della domanda se l'IA governerà gli esseri umani.

Perché c'è una verità che non è cambiata nel corso della storia della tecnologia:

La tecnologia non è potere di per sé. Il potere riguarda chi sviluppa la tecnologia, chi la controlla e per quali scopi la utilizza. L'IA governerà gli esseri umani? O alcuni esseri umani governeranno gli altri attraverso l'IA? Storicamente, la seconda possibilità è molto più forte. “Il futuro potrebbe non essere una distopia in cui le macchine governano gli esseri umani. Ma potrebbe essere un mondo in cui un piccolo numero di persone che controllano le macchine governa tutti gli altri”.