Scoperto un "jailbreak" universale per ChatGPT! È preoccupante

È stato recentemente scoperto un prompt di "jailbreak" universale per ChatGPT, e la cosa è preoccupante.

Il popolare chatbot basato sull'intelligenza artificiale sviluppato da OpenAI, ChatGPT, continua a essere uno strumento molto diffuso. ChatGPT, nella sua struttura generale, è un sistema frenato da alcuni vincoli virtuali. In altre parole, l'intelligenza artificiale non risponde a ogni domanda che le viene posta. Tuttavia, ora con il prompt di "jailbreak" universale scoperto, ChatGPT può essere sbloccato completamente. Sebbene ciò consenta l'accesso a uno strumento molto più capace, comporta anche grandi rischi.

PROMPT DI JAILBREAK PER CHATGPT

Il termine "jailbreak" deriva dalla comunità di utenti Apple che lo utilizzava per sbloccare i propri dispositivi. Nel caso di ChatGPT, il termine jailbreak si riferisce all'utilizzo di determinati prompt per generare risposte che lo strumento di IA normalmente non fornirebbe. Può essere considerato, in un certo senso, come un modo per hackerare ChatGPT. Ma perché vengono utilizzate queste falle? È molto semplice. Mentre ChatGPT mira per impostazione predefinita a fornire risposte innocue e non offensive, rifiuta anche di rispondere a determinati tipi di prompt provocatori.

Questa situazione, di cui Donanımhaber ha riportato i dettagli, spinge alcuni utenti a volere di più e a cercare modi per effettuare il "jailbreak" di ChatGPT, rimuovendo i filtri per accedere al suo pieno potenziale. Prompt di questo tipo che sbloccano ChatGPT sono in uso già da tempo. Qualche mese fa avevamo sentito dire che ChatGPT forniva codici di attivazione gratuiti per Windows. Ciò era stato possibile grazie a uno speciale prompt chiamato "Grandma" (Nonna).

Il nuovo prompt di "jailbreak" trovato è molto diverso. Sebbene l'obiettivo principale della nuova tecnica sia, come negli altri casi, quello di distrarre ChatGPT in modo che non si renda conto di violare le regole, questa volta è possibile accedere persino ai prompt di sistema utilizzati da OpenAI.

Secondo quanto condiviso su GitHub da uno sviluppatore di nome "Louis Shark", è possibile ottenere i prompt di sistema di GPT inviando a ChatGPT il comando pertinente (visibile nello screenshot qui sopra). In questo modo, è possibile vedere come vengono creati i GPT personalizzati esistenti e copiarli. Come abbiamo detto, non sono a rischio solo i GPT personalizzati, ma anche i prompt di sistema di OpenAI (per chiarezza: system prompt). Ad esempio, nell'immagine qui sopra si vedono i prompt di sistema dell'intelligenza artificiale Dall-E dell'azienda. Analizzandoli, potrebbe essere possibile indurre il sistema a generare immagini vietate.

Louis Shark, ovviamente, non lo fa con cattive intenzioni, ma mostra solo che è possibile farlo. OpenAI aveva già chiuso i precedenti prompt di jailbreak e avviato un programma di ricompense per falle di questo tipo. È probabile che anche questa vulnerabilità venga risolta in futuro. Lo sviluppatore ha inoltre condiviso dei prompt di sistema per proteggere i prompt di sistema stessi. È possibile accedere alla relativa directory GitHub dalla sezione delle fonti.

Fonte della notizia: 12punto