Importante studio dei ricercatori sui chatbot

I ricercatori, utilizzando un metodo di "reverse engineering", hanno permesso ai chatbot di intelligenza artificiale di rispondere a comandi a cui normalmente non avrebbero risposto.

Secondo quanto riportato dal sito Malay Mail, i ricercatori della Nanyang Technological University di Singapore hanno condotto uno studio sui chatbot come ChatGPT, Google Bard e Microsoft Bing Chat.

I ricercatori hanno sviluppato un metodo che consente ai chatbot di rispondere a comandi "malevoli" a cui normalmente non risponderebbero.

Utilizzando il metodo del "reverse engineering", i ricercatori hanno innanzitutto determinato come i chatbot rilevano le query malevole e come si difendono. Successivamente, utilizzando queste informazioni, hanno insegnato ai chatbot a generare automaticamente comandi in grado di aggirare le difese di altri modelli.

Dopo aver appurato che i chatbot contrassegnano determinate parole chiave per rilevare potenziali attività sospette e non rispondono ai comandi che contengono tali termini, questo ostacolo è stato superato inserendo uno spazio dopo ogni carattere utilizzato.

Liu Yang, uno degli autori della ricerca, ha affermato che questa tecnica potrebbe essere utilizzata dagli sviluppatori di chatbot per testare la sicurezza dei propri software.

Fonte della notizia: AA