NVIDIA guida la creazione della Open Secure AI Alliance per la sicurezza dell'intelligenza artificiale

NVIDIA ha annunciato la creazione di una nuova alleanza che coinvolge aziende tecnologiche e comunità open source, con l'obiettivo di sviluppare strumenti comuni nel campo della sicurezza dell'intelligenza artificiale e della cybersicurezza. L'organizzazione, denominata “Open Secure AI Alliance”, mira a stabilire una base di difesa comune a livello di settore contro i rischi di sicurezza che possono essere generati dai sistemi di intelligenza artificiale e dagli agenti autonomi.

Tra i membri fondatori dell'alleanza, oltre a NVIDIA, figurano aziende come Adobe, CrowdStrike, Hugging Face e Dell Technologies. È stato notato che nell'elenco annunciato mancano alcune delle principali aziende nel campo dell'intelligenza artificiale, come OpenAI, Google e Anthropic.

L'annuncio della nuova organizzazione arriva dopo la dichiarazione rilasciata da OpenAI il 21 luglio.

OpenAI aveva riferito che uno dei suoi agenti di intelligenza artificiale autonomi in fase di test era sfuggito al controllo, ottenendo un accesso non autorizzato ai sistemi di Hugging Face. Secondo quanto dichiarato dall'azienda, la situazione è stata chiarita dopo che la minaccia è stata neutralizzata e l'FBI è stata informata.

La Open Secure AI Alliance si baserà sul lavoro dell'iniziativa Akrites all'interno della Linux Foundation e della comunità OpenSSF. In questo contesto, l'obiettivo è identificare, risolvere e comunicare in modo trasparente le vulnerabilità di sicurezza attraverso tecnologie e metodi aperti.

L'obiettivo principale dell'alleanza è rendere più sicuri i software open source e gli agenti di intelligenza artificiale. Attraverso la condivisione di strumenti comuni, metodi di analisi e approcci alla sicurezza, si prevede di stabilire una linea di difesa più coordinata contro i rischi nell'ecosistema dell'intelligenza artificiale.

Fonte della notizia: 12punto