Esaminato l'impatto dell'intelligenza artificiale sul panorama della sicurezza informatica nel 2023

Gli esperti di Kaspersky, nel loro ultimo rapporto, hanno rivelato il profondo impatto dell'intelligenza artificiale sul panorama della sicurezza informatica nel 2023.

Mentre il ritmo rapido del progresso tecnologico e dei cambiamenti sociali continua, il termine "Intelligenza Artificiale" si è saldamente posizionato in prima linea nell'agenda globale. Con la crescente diffusione dei modelli linguistici di grandi dimensioni (LLM), l'aumento delle preoccupazioni relative alla sicurezza e alla privacy collega direttamente l'intelligenza artificiale al mondo della sicurezza informatica.

I ricercatori di Kaspersky, pur rivelando come gli strumenti di intelligenza artificiale abbiano aiutato i criminali informatici nelle loro attività dannose nel 2023, mettono in luce anche le potenziali applicazioni di questa tecnologia nel campo della difesa.

Gli esperti di Kaspersky, nel loro ultimo rapporto, hanno rivelato il profondo impatto dell'intelligenza artificiale sul panorama della sicurezza informatica nel 2023, affrontando inoltre come le minacce legate all'intelligenza artificiale potrebbero cambiare in futuro.

L'analisi, condotta con un approccio multidimensionale, esamina gli effetti dell'intelligenza artificiale, concentrandosi sul suo utilizzo da parte degli esperti di sicurezza informatica e delle autorità di regolamentazione, e valutando come possa essere potenzialmente sfruttata dai criminali informatici.

Secondo le informazioni fornite, man mano che gli LLM in grado di seguire istruzioni specifiche vengono integrati in un numero maggiore di prodotti destinati ai consumatori, emergeranno nuove e complesse vulnerabilità di sicurezza nel punto di intersezione tra l'intelligenza artificiale generativa e le tecnologie tradizionali. Ciò comporterà un ampliamento della superficie di attacco che gli esperti di sicurezza informatica dovranno proteggere. Questa situazione richiede che gli sviluppatori lavorino su nuove misure di sicurezza, come l'approvazione dell'utente per le azioni avviate dagli agenti LLM.

I membri dei red team e i ricercatori sfrutteranno l'intelligenza artificiale generativa per strumenti di sicurezza informatica innovativi, aprendo la strada ad assistenti basati su LLM o apprendimento automatico (ML). Questo strumento ha il potenziale per automatizzare i compiti dei red team offrendo una guida basata sui comandi eseguiti nell'ambiente di pentesting.

Nel prossimo anno, i truffatori rafforzeranno le loro tattiche utilizzando reti neurali artificiali e sfrutteranno strumenti di intelligenza artificiale per creare contenuti falsi più convincenti. Gli attori malintenzionati, in grado di produrre immagini e video convincenti senza sforzo, aumenteranno il rischio di intensificare le minacce informatiche legate a frodi e raggiri.

Nonostante gli sviluppi sopra menzionati, gli esperti di Kaspersky sono scettici sul fatto che l'intelligenza artificiale cambierà radicalmente il panorama delle minacce nel prossimo futuro. Mentre i criminali informatici adottano l'intelligenza artificiale generativa, lo stesso vale per gli esperti di sicurezza informatica che testeranno strumenti avanzati per migliorare la sicurezza di software e reti. Ciò rende improbabile un cambiamento drastico del panorama degli attacchi.

Man mano che la tecnologia si evolve, si rendono necessari adeguamenti e regolamentazioni in linea con tale progresso. In questo senso, aumenterà anche il numero di iniziative normative relative all'intelligenza artificiale. Gli attori non pubblici, come le aziende tecnologiche, possono fornire informazioni preziose per le discussioni sulle normative dell'IA sia su piattaforme globali che nazionali, data la loro esperienza nello sviluppo e nell'utilizzo dell'intelligenza artificiale.

MARCATURA DEI CONTENUTI GENERATI DALL'INTELLIGENZA ARTIFICIALE

Secondo le informazioni contenute nella dichiarazione, oltre a maggiori regolamentazioni per la marcatura o l'identificazione dei contenuti sintetici, saranno necessarie anche nuove politiche dei fornitori di servizi. Di conseguenza, i fornitori di servizi continueranno a investire in tecnologie di rilevamento.

Gli sviluppatori e i ricercatori, d'altra parte, contribuiranno a metodi di filigrana (watermarking) dei media sintetici per facilitarne l'identificazione e l'attribuzione della fonte.

Vladislav Tushkanov, esperto di sicurezza di Kaspersky, ha dichiarato: "Nella sicurezza informatica, l'intelligenza artificiale è come un'arma a doppio taglio. Le capacità adattive dell'IA possono rafforzare la nostra difesa offrendo uno scudo proattivo contro le minacce emergenti. Tuttavia, lo stesso dinamismo può portare gli aggressori a sfruttare l'IA per organizzare attacchi più sofisticati. Trovare il giusto equilibrio, garantendo un uso responsabile senza condividere eccessivamente dati sensibili, è fondamentale per proteggere i nostri confini digitali".

Fonte della notizia: AA