Sicurezza informatica nell'era dell'Intelligenza Artificiale: gli esempi di KGM e Meta

Uno degli argomenti più discussi riguardo all'intelligenza artificiale è la perdita di posti di lavoro. Un gruppo di persone pensa che l'IA porterà alla fine dell'umanità. Un altro gruppo teme che tutte le professioni scompariranno.

A mio avviso, oggi ci troviamo di fronte a un pericolo molto più concreto.

Ovvero, il collegamento sconsiderato dell'intelligenza artificiale ai sistemi delle istituzioni.

Due episodi in cui mi sono imbattuto negli ultimi giorni hanno dimostrato ancora una volta quanto questo sia un problema serio. La cosa interessante è che uno degli eventi si è verificato in un ente pubblico in Turchia, mentre l'altro in una delle più grandi aziende tecnologiche del mondo.

L'esempio di KGM

Al ritorno dalle vacanze, sono entrato nel sistema della Direzione Generale delle Autostrade (KGM) per verificare se ci fossero problemi con le registrazioni dell'HGS (sistema di pedaggio elettronico).

Il quadro che mi si è presentato davanti era piuttosto sorprendente.

Era possibile accedere ai registri di transito utilizzando solo il numero di targa, senza alcuna autenticazione dell'identità.

Ancora più interessante, nonostante il veicolo che stavo controllando fosse un modello del 2023, nel sistema apparivano registrazioni risalenti al 2017.

Poco dopo ne ho capito il motivo.

Il sistema non tracciava il veicolo, ma la targa.

In altre parole, se la stessa targa era stata utilizzata in passato su un altro veicolo, era possibile visualizzare anche i registri di quel periodo. In altre parole, una persona poteva accedere ai viaggi passati di un'altra persona.

Ho chiamato il call center per segnalare il problema.

Mi ha risposto un sistema di risposta vocale basato sull'intelligenza artificiale.

Per curiosità, ho fornito un numero di targa.

Il sistema ha iniziato a condividere le informazioni di transito pertinenti senza verificare se la targa appartenesse a me.

Il punto su cui riflettere qui non è l'intelligenza artificiale in sé.

Il vero problema è come vengono definiti i dati e le autorizzazioni a cui l'IA accede.

Proprio a questo punto, viene in mente la decisione del KVKK (Autorità per la protezione dei dati personali) pubblicata la scorsa settimana.

L'Autorità per la protezione dei dati personali ha adottato un approccio piuttosto restrittivo contro l'uso di dati biometrici come impronte digitali, geometria del volto, retina e iride per il monitoraggio dell'orario di lavoro dei dipendenti.

La motivazione è estremamente logica.

Questi dati sono estremamente sensibili. Una volta compromessi, non è possibile modificarli.

Tuttavia, sorge spontanea una domanda:

Se da un lato vengono messi sotto esame i sistemi aziendali che monitorano l'orario di lavoro tramite impronte digitali, mentre dall'altro le informazioni relative allo storico dei viaggi dei cittadini sono accessibili senza una verifica sufficiente, stiamo stabilendo le giuste priorità?

C'è una differenza sostanziale tra il sapere a che ora una persona arriva al lavoro e il sapere in quali città è stata, quali percorsi ha utilizzato e in quali date ha viaggiato.

Nelle discussioni sulla sicurezza dei dati, è necessario guardare non solo a quali dati vengono raccolti, ma anche a chi può accedervi.

L'esempio di Meta

Negli stessi giorni è stata pubblicata una notizia degna di nota riguardante Meta.

Degli hacker sono riusciti a prendere il controllo di centinaia di account. Tra questi c'erano anche account di personaggi noti e grandi marchi.

Secondo le accuse, il metodo era estremamente semplice.

Hanno contattato il servizio clienti basato sull'intelligenza artificiale e hanno richiesto alcune modifiche relative all'account.

Il sistema di intelligenza artificiale ha soddisfatto queste richieste senza effettuare una verifica sufficiente.

Gli indirizzi e-mail sono stati modificati.

I link per il ripristino della password sono stati inviati ai nuovi indirizzi.

Di conseguenza, gli account sono passati sotto il controllo degli aggressori.

Meta ha successivamente annunciato che la falla è stata chiusa.

Tuttavia, anche qui il problema fondamentale non era l'esistenza dell'intelligenza artificiale.

Il problema era quali autorizzazioni venivano concesse all'IA e con quali controlli tali autorizzazioni venivano limitate.

Il vero problema non è l'intelligenza artificiale

Questi due esempi sembrano completamente diversi a prima vista.

Uno riguarda il settore pubblico.

L'altro il settore privato.

Uno è in Turchia.

L'altro in America.

Ma entrambi raccontano la stessa cosa.

Molte istituzioni, cercando di integrare l'IA nel sistema, pensano prima all'efficienza.

Servizio clienti più veloce.

Meno personale.

Costi inferiori.

Maggiore automazione.

Tuttavia, spesso non ci si pone abbastanza la seguente domanda:

"Cosa succede se questo sistema prende una decisione sbagliata?"

Ancora più importante:

"Cosa succede se un aggressore inganna questo sistema?"

Oggi, in molte istituzioni, il processo funziona al contrario.

Prima si avvia il progetto di intelligenza artificiale.

Poi si collegano i sistemi CRM.

Si aprono i dati dei clienti.

Si collegano i sistemi contabili.

Si collegano i call center.

Si definiscono le autorizzazioni.

Tuttavia, il lavoro di modellazione delle minacce viene spesso in mente solo in un secondo momento.

Eppure, l'approccio corretto è esattamente l'opposto.

Prima di avviare un progetto di intelligenza artificiale, è necessario delineare i possibili scenari di attacco.

A quali dati accederà?

Quali operazioni potrà compiere?

Quali decisioni potrà prendere autonomamente?

In quale punto sarà necessaria l'approvazione umana?

Quale sarebbe lo scenario peggiore se un aggressore ingannasse il sistema?

Mettere l'intelligenza artificiale in un ambiente di produzione senza aver dato risposta a queste domande comporta un rischio serio.

In passato, gli aggressori cercavano vulnerabilità nel software.

Oggi prendono di mira i meccanismi decisionali.

Cercano di ingannare l'intelligenza artificiale.

Cercano di superare i limiti di autorizzazione.

Cercano di manipolare la logica del sistema.

Per questo motivo, nei progetti di intelligenza artificiale, la sicurezza informatica non deve più essere un livello aggiunto in seguito, ma deve essere il punto di partenza del progetto.

Gli esempi di KGM e Meta ci danno la stessa lezione.

I sistemi di intelligenza artificiale non rappresentano un rischio perché sono pericolosi, ma perché vengono autorizzati senza essere stati sufficientemente ponderati.

Nell'era dell'intelligenza artificiale, il vero problema di sicurezza non sono gli algoritmi in sé, ma le porte che apriamo loro.

Cosa ho esaminato questa settimana: Lampadina LED WiFi intelligente Günsan

Uno dei prodotti che ha attirato la mia attenzione questa settimana sono state le lampadine LED WiFi intelligenti di Günsan.

I prodotti Günsan non mi sono del tutto estranei. Avevo già avuto l'opportunità di esaminare la presa intelligente del marchio e, onestamente, devo dire che l'ho trovata riuscita. Mi è piaciuto in particolare il fatto che permetta di entrare nel mondo della casa intelligente senza complicare l'installazione.

Il prodotto che ho avuto tra le mani questa volta sono state le lampadine LED WiFi intelligenti.

Sebbene le tecnologie per la casa intelligente facciano parte della nostra vita da anni, negli ultimi tempi sono diventate più accessibili. Molte funzionalità che un tempo richiedevano installazioni serie ora possono essere utilizzate semplicemente cambiando una lampadina.

Uno degli aspetti notevoli dei modelli che ho esaminato è che possono funzionare non solo con la propria applicazione, ma anche con piattaforme diffuse come Tuya e Smart Life, oltre a GG SMART. Questo offre un vantaggio importante per gli utenti che desiderano costruire una struttura di casa intelligente composta da marchi diversi.

Le lampadine, che utilizzano la tecnologia LED da 9W, funzionano con un basso consumo energetico. Nel modello a luce bianca, ci sono tonalità di luce regolabili tra 2700K e 6500K. È possibile preferire una luce più vivace nello studio o passare a tonalità più calde nelle ore serali.

Nel modello RGB, vengono offerte 16 milioni di opzioni di colore. È possibile creare scenari diversi quando si guarda un film, si legge un libro o semplicemente quando si desidera cambiare l'atmosfera dell'ambiente.

Devo dire che ho trovato particolarmente utili le funzioni di timer. L'accensione delle luci a un'ora specifica al mattino o l'attivazione automatica nelle ore serali sono tra quei piccoli ma efficaci dettagli che facilitano la vita quotidiana.

Sembra che vedremo questi prodotti più spesso man mano che le tecnologie per la casa intelligente diventeranno più diffuse. Dopo la presa intelligente di Günsan, anche queste lampadine che ho esaminato dimostrano che il marchio sta procedendo in modo coerente nell'espansione della sua famiglia di prodotti per la casa intelligente.