Il CEO di CrowdStrike Kurtz si oppone agli appelli per rallentare l'intelligenza artificiale: la soluzione è il controllo a runtime
George Kurtz ha affermato che i modelli avanzati di intelligenza artificiale sono già accessibili, sostenendo che la soluzione non è fermare lo sviluppo, ma un controllo rigoroso.
12punto
Il CEO di CrowdStrike, George Kurtz, si è opposto al dibattito sulla necessità di ridurre la velocità di sviluppo dei "modelli di frontiera" nel campo dell'intelligenza artificiale. Kurtz ha affermato che i modelli avanzati e a pesi aperti sono già ampiamente accessibili, aggiungendo che rallentare le attività di sviluppo in questa fase non eliminerebbe gli attuali rischi per la sicurezza informatica.
Parlando alla CNBC dopo l'appello del CEO di Anthropic, Dario Amodei, per un rallentamento sui modelli di intelligenza artificiale più potenti, Kurtz ha sottolineato che modelli con capacità pericolose sono ormai in circolazione pubblica. Definendo la situazione con le parole "il genio è uscito dalla lampada", secondo Kurtz la vera necessità non è cercare di fermare i modelli, ma costruire sistemi di sicurezza in grado di monitorare ciò che fanno durante l'uso reale e di intervenire quando necessario.
L'approccio di Kurtz si concentra sul dibattito sulla sicurezza, diventato ancora più critico con la diffusione degli agenti autonomi di intelligenza artificiale. Pur riconoscendo che questi sistemi possono creare gravi rischi, il CEO di CrowdStrike sostiene che la soluzione non sia una politica di rallentamento generale, ma controlli a runtime che limitino i poteri degli agenti, rendano visibili le loro operazioni e prevengano comportamenti dannosi.
Il dibattito è emerso in un periodo turbolento per i titoli tecnologici. L'aumento delle azioni di CrowdStrike da 206 dollari a oltre 235 dollari nella giornata di lunedì ha portato le valutazioni dell'azienda, incentrate sull'intelligenza artificiale e sulla sicurezza informatica, al centro dell'attenzione del mercato.
DUE DIVERSI APPROCCI NEL DIBATTITO SULLA SICUREZZA
L'intervento di Kurtz coincide con le crescenti preoccupazioni per la sicurezza in seguito ai recenti attacchi associati a Hugging Face e RubyGems. Questi eventi hanno aperto il dibattito non solo sulla potenza dei modelli di intelligenza artificiale, ma anche su quali diritti di accesso e di elaborazione debbano essere concessi ai sistemi autonomi. Nello stesso periodo, il rilascio da parte di Microsoft di aggiornamenti per 974 vulnerabilità di sicurezza, tra cui due vulnerabilità zero-day, nell'ambito del Patch Tuesday, è stato uno degli sviluppi che ha dimostrato l'entità della pressione sul fronte della difesa.
Il CEO di CrowdStrike si trova su una linea simile a quella di David Sacks riguardo alla necessità di controllare rigorosamente gli agenti autonomi. Tuttavia, è cauto nei confronti di interventi statali su larga scala. Secondo Kurtz, normative troppo pesanti potrebbero indebolire la competitività degli Stati Uniti rispetto ai rivali globali. Per questo motivo, ritiene che i modelli in cui i laboratori di intelligenza artificiale e le società di sicurezza collaborano, portando il controllo nell'ambiente di produzione, siano più praticabili.
In questo contesto, Kurtz ha citato come esempio l'iniziativa Project Glasswing di Anthropic. Il progetto mira a combinare le protezioni a livello di laboratorio con gli strumenti di monitoraggio a runtime nell'ambiente di produzione per il modello Mythos di Anthropic. In questo modo, la sicurezza non viene lasciata solo alle limitazioni nella fase di sviluppo del modello; anche il monitoraggio del comportamento del modello mentre opera in un ambiente reale diventa parte della difesa.
L'appello di Amodei ha suscitato dibattiti anche al di fuori del settore tecnologico. L'amministrazione Trump si è opposta al rallentamento dello sviluppo dell'intelligenza artificiale, sostenendo che ciò potrebbe svantaggiare gli Stati Uniti rispetto alla Cina. Da parte sua, la Cina ha espresso l'opinione che un approccio basato sulla paura e sulla dura concorrenza danneggerebbe la governance globale dell'intelligenza artificiale.
Il dibattito si articola così su due assi principali: la proposta di rallentare il progresso prima che emergano modelli più potenti e l'approccio che, riconoscendo che i modelli attuali sono già diventati accessibili, indirizza gli investimenti per la sicurezza verso il monitoraggio in tempo reale, i controlli degli agenti e gli strumenti di difesa. Kurtz ritiene che la seconda strada sia più realistica e praticabile.