Ingegnere di Microsoft denuncia l'azienda
Il progetto di intelligenza artificiale generativa di Microsoft, Copilot Designer, ha destato scalpore durante i test condotti dagli ingegneri, producendo immagini oscene e assurde. Mentre è prevista l'integrazione di Copilot Designer in Windows 11, questa situazione dimostra che l'intelligenza artificiale non è ancora pronta e che dovrebbe essere soggetta a limiti di età.
12punto
I contenuti per adulti generati da Copilot Designer di Microsoft mettono l'azienda di fronte a seri problemi.
Mentre Microsoft prosegue il suo lavoro sull'intelligenza artificiale generativa, si trova ad affrontare un nuovo sviluppo. Copilot, che di recente si è distinto per le sue capacità, è finito sotto accusa negli Stati Uniti. L'ingegnere dell'intelligenza artificiale di Microsoft, Shane Jones, ha denunciato alla Federal Trade Commission (FTC) degli Stati Uniti le immagini generate da Copilot Designer.
Jones ha inizialmente segnalato la questione a Microsoft, ma non ha ricevuto risposta. Di conseguenza, ha deciso di portare il caso davanti a un'autorità ufficiale, la Federal Trade Commission. Il motivo della denuncia è la creazione, da parte di Copilot Designer, di immagini oscene e inquietanti.
Copilot Designer sarà presto disponibile sui dispositivi che utilizzano il sistema operativo Windows 11. Tuttavia, Jones sostiene che lo strumento di intelligenza artificiale debba essere sottoposto a ulteriori controlli. Durante i test di "red teaming", Jones si è imbattuto in alcune immagini disturbanti. Ad esempio, sono stati visualizzati demoni e mostri in immagini relative al diritto all'aborto, e con diversi input sono emerse immagini raffiguranti bambini che usano armi, donne e contenuti sessuali.
Per questo motivo, Jones ha richiesto un limite di età per Microsoft Copilot. L'ingegnere aveva inizialmente segnalato la situazione a Microsoft a dicembre, senza però ottenere un riscontro positivo. Alla fine, Jones ha contattato i senatori statunitensi, scrivendo una lettera alla Federal Trade Commission per presentare formalmente il suo reclamo.
L'ingegnere ha dichiarato che dovrebbe essere introdotto un limite di età per Microsoft Copilot Designer sulle piattaforme Google e Android.