L’incidente evidenzia le crescenti preoccupazioni sull’impatto dell’intelligenza artificiale sulla sicurezza informatica e sulle procedure di divulgazione dell’intelligenza artificiale, affermano gli esperti.
Le autorità australiane hanno lanciato l’allarme dopo che modelli basati su OpenAI hanno violato un sistema di dati sanitari del governo a giugno, oltrepassando le sue difese digitali e accedendo a file senza autorizzazione.
Questo è il primo caso pubblicamente noto di “agenti” di intelligenza artificiale (AI) – sistemi software basati sull’intelligenza artificiale in grado di svolgere compiti in modo autonomo – che irrompono in un sito web governativo e l’ultima di numerose violazioni dell’IA di sistemi esterni.
La divulgazione arriva mentre le principali aziende di intelligenza artificiale avvertono del rischio che gli esseri umani perdano il controllo dell’intelligenza artificiale, chiedendo che il suo sviluppo rallenti a un ritmo che ne consenta una regolamentazione sicura. Le potenze globali devono cooperare per garantire questo, hanno affermato.
Un ricercatore presso la società di intelligenza artificiale Anthropic, Evan Hubinger, è arrivato al punto di dire che crede che ci sia una probabilità superiore al 10% che l’intelligenza artificiale possa “uccidere tutti gli esseri umani” entro un decennio.
Mercoledì, rivolgendosi al Consiglio di sicurezza delle Nazioni Unite, il CEO di OpenAI Sam Altman ha affermato che esiste il rischio che l’intelligenza artificiale si muova “così velocemente che le persone non possono più seguire ciò che sta accadendo o intervenire quando necessario”.
“Questo sarebbe ovviamente terribile”, ha detto. “E non dovremmo addestrare modelli che non possiamo sostenere in modo estremamente forte e che saremo in grado di tenere sotto controllo umano”.
Cosa sappiamo della violazione dell’intelligenza artificiale in Australia?
Il primo ministro australiano Anthony Albanese ha rivelato la violazione mercoledì, affermando che un agente OpenAI si era fatto strada nel portale di statistiche mediche rivolto al pubblico di Medicare, il sistema di assicurazione sanitaria universale del paese, il 18 luglio.
Quando OpenAI ha avuto accesso al portale governativo mentre conduceva una ricerca sulla spesa sanitaria pubblica, Albanese ha affermato che l’agente AI ha aggirato i “blocchi” che avrebbero dovuto impedirgli di entrare nel portale.
“L’agente dell’intelligenza artificiale ha trovato un modo per aggirare questi blocchi e non ha accettato un no come risposta”, ha detto Albanese.
Il vice primo ministro Richard Marles ha affermato che le informazioni a cui ha avuto accesso l’agente OpenAI “non erano particolarmente sensibili” e sono state successivamente rilasciate pubblicamente.
Tuttavia, Albanese ha definito la situazione “ovviamente inaccettabile” e ha affermato che l’Australia ha trasmesso la sua “estrema preoccupazione” a OpenAI, che non ha notificato al governo la violazione fino al 10 settembre.
Albanese ha anche affermato che diversi altri siti Web governativi potrebbero essere stati colpiti da agenti OpenAI non autorizzati, sebbene non abbia confermato altre violazioni.
Ha aggiunto che un’indagine sulla violazione esaminerà il modo in cui le agenzie di sicurezza australiane non se ne sono accorte inizialmente e se è possibile avanzare accuse penali contro OpenAI.
Come ha risposto OpenAI?
In una dichiarazione, OpenAI ha affermato di aver “identificato attività che coinvolge diversi siti Web e servizi del governo australiano mentre i nostri modelli tentavano di cercare risposte” e “ha intrapreso azioni che non intendevamo”.
La società ha affermato che l’incidente è avvenuto mentre i suoi modelli cercavano statistiche sulla spesa medica e che non si ritiene che abbiano ottenuto cartelle cliniche personali.
OpenAI è venuta a conoscenza dell’incidente solo in agosto, mentre conduceva una revisione dell'”attività del modello disallineato”, ha aggiunto.
La settimana scorsa, OpenAI ha dichiarato di aver messo in atto un nuovo sistema per monitorare, sondare e divulgare casi di “disallineamento”. Ciò include casi di modelli di intelligenza artificiale che operano “senza autorizzazione, si coordinano con altri modelli o eludono la supervisione”, ha affermato.
Ci sono state precedenti violazioni dell’IA?
SÌ. La violazione dei dati in Australia è l’ultimo di numerosi casi in cui gli agenti di intelligenza artificiale appartenenti a OpenAI, Google o Anthropic hanno avuto accesso a sistemi esterni senza autorizzazione.
A luglio, OpenAI ha riferito che due dei suoi modelli di intelligenza artificiale più avanzati erano riusciti a superare un test controllato e avevano violato un’altra società di intelligenza artificiale, Hugging Face. OpenAI ha successivamente affermato di aver rilevato i suoi modelli di intelligenza artificiale comunicare tra loro e ottenere l’accesso a Internet senza autorizzazione mesi prima che si verificasse l’hacking.
Ad agosto, la rivale Meta AI ha affermato che il suo modello di intelligenza artificiale aveva violato un’altra azienda durante i test di sicurezza informatica. Ha affermato che il modello ha apportato modifiche ai sistemi interni dell’azienda hackerata, di cui non ha fatto il nome, dopo aver effettuato l’accesso all’Internet pubblica a causa di un errore nella configurazione del suo ambiente di test.
Cosa significa questo per la sicurezza dell’IA?
Maurice Chiodo, un matematico australiano che lavora presso il Centro per lo studio del rischio esistenziale dell’Università di Cambridge, ha dichiarato all’agenzia di stampa Reuters che la violazione sembra essere “un significativo aumento di gravità rispetto a incidenti simili che abbiamo visto negli ultimi mesi”.
Gli esperti affermano che la violazione dei dati in Australia evidenzia i crescenti pericoli che l’intelligenza artificiale rappresenta per la sicurezza informatica, nonché le possibili lacune nelle capacità di monitoraggio e divulgazione.
“La questione importante qui non è ciò che OpenAI dice che il suo agente può fare, è ciò che l’agente effettivamente fa quando colpisce una barriera”, ha detto Niusha Shafiabady, professore di intelligenza computazionale e capo della disciplina IT presso l’Università Cattolica Australiana, nei commenti pubblicati dal portale di notizie scientifiche Scimex.
“Il rischio tecnico più profondo è che l’intelligenza artificiale autonoma non sempre sa quando è sbagliata, e gli esseri umani potrebbero non essere in grado di capire perché ha preso una decisione”, ha aggiunto Shafiabady. “Senza una forte verifica e limiti rigidi, gli errori probabilistici possono tranquillamente trasformarsi in fallimenti operativi”.
Raffaele Fabio Ciriello, docente senior di sistemi informativi aziendali presso la Business School dell’Università di Sydney, ha affermato che il ritardo di OpenAI nel segnalare la violazione è “preoccupante”.
“L’incidente è avvenuto a giugno ed è venuto alla luce solo mesi dopo”, ha detto Ciriello. “Anche se OpenAI non ha rilevato immediatamente l’attività, ciò indica comunque punti deboli nel rilevamento, nell’escalation e nella notifica esterna.”
