L’azienda tecnologica ha sospeso l’account ChatGPT dell’assassino di massa prima degli attacchi, ma non ha informato le forze dell’ordine.
Il CEO di OpenAI, Sam Altman, si è scusato per l’incapacità della sua azienda di allertare le autorità sulle preoccupanti attività online di un adolescente che ha poi commesso una delle peggiori sparatorie di massa del Canada.
Jesse Van Rootselaar, 18 anni, ha sparato a Tumbler Ridge, nella Columbia Britannica, il 10 febbraio, uccidendo otto persone.
Tra le vittime c’erano la madre e il fratellastro di Rootselaar e cinque studenti della scuola secondaria della remota comunità.
Rootselaar, nato maschio ma identificato come femmina, è morto per una ferita da arma da fuoco autoinflitta.
OpenAI ha dichiarato dopo gli attacchi che l’account ChatGPT di Rootselaar era stato segnalato internamente nel giugno precedente per uso improprio “a sostegno di attività violente”, con conseguente sospensione.
La società di intelligenza artificiale con sede a San Francisco all’epoca dichiarò di non aver informato le autorità perché l’uso del chatbot da parte di Rootselaar non aveva raggiunto la soglia per rappresentare una minaccia credibile o imminente di danno ad altri.
In una lettera condivisa venerdì dal sito di notizie Tumbler RidgeLines e dal premier della Columbia Britannica David Eby, Altman ha riconosciuto che OpenAI avrebbe dovuto allertare le forze dell’ordine della sospensione di Rootselaar.
“Sono profondamente dispiaciuto di non aver avvisato le forze dell’ordine dell’account che è stato bannato a giugno. Anche se so che le parole non possono mai essere sufficienti, credo che le scuse siano necessarie per riconoscere il danno e la perdita irreversibile che la vostra comunità ha subito”, ha scritto Altman.
“Ribadisco l’impegno che ho preso nei confronti del sindaco e del premier per trovare modi per prevenire tragedie come questa in futuro”, ha aggiunto Altman.
“Andando avanti, il nostro obiettivo continuerà a essere quello di lavorare con tutti i livelli di governo per garantire che qualcosa del genere non accada mai più”.
Un portavoce di OpenAI ha confermato l’autenticità della lettera ad Al Jazeera.
La dichiarazione di rammarico di Altman è arrivata dopo che Eby ha dichiarato il mese scorso che il CEO della tecnologia aveva accettato di scusarsi con la comunità di Tumbler Ridge per l’incapacità di OpenAI di segnalare Rootselaar come una minaccia.
Nella sua lettera, Altman ha detto che Eby e il sindaco di Tumbler Ridge Darryl Krakowka hanno trasmesso “la rabbia, la tristezza e la preoccupazione” provate nella comunità nelle loro discussioni.
“Abbiamo convenuto che fossero necessarie scuse pubbliche, ma quel tempo era necessario anche per rispettare la comunità mentre soffrivi. Condivido questa lettera con la consapevolezza che ognuno soffre a modo suo e ai propri tempi”, ha scritto Altman.
“Voglio esprimere le mie più sentite condoglianze all’intera comunità. Nessuno dovrebbe mai sopportare una tragedia come questa. Non posso immaginare niente di peggio in questo mondo che perdere un figlio.”
