La falsa foto dell’esplosione del Pentagono diventa virale: come individuare un’immagine AI

Un’immagine falsa che sembra mostrare una grande esplosione vicino al Pentagono è stata condivisa lunedì sui social media, provocando un breve calo del mercato azionario.

In pochi minuti, un’ondata di account sui social media, inclusi alcuni account verificati, ha condiviso l’immagine falsa, amplificando ulteriormente la confusione.

I funzionari hanno successivamente confermato che non si era verificato alcun incidente del genere.

Detective dei social media, incluso Nick Waters di Bellingcatun gruppo di verifica delle notizie online, si è affrettato a sottolineare alcuni notevoli problemi con l’immagine, tra cui:

• Che non ci fossero altri testimoni di prima mano a corroborare l’evento, soprattutto in una zona trafficata come il Pentagono. “Questo è il motivo per cui è così difficile (direi effettivamente impossibile) creare un falso credibile di un tale evento”, ha twittato Waters.
• Che l’edificio stesso sembra notevolmente diverso dal Pentagono. Questo può essere facilmente verificato utilizzando strumenti come Google Street View per confrontare le due immagini.
• Altri dettagli, tra cui lo strano lampione galleggiante e il palo nero che sporgeva dal marciapiede, erano un altro segno che l’immagine non era quello che sembrava. L’intelligenza artificiale ha ancora difficoltà a ricreare luoghi senza introdurre artefatti casuali.

Fiducioso che questa immagine che afferma di mostrare una “esplosione vicino al pentagono” sia generata dall’intelligenza artificiale.

Dai un’occhiata alla facciata dell’edificio e al modo in cui la recinzione si fonde con le barriere della folla. Inoltre non ci sono altre immagini, video o persone che postano come testimoni di prima mano. pic.twitter.com/t1YKQabuNL

— Nick Waters (@N_Waters89) 22 maggio 2023

Come individuare immagini false e generate dall’intelligenza artificiale

Esistono molti strumenti di intelligenza artificiale generativa come Midjourney, Dall-e 2 e Stable Diffusion che possono creare immagini realistiche con uno sforzo minimo.

Questi strumenti vengono addestrati osservando grandi volumi di immagini reali, ma colmano le lacune con la propria interpretazione quando mancano i dati di addestramento. Ciò può comportare che le persone abbiano arti e oggetti extra che si trasformano con l’ambiente circostante.

Quando vedi immagini online che si presume mostrino un evento di notizie dell’ultima ora, vale la pena tenere a mente quanto segue:

• Le notizie non accadono nel vuoto – Nel caso di una grande esplosione o di un grande evento, aspettati di vedere un afflusso di rapporti sul campo da persone diverse e da diverse angolazioni.
• Chi sta caricando il contenuto – Guarda la cronologia dei post dell’account utente. La loro posizione e la posizione dell’evento si sommano? Guarda chi stanno seguendo e chi li segue. Puoi contattarli o parlare con loro?
• Utilizza strumenti di intelligence open source – Gli strumenti di ricerca inversa delle immagini come Google Immagini e TinEye possono consentirti di caricare un’immagine e determinare dove e quando è stata utilizzata per la prima volta. Ci sono molti altri strumenti che puoi utilizzare come guardare i filmati delle telecamere del traffico pubblico in diretta per verificare che si stia verificando un evento.
• Analizza l’immagine e i suoi dintorni – Cerca indizi nell’immagine come punti di riferimento nelle vicinanze, segnali stradali e persino le condizioni meteorologiche per aiutarti a stabilire dove o quando il presunto evento potrebbe aver avuto luogo.
• Mani, occhi e postura – Quando si ha a che fare con immagini di persone, prestare particolare attenzione ai loro occhi, alle mani e alla postura generale. I video generati dall’intelligenza artificiale che imitano le persone, noti come falsi profondi, tendono ad avere problemi a lampeggiare, poiché la maggior parte dei set di dati di allenamento non contiene volti con gli occhi chiusi. Anche le mani che non afferrano correttamente oggetti o arti che sembrano attorcigliati in modo innaturale possono aiutare a individuare il falso.

Per ulteriori informazioni sulla verifica delle notizie e sulle indagini di intelligence open source, il Media Institute di Al Jazeera ha pubblicato una manciata di guide disponibili in più lingue disponibili per il download di seguito.

• Trovare la verità tra i falsi [PDF]
• Verifica notizie – Una guida pratica [PDF]
• Indagini open source [PDF]

#Filo
1/ Mettere in luce i pericoli dei deepfake: cosa è successo quando un falso account Twitter con un segno di spunta blu, che si spaccia per Bloomberg, ha rilasciato ieri delle “ultime notizie” scioccanti…

— Rassegna giornalistica di Al Jazeera (@AJR_English) 23 maggio 2023