Recentemente, Reddit ha nuovamente fatto notizia con un subreddit in cui le persone usano uno strumento di apprendimento automatico chiamato “Deep Fake” per sostituire automaticamente il volto di una persona con un altro in un video. Ovviamente, dato che si tratta di Internet, le persone lo usano per due cose: falso porno di celebrità e inserimento di Nicolas Cage in film casuali.
Mentre scambiare il volto di qualcuno in una fotografia è sempre stato relativamente facile, scambiare il volto di qualcuno in un video era un tempo dispendioso e difficile. Fino ad ora, è stato principalmente realizzato dagli studi VFX per film hollywoodiani di grande budget, in cui il volto di un attore viene scambiato con il loro doppio acrobatico. Ma ora, con Deep Fake, chiunque abbia un computer può farlo in modo rapido e automatico.
Prima di andare oltre, devi sapere che aspetto ha un Deep Fake. Guarda il video SFW qui sotto che è una raccolta di diversi face swap di celebrità, che coinvolgono principalmente Nic Cage.
(Embed) https://www.youtube.com/watch?v=LF893Su8rlY (/ embed)
Il software Deep Fake funziona utilizzando l'apprendimento automatico. Viene prima allenato con una faccia bersaglio. Le immagini distorte del bersaglio vengono eseguite attraverso l'algoritmo e si impara a correggerle per assomigliare alla faccia del bersaglio inalterata. Quando l'algoritmo viene quindi alimentato con immagini di un'altra persona, assume che si tratti di immagini distorte del bersaglio e tenta di correggerle. Per ottenere video, il software Deep Fake opera su ogni frame individualmente.
La ragione per cui Deep Fakes ha in gran parte coinvolto attori è che sono disponibili molti filmati di loro da diverse angolazioni che rendono la formazione più efficace (Nicolas Cage ha 91 crediti di recitazione su IMDB). Tuttavia, data la quantità di foto e video che le persone pubblicano online e che in realtà sono necessarie solo circa 500 immagini per addestrare l'algoritmo, non c'è motivo per cui anche le persone comuni non possano essere prese di mira, anche se probabilmente con un po 'meno successo.
Come individuare un falso profondo
Al momento, i Deep Fakes sono piuttosto facili da individuare ma diventeranno più difficili man mano che la tecnologia migliora. Ecco alcuni omaggi.
Volti dall'aspetto strano. In molti Deep Fakes, i volti sembrano solo strani. Le funzionalità non si allineano perfettamente e tutto appare solo un po 'ceroso come nell'immagine qui sotto. Se tutto il resto sembra normale, ma il viso appare strano, è probabilmente un Deep Fake.
Tremolante. Una caratteristica comune dei cattivi video di Deep Fake è il volto che sembra sfarfallare e le caratteristiche originali saltuariamente appaiono alla vista. Di solito è più evidente ai bordi del viso o quando qualcosa gli passa davanti. Se si verificano strani sfarfallamenti, stai osservando un Deep Fake.
Corpi diversi. I Deep Fakes sono solo scambi di volti. La maggior parte delle persone cerca di ottenere una buona corrispondenza corporea, ma non è sempre possibile. Se la persona sembra essere notevolmente più pesante, più leggera, più alta, più corta o ha tatuaggi che non ha nella vita reale (o non ha tatuaggi che ha nella vita reale) c'è una buona probabilità che sia falsa. Di seguito puoi vedere un esempio davvero ovvio, in cui la faccia di Patrick Stewart è stata scambiata con J.K. Simmons in una scena del film Whiplash. Simmons è significativamente più piccolo di Stewart, quindi sembra strano.
Clip brevi. In questo momento, anche quando il software Deep Fake funziona perfettamente e crea uno scambio di volti quasi indistinguibile, può davvero farlo solo per un breve periodo di tempo. In poco tempo, inizierà a verificarsi uno dei problemi sopra. Ecco perché la maggior parte delle clip di Deep Fake condivise dalle persone dura solo un paio di secondi, il resto del filmato è inutilizzabile. Se ti viene mostrato un breve filmato di una celebrità che fa qualcosa, e non c'è una buona ragione per cui sia così breve, è un indizio che è un falso profondo.
Nessun suono o sincronizzazione labiale errata. Il software Deep Fake regola solo le caratteristiche del viso; non fa magicamente sembrare una persona come un'altra. Se non c'è alcun suono con la clip e non c'è motivo per cui non siano audio, è un altro indizio che stai osservando un Deep Fake. Allo stesso modo, anche se c'è del suono, se le parole pronunciate non coincidono correttamente con le labbra in movimento (o le labbra sembrano strane mentre la persona parla come nella clip qui sotto), potresti avere un Deep Fake.
Clip incredibili. Questo tipo di cose è ovvio ma, se ti viene mostrato un clip davvero incredibile, ci sono buone probabilità che tu non ci creda. Nicolas Cage non ha mai recitato nel ruolo di Loki in un film Marvel. Sarebbe bello, però.
Fonti dubbie. Come per le foto false, la provenienza presunta del video è spesso un grande indizio della sua autenticità. Se il New York Times ci sta raccontando una storia, è molto più probabile che sia vero che qualcosa che scopri in un angolo casuale di Reddit.
Per il momento, Deep Fakes è più una terrificante curiosità che un grosso problema. I risultati sono facili da individuare e, sebbene sia impossibile giustificare ciò che viene fatto, nessuno sta ancora cercando di passare a Deep Fakes come video autentici.
Man mano che la tecnologia migliora, è probabile che costituiscano un problema molto più grande. Ad esempio, convincenti filmati falsi di Kim Jong Un che dichiarano guerra agli Stati Uniti potrebbero causare un grande panico.
