Inglese:

What are deepfakes?

Deepfakes are videos, photos or even audio recordings that seem real and true but have been purposely modified and manipulated using artificial intelligence (AI). The word deepfake is the combination of “deep learning” and “fake”. It can be done by swapping faces, altering speeches and synthesizing facial expressions to make realistic-looking fake content. A fake video from an unreliable source of a celebrity or a politician saying outrageous statements is a common example of a deepfake that you have probably seen circulating around social media.

How do they work

Deep learning is an advanced level of machine learning which uses a multi-layered hierarchical level of artificial neural networks to carry out the process of machine learning and deliver higher accuracy results.  Generative Adversarial Network (GAN) is used as a popular method for creating deepfakes. It is an algorithmic architecture that uses two AIs in order to generate new, synthetic content that can pass as real data. 

In creating a common deepfake video, what it does is, the first AI will scan images and frames of videos of a person you choose and the target subject you want to impersonate and it will create new fake content of them. The second AI will then examine these generated fake images and compare them to the real frames of the two subjects. If the differences are too obvious, the second AI will mark the image as an obvious fake and tell the first AI. The first AI will take this information and will continuously adjust the images and frames until the second AI’s error rate hits a certain target and it can’t tell the fake from the real thing anymore. In a nutshell, they "train” and “learn" how to develop new faces and content that mimic the real thing.

Pros 

With this type of technology, it can be used in films and in school to bring back historically important individuals for a more believable scene and a more effective learning experience. In the fashion retail business, they can help turn customers into models by virtually trying out the latest apparel and accessories. With human rights activists and journalists, deepfakes can help them remain anonymous in dictatorial and oppressive regimes.

Cons 

While deepfakes can be positively used, it can be dangerous, destroy reputations and cause misinformation. They are more commonly used for exploitation. According to a study made by Deeptrace Labs, a service designed to identify deepfakes in the wild, 96% of deepfake content online is pornographic, victimizing mostly women, celebrities, and prominent figures, severely damaging their image. They could also be used to influence elections, cause chaos from ridiculous fake news and disregard legitimate evidence eventually losing public trust.

How to spot them

To detect them with our own eyes, here are some characteristics to look out for:

1. Unnatural blinking and eye movement
2. Blurry hair, face, and odd skin tones
3. Lack of emotions and unusual facial expressions
4. Awkward positioning of facial features and posture
5. Inconsistent audio and video flow

Researchers and companies, such as Microsoft and Intel, have also tried methods to detect deepfakes faster and more accurately by using AI to analyze videos for details that deepfakes fail to imitate realistically like the one mentioned above. 

Deepfakes are powerful tools that can be used both positively and negatively in our society. Having fun with this technology and playing around with it is fine as long as it’s not causing harm to other people. And It’s up to us to be more cautious about the content we consume online and attentive to distinguish something that’s actually real and something that’s trying to fool us.

Italiano:

Cosa sono i deepfake?

I deepfake sono video, foto o persino registrazioni audio che sembrano reali e vere, ma sono stati volutamente modificati e manipolati utilizzando l'intelligenza artificiale (AI). La parola deepfake è la combinazione di "deep learning” (apprendimento profondo) e "fake" (falso). Può essere realizzato scambiando i volti, alterando i discorsi e sintetizzando le espressioni facciali per creare contenuti falsi rispetto all’'aspetto realistico. Un video falso, proveniente da una fonte inaffidabile, di una celebrità o di un politico che dice dichiarazioni oltraggiose è un esempio comune di un deepfake che probabilmente hai visto circolare sui social media.

Come funzionano

Il Deep learning è un livello avanzato di machine learning (apprendimento automatico) che utilizza un livello gerarchico a più livelli di reti neurali artificiali per eseguire il processo di machine learning e fornire risultati di maggiore precisione. Il Generative Adversarial Network (GAN) viene utilizzato come metodo popolare per creare deepfake. È un'architettura algoritmica che utilizza due AI per generare nuovi contenuti sintetici che possono passare come dati reali.

Nella creazione di un video deepfake comune, ciò che fa è distinguibile in alcune fasi: La prima intelligenza artificiale esegue la scansione di immagini e fotogrammi di video di una persona scelta e del soggetto target che si desidera impersonare e ne crea nuovi contenuti falsi. La seconda AI ​​esaminerà quindi queste immagini false e le confronterà con i fotogrammi reali dei due soggetti. Se le differenze sono troppo evidenti, la seconda intelligenza artificiale contrassegnerà l'immagine come un falso evidente e lo dirà alla prima intelligenza artificiale. La prima AI prenderà queste informazioni e regolerà continuamente le immagini e i fotogrammi fino a quando il tasso di errore della seconda AI ​​non raggiungerà un determinato obiettivo e non si potrà più distinguere il falso da quello reale. In poche parole, "si allenano" e "imparano" come sviluppare nuovi volti e contenuti che imitano la realtà.

Pro

Questo tipo di tecnologia può essere utilizzata nei film e a scuola per riportare in vita individui storicamente importanti, per una scena più credibile e un'esperienza di apprendimento più efficace. Nel settore della vendita al dettaglio di moda può aiutare a trasformare i clienti in modelli, facendo provare virtualmente l'abbigliamento e gli accessori più recenti. Gli attivisti per i diritti umani e i giornalisti, usano i deepfake  per  rimanere anonimi in regimi dittatoriali e oppressivi.

Contro

Sebbene i deepfake possano essere utilizzati positivamente, possono essere pericolosi, distruggere reputazioni e causare disinformazione. Sono più comunemente usati per lo sfruttamento. Secondo uno studio condotto da Deeptrace Labs, un servizio progettato per identificare i deepfake in natura, il 96% dei contenuti deepfake online è pornografico, colpisce principalmente donne, celebrità e personaggi di spicco, danneggiando gravemente la loro immagine.I deepfake potrebbero anche essere usati per influenzare le elezioni, causare il caos da ridicole notizie false e ignorare le prove legittime alla fine facendo perdere la fiducia del pubblico.

Come individuarli

Per rilevarli con i nostri occhi, ecco alcune caratteristiche a cui prestare attenzione:

1. Lo sbattere delle palpebre e il movimento innaturale degli occhi
2. I Capelli sfocati, il viso e la tonalità della pelle strana
3. Mancanza di emozioni ed espressioni facciali insolite
4. Posizionamento scomodo del viso e della postura
5. Rapporto audio e video incoerente

Ricercatori e aziende, come Microsoft e Intel, hanno anche provato metodi per rilevare i deepfake in modo più rapido e accurato utilizzando l'intelligenza artificiale per analizzare i video, alla ricerca di dettagli che i deepfake non riescono a imitare realisticamente come quello menzionato sopra.

I deepfake sono strumenti potenti che possono essere utilizzati sia positivamente che negativamente nella nostra società. Divertirsi con questa tecnologia e giocarci va bene finché non causa danni ad altre persone. E sta a noi essere più cauti riguardo ai contenuti che consumiamo online e attenti a distinguere qualcosa che è effettivamente reale e qualcosa che sta cercando di ingannarci.

Maggy Protasio