Como detectar um vídeo Falsificação profunda

Recentemente, o Reddit vem fazendo notícias novamente com um subreddit em que as pessoas usam uma ferramenta de aprendizado de máquina chamada “Deep Fake” para substituir automaticamente o rosto de uma pessoa por outra em um vídeo. Obviamente, uma vez que esta é a internet, as pessoas estão usando para duas coisas: falso pornô de celebridades e inserindo Nicolas Cage em filmes aleatórios.

Embora a troca do rosto de alguém em uma fotografia sempre tenha sido relativamente fácil, trocar o rosto de alguém em um vídeo costumava ser demorado e difícil. Até agora, ele foi feito principalmente pelos estúdios de efeitos visuais para filmes de grande orçamento de Hollywood, onde o rosto de um ator é trocado em seu dublê. Mas agora, com o Deep Fake, qualquer pessoa com um computador pode fazê-lo rápida e automaticamente.

Antes de prosseguir, você precisa saber como é um Deep Fake. Confira abaixo o vídeo do SFW que é uma compilação de diferentes swaps de celebridades, envolvendo principalmente Nic Cage.

O software Deep Fake funciona usando aprendizado de máquina. É primeiro treinado com um rosto alvo. Imagens distorcidas do alvo são executadas através do algoritmo e aprende como corrigi-las para se parecer com a face do alvo inalterada. Quando o algoritmo é alimentado com imagens de uma pessoa diferente, assume que elas são imagens distorcidas do alvo e tenta corrigi-las. Para obter vídeo, o software Deep Fake opera em cada quadro individualmente.

A razão pela qual os Deep Fakes envolveram os atores em grande parte é que há muitas filmagens disponíveis de diferentes ângulos, o que torna o treinamento mais eficaz (Nicolas Cage tem 91 créditos de atuação no IMDB). No entanto, dada a quantidade de fotos e vídeo que as pessoas publicam on-line e que você realmente precisa apenas de 500 imagens para treinar o algoritmo, não há motivos para que pessoas comuns também não sejam alvos, embora provavelmente com um pouco menos de sucesso.

Como identificar uma falsificação profunda

Neste momento, os Deep Fakes são muito fáceis de detectar, mas ficará mais difícil à medida que a tecnologia melhorar. Aqui estão alguns dos brindes.

Faces estranhas. Em muitos Deep Fakes, os rostos parecem esquisitos. Os recursos não se alinham perfeitamente e tudo parece um pouco ceroso, como na imagem abaixo. Se tudo mais parece normal, mas o rosto parece estranho, é provavelmente um Deep Fake.

Cintilação. Uma característica comum dos vídeos ruins do Deep Fake é o rosto parecer trêmulo e os recursos originais aparecerem ocasionalmente. Normalmente é mais óbvio nas bordas do rosto ou quando algo passa na frente dele. Se estranhas cintilações acontecerem, você está olhando para um Fake Profundo.

Corpos Diferentes. Deep Fakes são apenas trocas de rosto. A maioria das pessoas tenta e consegue um bom corpo, mas nem sempre é possível. Se a pessoa parece ser visivelmente mais pesada, mais leve, mais alta, mais baixa ou tem tatuagens que não tem na vida real (ou não tem tatuagens na vida real), há uma boa chance de ser falsa. Você pode ver um exemplo muito óbvio abaixo, onde o rosto de Patrick Stewart foi trocado por J.K. Simmons em uma cena do filme Whiplash. Simmons é significativamente menor do que Stewart, então parece estranho.

Clipes curtos. No momento, mesmo quando o software Deep Fake funciona perfeitamente e cria uma troca de rosto quase indistinguível, ele só pode fazê-lo por um curto período de tempo. Em pouco tempo, um dos problemas acima começará a acontecer. É por isso que a maioria dos clipes do Deep Fake que as pessoas compartilham têm apenas alguns segundos de duração, o resto do material é inutilizável. Se você é mostrado um clipe muito curto de uma celebridade fazendo algo, e não há uma boa razão para ser tão curta, é um indício de que é um Deep Fake.

Sem som ou sincronização de lábios maus. O software Deep Fake apenas ajusta os recursos faciais; não faz magicamente uma pessoa soar como outra. Se não há som com o clipe, e não há razão para que não seja som, é outra pista que você está olhando para um Deep Fake. Da mesma forma, mesmo se houver som, se as palavras faladas não combinarem corretamente com os lábios em movimento (ou os lábios parecerem estranhos enquanto a pessoa fala como no clipe abaixo), você pode ter uma Falsificação Profunda.

Clipes Inacreditáveis. Este tipo de coisa é óbvio, mas, se você é mostrado um clipe verdadeiramente inacreditável, há uma boa chance que você não deveria realmente acreditar. Nicolas Cage nunca atuou como Loki em um filme da Marvel. Isso seria legal, embora.

Fontes duvidosas. Como com fotos falsas, de onde o vídeo supostamente vem, muitas vezes é uma grande pista sobre sua autenticidade. Se o New York Times está publicando uma reportagem sobre isso, é bem mais provável que algo que você descubra em um canto aleatório do Reddit.

Por enquanto, Deep Fakes são mais uma curiosidade horrível do que um grande problema. Os resultados são fáceis de detectar e, embora seja impossível tolerar o que está sendo feito, ninguém ainda está tentando passar o Deep Fakes como vídeos genuínos.

À medida que a tecnologia melhora, no entanto, é provável que sejam um problema muito maior. Por exemplo, imagens falsas e convincentes de Kim Jong Un declarando guerra aos EUA podem causar um grande pânico.