Saiba como identificar uma deep fake

Os usuários da internet precisam reconhecer uma deep fake porque isso ajuda a combater notícias falsas que circulam pela web e que podem confundir e enganar as pessoas.

Elas costumam se intensificar ainda mais em períodos de eleição, como aquelas que tentam descredibilizar o processo eleitoral brasileiro e até mesmo colocam palavras na boca de candidatos que nunca disseram algo parecido antes.

Até mesmo jornais de grande credibilidade no país são vítimas desse tipo de “montagem” que envolve a inteligência artificial. No Brasil, isso aconteceu muito nos últimos anos, essa tecnologia vem sendo usada para descredibilizar assuntos importantes.

A comprovação veio com os resultados, mas mesmo que a tentativa tenha sido falha, ainda assim continua sendo grave.

A tecnologia foi criada para facilitar o dia a dia e contribuir com a informação das pessoas, mas infelizmente sempre terá alguém que consegue manipular os recursos existentes para distorcer informações.

Nos últimos anos, um dos conceitos em alta sobre o assunto são as deep fakes criadas por malfeitores que usam a tecnologia para disseminar notícias e informações falsas, inclusive em formato de vídeo.

Para esclarecer mais o assunto, este artigo vai explicar o conceito de deep fake, como elas são realizadas e dar algumas dicas para identificá-las.

Afinal, o que é deep fake?

Deep fake é uma tecnologia que trabalha com recursos de inteligência artificial para adulterar vídeos e áudios para que eles pareçam originais.

A técnica coloca o rosto de uma pessoa no corpo de outra, simulando perfeitamente o modo como gesticula e as falas que ficam simplesmente idênticas.

O recurso ainda consegue recriar falas com uma voz muito semelhante à original, como se a pessoa realmente tivesse dito aquilo.

As empresas de licenciamento ambiental podem contar com diversos recursos para melhorar a comunicação com sua audiência. Tanto é que as ferramentas usadas para criar deep fakes fazem parte das ferramentas dos criadores de conteúdo.

Geralmente, são pessoas que usam esses recursos para criar vídeos humorísticos, colocando celebridades em situações inimagináveis.

Até o cinema tem usado a tecnologia de dublagem deep fake para fazer modificações labiais no rosto de personagens e sincronizá-las com as gesticulações e falas em diferentes idiomas.

Grandes produções cinematográficas estão usando a tecnologia para otimizar outros recursos. Só que esse grande avanço tecnológico não possui apenas benefícios.

Isso porque da mesma forma como ele pode ser usado para muitas coisas boas, também caiu nas mãos de criminosos que inventam notícias falsas sobre os mais diversos assuntos.

O nome “deep fake” se originou de um usuário que publicou vídeos de conteúdo adulto, trocando os rostos das atrizes pelos rostos de estrelas do cinema e ele se intitulava como “deepfake”.

Marcas dos mais variados setores, como um fabricante de toner laser brother precisam estar atentas porque esse tipo de conteúdo pode trazer muitos danos à imagem da vítima.

Além disso, é uma ferramenta capaz de potencializar as fake news, principalmente durante os períodos eleitorais. Só que a internet não é uma terra sem lei, e os criminosos podem sim pagar por seus crimes.

Eles podem responder por calúnia e difamação, falsidade ideológica e estelionato, uma vez que criar vídeos usando o rosto ou a voz de outra pessoa é considerado como crime contra a honra, resultando em penas de 3 meses a 2 anos de prisão.

Como as deep fakes são feitas?

A criação de uma deep fake começa quando o criador escolhe um vídeo como ponto de partida. O material é inserido em um software que utiliza a inteligência artificial com deep learning para reconhecer padrões em um banco de dados.

Para trabalhar com o rosto de uma pessoa pública, é necessário que esse software seja alimentado com outros vídeos em que ela aparece.

Uma loja de móveis escritório advocacia pode usar esse recurso para criar um avatar que vai atuar no aplicativo de vendas.

Mas voltando para as deep fakes, o programa processa o vídeo e aprende a maneira como a pessoa fala, qual o timbre de sua voz e seus movimentos faciais e labiais.

O criador fornece ao programa o tipo de texto que deve ser usado para gerar o áudio, e ele vai processar o conteúdo por meio de técnicas de visão computacional e speech to text, é uma técnica usada por assistentes pessoais.

O software então gera um novo vídeo, usando um áudio falso e sincronizado com os movimentos labiais. Só que esse processo é muito difícil porque depende da alteração e da transição dos lábios quadro a quadro.

Depois de fazer isso, o sistema salva o vídeo final e ajusta a resolução e a taxa de quadros para que possa ser utilizado.

Como identificar uma deep fake?

Assim como é importante regularizar planta na prefeitura, as pessoas também precisam ficar atentas a notícias falsas que circulam na internet, principalmente aquelas que parecem ser muito verdade.

Existem muitos usuários que acabam caindo nesse tipo de golpe, como no caso dos idosos e das crianças, mas a boa notícia é que é possível identificar uma deep fake.

Esse problema fica muito sério porque existem vários vídeos que usam a imagem de uma pessoa para criar um material em que ela faz uma declaração que nunca existiu.

Existem criminosos que chegam a criar perfis falsos nas redes sociais o que conseguem simular as vozes das pessoas, mas independentemente do tipo, são conteúdos falsos de grande propagação.

É papel dos usuários estarem sempre atentos para não serem manipulados ou compartilharem esse tipo de material, e algumas dicas para identificá-los são:

Reparar nos olhos e na boca

É importante observar os olhos da pessoa que aparece no vídeo, pois geralmente ele fica meio perdido como se o personagem não conseguisse focar em um objeto ou na câmera.

Por exemplo, em um vídeo feito por um despachante renovação de CNH, a pessoa que fala sobre o serviço oferecido age naturalmente e consegue focar na câmera que está fazendo a filmagem.

Além dos olhos, também é fundamental observar a boca porque ajuda a identificar movimentos que não são naturais, como aberturas exageradas dos lábios para pronunciar uma palavra.

Mas apesar de parecer algo muito simples, na verdade identificar esses movimentos não é tão fácil, mesmo porque, essa tecnologia evolui muito e consegue criar materiais cada vez mais perfeitos ao longo dos anos.

Atentar-se aos detalhes

Existem algumas características que precisam ser observadas e que estão presentes em vídeos falsos. Algumas das principais são:

• Elementos digitais na imagem;
• Movimentos bruscos;
• Lábios mal sincronizados;
• Mudança no tom da pele.

O ator de um vídeo sobre negatoscópio slim não sofre com esses problemas porque é uma pessoa de verdade e que está sendo gravada em uma produção verdadeira.

Mas no caso de uma deep fake, além de todas as situações mencionadas anteriormente, também pode ocorrer iluminação da cena que muda entre um quadro e outro, escadas estranhas ou ausência de piscadas.

Embora essas dicas sejam simples, elas são extremamente importantes porque não existe um software bom o suficiente para identificar esse tipo de conteúdo.

Além disso, o usuário precisa apelar para o bom senso, antes de acreditar em qualquer coisa que vê.

Até mesmo as organizações, como uma empresa de reprogramação de injeção eletrônica, precisam ficar atentas para que esses recursos não prejudiquem sua reputação.

O assunto é tão sério que até o próprio Facebook realizou uma pesquisa para detectar deep fake por meio de engenharia reversa, só que o projeto ainda não pode ser usado.

Mas também existem outras pesquisas em andamento que ajudam a identificar esses vídeos falsos e prevenir sua criação por meio de técnicas de validação.

Existe até um estudo que considera o uso de blockchain para essa finalidade, uma vez que a tecnologia consegue trabalhar contra adulterações.

Mas enquanto esses recursos ainda não estão nas mãos das pessoas e empresas, como uma de cartão magnético personalizado, é fundamental analisar bem tudo o que se vê na internet e usar o bom senso.

Se no vídeo uma pessoa está dando uma declaração que não condiz com sua postura ou que parece muito espalhafatosa, antes de sair compartilhando, primeiro o usuário precisa buscar informações verdadeiras em fontes confiáveis.

Considerações finais

A inteligência artificial é uma tecnologia que promete muita evolução para a humanidade, trazendo benefícios para a sociedade como um todo, mas infelizmente existem pessoas que descobrem maneiras de usar para outras finalidades.

A deep fake parte disso e pode simplesmente prejudicar a reputação de uma pessoa, seja ela pública ou não. Pode até mesmo provocar problemas mais sérios para um país inteiro, por isso, é fundamental ser criterioso e ter bom senso antes de acreditar em tudo.

Esse texto foi originalmente desenvolvido pela equipe do blog Guia de Investimento, onde você pode encontrar centenas de conteúdos informativos sobre diversos segmentos.