Tecnologia de manipulação de imagens e áudio gera preocupação com as possibilidades de disseminação de conteúdo falso e impactante, atacando reputações
Em uma segunda-feira minutos antes da hora do almoço, você recebe uma foto em um grupo de amigos. Na foto, o Papa Francisco aparece vestindo uma jaqueta no estilo puffer, de cor branca, com um crucifixo no peito. Assim como alguns colegas, você pode estranhar a vestimenta do Papa, mas olha bem para a foto e não tem dúvidas de que, se não é o Papa, é alguém praticamente idêntico a ele.
Os dias passam e novas fotos são compartilhadas no mesmo grupo, dessa vez de duas figuras políticas: o ex-presidente dos Estados Unidos Donald Trump, sendo preso em Nova York, e imagens do presidente russo Vladmir Puti na prisão. Por alguns segundos, você se pergunta se não perdeu alguma notícia urgente sobre essas prisões e o impacto delas na economia. Alguns minutos depois, lê posts de pessoas comentando o conteúdo falso.
O que essas fotos têm em comum é que são consideradas deepfakes. Essa expressão é usada para dizer que aquele material — imagens e/ou sons em combinações impressionantes — não é verdadeiro, embora pareça bem real. Para que esse resultado seja possível, aplica-se uma técnica de inteligência artificial chamada deep learning.
Hoje, qualquer pessoa consegue criar um deepfake por meio de aplicativos disponíveis no mercado: primeiro, é necessário coletar uma boa quantidade de dados da pessoa que se pretende reproduzir, como imagens, vídeos e áudios, pois tudo será usado para treinar a inteligência artificial. Isso significa que algoritmos de aprendizado de máquina analisarão todas as informações coletadas e aprenderão a reproduzir a voz, as expressões faciais, os gestos e as características daquela pessoa. Uma vez que os algoritmos estão treinados, eles podem criar uma versão 3D da pessoa como um modelo, que poderá ser usado para criar uma imagem ou um vídeo. A diferença entre as aplicações é a sofisticação da técnica, que demanda investimento mais alto e pode não estar acessível ao público geral.
O que mais chama a atenção nessa abordagem tecnológica é que ela pode ser usada em diferentes contextos. No seu aspecto positivo, é uma ferramenta poderosa na criação de campanhas de marketing personalizadas e envolventes, como um vídeo de um produto sendo usado por um influenciador ou celebridade, aumentando o engajamento da marca e, consequentemente, suas vendas. Também é utilizado para treinamentos de colaboradores ou prestadores de serviços, como forma de aproximá-los das necessidades da empresa sem que as orientações pareçam puramente burocráticas ou ininteligíveis, dentre outras opções.
O uso mais falado atualmente é o do entretenimento, já que deepfakes têm sido utilizados para criar efeitos especiais surpreendentes em séries e filmes, o que torna as produções mais realistas. Como exemplo, a série de comédia britânica “Deep Fake Neighbour Wars”, produzida pela ITVX, em que cada episódio apresenta um grupo de celebridades que são inseridas de forma digital em um cenário suburbano de vizinhança. Na série, os artistas interpretam a si mesmos e o deepfake é ferramenta fundamental para criar o ambiente de comédia, pois possibilita o público assistir a cenas de Kim Kardashian e Idris Elba brigando por uma carroça de mão, Nicki Minaj e Tom Holland presos no elevador, entre outras situações inusitadas.
Ao mesmo tempo que o potencial dos deepfakes atrai olhares para o uso positivo, existem riscos atrelados a essa tecnologia que precisam ser conhecidos, discutidos e endereçados. O uso de imagens e sons de pessoas públicas, políticos ou celebridades para a criação de vídeos que espalhem informações enganosas e notícias falsas prejudica a credibilidade da mídia e afeta a confiança pública. Esse tipo de conteúdo pode até mesmo influenciar a opinião pública e interferir no resultado de eleições, por exemplo, o que traz preocupações muito relevantes em termos de garantir o processo democrático no País.
Outro ponto de atenção são as fraudes digitais. De acordo com o The Wall Street Journal, criminosos usaram deepfakes para enganar o CEO de uma empresa de energia do Reino Unido e fazê-lo transferir € 220mil em 1 hora, sob o pretexto de ser o seu chefe, o executivo-chefe da controladoria alemã da empresa, em uma ligação telefônica que exigia urgência no recebimento de valores. No Brasil, golpistas foram presos em Campo Grande, acusados de furtarem R$ 700mil de clientes de instituições financeiras, usando deepfake com base em dados coletados de redes sociais, especialmente imagens, para captar os rostos dos clientes e acessar as suas contas online.
Vale apontar que, segundo uma pesquisa divulgada pela Kaspersky, até final de 2021 mais de 65% dos brasileiros não sabiam o que é um deepfake. A pesquisa foi conduzida em vários países da América Latina e preocupou especialistas em cibersegurança, uma vez que a falta de conhecimento sobre a tecnologia, aliada à sobrecarga mental que as pessoas sofrem pelo excesso de conteúdo on-line, são elementos que deixam as pessoas mais propensas a se tornarem vítimas de fraudes que utilizam deepfake.
Apesar de o Brasil não ter, até o momento, uma legislação vigente que melhor defina e especifique as condições nas quais os sistemas de inteligência artificial devem ser criados e aplicados, existem outros riscos associados ao uso indevido de deepfakes que são passíveis de punição com base nas legislações atuais, como questões de privacidade e proteção de dados, propriedade intelectual (existe autorização para uso da imagem de determinada figura pública para fazer um deepfake?) e até mesmo indenização por danos materiais e morais reputacionais à imagem daquela pessoa. Inclusive, o uso ético, seguro e confiável de qualquer técnica de inteligência artificial já é pauta das principais discussões globais sobre o tema.
O potencial de alavancar e transformar negócios por meio de deepfakes é real. Logo, conhecer cada vez mais o que essas tecnologias proporcionam, quais os seus impactos e entender os seus riscos é fundamental para irmos adiante.
Artigo publicado no Portal da Comunicação.