Técnica de inteligência artificial que cria imagens e som de pessoas foi proibida pelo TSE
A alteração da Resolução nº 23.610/2019 do código eleitoral, que versa sobre a propaganda autorizada para o período, trouxe diversas alterações na tentativa de se adequar a um novo cenário.
Com a chegada da Inteligência Artificial (IA) na propaganda de partidos, coligações e federações partidárias, a Corte do Tribunal Superior Eleitoral (TSE) aprovou 12 resoluções que disciplinam as regras para o processo eletivo deste 2024.
Entre as mais importantes, estão a obrigação de aviso sobre o uso de IA na propaganda eleitoral, a restrição do emprego de robôs para intermediar contato com o eleitor (com a campanha terminantemente proibida de usar assistentes virtuais para diálogos onde simula ser qualquer pessoa) e a responsabilização das big techs que não retirarem do ar, imediatamente, conteúdos com desinformação, discurso de ódio, ideologia nazista e fascista, além dos antidemocráticos, racistas e homofóbicos.
Além dessas importantes mudanças, temos no centro a proibição das deepfakes, a técnica de inteligência artificial (IA) que cria imagens e vozes de pessoas foi usada nas eleições presidenciais argentinas e disparou um alerta nas autoridades brasileiras.
Ao Portal A TARDE, especialistas elogiaram a decisão da Corte. “Essa regulamentação, que a gente já assistiu na apresentação da ministra Carmen Lúcia e que vai ser publicada, passou por um amplo processo de discussão”, afirmou a advogada de tecnologia e proteção de dados Nuria López, sócia do escritório Daniel Advogados, de São Paulo.
“O TSE liberou uma minuta com essa regulamentação. A gente já tem o texto da minuta. Ele foi aberto à sociedade, para audiência pública. Muitas pessoas participaram, contribuíram e deram sugestões”, continua Nuria.
Consequências da deepfake
O exemplo mais conhecido de deepfake no Brasil foi o comercial da Volkswagen que reuniu Elis Regina, morta há 42 anos, e sua filha Maria Rita.
“Alguns lançaram um olhar apreciativo sobre essa publicidade. Enxergaram como uma homenagem. Em contrapartida, outros destacaram a questão ética, com questionamentos se Elis Regina autorizaria a propaganda se estivesse viva”, afirma a vice-presidente de estratégia e inovação da empresa Ilegra, Caroline Capitani.
Durante a gravação, Maria Rita e uma atriz dirigem, cada uma, um veículo da montadora alemã. O rosto da atriz foi substituído pelo rosto de Elis Regina por meio da tecnologia, assim como a voz. As duas cantam juntas na medida em que os carros se aproximam, algo que nunca aconteceu na realidade, já que Maria Rita tinha quatro anos de idade quando a mãe faleceu.
O uso da imagem e voz de Elis foi possível por conta da autorização dos seus filhos, que herdaram esse direito. “Para o Conar [Conselho Nacional de Auto Regulamentação Publicitária], está autorizada a prática para fins comerciais e publicitários. No âmbito eleitoral, o uso da técnica está proibido pelo TSE, ainda que se tenha a autorização dos herdeiros”, afirma Nuria.
“Então, imagine que uma campanha política queira trazer a imagem de um grande político que já tenha falecido, e que tenha autorização dos herdeiros. Ou que essa mesma pessoa esteja viva e autorize [o uso da própria imagem]. Está proibido, porque pode causar confusão para os eleitores”, continua a advogada de São Paulo. “Então, a gente tem uma diferença grande entre fins comerciais e fins eleitorais”, conclui.
Também ligado à área jurídica que lida com tecnologia, o coordenador e professor dos cursos de graduação e pós-graduação em Direito da Escola Superior de Propaganda e Marketing (ESPM), Marcelo Crespo, diz compartilhar as mesmas preocupações com as eleições de 2024, mas alega que o receio maior está com a deepfake.
“O que o TSE está pretendendo não é banir em absoluto o recurso da inteligência artificial. Quando esse recurso for utilizado, deverá haver um paleamento e uma indicação do seu uso. A proibição mesmo está em ‘simular pessoas'”, afirma Marcelo.
“É possível utilizar recursos de inteligência artificial para gerar uma melhor redação do seu discurso, de repente até uma imagem, um plano de fundo, alguns efeitos visuais, mas nunca simulando a existência de uma pessoa narrando um conteúdo, ainda mais se for um candidato”, continua o professor de Direito da ESPM, instituição que é sediada em São Paulo.
Marqueteiro de Guilherme Boulos (PSOL), que é um dos pré-candidatos na eleição para prefeito de São Paulo, Gabriel Gallindo disse enxergar que a medida do TSE será importante para proteger a lisura das eleições. “A gente precisa de uma régua mínima para poder fazer o debate político e limitá-lo às quatro linhas da democracia”, disse.
A inteligência artificial, para Gallindo, traz mais ameaças do que benefícios. “Os riscos hoje são muito maiores do que as potencialidades. A gente não tem como, hoje, fiscalizar o uso da inteligência artificial no mesmo volume, velocidade e capilaridade em que ela é produzida. Não resta outra opção a não ser proibi-la na fonte”, argumenta.
PL em tramitação
Um dos pontos que podem ser levantados contra a proibição do uso da deepfake nas eleições não tem a ver com a norma em si, mas com o fato de ela ser determinada pelo TSE.
“Existem alguns comentários de que os ministros do TSE não poderiam fazer esse tipo de resolução porque eles estariam legislando, trazendo algumas regras para algo que não é tratado na lei”, disse Marcelo Crespo.
O Projeto de Lei 2338/2023, de autoria do presidente do Senado, Rodrigo Pacheco (PSD-MG), está em tramitação e não tem previsão de votação no plenário da Casa Legislativa. “Há um questionamento sobre a legitimidade do TSE de regulamentar um tema que ainda não tem uma definição legal. Que estaria eventualmente extrapolando a sua competência”, contextualiza o coordenador da ESPM.
“No entanto, nas outras resoluções do TSE, em que eles regulamentaram o uso de aplicativos de mensageria [WhatsApp e Telegram], disparo em massa e tudo mais, não necessariamente esses temas tinham sido exauridos pela legislação”, conclui Crespo.
Interessada na lei, mas para a finalidade comercial, Caroline Capitani diz sentir um descompasso entre o “timing” do mercado e o “timing” dos legisladores. “Acho importante TSE e Congresso discutirem o tema, mas o grande ponto é a capacidade de fiscalização”, argumenta a vice-presidente de estratégia e inovação da empresa Ilegra.
Marcelo Crespo disse acreditar na capacidade das instituições de se adaptarem ao novo contexto tecnológico e se diz confiante de que as respostas serão rápidas para impedir que as infrações saiam impunes. “Os prazos previstos na legislação eleitoral, como regra, são bastante curtos, porque se pretende resolver as questões eleitorais no menor tempo possível”, comenta.
“O ‘timing’ é diferente [na comparação com a Justiça comum], não se pode deixar para resolver muito tempo depois as coisas que são debatidas em um período eleitoral”, conclui Crespo.
Outras regras para a IA
Não se sabe até o momento qual sanção será aplicada à campanha que usar a deepfake. O que se sabe é que, além da proibição da deepfake, estão previstas outras duas regras para o uso de inteligência artificial nestas eleições. A sinalização para o uso da IA é uma delas.
“Quem usar IA, para produzir por exemplo um vídeo, vai precisar colocar um aviso, confirmar que o conteúdo é produzido por inteligência artificial, para dar transparência”, disse Nuria.
A outra regra envolve a proibição de chatbots e avatares de pessoas reais para intermediar a comunicação entre os eleitores. “Isso veio de um caso da Coreia do Sul. Lá, um candidato fez um avatar de si mesmo para falar com eleitores, o que estará proibido no Brasil. A gente pode só pensar em chatbots e avatares de pessoas fictícias, personagens e mascotes, mas nunca de uma pessoa real”, contextualiza Nuria.
Exemplo recente e próximo do Brasil, a Argentina foi impactada pela inteligência artificial, incluindo deepfake, na eleição presidencial, no fim do ano passado. “As duas campanhhas utilizaram, tanto a de [Sergio] Massa como a de [Javier] Milei. Houve inclusive a simulação de uma fala sobre as Malvinas”, disse a sócia do escritório Daniel Advogados.
Episódio traumático para os argentinos, a Guerra das Malvinas aconteceu em 1982, quando a Inglaterra mandou seus militares para assegurar a posse da ilha. Foram mortos 649 argentinos e o país sul-americano perdeu o conflito.
A campanha de Massa criou um vídeo com um momento do combate, com soldados como personagens de animação e a primeira-ministra do Reino Unido da época, Margaret Thatcher, dando ordem para atacar. Em seguida, aparece a voz de Milei elogiando Thatcher. A declaração de Milei de fato aconteceu.
Por outro lado, seguidores de Milei fizeram um vídeo em que Massa aparece cheirando cocaína. “A novidade das inteligências artificiais é justamente essa democratização. As pessoas vão poder acessar a tecnologia pelo celular”, disse Gabriel Gallindo, que terá o desafio este ano com a candidatura de Boulos em São Paulo.
As convenções partidárias em todo o Brasil acontecem entre 20 de julho e 5 de agosto e todo tipo de propaganda eleitoral poderá ser veiculada a partir de 16 de agosto. O primeiro turno está programado para 6 de outubro. Os municípios que necessitarem de segundo turno voltarão a abrir as urnas em 27 de outubro.