Já está aberta a temporada de fake news para as eleições municipais de 2024 no Brasil, mas com uma modalidade de conteúdo ainda mais difícil de ser identificado. Em ao menos três estados — Amazonas, Rio Grande do Sul e Sergipe —, a Polícia investiga suspeitas de uso de inteligência artificial (IA) para criar áudios falsos de prefeitos que devem tentar a reeleição e de um deputado federal envolvido na pré-campanha da mulher prefeita, que também deve disputar o segundo mandato.

A técnica de adulteração de sons e de vídeos é conhecida como “deepfake’, no qual o tom, o timbre e até o jeito de alguém falar é recriado artificialmente. Assim, ao receber uma gravação pelo WhatsApp, o eleitor reconhece a voz do candidato e acredita que o político disse algo que, na verdade, não disse.

Um dos casos ocorreu em Manaus, onde o prefeito David Almeida (Avante) denunciou à Polícia Federal (PF) ter sido alvo de deepfake em dezembro de 2023. No áudio atribuído a ele, a voz do político, emulada por Inteligência Artificial, trata os professores da rede municipal de ensino de “vagabundos” e diz que os servidores “querem um dinheirinho de mão beijada”.

O episódio tem sido tratado como uma espécie de laboratório pela PF, que viu suspeitas de crime eleitoral e, por isso, assumiu as investigações. A ideia é usar o caso como modelo para eventuais apurações futuras relacionadas às disputas municipais deste ano. Desde que o inquérito foi instaurado, no último dia 22, dois suspeitos já foram ouvidos. Além disso, foi feita uma perícia no arquivo digital que constatou a manipulação no áudio.

Conteúdos falsos

David Almeida (Avante) — Prefeito de Manaus (AM)
“O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.

O áudio manipulado foi divulgado em meio ao protesto de profissionais pelo pagamento de abono oriundo de sobras do Fundeb. Almeida diz que o áudio é falso e tem o objetivo de criar indisposição com a categoria em ano eleitoral.

Marco Aurélio Nedel (PL) — Prefeito de Crissiumal (RS)
“Vou falar do aumento ano que vem (2024) (…) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais.”

Em áudio compartilhado, o prefeito xinga funcionários do parque de obras, espaço da prefeitura, e achincalha servidores. O prefeito diz que o caso é uma tentativa de retaliação da oposição na cidade e que visa o processo eleitoral deste ano, quando concorrerá à reeleição

Gustinho Ribeiro (Republicanos) — Deputado federal e marido da prefeita de Lagarto (SE), Hilda Ribeiro
“Pode arrochar, bote pra f…, eles lá não têm poder nenhum, quem está no poder somos nós”

O parlamentar diz que foi alvo de montagem por inteligência artificial na gravação em que a voz atribuída a ele critica adversários políticos. Rubeiro denunciou o caso a autoridades para investigação.

Busca por soluções

Congresso Nacional
Câmara e Senado devem acelerar a tramitação do tema. Ainda não houve, porém, uma conversa entre as duas Casas para definir qual texto terá prioridade. O presidente da Câmara, Arthur Lira (PP-AL) pretende avançar com o tema logo após o recesso. Ele entende que é papel do Congresso tratar da regulação e não vê como positivo o fato de o TSE editar regras.

Tribunal Superior Eleitoral
O TSE irá realizar audiências públicas este mês para editar uma resolução. A ideia é proibir a manipulação de voz e imagens com conteúdo falso, com previsão até mesmo de cassação do mandato. Segundo minuta, a responsabilidade da retirada do conteúdo do ar será das plataformas. O uso de IA, sem o propósito de gerar desinformação, também precisará ser rotulado.

Governo Federal
O Ministério da Justiça e Segurança Pública acompanha e estuda as medidas em tramitação no Congresso e no TSE. Hoje, a responsável pela gestão é Estela Aranha, secretária de Direitos Digitais, que na semana passada se reuniu com representantes de empresas de softwares para discutir o assunto.

Sem tipificação
Em pesquisas locais, Almeida lidera a corrida para ser reeleito. Entre os seus principais concorrentes estão Coronel Menezes (PL), que tem o apoio do ex-presidente Jair Bolsonaro, e o deputado federal Amom Mandel (Cidadania).

“Não existe anonimato na internet e você pode ser responsabilizado. Esse caso deve servir de parâmetro para o restante do Brasil”, disse o prefeito de Manaus.

Sem uma regulamentação, parte dos casos são tratados como difamação, crime de menor potencial ofensivo e sem consequências eleitorais. Foi o que aconteceu com a denúncia feita pelo prefeito de Crissiumal (RS), Marco Aurélio Nedel (PL), que afirmou ter sido vítima, no fim do ano passado, da prática de deepfake após um áudio com xingamentos e frases que denotavam menosprezo a servidores da cidade ser atribuído a ele. Segundo Nedel, sua voz foi manipulada por adversários políticos com a intenção de prejudicá-lo eleitoralmente. A investigação da Polícia Civil constatou que o conteúdo indicado pelo prefeito havia sido repassado entre vereadores.

“Achei que estava ficando famoso, só conhecia o caso de vídeo (feito por inteligência artificial) com (Barack) Obama (ex-presidente dos Estados Unidos). Acho que vem coisa muito pior pela frente. Por isso, é bom colocar o freio logo agora”, afirmou o prefeito da cidade gaúcha.

Já em Lagarto, no interior de Sergipe, quem denunciou ter sido vítima de manipulação por IA foi o deputado federal Gustinho Ribeiro (Republicanos-SE). Sua mulher, Hilda Ribeiro (Solidariedade), é candidata a mais um mandato como prefeita da cidade, a quarta maior do estado.

Na gravação, a voz atribuída a Gustinho profere palavrões ao se referir a adversários políticos. O deputado, que presidiu a CPI das Americanas, diz também ter denunciado o caso à polícia. “Criminosos montaram um vídeo com minha imagem e um áudio fake, criado por inteligência artificial”, afirmou, em nota.

O assunto não preocupa apenas pré-candidatos. O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, já declarou ser urgente a regulamentação do uso da inteligência artificial no país e indicou que políticos que forem pegos usando a tecnologia de forma irregular poderão ser cassados.

O TSE marcou para o próximo dia 25 audiência pública para discutir uma resolução que deve regulamentar como o tema deve ser tratado nas campanhas eleitorais. A sugestão da Corte é proibir qualquer manipulação de voz e imagens com conteúdo falso. Segundo minuta do tribunal, caberá às plataformas de redes sociais excluir vídeos e áudios após serem notificadas sobre os “fatos sabidamente inverídicos”.

O tema também mobiliza o Congresso e o governo. Desde o ano passado, o Ministério da Justiça debate internamente uma regulação sobre o tema. Já na Câmara, o presidente da Casa, Arthur Lira (PP-AL), pretende colocar em votação projetos sobre o assunto logo após o recesso. Ele entende que é papel do Congresso Nacional a regulamentação do uso da tecnologia e não vê como positivo o fato de o TSE editar regras.

“Esse movimento cibernético, de redes sociais, vai exigir de nós, congressistas, que algumas modificações aconteçam, para que a Constituição também abrace, acolha, proteja, os direitos individuais de uma vida que muda muito”, disse Lira em entrevista no fim do ano passado.

Já o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em maio um projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de IA no Brasil (mais detalhes na página 6).

Precedentes
Apesar de novidade no Brasil, o uso de inteligência artificial já gerou polêmica em campanhas eleitorais de outros países. No ano passado, a disputa pela presidência da Argentina foi a primeira a usar a ferramenta em larga escala. A maior parte do conteúdo era de imagens manipuladas, mas também houve vídeos, como a gravação falsa que mostrava o candidato peronista, Sérgio Massa, cheirando cocaína. A gravação foi editado digitalmente para inserir o rosto do político em outro homem.

“O conteúdo em vídeo ainda é algo que requer uma elaboração maior”, diz Fernando Ferreira, especialista em inteligência artificial do Netlab, da UFRJ.

Nos Estados Unidos, a ferramenta também já foi testada nas primárias. A campanha do republicano Ron DeSantis, por exemplo, divulgou uma imagem falsa gerada por IA do ex-presidente Donald Trump abraçando um desafeto.

Mas nem todos os usos da IA foram vistos como negativos. Na Coreia do Sul, em 2022, três candidatos a presidente utilizaram avatares criados pela tecnologia para se comunicarem com a população. O recurso permitia que os políticos atingisse o público mais jovem, respondendo a perguntas pré-estabelecidas (os chamados “chatbots”) e interagindo com um maior número de eleitores, que estavam cientes do uso da tecnologia.

“A utilização dessa tecnologia apresenta riscos, problemas, e tem um potencial também benéfico. Está todo mundo tentando se situar. Falando em termos de eleições, algum tipo de regulação precisa acontecer. A grande questão é a dose disso”, disse André Gualtieri, fundador da Escola de Ética de Tecnologia (Technoethics).

O Globo