Autoridades eleitorais acendem o sinal de alerta para a presença de influenciadores produzidos com ferramentas de IA, no cenário político-eleitoral. No "limbo jurídico", esses influenciadores sintéticos não podem ser alcançados pelas regulações existentes. Mas é importante reconhecer que a influência de produtos artificialmente produzidos vai muito além de imagens, vídeos e áudios que imitam políticos e celebridades para enganar eleitores. A desconfiança nos processos e nas instituições democráticas não decorre apenas de fatores ideológicos. Emoções negativas são estimuladas por um negócio lucrativo e amplificado pelo propósito de fazer as pessoas agirem ou se omitirem com base em suas próprias crenças. Não existe consenso sobre o impacto disso no voto diretamente. Os estudos em diversas áreas mostram que os riscos para o processo eleitoral estão na mobilização política, por menor que seja, pelo medo e pelo ódio.

Os esforços para responsabilizar as plataformas de mídia digital pela circulação de conteúdo nocivo e fraudulento não são suficientes para conter a desinformação. Primeiro porque isso abre brechas para a censura se não houver um regramento claro sobre o que se quer que as empresas de tecnologia cumpram. Além disso, desconsidera uma infraestrutura lucrativa, onde algoritmos amplificam o alcance da desinformação e as empresas de tecnologia monetizam todo o tipo de narrativa que gere mais audiência. A qualidade da informação importa pouco nesse modelo de negócios, privilegiado pelo anonimato dos produtores de desinformação e pela falta de compromisso com os conteúdos de interesse social. Uma proposta interessante é limitar o alcance de conteúdos nocivos, o que exigiria enquadrar as plataformas em critérios que veículos de comunicação tradicionais já devem cumprir.

O termo 'fake news' foi sequestrado pela retórica política em uma semana marcada por denúncias sobre a existência de um "gabinete" vinculado ao Palácio do Planalto para promover ataques a opositores e espalhar desinformação, e pela pressão de parlamentares bolsonaristas quanto à investigação em andamento na Polícia Federal sobre conteúdos falsos a respeito da ajuda e do resgate às vítimas das enchentes no Rio Grande do Sul. Traduzido como "notícia falsa", o termo induz à percepção de que as mentiras são produzidas pela imprensa e sugere que criminalizar argumentos falsos é uma forma de cercear a liberdade de expressão. Mas as 'fake news' estão associadas à fraude e ao dolo. Quem as cria, produz e dissemina tem a intenção de obter vantagens e a consciência de que está cometendo um ilícito. A Democracia perde com a simplificação.

Desafiada a estabelecer os critérios de regulação na produção de conteúdo e anúncios políticos na campanha para as eleições municipais no Brasil, a Justiça Eleitoral se posiciona no limite entre a censura e a moderação necessária da liberdade de expressão. Não é um lugar confortável, especialmente pela ausência de uma legislação específica. Mas, o sistema jurídico brasileiro já tem instrumentos sólidos para o combate à desinformação, baseados no Código Penal. A questão é que, mesmo em regiões onde a regulação das mídias digitais é considerada avançada, como na Europa, o processo eleitoral não escapou das campanhas ilegais e de desinformação. Os riscos associados a esse problema extrapolam a responsabilização das empresas de tecnologia e a criminalização das chamadas 'fake news'. Existe uma crise de legitimidade das nações, com cada vez menos poder para enfrentar o desafio sozinhas.