Impacto eleitoral nas tecnologias é maior do que o digital nas eleições? [#28]

BOLETIM SEMANAL #28

Olá, pessoas.

Quando começamos a jornada de produção dos boletins semanais, lá em 8 de abril, nos propusemos a apresentar nossa leitura crítica sobre o impacto da desinformação nas eleições. A pergunta original que fizemos foi “qual o impacto das ‘notícias falsas’ no voto do eleitorado?”.

Não tínhamos muita afinidade com o termo “notícia falsa” por suas limitações conceituais. O usamos por representar o senso comum no entendimento sobre a desinformação. Mas, já nas primeiras pesquisas, fomos orientados por referências especializadas a ampliar o escopo da pergunta, o que nos trouxe ao relato exploratório Desinformação em Eleições (acessível aqui).

Agora surge uma perspectiva nova, ainda mais ampla. Quem nos apresentou a ela foi o professor de Direito Eleitoral e juiz substituto do Tribunal Regional Eleitoral de São Paulo, Diogo Rais. 

“A gente passou muito tempo discutindo como a internet impactaria as eleições. Mas eu acho que, já há alguns anos, a gente deveria perguntar como as eleições impactam a internet e as novas tecnologias”.

Na semana passada, o professor esteve em uma das mesas do evento “Diálogos em Inteligência Artificial”, na Faculdade de Direito da Universidade de São Paulo. Para ele, as eleições impulsionam o debate sobre o qual a regulação da internet ganha fôlego. Se considerarmos o processo eleitoral deste ano no Brasil, existem indícios de que o argumento faz sentido.

Aqui é Luciano Bitencourt com mais uma edição do Desinformação em Paula. Eu e Daniela Germann traçamos algumas referências a partir do que apuramos na semana passada sobre a percepção de que o processo eleitoral impacta na maneira como avaliamos os riscos e os benefícios de nossa presença no universo digital.

Vamos a elas.

Algoritmos sob vigilância

Não estava claro, desde que começamos a analisar o cenário, se o uso de Inteligência Artificial para desinformar teria no Brasil a mesma influência eleitoral que se percebe em outros países, como nos Estados Unidos agora, às vésperas da disputa presidencial. Ainda assim, a Justiça Eleitoral brasileira criou, no início do ano, normas para coibir o uso indiscriminado de IA em campanhas municipais.

Quatro regras básicas foram anunciadas em resolução do Tribunal Superior Eleitoral, todas mais focadas no potencial de desinformação. Resumidamente, diz a resolução 23.732 que o uso de IA precisa estar identificado, não pode produzir desinformação nem usar figuras humanas para criar conteúdo sintético de áudio e vídeo. Além disso, candidatos e partidos não podem simular interação com o eleitor em comunicação de campanha por meio de chatbots.

O receio primordial era a produção indiscriminada de deepfakes, de conteúdo sintético produzido com recursos sofisticados de simulação de voz e imagem. Mas, mesmo em países que passaram por eleições majoritárias, o uso de IA não confirmou o temor dos especialistas. Pelo menos até agora.

Recente pesquisa publicada pelas universidades de Berna e Zurich, por exemplo, mostra que os mecanismos de busca, especialmente o Google, organiza fontes de informação e pontos de vista sobre um tema com pesos diferentes, dependendo da língua com que se faz a consulta. E esse tipo de algoritmo, diferente dos modelos de IA Generativa, impacta mais efetivamente o cenário eleitoral no momento.

Um pequeno recorte aqui para explicar. Modelos de linguagem como o ChatGPT geram respostas, criam textos a partir de critérios estatísticos, como se estivessem conversando conosco. São chamados de generativos. Os sistemas de busca, por outro lado, classificam fontes e recomendam prioridades de acesso. São estruturados sobre um tipo de algoritmo que a Ciência da Computação classifica como determinístico. Os dois funcionam com recursos de Inteligência Artificial, mas de formas diferentes.

Para os pesquisadores, os riscos proporcionados pelas IA Generativas aos sistemas democráticos estão no grau de persuasão que as ferramentas desenvolvem no diálogo com humanos. Produzir mensagens mais personalizadas e persuasivas é, inclusive, o propósito desses algoritmos quando obtêm dados pessoais suficientes sobre seus interlocutores. Fazendo uma analogia, os chatbots “inteligentes” revelam o poder de persuadir; os sistemas de busca, similares aos de recomendação em mídias sociais, omitem o poder de manipular nossas escolhas.

Ambos oferecem riscos a quem não resiste a esses potenciais.

A OpenAI, por exemplo, identificou que seus modelos de IA estão sendo usados para influenciar eleições. A produção de conteúdo falso, incluindo artigos e comentários nas redes sociais, foi “neutralizada” pelo menos 20 vezes só neste ano, segundo dados da empresa. Pode parecer pouco, mas não se deve esquecer que há outros modelos no mercado e casos que podem não ter sido identificados pela fabricante do ChatGPT.

Segundo a OpenAI, não houve engajamento viral ou volume de audiência consistente até agora. Mas, desinformação política automatizada e produzida em massa para influenciar eleitores, e a dependência excessiva de usuários em sistemas não confiáveis estão no topo da lista dos “perigos imediatos” da IA, como aponta o especialista Gary Marcus, autor de Taming Silicon Valley.

Influência judicial

No dia da votação em primeiro turno no Brasil, domingo retrasado, houve mais ataques às urnas eletrônicas do que o esperado, conforme José Bruno Lima, coordenador de comunicação do Pacto pela Democracia. Mesmo no ex-Twitter, naquele momento ainda bloqueado pelo Supremo Tribunal Federal, publicações com desinformação eleitoral alcançaram 3 milhões de usuários.

WhatsApp e Telegram foram inundados por mensagens alegando fraude nas eleições de São Paulo. Desta vez, quem promoveu a adulteração dos resultados, segundo teóricos da conspiração, foi a maçonaria.

Um vídeo bem produzido, ao que tudo indica sem auxílio de Inteligência Artificial, expõe uma série de supostas conexões entre o atual prefeito da cidade e candidato a reeleição, Ricardo Nunes, com políticos de esquerda e com maçons, incluindo fotos tiradas de contexto, como mostra a Agência Lupa.

O coach-candidato Pablo Marçal, derrotado no primeiro turno, deixa como legado de sua campanha à prefeitura de São Paulo um conjunto de processos que tramitam em diferentes esferas. Na Justiça Eleitoral, ele enfrenta a possibilidade de se tornar inelegível por oito anos por descumprir as regras, espalhar desinformação e promover violência política contra adversários.

Também se começa a perceber o peso da influência digital no voto a candidatos minoritários. As análises posteriores aos resultados obtidos nas urnas apresentam uma tendência, cujos dados precisam ser melhor compreendidos, de que candidatos com maior número de seguidores e mais presentes nas mídias sociais ou apoiados por influenciadores tiveram desempenho melhor.

Já discutimos aqui como o Tribunal Superior Eleitoral tem se sobreposto à omissão do Legislativo brasileiro quanto à regulação desses fatores. Especialista em Direito Eleitoral, o professor Diogo Rais explica o posicionamento do TSE a partir de 2017, quando o próprio Legislativo atribuiu à Justiça Eleitoral o poder de regular as tecnologias para garantir a integridade do processo e do sistema de votação.

“Na primeira eleição [depois da reforma], em 2018, o TSE fez dez dispositivos eleitorais digitais. Na outra eleição, em 2020, fez 34 novos dispositivos eleitorais digitais por via de resolução. Hoje, nas eleições de 2024, passam de cem. Pode-se dizer que o TSE fez uma espécie de código eleitoral digital de modo silencioso, pelo seu poder normativo. Não é uma crítica, é apenas uma evidência de que a Justiça Eleitoral recebeu [do Congresso Nacional] um superpoder e usou”.

As eleições em São Paulo deram o tom do que está por vir em 2026 na disputa pela presidência. A IA Generativa não “participou” tão ativamente quanto se esperava. Mas o terreno onde ela pode florescer em dois anos foi semeado. Mesmo com “plenos poderes”, a Justiça Eleitoral não deve extrapolar seu próprio campo de atuação.

Fora dele, os debates sobre desinformação, uso de mídias digitais, responsabilidades das grandes empresas de tecnologia sobre seus modelos de negócios, uso de Inteligência Artificial, enfim, decisões que precisam ser tomadas sobre como as tecnologias impactam a sociedade, a economia e a política estão em aberto. Dependem, inclusive, da acomodação de forças nestas eleições e suas relações com o Legislativo.

Os embates entre o Congresso Nacional e o Supremo Tribunal Federal, por exemplo, são reflexo de um cenário político agressivo e conflituoso. Exclusivamente no âmbito das eleições, ao frear o avanço da desinformação e atualizar constantemente o regramento no uso de tecnologias ainda não reguladas, a Justiça Eleitoral tem imposto certos limites que merecem análise e dependem de transparência quanto aos critérios.

A questão é saber se esses limites vão moldar as decisões que estão por vir ou se tendem a acirrar ainda mais o conturbado ambiente político e as tensões entre os poderes. Até aqui, por mais críticas que possa receber, a Justiça Eleitoral tem ajudado a entender onde estão os riscos mais evidentes à Democracia.

Para ir mais fundo

Alfredo, Mauricio. “Economia da atenção: um desafio à democracia”. Observatório da Imprensa, 10 de outubro de 2024, https://www.observatoriodaimprensa.com.br/politica/economia-da-atencao-um-desafio-a-democracia/.

Barbosa, João e Rudnitzki, Ethel. “Desinformação eleitoral alcança 3 milhões de visualizações no X mesmo com bloqueio do STF”. Aos Fatos, 10 de outubro de 2024, https://www.aosfatos.org/noticias/desinformacao-eleitoral-x-bloqueio/.

Bronzatto, Thiago. “Defesa de Marçal diz à Justiça eleitoral que divulgação de laudo falso contra Boulos foi ‘livre manifestação do pensamento’”. O Globo, 8 de outubro de 2024, https://oglobo.globo.com/politica/eleicoes-2024/noticia/2024/10/08/defesa-de-marcal-diz-a-justica-eleitoral-que-divulgacao-de-laudo-falso-contra-boulos-foi-livre-manifestacao-do-pensamento.ghtml.

Capobianco, João Pedro. “Laudo falso divulgado por Marçal chega a cerca de 100 mil pessoas em apps, mesmo após desmentido”. Agência Lupa, 5 de outubro de 2024, https://lupa.uol.com.br/jornalismo/2024/10/05/laudo-falso-divulgado-por-marcal-chega-a-cerca-de-100-mil-pessoas-em-apps-mesmo-apos-desmentido.

Ercolin, Carolina. “Número de seguidores influencia mais que verba de campanha em eleição de vereador, diz estudo”. Estadão, 9 de outubro de 2024, https://www.estadao.com.br/politica/coluna-do-estadao/numero-de-seguidores-influencia-mais-que-verba-de-campanha-em-eleicao-de-vereador-diz-estudo/.

Gaspar, Malu. “Apoiadores de Marçal no Discord abraçam tese de ‘fraude eleitoral’ por derrota no 1o turno”. Blog em O Globo, 9 de outubro de 2024, https://oglobo.globo.com/blogs/malu-gaspar/post/2024/10/canal-de-marcal-no-discord-tem-muro-das-lamentacoes-e-ataques-contra-urnas-por-derrota.ghtml.

Ibrahim, Sara. “Como a desinformação ameaça a democracia nos EUA e na Suíça”. Swissinfo, 8 de outubro de 2024, https://www.swissinfo.ch/por/democracia/como-a-desinforma%C3%A7%C3%A3o-amea%C3%A7a-a-democracia-nos-eua-e-na-su%C3%AD%C3%A7a/87653402.

Lawgorithm. Diálogos em inteligência artificial – Dia 1. Faculdade de Direito da USP, Youtube, 9 de outubro de 2024, https://www.youtube.com/watch?v=srPJAxjVsYM&list=WL&index=12.

Lima, Ana Gabriela Oliveira. “Domingo de eleição tem alta de desinformação sobre as urnas, segundo projeto de checagem”. Folha de São Paulo, 7 de outubro de 2024, https://www1.folha.uol.com.br/poder/2024/10/domingo-de-eleicao-tem-alta-de-desinformacao-sobre-as-urnas-segundo-projeto-de-checagem.shtml.

Lima, Samuel Pantoja. “Jornalismo declaratório, suposta notícia e desconstrução democrática”. ObjEthos, 7 de outubro de 2024, https://objethos.wordpress.com/2024/10/07/jornalismo-declaratorio-suposta-noticia-e-desconstrucao-democratica/.

Pina, Rute. “Marçal inelegível? O que pode acontecer com ações eleitorais contra o ex-coach”. BBC, BBC News Brasil, 7 de outubro de 2024, https://www.bbc.com/portuguese/articles/czrm446xypvo.

Redação. “Monitoramento de ataques contra a imprensa Eleições 2024 – Relatório #6”. Coalizão em Defesa do Jornalismo, 11 de outubro de 2024, https://us11.campaign-archive.com/.

Redação. “Qual a relação entre eleições e influência digital?” Projeto Brief, 11 de outubro de 2024, https://projetobrief.substack.com/p/qual-a-relacao-entre-eleicoes-e-influencia-digital.

Reuters. “OpenAI identifica uso cada vez maior de seus modelos de IA para influenciar eleições”. InfoMoney, 9 de outubro de 2024, https://www.infomoney.com.br/mundo/openai-identifica-uso-cada-vez-maior-de-seus-modelos-de-ia-para-influenciar-eleicoes/.

Tardaguila, Cristina. “🔥SP: Para fãs de Marçal, culpa é da maçonaria”. Ebulição, 8 de outubro de 2024, https://lupanewsletter.substack.com/p/sp-para-fas-de-marcal-culpa-e-da.

Wai, Jonathan. “The 12 Greatest Dangers of AI”. Forbes, 9 de outubro de 2024, https://www.forbes.com/sites/jonathanwai/2024/10/09/the-12-greatest-dangers-of-ai/.

No radar (com auxílio de IA)

• A desinformação afeta de maneira desproporcional a comunidade latina nos EUA, em grande parte devido à barreira linguística e ao uso intenso do WhatsApp. De acordo com especialistas, a falta de conteúdo confiável em espanhol e a estrutura fechada da plataforma de mensagens facilitam a disseminação de informações falsas. Além disso, campanhas de desinformação voltadas para questões como vacinação e imigração tiram proveito dessas vulnerabilidades, dificultando o combate ao problema. Organizações jornalísticas e ONGs tentam fornecer conteúdos verificáveis para reduzir o impacto da desinformação.
• Um estudo da Universidade da Califórnia, publicado na Nature Human Behavior, sugere que expor crianças de 4 a 7 anos a fake news de forma controlada pode aprimorar suas habilidades de verificação de fatos. Ao serem introduzidas a um ambiente com informações verdadeiras e falsas, elas desenvolvem ceticismo e pensamento crítico, aprendendo a identificar desinformação. A pesquisa destaca que essa prática deve ser acompanhada por adultos, preparando as crianças para serem consumidores mais conscientes de informações na era digital.
• Após quase 40 dias de bloqueio judicial, a rede social X voltou a operar no Brasil na noite de 8 de outubro, atendendo a uma decisão do ministro do STF, Alexandre de Moraes. O desbloqueio ocorreu após a empresa comprovar o pagamento de multas e o cumprimento de determinações judiciais, incluindo a indicação de um representante no país. Apesar da liberação, a volta do serviço sofreu variações entre os mais de 20 mil provedores de internet no Brasil, resultando em acessos gradativos por parte dos usuários. A rede social celebrou o retorno, destacando sua importância para a liberdade de expressão, dentro das leis impostas no país.

---

Até semana que vem.