IA nas eleições traz mais riscos ao senso de realidade do que ao voto [#29]

BOLETIM SEMANAL #29

Olá, pessoas.

Se o super ciclo eleitoral revelou alguma coisa sobre o uso de Inteligência Artificial para influenciar eleitores, podemos dizer que foi a intensidade com que conteúdos de desinformação produzidos com essas ferramentas corrói a realidade.

Melissa Heikkilä, repórter da MIT Technology Review, especialista em coberturas de assuntos sobre IA, testemunha que as estratégias mais eficazes de desinformação política até agora usam técnicas já “bem estabelecidas” com o intuito de “semear divisão e confusão”. E sugere algo que temos percebido aqui na e-Comtextos como quase uníssono para quem vem acompanhando a evolução das ferramentas generativas.

“Existe um risco real de criar tanto ceticismo e desconfiança em nosso panorama informativo que atores mal-intencionados ou políticos oportunistas podem se aproveitar desse vácuo de confiança e mentir sobre a autenticidade de conteúdos reais”.

No Brasil, por exemplo, nas campanhas para o primeiro turno das eleições, a IA Generativa teve um papel secundário, mas com efeitos significativos para revelar o que nos espera em 2026 nas eleições presidenciais.

Conforme o Observatório IA nas Eleições, a produção de deepfakes e deepnudes, a produção sintética de jingles de campanha e o uso de chatbots para tirar dúvidas dos eleitores foram os recursos mais usados por candidatos a prefeito e vereador. Em uma escala bem pequena, perto do que se esperava.

A Justiça Eleitoral também adotou ferramentas de IA para monitorar e coibir a circulação de peças de desinformação e de propaganda irregular no âmbito do sistema democrático e de votação.

Nos parece que o cenário da comunicação política traz indícios de que não é uma tecnologia específica que pode afetar o processo eleitoral e a confiança na Democracia. Há um conjunto de fatores aos quais as ferramentas de IA se somam para tensionar nosso senso de realidade, cada vez mais ameaçado.

Aqui é Luciano Bitencourt, atento à última semana antes da votação em segundo turno em 51 municípios, dos quais 15 são capitais. Eu e Daniela Germann temos mais interesse nas questões de fundo sobre a desinformação. E as eleições parecem estar se tornando um evento experimental para o circuito de informações falsas e enganosas em todo o mundo.

É o que tratamos no boletim desta semana.

Comportamentos inautênticos

Nas eleições municipais de São Paulo, a ausência de Pablo Marçal nas campanhas de segundo turno fez desacelerar os embates baseados em violência política e eleitoral. Isso acendeu o interesse de analistas sobre a influência das redes sociais no voto. 

Sem tempo de TV, Marçal adotou estratégias agressivas de marketing para monopolizar a atenção nos debates e na cobertura da imprensa sobre eleições. Algumas dessas estratégias não cumpriram as regras do Tribunal Superior Eleitoral. Especialistas avaliam, contudo, que a propaganda eleitoral no rádio e na TV foi decisiva para frear a escalada do coach-candidato.

Para Nina Santos, pesquisadora e coordenadora do site “desinformante”, as redes sociais interagem com outros meios de propaganda política nas eleições e não faz sentido tratar as diferentes mídias e seus recursos como elementos separados e antagônicos. As redes sociais, contudo, ainda que não garantam a conversão de seguidores em votos, foram recursos essenciais para transformar influenciadores em políticos eleitos, especialmente no legislativo municipal.

Podemos ir um pouquinho mais longe. No Rio de Janeiro, a Polícia Federal desbaratou uma organização que usava atores para espalhar mentiras sobre determinados candidatos, em um esquema que envolvia o controle de influência sobre os eleitores mapeado em planilhas e monitorado com avaliações de desempenho.

Estamos falando de pessoas remuneradas para representar um papel que equivale ao que chamamos de “comportamento inautêntico coordenado” em mídias digitais. O uso de canais e perfis falsos financiados e orquestrados para espalhar mentiras, gerar dúvidas e influenciar decisões com base em desinformação é uma prática recorrente de grupos interessados em desestabilizar o sistema democrático.

Quando perfis falsos de carne e osso ganham as ruas para atacar candidaturas sem que os eleitores abordados saibam, as nuances da desinformação se mostram mais multifacetadas do que imaginamos. Como explicita Carmela Ríos, especialista espanhola em comunicação e redes, só negar o que é mentira não basta.

“Estou pensando em todas essas opiniões mais extremas e em todas essas opções políticas que brincam muito com os sentimentos das pessoas, inoculando medo e ódio. São grandes geradores de comunidade”.

É claro que no universo digital a escala com que esses “comportamentos inautênticos coordenados” geram influência não se compara ao uso de atores nas ruas em contato com eleitores. A eficiência da estratégia, entretanto, deve levar em conta o contexto. Eleições municipais têm escala reduzida de atenção sobre assuntos que impactam as decisões do eleitorado. E a experiência ampliada com o uso de deepfakes em pleitos majoritários é promissora, vamos reconhecer.

Vácuos de confiança

Crenças em ideias sustentadas nas teorias de conspiração ou informações falsas não são as únicas motivações para os que propagam desinformação. Segundo a professora de psicologia social H. Colleen Sinclair, da Universidade da Louisiana nos Estados Unidos, muitos desses disseminadores são oportunistas.

Entre os perfis mapeados em seu livro Taking Conspiracies to Extremes (Levando as Conspirações ao Extremo, em tradução livre) estão os que buscam gerar conflito, recrutar seguidores, obter algum tipo de lucro ou só chamar a atenção, enfatiza ela.

“Esses oportunistas não acreditam em tudo que divulgam, mas querem que você acredite”.

O ingresso das redes sociais no ambiente político vem acompanhado de todos esses ingredientes listados pela professora. Gerar conflitos, aliás, tem sido a base das estratégias de campanha, com algumas exceções, de influenciadores aspirantes a políticos para lucrar com seguidores-eleitores.

Tem um aspecto, no entanto, mais denso a ser considerado no cenário político. As eleições presidenciais nos Estados Unidos, última das grandes democracias ocidentais a ir às urnas neste ano, veem os conteúdos de desinformação produzida com o auxílio de IA se intensificarem à medida que o dia da votação, no início de novembro, se aproxima.

Tragédias climáticas provocadas pelos furacões Helene e Milton foram usadas para a produção de imagens falsas, alegações infundadas e declarações não confiáveis no âmbito político, todas com peso eleitoral e com força suficiente para “moldar a realidade” aos interesses dos que propagam desinformação.

Esse ponto de inflexão parece estar trazendo resultados imprevisíveis sobre como podemos “desativar a próxima fase deste problema”, na avaliação da pesquisadora Carmine Ríos. O comportamento inautêntico não pode ser encarado como resultado exclusivo de crenças ingênuas ou desconsiderado em nome da liberdade de expressão. Tampouco deve ser analisado como uma prática ancorada somente em tecnologias digitais, especialmente nos modelos de IA.

Os processos eleitorais vêm mostrando em todo o mundo que a influência da IA sobre o eleitorado pode estar muito mais na ampliação de “vácuos de confiança”, como diz a jornalista finlandesa Melissa Heikkilä, do que nas intenções de voto. É que diluir a confiança no sistema democrático pode ser mais lucrativo para políticos extremistas do que a conquista por cargos públicos.

Para ir mais fundo

Ahmed, Amal. “The Hurricane Conspiracies Made It Clear—We’re Going Climate Delulu”. Atmos, 17 de outubro de 2024, https://atmos.earth/the-hurricane-conspiracies-made-it-clear-were-going-climate-delulu/.

Bronzatto, Thiago; Gullino, Daniel. “Disfarces e relatórios de ‘convertidos’: atores contratados para espalhar fake news pelas ruas nas eleições viram réus”. O Globo, 17 de outubro de 2024, https://oglobo.globo.com/politica/noticia/2024/10/17/disfarces-e-relatorios-de-convertidos-atores-contratados-para-espalhar-fake-news-pelas-ruas-nas-eleicoes-viram-reus.ghtml.

Gullino, Daniel. “Atores de fake news também agiram em Cabo Frio, Itaguaí, Mangaratiba e Paraty”. extra, 18 de outubro de 2024, https://extra.globo.com/politica/noticia/2024/10/atores-de-fake-news-tambem-agiram-em-cabo-frio-itaguai-mangaratiba-e-paraty.ghtml.

Gurgel, Luciana. “Teorias da conspiração: conheça cinco perfis dos oportunistas que as disseminam sem acreditar nelas”. MediaTalks, 19 de outubro de 2024, https://mediatalks.uol.com.br/2024/10/19/disseminadores-de-teorias-da-conspiracao-nem-sempre-sao-motivados-por-crenca/.

Heikkila, Melissa. “O que os EUA podem aprender com o papel da IA em outras eleições”. MIT Technology Review – Brasil, MIT Technology Review, 27 de setembro de 2024, https://mittechreview.com.br/impacto-ia-eleicoes-eua/.

Maiberg, Emanuel. “AI-Powered Social Media Manipulation App Promises to ‘Shape Reality’”. 404 Media, 16 de outubro de 2024, https://www.404media.co/email/1e5934ab-7701-422b-9aaf-78bc691505ff/.

Moherdaui, Luciana. “Não houve uso massivo de desinformação por IA nas eleições”. Poder360, 17 de outubro de 2024, https://www.poder360.com.br/opiniao/nao-houve-uso-massivo-de-desinformacao-por-ia-nas-eleicoes/.

Redação. “Furacões incensam debate politico nos EUA”. Deutsche Welle, 11 de outubro de 2024, https://www.dw.com/pt-br/furac%C3%B5es-incensam-debate-politico-nos-eua/a-70475708.

Redación. “La desinformación más peligrosa es ‘la que menos se ve’, la que induce a estafas”. Efe.com, 9 de outubro de 2024, https://efe.com/andalucia/2024-10-09/la-desinformacion-mas-peligrosa-es-la-que-menos-se-ve-la-que-induce-a-estafas/.

Santos, Nina. “1o turno das eleições 2024: o que a Internet provocou?” desinformante, 7 de outubro de 2024, https://desinformante.com.br/1o-turno-eleicoes-redes/.

Soares, Matheus. “1^o turno: campanha eleitoral tem deepfakes e jingles com IA”. desinformante, 4 de outubro de 2024, https://desinformante.com.br/1o-turno-deepfakes-jingles/.

Sturari, Vinícius; Teixeira, Ana Claudia. “Do TikTok para as Câmaras Municipais: como visualizações viram votos”. JOTA Jornalismo, 14 de outubro de 2024, https://www.jota.info/opiniao-e-analise/colunas/democracia-em-transe/do-tiktok-para-as-camaras-municipais-como-visualizacoes-viram-votos.

Yáñez-Richards, Sarah. “La IA es motor de desinformación en elecciones de EEUU: llamadas falsas, deepfakes y memes”. Efe.com, 9 de outubro de 2024, https://efe.com/mundo/2024-10-09/la-ia-es-motor-de-desinformacion-en-elecciones-de-eeuu-llamadas-falsas-deepfakes-y-memes/.

No radar (com auxílio de IA)

• Jornalistas brasileiros foram alvo de pelo menos 44.200 ataques em redes sociais, como o finado Twiiter e o TikTok, durante o primeiro turno das eleições municipais de 2024, segundo a Coalizão em Defesa do Jornalismo. Esses ataques aumentam após coberturas críticas de eventos ou candidatos específicos, como o caso do laudo falso envolvendo Pablo Marçal e Guilherme Boulos. Expressões como “mídia podre” e “GloboLixo” foram amplamente utilizadas para desacreditar a imprensa. A pesquisa também revelou que São Paulo concentrou a maior parte dos ataques devido à polarização política local.
• O finado Twitter, empresa de Elon Musk, está sendo pressionado pela União Europeia a explicar como utiliza os dados de seus usuários no desenvolvimento de Inteligência Artificial (IA). A Comissão Europeia exige esclarecimentos sobre a coleta e o uso de informações pessoais, em especial após preocupações sobre práticas de privacidade. O questionamento faz parte da Lei de Serviços Digitais da União Europeia, que busca garantir a transparência das grandes plataformas digitais no tratamento de dados de seus usuários.
• Um relatório preliminar da Missão de Observação Eleitoral da Organização dos Estados Americanos (OEA) revelou a presença do crime organizado nas eleições brasileiras deste ano. O documento menciona coação de eleitores, restrições à mobilidade de candidatos e a infiltração de recursos do tráfico de drogas nas campanhas eleitorais. A OEA registrou um aumento significativo na violência, com 469 atos de agressão contra políticos entre janeiro e outubro, representando um crescimento de 58,9% em relação ao mesmo período de 2020. O relatório recomenda medidas que incluem a criação de um registro público de dados sobre violência política.

---

Até semana que vem.