Conteúdos produzidos por inteligência artificial (IA) estão se tornando a principal ameaça digital nas eleições brasileiras, substituindo as tradicionais fake news. Essa afirmação é feita pelo Comitê Gestor da Internet no Brasil (CGI.br), que recentemente apresentou a segunda edição do Guia Internet, Democracia e Eleições, um estudo abrangente sobre como o atual ecossistema tecnológico impacta a opinião pública no país.
Desde 2018, as eleições têm visto mudanças significativas na forma como a desinformação é disseminada. Antes, as redes sociais abertas eram os principais veículos de fake news, mas atualmente aplicativos de mensagens privadas, como o WhatsApp, assumem essa função. A desinformação agora se espalha de maneira integrada em várias plataformas, com vídeos se destacando como o principal veículo dessa estratégia.
A rápida evolução da IA generativa é um fator chave para essa transformação tecnológica. As ferramentas atuais são capazes de criar textos, imagens e vídeos com um alto grau de realismo. Esses conteúdos são elaborados para perfis específicos de usuários, aumentando significativamente a capacidade de persuasão e a possibilidade de enganar até mesmo os leitores mais céticos.
Um dos pontos mais alarmantes destacados no guia é o crescimento das deepfakes. Essa técnica possibilita a manipulação de rostos, corpos e vozes para criar simulações convincentes de declarações feitas por figuras públicas que nunca ocorreram. Devido à sua perfeição visual, essas simulações dificultam ainda mais o trabalho de checagem para o cidadão comum.
Renata Mielli, coordenadora do CGI.br, ressalta que as grandes redes sociais se tornaram os principais canais de consumo de informações pela população. Ela enfatiza que entender os algoritmos e os mecanismos tecnológicos por trás dessas plataformas é fundamental para garantir a transparência e preservar a integridade do debate social.
O guia aponta que as maiores redes digitais são controladas por empresas privadas com fins lucrativos. Os sistemas internos dessas plataformas recomendam automaticamente o conteúdo que cada usuário verá em seu feed. Esse modelo prioriza postagens com forte apelo emocional, resultando em uma ampla disseminação involuntária de informações falsas ou distorcidas.
Outro problema significativo é a perda generalizada da confiança no ambiente digital. Quando todo conteúdo visual é considerado potencialmente gerado por IA, isso leva à desconfiança até mesmo em relação a gravações legítimas e dados oficiais. Esse fenômeno contribui para uma polarização política acentuada e enfraquece instituições essenciais à estabilidade do país.
A tendência natural da mente humana em aceitar rapidamente postagens que confirmam preconceitos antigos e rejeitar fatos que contradizem suas crenças cria um cenário propício para a propagação de desinformação. A combinação desse comportamento com a ampla influência de pessoas sem compromisso jornalístico resulta em um terreno fértil para enganos. Verificar as fontes antes de compartilhar informações tornou-se uma defesa crucial.
Ações integradas de proteção reduzem o alcance de fraudes por IA
Paulo Cesar Camargo, engenheiro sênior especializado em software e arquiteto de dados na nuvem AWS, acredita que as redes sociais precisam implementar uma variedade de mecanismos defensivos.
Ele sugere que ao invés de depender apenas de um único detector infalível, os sistemas devem analisar metadados, marcas d’água e padrões de compartilhamento desde a ingestão do vídeo para oferecer respostas proporcionais ao nível de risco identificado.
“A abordagem mais eficaz consiste em adotar uma arquitetura multifacetada de defesa ao invés de confiar exclusivamente em um único detector”, afirma Camargo. “Em ambientes com grande volume de tráfego, a análise pode ter início no momento da entrada do vídeo na plataforma, combinando informações sobre sua origem, metadados e marcas d’água quando disponíveis, além da detecção comportamental sobre como aquele conteúdo está sendo distribuído. Esses métodos podem gerar uma avaliação do risco ou confiança para cada material postado”.
Os usuários também precisam ser mais cautelosos nesse contexto. O especialista alerta que processos como recompressão feitos por aplicativos podem eliminar informações técnicas valiosas para análises detalhadas. Como os detectores automatizados operam com base em probabilidades — sujeitas a erros — não devem ser considerados provas definitivas. A verificação deve incluir confrontos com informações provenientes da imprensa e agências especializadas em checagem.
“Atualmente não existe uma ferramenta única e completamente precisa capaz de identificar instantaneamente se qualquer vídeo ou áudio recebido pelo WhatsApp foi gerado por inteligência artificial”, afirmou Camargo em entrevista recente. “Um dos problemas é que aplicativos podem recomprimir mídias e alterar ou remover dados que seriam úteis para verificar sua autenticidade. Além disso, os detectores automatizados lidam com probabilidades e podem apresentar falsos positivos ou negativos especialmente quando os materiais foram editados ou comprimidos”.
Checagem de procedência reduz o impacto da desinformação nas eleições
Com o avanço das tecnologias sintéticas, torna-se vital verificar não apenas o conteúdo mas também identificar sua origem e histórico. Uma das abordagens promissoras nessa rastreabilidade é o padrão C2PA, que insere assinaturas criptográficas em imagens e vídeos desde seu registro inicial.
No entanto, Camargo observa que provar a origem não assegura que o conteúdo seja factual. Para validar as informações é necessário combinar esses dados criptográficos com contextos adicionais e fontes independentes.
“À medida que gerações sintéticas tornam-se cada vez mais convincentes, precisamos ir além da simples análise visual e considerar também a proveniência das mídias”, explica ele. “O padrão C2PA é crucial porque conecta ao conteúdo informações verificáveis sobre sua origem e histórico através de mecanismos criptográficos. Equipamentos fotográficos, softwares editores e plataformas publicadoras podem integrar essa cadeia informacional”.
Outro ponto importante mencionado é a distinção entre evidências técnicas e implicações legais. A tecnologia consegue detectar comportamentos robóticos ou campanhas coordenadas; no entanto, caracterizar um crime eleitoral demanda uma análise do contexto e intenção — cabendo essa responsabilidade às autoridades judiciais. Assim sendo, eleitores comuns que compartilham conteúdos falsos sem saber não devem ser tratados da mesma forma que aqueles que planejam estratégias desinformativas.
Além disso, há uma notável diferença entre conter conteúdos prejudiciais e responsabilizar seus criadores. Sistemas baseados na nuvem conseguem restringir rapidamente a circulação de conteúdos suspeitos nas redes abertas. Contudo, quando desinformação aparece em canais privados criptografados, descobrir quem originou esse conteúdo muitas vezes exige investigações prolongadas além do período eleitoral.
“Esse cenário revela diferenças fundamentais entre detectar conteúdo nocivo e atribuir responsabilidade legal”, conclui Camargo. “As plataformas com infraestrutura escalável podem identificar sinais indicativos desse tipo de manipulação e reduzir sua distribuição rapidamente — muitas vezes em minutos — especialmente nas redes abertas.”
No próximo domingo (4), brasileiros irão às urnas para escolher presidente, governador, dois senadores além dos representantes federais e estaduais/distritais. Em um contexto onde conteúdos gerados por IA estão crescendo exponencialmente, reconhecer manipulações e verificar informações antes do compartilhamento tornam-se passos cruciais durante este processo eleitoral.
