As eleições concentram a atenção pública, aceleram o fluxo de informações e intensificam a polarização política. Nesse ambiente, conteúdos gerados ou manipulados por Inteligência Artificial se espalham com facilidade. O uso malicioso dessas produções pode desacreditar candidatos, influenciar eleitores, gerar desinformação e comprometer a democracia.

A velocidade com que imagens circulam durante a campanha dificulta a checagem de informações. Isso se agrava com a evolução de ferramentas de IA com produções realistas. “Alguns anos atrás a IA criava imagens e deixava pistas visuais como texturas malfeitas, cabelos não tão realistas, olhos e boca, às vezes, não perfeitamente formados e problemas na geração de mãos e outros elementos. A IA de hoje já resolveu esse problema e agora as pistas são mais sofisticadas, no nível de pixel e aquisição/geração da imagem em si”, explica Anderson Rocha, professor da Unicamp.

Para detectar evidências de IA sutis presentes nas imagens, é preciso recorrer a ferramentas que captam detalhes não perceptíveis a olho nu. “Quando é uma fotografia, há uma interação da luz com o sensor que a IA ainda não imita direito, além de deixar pistas na própria constituição da imagem, ao combinar pixels vizinhos”, conta Anderson que também é o coordenador do laboratório de Inteligência Artificial Recod.ai.

Os pesquisadores desenvolveram o FakeScope, um modelo que reconhece imagens geradas por outras IAs. Em vez de apenas dizer se uma imagem foi manipulada ou não, o FakeScope apresenta as evidências que embasaram sua decisão.

Esse diferencial é ainda mais relevante em um processo eleitoral. Uma classificação isolada oferece pouca informação para quem precisa avaliar um conteúdo suspeito. Em uma campanha, jornalistas, pesquisadores e autoridades precisam reunir diferentes elementos antes de decidir como um material deve ser tratado. É nesse contexto que as evidências fornecidas pelo modelo podem contribuir para a verificação.

O FakeScope funciona como um detetive digital treinado para explicar diversas evidências. Os rastros investigados são anatomia (como características que não condizem com a fisiologia); interação com o ambiente (como distorção entre pessoas/objetos e o local no qual estão); iluminação (como existência de fontes de luz conflitantes); e também texto (como a presença de palavras que não existem ou estão erradas).

O diferencial do FakeScope é que ele combina duas formas de análise. A avaliação quantitativa estima a probabilidade entre 0% a 100% de a imagem ter sido fabricada ou alterada por IA. Já a análise qualitativa apresenta e explica detalhadamente as pistas usadas para chegar à conclusão.

“Explicar os motivos que levaram à conclusão tornou-se uma prioridade porque as imagens sintéticas são frequentemente convincentes o suficiente para criar ambiguidade tanto para humanos quanto para detectores. A implementação prática exige que os modelos justifiquem suas previsões com evidências visuais verificáveis”, explica Yixuan Li, pós-doutoranda na Universidade de Bristol e integrante do Recod.ai.

Campanha eleitoral

O FakeScope é uma das ferramentas em operação no VigIA, programa que monitora imagens e vídeos suspeitos de terem sido produzidos ou manipulados por IA durante a campanha. O programa foi criado para acompanhar como a IA é utilizada, detectar possíveis violações às regras impostas pela justiça e combater a desinformação. Essa iniciativa envolve Agência Lupa, Recod.ai, FAAP e Meedan.

No VigIA, o FakeScope atua em conjunto com outros modelos de detecção de imagem. “Temos os de nível de pixel que criam mapas de calor nas regiões mais provavelmente criadas por IA ou falsificadas/manipuladas, em conjunto com o FakeScope que provê explicações que possam ser bem entendidas por humanos. Eles se complementam entre si, mas também complementam outras ferramentas que especialistas podem utilizar no seu dia a dia”, completa Rocha.

O modelo é utilizado no programa para auxiliar na etapa de verificação técnica. “Em Forense Digital, acreditamos que o humano sempre precisa fazer parte do processo. Não provemos uma resposta final. O humano precisa analisar as pistas que elencamos com nossas ferramentas e decidir por si”, reforça o professor.

Quando o FakeScope detecta e detalha um conteúdo que merece atenção, a equipe do VigIA classifica a imagem conforme o nível de uso de IA identificado. Pesquisadores e jornalistas também investigam a origem do material, o contexto, a intenção e o possível impacto social. A conclusão ocorre a partir da combinação entre dados técnicos e análise humana.

Durante uma campanha eleitoral, uma imagem pode influenciar a percepção de eleitores, por isso, não basta saber se ela é verdadeira ou falsa. É preciso entender as evidências que sustentam essa conclusão a partir da cooperação entre tecnologia, explicabilidade e análise humana.

Juliana Vicentini tem Pós-doutorado em Comunicação (USP) e é Especialista em Jornalismo Científico (Labjor/Unicamp).