O Backstory automatiza buscas reversas de imagens e rastreamento de contexto para acelerar o trabalho de verificação
Todos os dias, a equipe de checagem de fatos de um dos maiores grupos de comunicação da Índia trabalha para verificar uma série de imagens falsas ou enganosas que circulam nas redes sociais. Para a equipe de 6 pessoas do India Today, a rotina inclui analisar imagens históricas falsas de políticos geradas por inteligência artificial, vídeos de inundações retirados de contexto ou deepfakes do homem mais rico do país.
O Backstory, uma ferramenta experimental do laboratório de pesquisas em IA do Google, o Google DeepMind, tem auxiliado o India Today a organizar e analisar o fluxo de golpes, fraudes e desinformação na internet.
Depois que o usuário envia uma imagem e faz uma pergunta básica, o Backstory executa verificações automáticas para identificar se o conteúdo foi gerado por IA, se há sinais de manipulação e em quais locais da internet a imagem já foi publicada.
Desenvolvido a partir da família de modelos de linguagem (LLMs, na sigla em inglês) de IA do Gemini, o Backstory utiliza agentes de inteligência artificial para definir quais ferramentas de autenticação deve aplicar e em qual ordem. O resultado final é um relatório automatizado com o resumo das informações encontradas, citações das fontes e o registro de cada etapa do processo de checagem.
No India Today, o programa é utilizado para fazer a triagem inicial dos conteúdos, o que acelera o início do fluxo de verificação.
“Em nossa equipe, quase todos usam o Backstory em conjunto com outras ferramentas. Usamos como uma referência rápida —ele fornece contexto e direção”, afirmou Bal Krishna, líder da equipe de checagem de fatos do veículo. “A ferramenta reúne no mesmo ambiente o trabalho que antes exigia 5 plataformas e 5 acessos diferentes. Essa é a principal vantagem.”
Antes, os repórteres do India Today precisavam submeter as imagens individualmente a um detector de IA, realizar a busca reversa de imagens e reconstruir manualmente o histórico de publicação da imagem. O Backstory executa esses processos de maneira simultânea. Atualmente, o uso da plataforma é gratuito.
“O diferencial do Backstory é oferecer múltiplas abordagens para o mesmo problema”, afirmou Zoe Darmé, gerente de produto da equipe de pesquisa do DeepMind responsável pela ferramenta. “Muitas vezes, ao analisar o contexto de uma imagem, as pessoas focam em apenas uma etapa do processo. O Backstory busca unificar toda a jornada em uma única experiência para o usuário.”
O Backstory está disponível apenas por meio do Programa de Testadores Confiáveis do Google. A equipe do India Today integra o grupo de milhares de jornalistas, especialistas em inteligência de fontes abertas (Osint, na sigla em inglês), bibliotecários e pesquisadores de alfabetização informacional selecionados para testar o software. O Google reúne os comentários desse grupo para aplicar melhorias no sistema.
Essa abordagem difere de outras ferramentas de autenticação por IA desenvolvidas sem a participação de jornalistas, segundo relatório publicado em julho pelo Centro de Políticas de Tecnologia da Informação da Universidade de Princeton.
Diversos detectores comerciais de IA não consideram formas mais complexas de manipulação — como a remoção de uma fotografia do seu contexto original —, situação frequente na rotina jornalística. Além disso, muitas dessas ferramentas apresentam resultados em percentuais de probabilidade — como indicar 80% de probabilidade de uma imagem ter sido gerada por IA. Segundo o relatório de Princeton, esses percentuais funcionam como uma “caixa-preta”, sem clareza sobre os critérios utilizados para o cálculo nem orientação sobre como explicar esses números ao leitor.
Zoe Darmé afirmou que considera os jornalistas o público-alvo principal do Backstory, mas projeta ampliar o acesso à ferramenta no futuro. Caso o software seja lançado ao público geral, a gestora avalia que a plataforma deve atrair um público especializado, interessado nos detalhes da verificação de imagens e em respostas que vão além do resultado binário entre “verdadeiro” ou “falso”.
Para Mike Caulfield, especialista em alfabetização digital e criador do método SIFT de verificação, desenvolver ferramentas para esse nicho pode gerar mais impacto do que criar uma plataforma de uso geral.
“Os ambientes de informação funcionam de forma intermediada. O maior impacto ocorre quando ajudamos quem atua na verificação dos fatos”, disse Caulfield. O especialista explicou que as informações checadas fluem a partir de fontes de credibilidade —como jornalistas e checadores de fatos— e também de entusiastas que atuam como checadores informais em seus círculos sociais.
Caulfield avalia que o Backstory preenche uma lacuna no mercado ao focar nesse público intermediário. Ele ressalta que repórteres que precisam checar imagens na cobertura diária nem sempre possuem assinatura de ferramentas pagas de detecção de IA ou domínio sobre dezenas de softwares especializados em Osint.
“Faltava uma ferramenta intermediária entre o usuário comum e o especialista em checagem”, afirmou Caulfield. “Trata-se de um software direcionado a um segmento que não era atendido pelas opções existentes.”
Entre os recursos de detecção, o Backstory pode acionar o SynthID —mecanismo que identifica marcas-d’água digitais embutidas em imagens criadas pelo Nano Banana, o modelo de geração de imagens por IA do Google. A ferramenta também checa as credenciais de conteúdo do arquivo em busca de metadados criptografados inseridos por empresas integrantes ao padrão da Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA, na sigla em inglês), grupo que inclui Google, Adobe e BBC.
Caulfield pondera, no entanto, que o rastreamento do histórico das imagens na internet é a função mais útil do software. O recurso permite que jornalistas visualizem a imagem em seu contexto original e acompanhem como a interpretação desse conteúdo mudou ao longo do tempo.
“A etapa de integração —contar a história completa da imagem— é a parte que exige mais tempo de apuração”, disse Caulfield. “O Backstory reduz para 3 minutos um processo que antes levava 50 minutos.”
O recurso atua sobre um problema anterior ao surgimento das imagens geradas por IA. “Se você conversar com qualquer checador de fatos, todos diriam que gostariam de ter essa ferramenta à disposição em 2016”, declarou.
A exemplo de outras empresas desenvolvedoras de inteligência artificial, o Google DeepMind contribuiu para o aumento no volume de imagens geradas por IA na internet. O modelo Nano Banana foi alvo de críticas por ser utilizado na criação de conteúdos desinformativos sobre políticos e saúde pública, além de ser aplicado em golpes virtuais.
No final de julho, o serviço Google Earth recebeu críticas por integrar o Nano Banana à plataforma, o que permitia a alteração de imagens de satélite em 3D. Um dia após os questionamentos, o Google anunciou que reverteria o recurso para implementar limitações de segurança mais rígidas diante da proliferação de imagens falsas.
Segundo Zoe Darmé, o desenvolvimento do Backstory não foi uma resposta direta às críticas feitas ao Nano Banana, mas sim uma iniciativa para enfrentar a crescente desconfiança nos conteúdos publicados na internet em geral.
“Trabalhamos no desenvolvimento de ferramentas que ampliaram a geração de imagens para um grande volume de usuários. Ao ouvir as opiniões do público sobre o que precisavam, identificamos uma demanda clara por ferramentas de verificação de procedência”, afirmou Darmé.
Como ocorre com sistemas baseados em LLMs, o Backstory não garante precisão total nos resultados. O software exibe um aviso em sua interface indicando que a ferramenta pode cometer erros e que as informações devem ser checadas pelo usuário.
Um problema frequente no uso de modelos de linguagem para autenticação de imagens é a fusão de contextos, situação na qual o sistema confunde uma imagem com outra visualmente parecida, segundo Caulfield.
A limitação manifestou-se durante os testes da reportagem. Ao solicitar um relatório sobre o histórico de uma foto pessoal, o Backstory confundiu o arquivo com a imagem do jornalista Carlos Maza. A foto de Maza foi associada aos mesmos termos de busca em texto, como “homem de cabelo cacheado”, “boné preto” e “sorrindo”. O programa gerou o histórico da imagem de Maza até que o nome correto do jornalista fosse inserido na plataforma para a correção do relatório.
O software apresenta outras limitações. Atualmente, o Backstory processa apenas arquivos de imagem, embora a equipe avalie a expansão para vídeos e outros formatos. Nos relatórios de contexto, a ferramenta analisa somente imagens indexadas em motores de busca. Caso uma imagem tenha origem em redes fechadas ou plataformas não indexadas, o histórico pode ficar incompleto.
“É possível que um conteúdo tenha sido publicado originalmente no TikTok, que não é indexado pela busca, ou em grupos fechados no WhatsApp ou Signal”, afirmou Bal Krishna. “Ao usar o Backstory, é necessário ter essas limitações em mente. Nossa equipe sempre considera esses fatores.”
Em razão dessas limitações, Bal Krishna explicou que o India Today não cita os relatórios do Backstory como fonte direta nas checagens publicadas pelo veículo. Os repórteres realizam a confirmação manual de todas as informações obtidas por meio do software.
Ainda assim, o jornalista classifica o Backstory como “a primeira ferramenta consistente desenvolvida por uma empresa de tecnologia disponibilizada para checadores de fatos” e projeta melhorias à medida que as avaliações dos testadores forem incorporadas ao produto.
Questionado se o Backstory acelerou o trabalho diário da equipe de checagem, Bal Krishna respondeu: “Não há dúvida sobre isso”.
Andrew Deck é redator da equipe do Nieman Lab, especializado em IA.
Texto traduzido por Isadora Vila Nova. Leia o original em inglês.
O Poder360 tem uma parceria com duas divisões da Fundação Nieman, de Harvard: o Nieman Journalism Lab e o Nieman Reports. O acordo consiste em traduzir para português os textos do Nieman Journalism Lab e do Nieman Reports e publicar esse material no Poder360. Para ter acesso a todas as traduções já publicadas, clique aqui.
