Sites falsos com IA: um novo desafio para o jornalismo
Uma investigação pioneira na França revelou a alarmante existência de mais de 15 mil sites falsos gerados por inteligência artificial (IA). O trabalho, conduzido pelo jornalista investigativo Jean-Marc Manach para o site Next.ink, expõe uma nova e sofisticada ameaça ao ecossistema da informação, aprofundada com o avanço da IA generativa. Esses sites não apenas simulam ser veículos de imprensa legítimos, mas também publicam notícias criadas por IA ou reescritas a partir de conteúdos de terceiros, muitas vezes com a assinatura de jornalistas que não existem.
O levantamento identificou uma predominância de páginas em francês, mas também detectou cerca de 1.500 sites em inglês e 200 em alemão, além de outros idiomas. Surpreendentemente, a maioria desses sites não tem como objetivo principal a disseminação de desinformação. Em vez disso, o foco principal é o lucro através da publicidade digital e do tráfego gerado pelo Google Discover, o sistema de recomendação de conteúdo da gigante da tecnologia, que se tornou uma fonte crucial de audiência para muitos sites de notícias.
Jean-Marc Manach identificou casos notáveis em que editores desses sites falsos alcançaram lucros superiores a US$ 2 milhões (aproximadamente R$ 10 milhões) em um período de apenas três meses, explorando esse modelo de negócio. A pesquisa aponta que o fenômeno é liderado por profissionais especializados em otimização para mecanismos de busca (SEO), focados em fazer com que seus conteúdos apareçam em destaque nos resultados de busca.
Otimização para mecanismos de busca e redes de sites falsos
A investigação detalha que cerca de 75% desses sites falsos são controlados por um grupo relativamente pequeno de menos de 300 operadores, compostos majoritariamente por empreendedores individuais ou pequenas empresas. Um número significativo desses operadores gerencia redes de páginas falsas, com alguns controlando mais de 20 domínios cada. Há ainda casos extremos em que um único operador chega a gerenciar centenas ou até milhares de sites, todos utilizados para capitalizar sobre os algoritmos de recomendação das plataformas digitais.
O problema, segundo a pesquisa, não se limita a operadores independentes. Empresas de mídia tradicionais, que implementaram cortes de pessoal, também estão recorrendo à IA para aumentar a produção de conteúdo. Em alguns casos, essas empresas utilizam textos assinados por jornalistas fictícios, chegando a haver um único autor falso responsável pela publicação de aproximadamente 500 textos por dia. Muitos desses textos eram variações da mesma notícia, numa tentativa de maximizar as chances de recomendação em plataformas como o Google Discover e o MSN.
Samira Castro, presidente da Federação Nacional dos Jornalistas (Fenaj), ressalta a profunda desigualdade nessa concorrência: “A concorrência desses sites falsos é profundamente desleal para o jornalismo profissional”. Ela explica que, enquanto veículos comprometidos com o interesse público investem em apuração e equipes qualificadas, esses sites exploram a arquitetura das plataformas digitais para capturar audiência com conteúdos enganosos, muitas vezes com custos irrisórios ou nulos.
O impacto financeiro e a escala do problema
Os incentivos econômicos por trás da criação de sites falsos com IA são significativos. Em uma fase da pesquisa, 20% dos mil sites com melhor ranqueamento no Google Discover eram, de fato, gerados por inteligência artificial. No Google News, o agregador de notícias da Google, páginas desse tipo representavam um terço dos 120 principais sites de tecnologia monitorados.
Os números apresentados pela pesquisa de Manach superam consideravelmente os de outros levantamentos, como o da NewsGuard, empresa americana que avalia a confiabilidade de sites de notícias. Desde 2023, a NewsGuard identificou 3.749 sites do tipo em 16 idiomas. A metodologia de Manach, no entanto, focou em técnicas de investigação digital e fontes abertas, em vez de depender de detectores automáticos de IA, considerados pouco confiáveis.
A equipe de investigação utilizou métodos como a análise do volume e velocidade de publicações atribuídas a um mesmo autor, a verificação da existência real de jornalistas, a identificação dos responsáveis legais pelos sites e o cruzamento de domínios vinculados a um mesmo proprietário. Esses métodos permitiram uma detecção mais precisa e abrangente.
Alcance e percepção pública dos sites falsos
O alcance dessas páginas é impressionante. Dados da empresa francesa Médiamétrie, coletados em dezembro, quando cerca de 250 sites falsos haviam sido identificados, mostraram que essas páginas alcançaram um quarto da população francesa. Três meses depois, esse número saltou para 40% dos habitantes do país, evidenciando a rápida expansão e penetração desse conteúdo.
Para evitar que a lista de sites enganosos fosse explorada por seus criadores, a equipe de investigação optou por não torná-la pública. Em vez de divulgar os domínios, os investigadores desenvolveram uma extensão gratuita para navegadores como Google Chrome, Edge e Firefox, chamada “Alerte sur les sites GenAI” (alerta para sites de IA generativa). Esta ferramenta notifica os usuários sempre que eles acessam uma página identificada na pesquisa.
Regulamentação e o futuro do jornalismo na era da IA
A presidente da Fenaj, Samira Castro, enfatiza a necessidade urgente de regulamentação: “É fundamental que se estabeleçam regras de transparência para as plataformas e os sistemas de IA, incluindo a identificação de conteúdos gerados artificialmente e mecanismos que permitam rastrear sua origem”. Ela também defende a responsabilização econômica das grandes plataformas e empresas de IA, que, segundo ela, “concentram as receitas e utilizam conteúdo jornalístico para treinar seus modelos”.
A proliferação de sites falsos gerados com IA representa um desafio multifacetado. Além da concorrência desleal com o jornalismo profissional, levanta sérias questões sobre a confiabilidade da informação disponível online e a integridade dos mecanismos de recomendação de conteúdo. A investigação francesa serve como um alerta crucial para a necessidade de maior transparência, regulamentação e conscientização sobre o uso da inteligência artificial na produção de notícias.
A importância da verificação e do jornalismo de qualidade
Em um cenário onde a linha entre o real e o artificial se torna cada vez mais tênue, a verificação de fatos e o apoio ao jornalismo profissional e ético tornam-se mais importantes do que nunca. Os leitores devem ser encorajados a buscar fontes confiáveis, a desconfiar de conteúdos excessivamente otimizados para cliques e a utilizar ferramentas que auxiliem na identificação de informações potencialmente falsas.
A pesquisa de Jean-Marc Manach destaca a urgência de se desenvolverem mecanismos mais robustos para combater a desinformação gerada por IA e garantir um ambiente informacional mais seguro e confiável para todos.