Por Andrew Deck

Em 1º de janeiro de 2024, um terremoto de magnitude 7,5 atingiu a península de Noto, no Japão, matando mais de 700 pessoas. Nos dias seguintes, imagens dos destroços feitas com inteligência artificial circularam amplamente e sites filantrópicos falsos aplicaram golpes para obter doações. Alegações falsas de que pessoas estavam presas sob os escombros desviaram os esforços de resgate dos locais que mais precisavam deles. Uma teoria da conspiração não comprovada de que o terremoto foi artificial –incluindo publicações afirmando que se tratava de um ataque provocado pela Coreia do Norte– começou a ganhar força nas redes sociais.

Desastres naturais têm sido focos de desinformação no Japão. Informações falsas semelhantes surgiram on-line após um grande terremoto atingir a província de Kumamoto. Mas o terremoto de Noto serviu de alerta para uma coalizão de veículos de notícias, anunciantes e empresas de tecnologia japonesas que já vinham pressionando por melhores ferramentas para combater a desinformação.

A solução encontrada foi um novo padrão da web chamado Perfil do Autor (OP, na sigla em inglês), que ajuda os usuários comuns a verificar quem publicou ou criou um site.

O OP utiliza tecnologia de assinatura digital criptográfica para criar credenciais invioláveis ​​para sites. Cada cartão de identificação confirma quem publicou o conteúdo, se organizações profissionais atestam a idoneidade do editor e informações sobre seus padrões editoriais e éticos. A interface exata do usuário ainda não foi finalizada, mas uma nova extensão para navegadores, lançada recentemente, exibe as informações em uma barra lateral pop-up.

O objetivo do OP não é julgar se todo o conteúdo de um site é verdadeiro. Ele não autentica fotos ou vídeos específicos. Em vez de avaliar a exatidão, a tecnologia autentica o próprio site –por exemplo, confirmando se uma notícia realmente vem da organização jornalística que alega ser.

Makoto Yoshiike, secretário-geral adjunto da Parceria Colaborativa para Inovação do Perfil do Originador (OP-CIP), grupo que defende a adoção do padrão, disse que a iniciativa não tenta ditar se a informação é precisa ou não. Para ele, tudo se resume à proveniência, ou seja, de onde a informação se originou.

O OP está longe de ser a 1ª tentativa de construir novas ferramentas de rastreabilidade em um ecossistema de informações inundado por conteúdo gerado por IA de baixa qualidade, golpistas de deepfake e campanhas de “envenenamento de LLM”. Ferramentas de marca d’água como o SynthID do Google e metadados assinados criptograficamente, como o padrão C2PA, visam solucionar problemas semelhantes, mas até agora têm se concentrado principalmente em lidar com o aumento de imagens e áudio feitos por IA.

Yoshiike explicou que o OP funciona dentro do HTML, concentrando-se na própria página da web. O executivo destacou que não há o desejo de criar uma lista branca para separar as mídias boas das ruins, mas apenas afirmar que a informação realmente veio do remetente autenticado.

A ideia do OP remonta a 2021, quando surgiu de um projeto da Dentsu, a maior empresa de publicidade e relações públicas do Japão. Mesmo antes do lançamento de geradores de imagens comerciais com IA, a gigante da publicidade enfrentava dificuldades com anúncios digitais maliciosos e golpistas que lucravam com eles. A empresa decidiu encontrar uma maneira de autenticar as informações de um anunciante à medida que um anúncio transita pelo ecossistema programático.

Para desenvolver as especificações técnicas do OP, a Dentsu fez uma parceria com Jun Murai, professor da Universidade Keio, frequentemente considerado um dos pais fundadores da internet japonesa. Ele desenvolveu os padrões da web que permitem que caracteres da língua japonesa sejam transmitidos por e-mail e mensagens de internet, entre outras inovações.

Em seguida, a Dentsu conseguiu o apoio de editoras de notícias. O maior jornal diário do Japão, o Yomiuri Shimbun, foi um dos integrantes fundadores do OP-CIP. Do ponto de vista da indústria jornalística, havia uma clara necessidade de autenticar páginas da web que pudessem ser usadas como fontes, mas também de proteger suas marcas, em um momento em que as ferramentas de IA generativa tornaram mais fácil do que nunca falsificar publicações de notícias legítimas.

O próprio Yomiuri já enfrentou esse desafio. Yoshiike relatou que já pegou um caso em flagrante no Facebook, observando versões falsas do jornal em seu feed. Ele afirmou que pessoas continuam imitando páginas de artigos e atraindo usuários para sites fraudulentos diariamente.

Em dezembro de 2022, o OP-CIP foi oficialmente estabelecido com quase 12 veículos de notícias participantes. O terremoto de Noto em 2024, no entanto, expandiu o escopo do projeto. O governo nacional japonês, percebendo o valor da ferramenta de autenticação para sites governamentais que transmitem mensagens em situações de crise, começou a financiar o OP-CIP, e a organização passou a aceitar governos locais em seus quadros.

Tatsuya Kurosaka, professor associado do projeto na Universidade Keio e secretário-geral da OP-CIP, afirmou que a disseminação de informações fraudulentas é constante durante desastres, com indivíduos se passando por governos locais ou empresas de serviços públicos. Segundo o professor, esse é o motivo pelo qual o grupo pensa no assunto de forma ampla para o público geral, não apenas no contexto midiático.

Hoje, a OP-CIP construiu uma ampla coalizão de apoiadores. Entre eles, estão dezenas de integrantes da Associação Japonesa de Editores e Publicadores de Jornais (Nihon Shinbun Kyokai). Grandes redes de televisão, incluindo a NHK, emissora pública nacional, também aderiram. Entre os apoiadores do setor de tecnologia estão a LINE-Yahoo (LY), que opera o agregador de notícias mais popular do Japão e o aplicativo de mensagens LINE, usado por mais de 80% da população do país.

Embora esses grupos tenham declarado apoio ao OP, até o momento apenas alguns integraram totalmente a tecnologia em suas operações. O Yomiuri Shimbun e o Asahi Shimbun, os 2 maiores jornais do Japão em circulação, integraram o OP em seus sistemas de gerenciamento de conteúdo, de acordo com Yoshiike, que também trabalha no Yomiuri Shimbun como vice-diretor sênior do gabinete do presidente. A província de Tottori, no oeste do Japão, também implementou o OP em seus sites governamentais. A Dentsu está atualmente implementando a tecnologia em suas campanhas publicitárias, na esperança de que ela possa ajudar a combater o recente aumento acentuado de fraudes publicitárias e golpes com anúncios de inteligência artificial em todo o país.

Yoshiike afirma que, até o início de 2027, a OP-CIP planeja ter 50 grandes organizações operando com o padrão OP implementado.

Em última análise, porém, o grupo vê o Japão como seu campo de testes. Nos próximos anos, eles esperam exportar a tecnologia e torná-la um padrão internacional da web, com a participação de editoras de notícias internacionais e empresas de tecnologia globais. O Consórcio World Wide Web (W3C), responsável por padrões globais da internet como HTML e CSS, já criou seu próprio grupo de trabalho OP para explorar essa possibilidade.

Segundo Yoshiike, o grupo está acelerando ao máximo a implementação na sociedade japonesa para mostrar à comunidade W3C como o mecanismo funciona.

A OP-CIP lançou sua primeira ferramenta pública para recuperar e visualizar os perfis assinados criptograficamente em sites. A extensão para navegador, chamada OP Inspector, está disponível para Chrome e Firefox. Quando um usuário acessa um artigo do Yomiuri Shimbun, por exemplo, a extensão ativa uma barra lateral pop-up que exibe um selo confirmando que o Yomiuri Shimbun é a organização responsável pela página e inclui links para a política de padrões editoriais e as políticas de privacidade da publicação.

Atualmente, a extensão destina-se apenas a desenvolvedores que trabalham com o padrão OP, embora haja planos para aprimorá-la e lançar uma extensão para usuários gerais da internet futuramente. O OP-CIP espera poder eliminar completamente a necessidade de extensões e aplicativos. Uma ideia atual, caso o padrão seja adotado pelo W3C, é a exibição de um ícone na barra de URL do navegador, permitindo que os usuários cliquem nele e acessem o OP sem precisar baixar nenhuma extensão.

Kurosaka mencionou que sua mãe tem 88 anos e que está projetando uma tecnologia OP simples o suficiente para que até mesmo ela consiga usá-la. Ele enfatizou que nenhuma habilidade específica é necessária.

O projeto enfrenta obstáculos claros à medida que avança para as próximas etapas de desenvolvimento. Um deles será a adoção pelas plataformas de mídia social, que são importantes vetores de desinformação na internet. Atualmente, o OP não pode aparecer em publicações individuais em mídias sociais, como links de artigos compartilhados no Facebook. Ele só fica acessível quando um usuário navega até a página do artigo, o que limita seu impacto na desinformação disseminada pelas mídias sociais.

Para Yoshiike, essa é uma grande questão em aberto. Ele afirmou que a tecnologia ainda não acompanhou os padrões atuais das mídias sociais, pois o OP funciona dentro do HTML, não sendo usado no próprio aplicativo.

Para que o potencial do OP seja plenamente realizado, será necessário conquistar o apoio de gigantes da tecnologia como Google e Apple, que exercem enorme influência dentro do W3C. À medida que a busca se torna cada vez mais uma fonte direta de notícias para os usuários, por meio de produtos como Visão Geral com IA e Modo IA, a participação dessas empresas torna-se ainda mais essencial.

O vice-diretor acrescentou que a última barreira que os separa dos usuários são as grandes empresas de tecnologia, e reconheceu que não será uma tarefa fácil.

Texto traduzido por Rúbia Bragança. Leia o original em inglês.

O Poder360 tem uma parceria com duas divisões da Fundação Nieman, de Harvard: o Nieman Journalism Lab e o Nieman Reports. O acordo consiste em traduzir para português os textos do Nieman Journalism Lab e do Nieman Reports e publicar esse material no Poder360. Para ter acesso a todas as traduções já publicadas, clique aqui.