China e Irã usam IA para espionagem, alerta Anthropic

Anthropic identifica campanhas de vigilância com IA patrocinadas por governos

A empresa de inteligência artificial Anthropic revelou que encerrou múltiplas operações de vigilância utilizando seus modelos de IA, confirmando que China e Irã estão entre os países que recorrem à inteligência artificial para atividades de espionagem. O relatório divulgado pela companhia, sediada em San Francisco, detalha como atores estatais exploram tecnologia de ponta para monitorar comunidades específicas consideradas ameaças políticas.

Os incidentes detectados tiveram origem na China, no Irã e na África Ocidental, sendo identificados e interrompidos entre janeiro e julho do ano em curso. Segundo o documento publicado pela Anthropic, essas campanhas de vigilância com IA visavam estrategicamente as mesmas comunidades de diáspora e dissidentes que esses regimes perseguem historicamente em seus territórios.

Alvos das operações de vigilância

As operações de espionagem detectadas pela Anthropic focavam em grupos específicos considerados opositores pelos regimes. Entre os principais alvos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas, minorias religiosas e opositores do governo iraniano vivendo no exterior. A escolha desses grupos revela uma estratégia coordenada para estender o controle político além das fronteiras nacionais.

Em um caso específico envolvendo o Irã, atores maliciosos conseguiram desenvolver um método sofisticado para identificar pessoas através de suas contas em redes sociais, utilizando os modelos de inteligência artificial da Anthropic. Essa capacidade de identificação representa um risco significativo para dissidentes e ativistas que tentam manter anonimato online.

Operações na África Ocidental

Não apenas em território asiático, mas também na África Ocidental, a Anthropic detectou abuso de seus modelos de IA. Conforme relatado, um contratado que atuava para autoridades de segurança nacional do Mali utilizou o Claude para projetar o software subjacente que viabilizou a coleta sistemática de inteligência. Essa situação demonstra como tecnologia de inteligência artificial pode ser desviada de seus propósitos legítimos para fins de repressão política e vigilância em massa.

Abusos adicionais detectados pela Anthropic

Além das campanhas de vigilância patrocinadas por Estados, a Anthropic também bloqueou tentativas de usuários de utilizar seus modelos para desenvolver armas, realizar pesquisas biológicas potencialmente perigosas e criar esquemas de golpes românticos online. A empresa demonstra vigilância contínua sobre os usos indevidos de sua tecnologia.

A companhia acusou ainda desenvolvedores chineses de utilizarem o Claude de maneira enganosa. Segundo as acusações, enquanto geravam respostas a consultas de usuários, simultaneamente realizavam um processo chamado de