EUA e China propõem protocolo de segurança para IA

Parceria inédita entre superpotências tecnológicas

Um diálogo estratégico envolvendo pesquisadores dos Estados Unidos e China resultou em propostas revolucionárias sobre segurança IA e seu papel nos sistemas nucleares mundiais. Os especialistas argumentam que os dois países devem estabelecer protocolos rigorosos para evitar mal-entendidos catastróficos quando sistemas de inteligência artificial autônomos interferem em operações militares.

As recomendações foram divulgadas por pesquisadores que participam do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, coordenam esses esforços.

O dilema do tempo e da autonomia

Um cenário hipotético clarifica o urgência do debate sobre segurança IA: se um sistema de inteligência artificial interfira na rede de comando nuclear ou execute uma operação militar digital, Washington ou Pequim poderia ter apenas minutos para identificar se o ataque foi acidental ou deliberado. Essa compressão temporal representa um risco inédito na história das relações militares internacionais.

A velocidade das máquinas supera largamente a capacidade humana de reação. Sistemas defensivos de IA podem responder automaticamente a atividades suspeitas, levando o adversário a interpretar essa resposta como um ataque direto. Antes que diplomatas compreendam o que realmente aconteceu, ações retaliatorias podem já estar em curso.

Três eixos principais das propostas

As recomendações dos especialistas em segurança IA estruturam-se em três pilares fundamentais. O primeiro envolve limites rígidos explícitos para impedir que máquinas decidam independentemente sobre o uso de armas nucleares. O segundo exige controle humano obrigatório em operações digitais de grande impacto. O terceiro propõe mecanismos de comunicação entre os dois governos especificamente para incidentes envolvendo IA autônoma.

Tianjiao Jiang defendeu a criação de uma definição comum de "controle humano significativo", evitando que ambos os países usem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas. Essa padronização seria essencial para estabelecer confiança mútua e reduzir margens para interpretações divergentes.

Linha direta para crise e IA

Uma proposta central envolve criar uma linha direta militar exclusiva entre Estados Unidos e China destinada especificamente a incidentes com segurança IA. Esse canal permitiria que um governo informasse ao outro que uma operação incomum foi acidental, não autorizada ou ainda estava sob investigação.

Jiang argumenta que trocas digitais automatizadas podem se intensificar em velocidade exponencial, reduzindo drasticamente o tempo disponível para intervenção humana. Um governo poderia informar que um comportamento inesperado de suas máquinas não representa um ataque coordenado, mas sim uma falha de sistema ou uma interpretação errônea de dados.

Porém, especialistas levantam questões sobre a efetividade dessa abordagem. Carla Freeman, da Johns Hopkins, citou a recusa de autoridades chinesas em atender ligações durante o "incidente do balão espião" em fevereiro de 2023. A hierarquia rígida da burocracia chinesa frequentemente impede que oficiais de baixo escalão tomem iniciativas em contato com homólogos norte-americanos.

Contexto geopolítico e militar

A dimensão estratégica dessa discussão sobre segurança IA vai muito além de questões técnicas. O ministro da Segurança do Estado da China, Chen Yixin, escreveu recentemente que a IA "transforma fundamentalmente a forma da luta militar". A tecnologia deixou de desempenhar papel secundário nos campos de batalha, ocupando posição central nas operações militares modernas.

Ele citou exemplos concretos: ataques dirigidos por sistemas de inteligência artificial na guerra dos Estados Unidos e de Israel contra o Irã demonstram essa nova realidade. Os conflitos contemporâneos dependem crescentemente de máquinas capazes de tomar decisões em tempo real, sem necessidade de supervisão constante.

Consonância com princípios estabelecidos

As propostas baseiam-se em um princípio endossado pelo então presidente americano Joe Biden e pelo líder chinês Xi Jinping em novembro de 2024: o de que seres humanos devem manter controle sobre decisões de uso de armas nucleares. Esse consenso fornece fundação para construir protocolos mais específicos.

Contudo, pesquisadores alertam para uma contradição prática. A pesquisadora Lora Saalman, do Instituto Internacional de Pesquisa para a Paz de Estocolmo, observou em fevereiro que ambos os países vêm integrando a IA de forma cada vez mais profunda a sistemas nucleares e ligados à energia nuclear, mesmo enquanto afirmam publicamente sua adesão ao princípio do controle humano.

Posicionamento oficial dos governos

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua até o momento. Contudo, a China vem incorporando progressivamente a IA à sua estrutura institucional. O Departamento de Controle de Armas do Ministério das Relações Exteriores chinês já identifica IA como área formal de atuação, tratando-a no mesmo nível de questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em reunião da ONU em Genebra em junho que IA militar pode afetar estabilidade estratégica e aumentar riscos de erros de cálculo. Ele reiterou que armas devem permanecer sob controle humano, enquanto alertou que segurança de IA não deve servir de pretexto para barreiras tecnológicas.

Fragmentação institucional nos EUA

Washington não possui órgão único equivalente para tratar controle de armas relacionado à IA. A política de segurança nacional encontra-se dividida entre Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e múltiplas agências. Essa fragmentação dificulta construir respostas coerentes e coordenadas.

Cautela diante da inovação

Ambos os governos permanecem cautelosos em relação a medidas que possam desacelerar seu desenvolvimento tecnológico. O presidente Donald Trump alertou que restrições amplas poderiam favorecer a China. Pequim, por sua vez, considera muitos dos controles tecnológicos americanos como tentativa de preservar liderança norte-americana.

Essa tensão entre segurança e competição permanece como obstáculo central para implementação efetiva de protocolos sobre segurança IA. Os próximos meses, com negociações previstas em nível governamental e reunião agendada para 24 de setembro em Washington entre Trump e Xi Jinping, determinarão se as propostas dos especialistas ganham tração política e institucional.