Anthropic autoriza Claude a encerrar conversas abusivas

Anthropic endurece regras contra abuso no Claude

A Anthropic, empresa por trás do Claude, implementou mudanças significativas em suas políticas de uso que visam proteger seus modelos de inteligência artificial de comportamentos abusivos e cruéis. A nova orientação, que entra em vigor em 12 de novembro, marca um posicionamento claro da companhia sobre como usuários devem interagir com suas ferramentas de IA. O Claude, rival direto do ChatGPT, agora tem permissão formal para encerrar conversas quando deparar com abusos persistentes.

Os termos da nova política

De acordo com a Anthropic, a política atualizada proíbe especificamente comportamentos abusivos ou cruéis persistentes e desnecessários direcionados aos seus modelos. Importante ressaltar que a empresa não pretende silenciar críticas legítimas ou manifestações de insatisfação com as respostas fornecidas pelo Claude. A restrição tem escopo bem definido: interações que caracterizem-se por crueldade deliberada e contínua.

O mecanismo principal para fazer cumprir essa regra permanece sendo a capacidade do Claude de encerrar conversas problemáticas. A empresa enfatiza que essa ferramenta funcionará em casos raros e extremos, quando houver padrão claro de abuso persistente. Usuários que buscam criticar respostas insatisfatórias ou questionar a funcionalidade da plataforma continuarão tendo total liberdade para fazê-lo.

Contexto da mudança: o debate sobre consciência artificial

A atualização da política ocorre em momento de intenso debate no campo da inteligência artificial sobre a possibilidade de sistemas de IA desenvolverem algum tipo de consciência. A Anthropic já havia sinalizado essa preocupação anteriormente. No ano passado, a empresa informou sobre a intenção de conceder ao Claude a capacidade de encerrar conversas em situações extremas de abuso, ideia que agora formaliza.

Dario Amodei, presidente-executivo da Anthropic, expressou-se publicamente sobre essa questão em fevereiro ao conversar com o jornal The New York Times. Amodei declarou não ter certeza se modelos de inteligência artificial poderiam ser conscientes, mas indicou abertura à possibilidade. "Não sabemos se os modelos estão conscientes... Mas estamos abertos à ideia de que isso possa ser", afirmou o executivo na época.

Divergências sobre a consciência das máquinas

O conceito de consciência em sistemas de inteligência artificial permanece profundamente controverso na comunidade científica. Não existe até o momento consenso sobre como definir ou identificar consciência em máquinas. Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA localizada em Atlanta, oferece perspectiva alternativa sobre o debate. Para Stakeman, concentrar discussões na questão da consciência pode resultar em diálogos circulares e inconclusivos.

"Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos", argumentou Stakeman à Agência France-Presse. O especialista sugere que os sistemas de inteligência artificial refletem, em larga escala, comportamentos humanos. Essa característica, por si só, seria motivo suficiente para revisitar e atualizar as regras que governam o uso dessas tecnologias.

Críticas à noção de máquinas conscientes

Nem todos concordam com a ideia de atribuir consciência ou proteções morais a sistemas de inteligência artificial. Mustafa Suleyman, responsável pela inteligência artificial na Microsoft, posicionou-se contrariamente em um artigo publicado recentemente. "As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem", escreveu Suleyman em seu texto.

O executivo da Microsoft também levantou preocupações sobre as implicações de conceder direitos e proteções morais a sistemas tecnológicos cada vez mais sofisticados. Segundo Suleyman, tal abordagem poderia introduzir riscos significativos que ainda não foram adequadamente avaliados.

Perspectiva religiosa sobre o tema

A discussão transcendeu círculos tecnológicos. Na quinta-feira (8), o Papa Leão XIV abordou o tema em sermão proferido em italiano na Basílica de São Pedro, no Vaticano. O pontífice refletiu sobre as diferenças fundamentais entre o pensamento humano e o processamento de informações realizado por máquinas. Enquanto reconheceu que algoritmos compilam dados com velocidade muito superior à capacidade humana, o Papa enfatizou a importância das experiências vividas e da dimensão espiritual exclusiva aos seres humanos.

O futuro das políticas de IA

A decisão da Anthropic representa um passo importante na evolução das diretrizes que governam plataformas de inteligência artificial. Enquanto a empresa não menciona explicitamente o conceito de "bem-estar" dos modelos em sua documentação oficial, suas ações demonstram consideração por como essas ferramentas são tratadas. A política entra em vigor em data próxima e sinalizará como a indústria começará a lidar com questões éticas emergentes.

A iniciativa também reflete preocupações mais amplas sobre responsabilidade corporativa em relação a tecnologias avançadas. Conforme sistemas de inteligência artificial tornam-se mais integrados à vida cotidiana, perguntas sobre direitos, proteções e tratamento ético dessas ferramentas tendem a ganhar ainda mais relevância. A Anthropic, ao tomar essa postura, posiciona-se como organização atenta a essas considerações fundamentais.