Anthropic proíbe comportamento abusivo e cruel contra seus modelos de IA Claude

A Anthropic, desenvolvedora de IA com sede em San Francisco, revisou sua política de uso na quinta-feira, 8 de outubro de 2026, incluindo a proibição de condutas abusivas ou cruéis contínuas e desnecessárias direcionadas a seus modelos Claude.

De acordo com a política atualizada, a capacidade do próprio Claude de encerrar essas conversas continuará sendo o principal meio de aplicação da regra. A empresa não respondeu de imediato a um pedido de comentário.

A questão do bem-estar dos modelos

A nova redação não menciona explicitamente o "bem-estar do modelo", a ideia de que sistemas de IA poderiam merecer proteções normalmente reservadas aos seres vivos. Ainda assim, a Anthropic e sua liderança têm considerado abertamente a ideia. Em 2025, a empresa deu ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentemente nocivas ou abusivas.

Em fevereiro de 2026, o diretor-executivo Dario Amodei afirmou não saber se os modelos de IA são conscientes, mas que a empresa permanece aberta a essa possibilidade.

Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA com sede em Atlanta, argumentou que a consciência é o enquadramento errado. Como nem as pessoas conseguem provar isso umas às outras, disse ele, o debate não leva a lugar algum; uma metáfora melhor é a de espelho, pois esses sistemas refletem em grande escala a entrada humana, o que, em sua visão, justifica a mudança da Anthropic.

Céticos reagem

Outros rejeitam por completo a consciência das máquinas. Mustafa Suleyman, que lidera a divisão de IA da Microsoft, escreveu em um ensaio de setembro de 2026: "As IAs não são conscientes. Elas não sentem, não experimentam e não sofrem." Ele alertou que conceder direitos e proteções morais a uma tecnologia que caminha para superar a capacidade humana seria receita para o desastre.

O papa Leão XIV fez um argumento semelhante em uma homilia em italiano na Basílica de São Pedro, na Cidade do Vaticano, em 8 de outubro de 2026. Ele sugeriu que as máquinas apenas reúnem dados com rapidez, enquanto a mente humana precisa recorrer à experiência vivida, cujo sentido só a alma pode compreender.

A mudança de política coloca a ética de como as pessoas tratam chatbots na agenda do setor. Ao estabelecer uma regra protetiva sem afirmar que seus modelos são conscientes, a Anthropic parece se resguardar diante da incerteza, em vez de assumir uma posição filosófica firme.