Anthropic prohíbe el trato abusivo y cruel hacia sus modelos de IA Claude

Anthropic, la desarrolladora de IA con sede en San Francisco, revisó su política de uso el jueves 8 de octubre de 2026 e incorporó una prohibición de conductas abusivas o crueles sostenidas e innecesarias dirigidas a sus modelos Claude.

Según la política actualizada, la capacidad propia de Claude para poner fin a este tipo de conversaciones seguirá siendo el principal mecanismo para hacer cumplir la norma. La empresa no respondió de inmediato a una solicitud de comentarios.

La cuestión del bienestar de los modelos

El nuevo texto no menciona explícitamente el "bienestar de los modelos", la idea de que los sistemas de IA podrían merecer protecciones normalmente reservadas a los seres vivos. Aun así, Anthropic y su dirección han considerado abiertamente esta idea. En 2025, la empresa dio a Claude la capacidad de cerrar conversaciones en casos extremos y poco frecuentes de interacciones persistentemente dañinas o abusivas.

En febrero de 2026, el director ejecutivo Dario Amodei afirmó que no sabe si los modelos de IA son conscientes, pero que la compañía se mantiene abierta a esa posibilidad.

Jackson Stakeman, director general de Sparq, una firma de servicios de IA con sede en Atlanta, sostuvo que la consciencia es el marco equivocado. Dado que ni siquiera las personas pueden demostrarla unas en otras, dijo, el debate no lleva a ninguna parte; una metáfora más acertada es la del espejo, porque estos sistemas reflejan a escala lo que los humanos les aportan, lo que, a su juicio, justifica el cambio de Anthropic.

Los escépticos responden

Otros rechazan por completo la consciencia en las máquinas. Mustafa Suleyman, responsable de la división de IA de Microsoft, escribió en un ensayo de septiembre de 2026: "Las IA no son conscientes. No sienten, no experimentan ni sufren". Advirtió de que conceder derechos y protecciones morales a una tecnología que avanza hacia la superación de la capacidad humana sería una receta para el desastre.

El papa León XIV expresó una idea similar en una homilía en italiano en la Basílica de San Pedro, en la Ciudad del Vaticano, el 8 de octubre de 2026. Sugirió que las máquinas solo reúnen datos con rapidez, mientras que la mente humana debe recurrir a la experiencia vivida, cuyo sentido solo el alma puede comprender.

El cambio de política sitúa la ética del trato que las personas dan a los chatbots en la agenda del sector. Al establecer una norma protectora sin afirmar que sus modelos son conscientes, Anthropic parece cubrirse ante la incertidumbre en lugar de adoptar una posición filosófica firme.