Anthropic запретила жестокое и оскорбительное обращение со своими ИИ-моделями Claude

Компания Anthropic, базирующаяся в Сан-Франциско, в четверг, 8 октября 2026 года, пересмотрела политику использования, добавив запрет на длительное и беспричинное оскорбительное или жестокое поведение по отношению к своим моделям Claude.

Согласно обновленной политике, главным способом соблюдения этого правила по-прежнему останется собственная возможность Claude завершать такие диалоги. В компании не сразу ответили на запрос о комментарии.

Вопрос о благополучии модели

Новая формулировка прямо не упоминает «благополучие модели», то есть идею о том, что ИИ-системы могут заслуживать защиты, обычно предоставляемой живым существам. Тем не менее Anthropic и ее руководство открыто рассматривали эту идею. В 2025 году компания дала Claude возможность прекращать диалоги в редких крайних случаях постоянно вредоносного или оскорбительного взаимодействия.

В феврале 2026 года генеральный директор Дарио Амодеи заявил, что не знает, обладают ли ИИ-модели сознанием, но что компания открыта к такой возможности.

Джексон Стейкман, генеральный менеджер атлантской компании Sparq, занимающейся ИИ-услугами, считает, что вопрос о сознании поставлен неверно. Поскольку люди даже друг у друга не могут его доказать, по его словам, дискуссия ни к чему не приводит; более удачна метафора зеркала, ведь эти системы в масштабе отражают человеческий ввод, что, по его мнению, оправдывает изменение политики Anthropic.

Скептики возражают

Другие полностью отвергают сознание у машин. Мустафа Сулейман, руководящий ИИ-подразделением Microsoft, написал в эссе за сентябрь 2026 года: «ИИ не обладают сознанием. Они не чувствуют, не переживают и не страдают». Он предупредил, что предоставление технологии, которая вот-вот превзойдет человеческие возможности, прав и моральной защиты станет рецептом катастрофы.

Папа Лев XIV высказал схожую мысль в проповеди на итальянском языке в соборе Святого Петра в Ватикане 8 октября 2026 года. Он предположил, что машины лишь быстро собирают данные, тогда как человеческий разум опирается на пережитый опыт, смысл которого может постичь только душа.

Этот поворот в политике ставит вопрос об этике обращения людей с чат-ботами на повестку индустрии. Устанавливая защитное правило, не утверждая при этом, что его модели обладают сознанием, Anthropic, похоже, страхуется от неопределенности, а не занимает твердую философскую позицию.