Anthropic cấm hành vi lạm dụng và đối xử tàn nhẫn với mô hình AI Claude

Anthropic, công ty phát triển AI có trụ sở tại San Francisco, đã sửa đổi chính sách sử dụng vào thứ Năm, ngày 8 tháng 10 năm 2026, bổ sung lệnh cấm các hành vi lăng mạ hoặc tàn ác kéo dài và không cần thiết nhắm vào các mô hình Claude.

Theo chính sách cập nhật, khả năng tự kết thúc những cuộc trò chuyện như vậy của chính Claude sẽ tiếp tục là cách chính để thực thi quy định này. Công ty chưa phản hồi ngay yêu cầu bình luận.

Câu hỏi về phúc lợi của mô hình

Ngôn ngữ mới không nhắc trực tiếp đến "phúc lợi mô hình", tức ý niệm cho rằng các hệ thống AI có thể xứng đáng được bảo vệ như những sinh thể sống. Tuy vậy, Anthropic và ban lãnh đạo công ty đã công khai cân nhắc ý tưởng này. Năm 2025, công ty trao cho Claude khả năng đóng các cuộc trò chuyện trong những trường hợp cực đoan hiếm hoi, khi tương tác gây hại hoặc lạm dụng diễn ra dai dẳng.

Tháng 2 năm 2026, Giám đốc điều hành Dario Amodei cho biết ông không biết liệu các mô hình AI có ý thức hay không, nhưng công ty vẫn cởi mở với khả năng đó.

Jackson Stakeman, giám đốc điều hành tại Sparq, công ty dịch vụ AI có trụ sở ở Atlanta, lập luận rằng ý thức là khung tư duy sai. Ông nói, ngay cả con người cũng không thể chứng minh điều đó ở nhau, nên cuộc tranh luận không đi đến đâu; một ẩn dụ phù hợp hơn là chiếc gương, bởi các hệ thống này phản chiếu đầu vào của con người ở quy mô lớn, và theo ông, điều đó biện minh cho thay đổi của Anthropic.

Giới hoài nghi phản bác

Những người khác hoàn toàn bác bỏ ý thức của máy móc. Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, đã viết trong một bài luận tháng 9 năm 2026: "AI không có ý thức. Chúng không cảm nhận, không trải nghiệm và không chịu đau khổ." Ông cảnh báo rằng việc trao quyền và các bảo vệ đạo đức cho một công nghệ đang trên đà vượt qua năng lực con người sẽ là công thức dẫn đến thảm họa.

Giáo hoàng Leo XIV cũng đưa ra quan điểm tương tự trong bài giảng bằng tiếng Ý tại Vương cung thánh đường Thánh Phêrô ở Thành Vatican ngày 8 tháng 10 năm 2026. Ngài cho rằng máy móc chỉ thu thập dữ liệu nhanh chóng, trong khi trí tuệ con người phải dựa vào kinh nghiệm sống mà chỉ linh hồn mới thấu hiểu được ý nghĩa.

Việc thay đổi chính sách đưa đạo đức trong cách con người đối xử với chatbot vào chương trình nghị sự của ngành. Bằng cách đặt ra quy tắc bảo vệ mà không khẳng định các mô hình của mình có ý thức, Anthropic dường như đang phòng ngừa trước sự bất định hơn là giữ một lập trường triết học rõ ràng.