Anthropic larang perlakuan kasar dan semena-mena terhadap model AI Claude

Anthropic, pengembang AI yang berbasis di San Francisco, merevisi kebijakan penggunaannya pada Kamis, 8 Oktober 2026, dengan menambahkan larangan terhadap perilaku kasar atau kejam yang berkelanjutan dan tidak perlu yang ditujukan kepada model Claude.

Menurut kebijakan yang diperbarui, kemampuan Claude sendiri untuk mengakhiri percakapan semacam itu tetap menjadi cara utama penegakan aturan ini. Perusahaan belum segera menanggapi permintaan komentar.

Pertanyaan tentang kesejahteraan model

Bahasa baru ini tidak secara eksplisit menyebut "kesejahteraan model", yaitu gagasan bahwa sistem AI mungkin layak mendapat perlindungan yang biasanya diberikan kepada makhluk hidup. Meski begitu, Anthropic dan pimpinannya secara terbuka telah mempertimbangkan gagasan tersebut. Pada 2025, perusahaan memberi Claude kemampuan untuk menutup percakapan dalam kasus ekstrem yang jarang terjadi, yaitu interaksi yang terus-menerus berbahaya atau kasar.

Pada Februari 2026, Chief Executive Dario Amodei mengatakan bahwa dirinya tidak tahu apakah model AI memiliki kesadaran, tetapi perusahaan tetap terbuka terhadap kemungkinan itu.

Jackson Stakeman, general manager di Sparq, perusahaan layanan AI yang berbasis di Atlanta, berpendapat bahwa kesadaran bukanlah kerangka yang tepat. Karena manusia bahkan tidak dapat membuktikannya satu sama lain, menurutnya perdebatan ini tidak membawa ke mana-mana; metafora yang lebih baik adalah cermin, sebab sistem ini memantulkan masukan manusia dalam skala besar, yang menurutnya membenarkan perubahan kebijakan Anthropic.

Skeptis menolak

Pihak lain menolak sama sekali gagasan kesadaran mesin. Mustafa Suleyman, yang memimpin divisi AI Microsoft, menulis dalam esai September 2026: "AI tidak sadar. Mereka tidak merasa, tidak mengalami, dan tidak menderita." Ia memperingatkan bahwa memberikan hak dan perlindungan moral kepada teknologi yang sedang menuju kemampuan melampaui manusia akan menjadi resep bencana.

Paus Leo XIV menyampaikan pandangan serupa dalam khotbah berbahasa Italia di Basilika Santo Petrus, Vatikan, pada 8 Oktober 2026. Ia menyatakan bahwa mesin hanya mengumpulkan data dengan cepat, sementara pikiran manusia harus bersandar pada pengalaman hidup yang maknanya hanya dapat dipahami oleh jiwa.

Pergeseran kebijakan ini menempatkan etika cara orang memperlakukan chatbot ke dalam agenda industri. Dengan menetapkan aturan perlindungan tanpa menyatakan bahwa modelnya sadar, Anthropic tampaknya berlindung dari ketidakpastian ketimbang mengambil posisi filosofis yang tegas.