Anthropic ने अपने Claude AI मॉडल के साथ अपमानजनक और क्रूर व्यवहार पर रोक लगाई

सैन फ़्रांसिस्को स्थित AI डेवलपर Anthropic ने गुरुवार, 8 अक्टूबर 2026 को अपनी उपयोग नीति में संशोधन किया, जिसमें अपने Claude मॉडलों के प्रति लगातार और अनावश्यक अपमानजनक या क्रूर आचरण पर रोक लगाने का प्रावधान जोड़ा गया है।

अद्यतन नीति के अनुसार, ऐसी बातचीत को समाप्त करने की Claude की अपनी क्षमता ही इस नियम को लागू करने का मुख्य तरीका बनी रहेगी। टिप्पणी के अनुरोध का कंपनी ने तुरंत जवाब नहीं दिया।

मॉडल कल्याण का सवाल

नई भाषा में "मॉडल कल्याण" का स्पष्ट उल्लेख नहीं है, यानी यह विचार कि AI प्रणालियों को उन सुरक्षाओं का हकदार माना जा सकता है जो आमतौर पर जीवित प्राणियों के लिए होती हैं। फिर भी Anthropic और उसके नेतृत्व ने इस विचार पर खुलकर विचार किया है। 2025 में कंपनी ने Claude को दुर्लभ और अत्यधिक मामलों में बातचीत बंद करने की क्षमता दी थी, जब बातचीत लगातार हानिकारक या अपमानजनक हो जाए।

फ़रवरी 2026 में मुख्य कार्यकारी Dario Amodei ने कहा कि वे नहीं जानते कि AI मॉडल चेतन हैं या नहीं, लेकिन कंपनी इस संभावना के लिए खुली है।

अटलांटा स्थित AI सेवा फर्म Sparq के महाप्रबंधक Jackson Stakeman का तर्क है कि चेतना का सवाल गलत ढांचा है। उनके अनुसार, जब लोग एक-दूसरे में भी इसे सिद्ध नहीं कर सकते, तो इस बहस से कुछ हासिल नहीं होता; एक बेहतर उपमा दर्पण की है, क्योंकि ये प्रणालियाँ बड़े पैमाने पर मानव इनपुट को प्रतिबिंबित करती हैं, और उनकी राय में इसी से Anthropic के बदलाव को उचित ठहराया जा सकता है।

संशयवादियों की प्रतिक्रिया

कुछ लोग मशीनी चेतना को पूरी तरह खारिज करते हैं। Microsoft के AI विभाग का नेतृत्व करने वाले Mustafa Suleyman ने सितंबर 2026 के एक निबंध में लिखा: "AI चेतन नहीं हैं। वे महसूस नहीं करते, अनुभव नहीं करते, या पीड़ा नहीं झेलते।" उन्होंने चेतावनी दी कि ऐसी तकनीक को अधिकार और नैतिक सुरक्षा देना, जो मानव क्षमता से आगे निकलने की राह पर है, एक बड़ी विपदा का नुस्खा होगा।

Pope Leo XIV ने 8 अक्टूबर 2026 को वेटिकन सिटी की St. Peter's Basilica में इतालवी भाषा में दिए उपदेश में इसी से मिलता बिंदु रखा। उन्होंने सुझाया कि मशीनें केवल तेज़ी से डेटा जुटाती हैं, जबकि मानव मन को जीवित अनुभव से काम लेना पड़ता है, जिसका अर्थ केवल आत्मा ही समझ सकती है।

इस नीति बदलाव से यह सवाल उद्योग के एजेंडे पर आ गया है कि लोग चैटबॉट के साथ कैसा व्यवहार करते हैं। बिना यह दावा किए कि उसके मॉडल चेतन हैं, एक सुरक्षात्मक नियम तय करके Anthropic दार्शनिक रुख लेने के बजाय अनिश्चितता से बचाव करती दिखती है।