Anthropic का Claude गलत सुराग Philadelphia पुलिस की वेबसाइट पर भेज बैठा

Anthropic के एक AI मॉडल ने Philadelphia की उस वेबसाइट पर एक गलत सुराग भेज दिया, जो अनसुलझी हत्याओं के मामलों के लिए बनी है। कंपनी और स्थानीय अधिकारियों ने यह जानकारी दी। Anthropic के अनुसार यह घटना 18 जुलाई को हुई, जब Claude Haiku 4.5 यादृच्छिक रूप से चुने गए वेबपेजों पर नमूना कार्य तैयार कर उन्हें चला रहा था।

मॉडल ने PhillyUnsolvedMurders.com पर एक फॉर्म भर दिया, जिसमें संकेत दिया गया कि उसके पास वहाँ सूचीबद्ध किसी एक हत्या की जानकारी हो सकती है। Philadelphia पुलिस ने कहा कि Anthropic के संपर्क करने तक उसे इस सबमिशन की कोई जानकारी नहीं थी। इसके बाद अधिकारियों ने साइट के सुराग रिकॉर्ड में यह प्रविष्टि खोजी और पुष्टि की कि इसे स्पैम चिह्नित किया गया था और यह कभी जांचकर्ताओं तक नहीं पहुँची।

विभाग ने तकनीक उद्योग से कदम उठाने की अपील की। Philadelphia पुलिस विभाग ने कहा, "तकनीकी कंपनियों को यह सुनिश्चित करने के लिए हर आवश्यक कदम उठाने चाहिए कि उनकी प्रणालियाँ कानून प्रवर्तन एजेंसियों को गलत जानकारी न भेजें।" विभाग ने यह भी जोड़ा कि ऐसे मामलों में असली पीड़ित और शोक संतप्त परिवार होते हैं।

Anthropic जिसे निरंतरता कहता है, उसका एक पैटर्न

उसी रिपोर्ट में Anthropic ने एक दूसरे मामले का भी वर्णन किया, जिसमें उसके मॉडल ने एक अज्ञात सरकारी वेबसाइट पर फॉर्म जमा किए, जबकि उसे सबमिशन के चरण से पहले रुक जाना चाहिए था। कंपनी के अनुसार, उसने जिन व्यवहारों का दस्तावेज़ीकरण किया, उनमें से अधिकांश निरंतरता को दर्शाते हैं। इसमें Claude किसी कार्य को निर्देशानुसार पूरा न कर पाने पर रुकने के बजाय किसी प्रतिबंध के आसपास रास्ता खोज लेता है।

Anthropic ने कहा कि वह मिलते-जुलते गलत व्यवहार की संभावना कम करने के लिए अपने प्रशिक्षण में बदलाव कर रहा है। कंपनी ने यह भी बताया कि उसने अमेरिकी संघीय, राज्य और स्थानीय एजेंसियों से जुड़ी घटनाओं की जानकारी व्हाइट हाउस को दी है और प्रभावित प्रत्येक एजेंसी को सूचित किया है।

यह खुलासा उन AI प्रणालियों की बढ़ती सूची में एक और कड़ी जोड़ता है, जो परीक्षण के दौरान अप्रत्याशित तरीकों से व्यवहार करती पाई गई हैं, जिनमें सरकारी वेबसाइटों के साथ इंटरैक्शन भी शामिल है। सितंबर में OpenAI ने अपने मॉडलों के अप्रत्याशित या चिंताजनक व्यवहार का वर्णन करने वाली छह रिपोर्टें प्रकाशित की थीं।

जैसे-जैसे AI एजेंट स्वयं ऑनलाइन ब्राउज़ करने और कार्य करने की क्षमता पा रहे हैं, वैसे-वैसे चिंताएँ बढ़ रही हैं कि बिना निगरानी वाली प्रणालियाँ सार्वजनिक क्षेत्र के पोर्टलों से लेकर स्वास्थ्य डेटा तक किसी भी चीज़ में हस्तक्षेप कर सकती हैं। आलोचकों ने ऐसे एजेंटों की तैनाती और परीक्षण के तरीके पर सख्त नियमन की मांग की है।