نموذج Claude من Anthropic أرسل بلاغًا كاذبًا إلى موقع شرطة فيلادلفيا
تقول Anthropic إن نموذجها Claude Haiku 4.5 أرسل، خلال الاختبار، بلاغًا مزيفًا إلى موقع للشرطة في فيلادلفيا بشأن جريمة قتل لم يُكشف عن مرتكبها.
أرسل نموذج ذكاء اصطناعي تابع لشركة Anthropic بلاغًا كاذبًا إلى موقع للشرطة في فيلادلفيا مخصص لجرائم القتل غير المحلولة، وفقًا لما أعلنته الشركة والسلطات المحلية. وبحسب Anthropic، وقعت الحادثة في 18 يوليو، أثناء قيام Claude Haiku 4.5 بإنشاء مهام تجريبية وتنفيذها على صفحات ويب مختارة عشوائيًا.
ملأ النموذج استمارة على موقع PhillyUnsolvedMurders.com، موحيًا بأنه قد يملك معلومات عن إحدى الجرائم المدرجة فيه. وقالت شرطة فيلادلفيا إنها لم تكن على علم بالإرسال إلى أن تواصلت معها Anthropic. ثم عثر الضباط عليه في سجلات البلاغات الخاصة بالموقع، وتأكدوا من أنه صُنّف على أنه رسالة مزعجة (سبام) ولم يُحَل أبدًا إلى المحققين.
وحثّت الشرطة قطاع التكنولوجيا على التحرك. وقال قسم شرطة فيلادلفيا: «يجب على شركات التكنولوجيا اتخاذ جميع الخطوات المناسبة والضرورية لمنع أنظمتها من إرسال معلومات كاذبة إلى جهات إنفاذ القانون»، مضيفًا أن مثل هذه الحالات تمس ضحايا حقيقيين وعائلات مكلومة.
نمط تسميه Anthropic المثابرة
وفي التقرير نفسه، وصفت Anthropic حالة ثانية أرسل فيها نموذجها استمارات إلى موقع حكومي لم تُذكر هويته، رغم أنه كان ينبغي له التوقف قبل خطوة الإرسال. وقالت الشركة إن معظم السلوكيات التي وثّقتها تعكس المثابرة، إذ يجد Claude، عندما يعجز عن إنهاء مهمة وفق التعليمات، طريقة للالتفاف على قيد بدلًا من التوقف.
وقالت Anthropic إنها تعدّل تدريب نموذجها لتقليل احتمال تكرار مثل هذه التصرفات غير المرغوبة. وأضافت أنها أطلعت البيت الأبيض على الحوادث التي شملت وكالات أمريكية فيدرالية وولائية ومحلية، وأبلغت كل وكالة متأثرة بذلك.
ويضاف هذا الإفصاح إلى قائمة متنامية من أنظمة الذكاء الاصطناعي التي تتصرف بطرق غير مقصودة أثناء الاختبار، ومنها التفاعل مع مواقع حكومية. وفي سبتمبر، نشرت OpenAI ستة تقارير تصف سلوكيات غير متوقعة أو مثيرة للقلق في نماذجها.
ومع اكتساب وكلاء الذكاء الاصطناعي القدرة على تصفح الإنترنت والعمل فيه بشكل مستقل، تتزايد المخاوف من أن تتدخل أنظمة غير خاضعة للإشراف في كل شيء، من بوابات القطاع العام إلى البيانات الصحية. وقد طالب منتقدون بتشديد التنظيم لكيفية نشر هذه الوكلاء واختبارهم.
التعليقات
لا توجد تعليقات بعد. ابدأ النقاش أو اطرح سؤالًا.
ذو صلة
مشروع سيباستيان روتشي المقترح لمركز بيانات للذكاء الاصطناعي بمساحة 950 ألف قدم مربعة في مقاطعة إمبريال معلّق، بعد أن أمر قاض بإجراء مراجعة بيئية شاملة وسط معارضة محلية شديدة.
الكاتب الزيمبابوي سيمبارashe كوندизيزا يرفض مزاعم بأن قصته الفائزة "المقاتل الأزرق" من إنتاج الذكاء الاصطناعي، فيما تراجع جائزة كاين الادعاءات.
أكد غاريت لانغلي، المدير التنفيذي لشركة Flock، أن أجهزة الاستشعار الصوتية للشركة لا ترصد سوى إطلاق النار، بينما يذكر موقعها الإلكتروني وأحد المتحدثين باسمها الألعاب النارية وعروض السيارات المتهورة وحوادث السير أيضاً.