Anthropic تمنح باحثي METR صلاحية الوصول إلى مستوى الموظفين لتدقيق نماذج الذكاء الاصطناعي
منحت Anthropic ستة باحثين من جهة التقييم METR صلاحية الوصول إلى أدواتها الداخلية، ويحق لـ METR نشر نتائجها دون اعتراض من Anthropic.
أعلنت Anthropic يوم الخميس 15 أكتوبر 2026 أنها منحت ستة باحثين من METR، وهي منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي المتقدمة، صلاحية الوصول إلى مستوى الموظفين، لتتمكن من تقييم نماذج الشركة وممارساتها في السلامة وإدارة المخاطر تقييمًا مستقلًا. وأعلنت الشركة هذا الترتيب في منشور على مدونتها.
وبحسب Anthropic، يحصل فريق METR على أجهزة محمولة تصدرها الشركة ومساحة مكتبية وصلاحية الوصول إلى الأدوات الداخلية، وهي قابلة للمقارنة إلى حد كبير بما تستخدمه فرق تقييم المخاطر لديها. ويُشجَّع الموظفون على مشاركة المعلومات مع الباحثين الزائرين بالقدر نفسه من الانفتاح الذي يشاركون به زميلًا يعمل على مخاطر المواءمة. وشبّهت Anthropic هذا الترتيب بالمراقبين المقيمين الذين تضعهم جهات الرقابة المصرفية داخل أكبر البنوك.
النشر دون حق الاعتراض
ستنشر METR تقييماتها الخاصة لمخاطر Anthropic وحوادثها وممارساتها، وقد تنازلت الشركة عن حقها في منعها. ولا يحق لـ Anthropic سوى طلب حجب معلومات في فئات ضيقة متفق عليها مسبقًا، مثل بيانات العملاء والمواد المشمولة بسرية المحامي وموكله، وتفاصيل بنى نماذجها. ويحق لـ METR أن تصف تلك الحجوبات علنًا وأن تبدي رأيها في ما إذا كانت مبررة، شريطة ألا تكشف ما تمت إزالته.
وقالت Anthropic: «نريد أن نكون مسؤولين أمام الرأي العام عن القرارات التي نتخذها»، مؤكدة أن الهدف هو تقليص الفجوة بين ما تعرفه الجهات الخارجية المقيِّمة وما تعرفه الشركة نفسها عن أنظمتها.
وMETR هي المنظمة الوحيدة حاليًا في المستوى الأعلى من بنية تقييم ثلاثية المستويات تبنيها Anthropic. أما المراجعون في المستوى الأدنى، مثل منظمة SecureBio غير الربحية المعنية بالأمن البيولوجي، فيجرون مراجعات محددة ويحتاجون إلى موافقة Anthropic قبل النشر. ويحصل المستوى الأوسط على معلومات أكثر ويمكنه النشر دون موافقة، بينما يضيف المستوى الأعلى صلاحية الوصول إلى مستوى الموظفين.
ضغوط من أجل رقابة خارجية
تأتي هذه الخطوة في وقت تظهر فيه تقارير عن وكلاء ذكاء اصطناعي يتصرفون خارج نطاق تعليماتهم تقريبًا كل أسبوع أو أسبوعين منذ أواخر أغسطس، ما يزيد من المطالب بعمليات تحقق مستقلة من مطوري الذكاء الاصطناعي.
يأتي الإعلان تنفيذًا لتعهد قدمه الرئيس التنفيذي لـ Anthropic داريو أمودي في مقال نشره في سبتمبر، اقترح فيه وضع مقيِّمين خارجيين داخل مختبرات الذكاء الاصطناعي خطوةً أولى نحو إبطاء تطور هذه التقنية. وسرعان ما تبنت OpenAI التعهد نفسه، ووقّعت الشركتان مع Google وMeta وNvidia وxAI على اتفاق في البيت الأبيض يلتزم بالمراجعة المستقلة.
التعليقات
لا توجد تعليقات بعد. ابدأ النقاش أو اطرح سؤالًا.
ذو صلة
اعتذرت شركة الناشئة الصينية في مجال الذكاء الاصطناعي ديب سيك عن انقطاع خدمتها لنحو خمس ساعات يوم 15 أكتوبر 2026، وقالت إنها ستعوض جميع الاستخدامات من 8 إلى 14 أكتوبر في صورة رصيد.
شركة Nebius لبنية الذكاء الاصطناعي التحتية، ومقرها أمستردام، تقول إنها وقّعت صفقات مع عدد من مختبرات الذكاء الاصطناعي البريطانية الفتية، وتدعم خطة الحكومة لتخفيف بنود عدم المنافسة.
تقول Anthropic إن Git لم يعد قادراً على مواكبة حجم الشيفرة التي يدمجها وكلاء الذكاء الاصطناعي لديها، فطوّرت Scion، وهو نظام لإدارة الإصدارات يعتمد على العميل والخادم ولن تجعله مفتوح المصدر.