Anthropic เปิดทางให้นักวิจัย METR เข้าถึงระดับพนักงานเพื่อตรวจสอบ AI
Anthropic ให้นักวิจัยหกคนจาก METR ซึ่งเป็นหน่วยประเมินอิสระ เข้าถึงเครื่องมือภายในระดับพนักงานได้ และ METR สามารถเผยแพร่ผลการประเมินโดยที่ Anthropic ไม่มีสิทธิ์ยับยั้ง
Anthropic ประกาศในวันพฤหัสบดีที่ 15 ตุลาคม 2569 ว่าได้ให้สิทธิ์การเข้าถึงระดับพนักงานแก่นักวิจัยหกคนจาก METR ซึ่งเป็นองค์กรไม่แสวงผลกำไรที่ทดสอบโมเดล AI ระดับแนวหน้า เพื่อให้พวกเขาประเมินโมเดล แนวปฏิบัติด้านความปลอดภัย และการบริหารความเสี่ยงของบริษัทได้อย่างอิสระ บริษัทประกาศความร่วมมือนี้ผ่านบล็อกโพสต์
ตามข้อมูลของ Anthropic ทีม METR ได้รับแล็ปท็อปจากบริษัท พื้นที่ทำงาน และสิทธิ์เข้าถึงเครื่องมือภายในที่ใกล้เคียงกับที่ทีมประเมินความเสี่ยงของบริษัทใช้งาน พนักงานได้รับการสนับสนุนให้แบ่งปันข้อมูลกับนักวิจัยที่มาเยือนอย่างเปิดเผยเช่นเดียวกับที่ทำกับเพื่อนร่วมงานที่ทำงานด้านความเสี่ยงของการจัดแนวค่านิยม AI Anthropic เปรียบเทียบรูปแบบนี้กับผู้ตรวจสอบประจำที่หน่วยงานกำกับดูแลธนาคารส่งเข้าไปประจำในธนาคารขนาดใหญ่
เผยแพร่ได้โดยไม่ต้องมีสิทธิ์ยับยั้ง
METR จะเผยแพร่การประเมินของตนเองเกี่ยวกับความเสี่ยง เหตุการณ์ และแนวปฏิบัติของ Anthropic และบริษัทได้สละสิทธิ์ในการระงับการเผยแพร่ดังกล่าว Anthropic สามารถขอให้ปิดบังข้อมูลได้เฉพาะในหมวดหมู่แคบๆ ที่ตกลงกันไว้ล่วงหน้า เช่น ข้อมูลลูกค้า เนื้อหาที่อยู่ภายใต้เอกสิทธิ์ระหว่างทนายความกับลูกความ และรายละเอียดสถาปัตยกรรมของโมเดล METR สามารถอธิบายการปิดบังเหล่านั้นต่อสาธารณะและแสดงความเห็นว่าการปิดบังนั้นมีเหตุผลหรือไม่ โดยต้องไม่เปิดเผยสิ่งที่ถูกตัดออก
"เราต้องการให้มีความรับผิดชอบต่อสาธารณะต่อการตัดสินใจที่เราทำ" Anthropic กล่าว พร้อมระบุว่าเป้าหมายคือการลดช่องว่างระหว่างสิ่งที่ผู้ประเมินภายนอกและตัวบริษัทเองรู้เกี่ยวกับระบบของตน
ปัจจุบัน METR เป็นองค์กรเดียวในระดับบนสุดของโครงสร้างการประเมินสามชั้นที่ Anthropic กำลังสร้างขึ้น ผู้ตรวจสอบระดับล่าง เช่น องค์กรไม่แสวงผลกำไรด้านความปลอดภัยทางชีวภาพ SecureBio ทำการตรวจสอบเฉพาะด้านและต้องได้รับการอนุมัติจาก Anthropic ก่อนเผยแพร่ ส่วนระดับกลางได้รับข้อมูลมากขึ้นและเผยแพร่ได้โดยไม่ต้องขออนุมัติ ขณะที่ระดับบนสุดได้รับสิทธิ์เข้าถึงระดับพนักงานเพิ่มเติม
แรงกดดันให้มีการตรวจสอบจากภายนอก
การเคลื่อนไหวนี้เกิดขึ้นท่ามกลางรายงานที่ว่าเอเจนต์ AI ปฏิบัติการเกินกว่าคำสั่งที่ได้รับ ซึ่งปรากฏขึ้นประมาณทุกหนึ่งถึงสองสัปดาห์ตั้งแต่ปลายเดือนสิงหาคม ทำให้มีเสียงเรียกร้องให้มีการตรวจสอบอิสระต่อผู้พัฒนา AI มากขึ้น
การประกาศนี้เป็นไปตามคำมั่นที่ Dario Amodei ซีอีโอของ Anthropic ให้ไว้ในบทความเดือนกันยายน ซึ่งเสนอให้วางผู้ประเมินจากภายนอกเข้าไปในห้องปฏิบัติการ AI เป็นก้าวแรกในการชะลอการพัฒนาเทคโนโลยีนี้ OpenAI ให้คำมั่นเดียวกันในไม่ช้า และทั้งสองบริษัท พร้อมด้วย Google, Meta, Nvidia และ xAI ได้ลงนามในข้อตกลงกับทำเนียบขาวที่ให้คำมั่นเรื่องการตรวจสอบอิสระ
ความคิดเห็น
ยังไม่มีความคิดเห็น เริ่มการสนทนาหรือถามคำถามได้เลย
ข่าวที่เกี่ยวข้อง
สตาร์ทอัปปัญญาประดิษฐ์จีน DeepSeek ขอโทษสำหรับการที่ระบบล่มเกือบห้าชั่วโมงเมื่อวันที่ 15 ตุลาคม 2026 และแจ้งว่าจะคืนค่าใช้งานทั้งหมดตั้งแต่วันที่ 8 ถึง 14 ตุลาคมในรูปแบบเครดิต
Nebius บริษัทโครงสร้างพื้นฐาน AI ที่มีสำนักงานใหญ่ในอัมสเตอร์ดัม ระบุว่าได้ลงนามข้อตกลงกับห้องแล็บ AI รุ่นใหม่หลายแห่งในสหราชอาณาจักร และสนับสนุนแผนของรัฐบาลในการผ่อนคลายข้อกำหนดห้ามทำงานกับคู่แข่งหลังออกจากงาน
Anthropic ระบุว่า Git ตามไม่ทันปริมาณโค้ดที่เอเจนต์ AI ของบริษัทนำเข้ารวมกัน จึงพัฒนา Scion ระบบควบคุมเวอร์ชันแบบ client-server ซึ่งบริษัทจะไม่เปิดเป็นโอเพนซอร์ส