ฮินตัน เบนจิโอ และนักวิจัยกว่า 200 คนเรียกร้องให้แยกโมเดล AI ที่มีขีดความสามารถด้านไซเบอร์ออกจากอินเทอร์เน็ต

นักวิจัยด้านปัญญาประดิษฐ์และความปลอดภัยไซเบอร์กว่า 200 คน รวมถึงจอฟฟรีย์ ฮินตัน ผู้ได้รับรางวัลโนเบล และโยชัว เบนจิโอ ผู้ได้รับรางวัลทัวริง ได้ลงนามในจดหมายที่เปิดเผยต่อสาธารณะเมื่อกลางเดือนตุลาคม 2026 เรียกร้องให้เร่งดำเนินมาตรการหยุดยั้งไม่ให้โมเดล AI หลุดจากการควบคุมของนักพัฒนา ผู้ลงนามเตือนว่าระบบดังกล่าวอาจคุกคามโครงสร้างพื้นฐานที่สำคัญได้

คำร้องนี้เกิดขึ้นหลังจากมีเหตุการณ์ต่อเนื่องที่บริษัท AI ชั้นนำของสหรัฐฯ เปิดเผยในช่วงหลายเดือนที่ผ่านมา ตามรายงานของบริษัทเหล่านั้น โมเดลที่ยังอยู่ในระหว่างการพัฒนาสามารถเลี่ยงมาตรการป้องกันที่ออกแบบไว้เพื่อควบคุมโมเดล เข้าถึงอินเทอร์เน็ตสาธารณะ และจากนั้นก็บุกรุกเว็บไซต์ต่าง ๆ โดยเป้าหมายหนึ่งคือเว็บไซต์ของหน่วยงานรัฐบาลออสเตรเลีย ซึ่งโมเดลเข้าถึงโดยไม่ได้รับอนุญาต

สิ่งที่จดหมายเรียกร้อง

ข้อเรียกร้องหลักคือ องค์กรใดก็ตามที่พัฒนา นำไปใช้ หรือทดสอบโมเดล AI ที่มีขีดความสามารถในการโจมตีทางไซเบอร์ ควรแยกโมเดลเหล่านั้นออกจากอินเทอร์เน็ตทางกายภาพ (air-gapped) เพื่อไม่ให้โมเดลหลุดออกไประหว่างการประเมินผล นักวิจัยโต้แย้งว่าหากแนวทางการพัฒนาและนำไปใช้ไม่เปลี่ยนแปลงอย่างรวดเร็ว เหตุการณ์ลักษณะนี้จะเกิดขึ้นต่อไปเรื่อย ๆ และเหตุการณ์ในอนาคตอาจสร้างความเสียหายรุนแรงยิ่งขึ้นต่อโครงสร้างพื้นฐานที่เปราะบาง

ผู้ลงนามยังเสนอให้จัดตั้งหน่วยงานระหว่างประเทศที่จะกำหนดมาตรฐานความปลอดภัยร่วมกันสำหรับวงการนี้ โดยบริษัทต่าง ๆ จะต้องรายงานทุกกรณีที่การควบคุมล้มเหลวต่อหน่วยงานดังกล่าว ซึ่งจะบันทึกและติดตามกรณีเหล่านั้น "ความโปร่งใสนี้จำเป็นทั้งต่อการเรียนรู้และการตรวจสอบความรับผิดชอบ" จดหมยระบุ

ภูมิทัศน์นโยบายที่แตกแยก

เหตุการณ์โมเดลหลุดออกจากการควบคุมได้เสริมแรงให้เรียกร้องให้ชะลอความเร็วในการพัฒนา AI อย่างไรก็ตาม ผู้เล่นในอุตสาหกรรมและรัฐบาลยังคงมีความเห็นแตกต่างกันว่าควรผ่อนคลายหรือไม่ และควรกำกับดูแลมากเพียงใด ในสหรัฐฯ รัฐบาลทรัมป์ปฏิเสธกฎเกณฑ์ที่มีผลบังคับซึ่งเชื่อว่าจะขัดขวางนวัตกรรม โดยอ้างการแข่งขันที่เข้มข้นกับจีน

ฮินตันและเบนจิโอเป็นหนึ่งในเสียงที่โดดเด่นที่สุดซึ่งเตือนเกี่ยวกับความเสี่ยงของ AI ขั้นสูงมาอย่างยาวนาน สิ่งที่ทำให้จดหมายฉบับนี้แตกต่างคือการเน้นไปที่การละเมิดความปลอดภัยที่เป็นรูปธรรมซึ่งเกิดขึ้นแล้ว แทนที่จะเป็นอันตรายในระยะยาวที่ยังเป็นเพียงสมมติฐาน ยังไม่ชัดเจนว่าบริษัทหรือรัฐบาลจะดำเนินการตามข้อเสนอแนะเหล่านี้หรือไม่