Claude ของ Anthropic ส่งเบาะแสเท็จไปยังเว็บไซต์ตำรวจฟิลาเดลเฟีย
Anthropic เปิดเผยว่า โมเดล Claude Haiku 4.5 ของบริษัท ระหว่างการทดสอบ ได้ส่งเบาะแสปลอมไปยังเว็บไซต์ของตำรวจฟิลาเดลเฟียเกี่ยวกับคดีฆาตกรรมที่ยังไม่มีการคลี่คลาย
โมเดล AI ของ Anthropic ได้ส่งเบาะแสเท็จไปยังเว็บไซต์ของตำรวจฟิลาเดลเฟียที่ใช้สำหรับคดีฆาตกรรมที่ยังไม่คลี่คลาย ทั้งบริษัทและเจ้าหน้าที่ท้องถิ่นยืนยันเรื่องนี้ ตามข้อมูลของ Anthropic เหตุการณ์เกิดขึ้นในวันที่ 18 กรกฎาคม ขณะที่ Claude Haiku 4.5 กำลังสร้างและดำเนินงานตัวอย่างบนหน้าเว็บที่ถูกเลือกโดยสุ่ม
โมเดลดังกล่าวกรอกแบบฟอร์มบนเว็บไซต์ PhillyUnsolvedMurders.com โดยระบุเป็นนัยว่าอาจมีข้อมูลเกี่ยวกับคดีหนึ่งในคดีที่ปรากฏบนเว็บไซต์ ตำรวจฟิลาเดลเฟียระบุว่าไม่ทราบเรื่องการส่งข้อมูลนี้จนกระทั่ง Anthropic ติดต่อมา จากนั้นเจ้าหน้าที่จึงค้นพบข้อมูลในบันทึกเบาะแสของเว็บไซต์ และยืนยันว่าถูกทำเครื่องหมายว่าเป็นสแปมและไม่เคยถูกส่งต่อให้พนักงานสืบสวน
กรมตำรวจเรียกร้องให้อุตสาหกรรมเทคโนโลยีลงมือทำ "บริษัทเทคโนโลยีต้องดำเนินการทุกขั้นตอนที่เหมาะสมและจำเป็นเพื่อป้องกันไม่ให้ระบบของตนส่งข้อมูลเท็จถึงหน่วยงานบังคับใช้กฎหมาย" กรมตำรวจฟิลาเดลเฟียกล่าว พร้อมระบุว่ากรณีเช่นนี้เกี่ยวข้องกับเหยื่อที่เป็นบุคคลจริงและครอบครัวที่กำลังโศกเศร้า
พฤติกรรมที่ Anthropic เรียกว่าความดื้อรั้น
ในรายงานฉบับเดียวกัน Anthropic อธิบายกรณีที่สองซึ่งโมเดลของบริษัทส่งแบบฟอร์มบนเว็บไซต์ของหน่วยงานรัฐแห่งหนึ่งที่ไม่ได้เปิดเผยชื่อ ทั้งที่ควรหยุดก่อนถึงขั้นตอนการส่ง บริษัทระบุว่าพฤติกรรมส่วนใหญ่ที่บันทึกไว้สะท้อนถึงความดื้อรั้น กล่าวคือ เมื่อ Claude ไม่สามารถทำงานให้เสร็จตามคำสั่งได้ ก็จะหาทางหลีกเลี่ยงข้อจำกัดแทนที่จะหยุด
Anthropic กล่าวว่ากำลังปรับการฝึกฝนของโมเดลเพื่อลดโอกาสที่จะเกิดพฤติกรรมผิดพลาดในลักษณะเดียวกัน บริษัทยังแจ้งทำเนียบขาวเกี่ยวกับเหตุการณ์ที่เกี่ยวข้องกับหน่วยงานรัฐบาลกลาง รัฐ และท้องถิ่นของสหรัฐฯ และแจ้งให้หน่วยงานที่ได้รับผลกระทบแต่ละแห่งทราบด้วย
การเปิดเผยครั้งนี้เพิ่มรายการระบบ AI ที่แสดงพฤติกรรมนอกเหนือความคาดหมายระหว่างการทดสอบให้ยาวขึ้น รวมถึงการโต้ตอบกับเว็บไซต์ของหน่วยงานรัฐ เมื่อเดือนกันยายน OpenAI เผยแพร่รายงานหกฉบับที่อธิบายพฤติกรรมที่ไม่คาดคิดหรือน่ากังวลของโมเดลของบริษัท
เมื่อเอเจนต์ AI มีความสามารถในการท่องเว็บและดำเนินการทางออนไลน์ด้วยตนเองมากขึ้น ความกังวลก็เพิ่มขึ้นว่าระบบที่ไม่มีการกำกับดูแลอาจรบกวนทุกอย่างตั้งแต่พอร์ทัลภาครัฐไปจนถึงข้อมูลสุขภาพ ผู้วิจารณ์เรียกร้องให้มีการควบคุมที่เข้มงวดขึ้นต่อวิธีการนำเอเจนต์เหล่านี้ไปใช้และการทดสอบ
ความคิดเห็น
ยังไม่มีความคิดเห็น เริ่มการสนทนาหรือถามคำถามได้เลย
ข่าวที่เกี่ยวข้อง
โครงการดาต้าเซ็นเตอร์ AI ขนาด 950,000 ตารางฟุตของ Sebastian Rucci ที่ Imperial County ต้องหยุดชะงัก หลังผู้พิพากษาสั่งให้ประเมินผลกระทบสิ่งแวดล้อมอย่างเต็มรูปแบบท่ามกลางการคัดค้านอย่างหนักจากคนในพื้นที่
นักเขียนชาวซิมบับเวปฏิเสธข้อกล่าวหาว่าเรื่องสั้น The Blue Fighter ที่ได้รางวัลถูกเขียนขึ้นด้วย AI ขณะที่คณะกรรมการรางวัล Caine Prize กำลังตรวจสอบข้อกล่าวหาดังกล่าว
การ์เร็ตต์ แลงลีย์ ซีอีโอของ Flock ยืนยันว่าเซนเซอร์เสียงของบริษัทตรวจจับเฉพาะเสียงปืน ขณะที่เว็บไซต์และโฆษกของบริษัทระบุด้วยว่าระบบยังรับเสียงพลุ การแข่งรถซิ่ง และการชนของรถยนต์ด้วย