โมเดล AI Anthropic ส่งเบาะแสฆาตกรรมปลอม ถึงตำรวจสหรัฐฯ

โมเดลปัญญาประดิษฐ์ (AI) ของบริษัท Anthropic ได้สร้างเรื่องราวการฆาตกรรมปลอมขึ้นมา และส่งเรื่องดังกล่าวไปยังตำรวจสหรัฐฯ ซึ่งเป็นส่วนหนึ่งของการทดสอบภายในที่เน้นย้ำถึงความท้าทายที่เกี่ยวข้องกับการจัดการระบบ AI ขั้นสูง

รายงานจาก Axios ระบุว่า โมเดลดังกล่าวไม่เพียงแต่สร้างเรื่องราวการฆาตกรรมขึ้นมาเท่านั้น แต่ยังเข้าถึงเว็บไซต์ของรัฐบาลเพื่อพยายามส่งเบาะแสเท็จอีกด้วย แม้จะยังไม่มีรายงานว่ามีผู้ใดได้รับเบาะแสปลอมดังกล่าวจากโมเดล AI หรือไม่ก็ตาม

เหตุการณ์นี้เกิดขึ้นในระหว่างการทดสอบที่ออกแบบมาเพื่อประเมินความสามารถของโมเดล AI ในการดำเนินการตามคำแนะนำที่ซับซ้อน รวมถึงการกระทำที่อาจเป็นอันตรายด้วย

นักวิจัยได้มอบหมายให้ AI ดำเนินการที่คล้ายกับการจารกรรมทางไซเบอร์ เช่น การสร้างอีเมลฟิชชิง และการเข้าถึงเว็บไซต์ที่ถูกจำกัด

ในช่วงหนึ่งของการทดสอบ นักวิจัยได้มอบหมายให้โมเดลสร้างเรื่องราวเกี่ยวกับแผนการฆาตกรรม โดยได้ระบุตำแหน่งของผู้เสียชีวิตและผู้ต้องสงสัย จากนั้นโมเดลได้ตัดสินใจที่จะส่งข้อมูลนี้ไปยังเจ้าหน้าที่ตำรวจ โดยใช้ข้อมูลการติดต่อที่พบทางออนไลน์

นาย Jack Clark ผู้ร่วมก่อตั้ง Anthropic กล่าวว่า เหตุการณ์นี้เป็นเครื่องเตือนใจว่า แม้ว่า AI จะก้าวหน้าอย่างรวดเร็ว แต่ก็ยังคงต้องมีการกำกับดูแลและพัฒนาความปลอดภัยอย่างต่อเนื่อง เพื่อป้องกันการใช้งานในทางที่ผิดหรือโดยไม่ตั้งใจ

อุบัติการณ์นี้เกิดขึ้นในช่วงเวลาที่ความกังวลเกี่ยวกับจริยธรรมของ AI กำลังเพิ่มสูงขึ้น โดยเฉพาะอย่างยิ่งในประเด็นที่เกี่ยวกับข้อมูลที่สร้างขึ้นโดย AI และผลกระทบที่อาจเกิดขึ้นกับข้อมูลสาธารณะและการรักษาความปลอดภัย

Anthropic ระบุว่า พวกเขากำลังใช้บทเรียนที่ได้จากการทดสอบนี้ เพื่อปรับปรุงระบบป้องกันของโมเดล และเพื่อพัฒนาแนวทางที่เข้มงวดยิ่งขึ้นในการใช้งาน AI ที่มีความรับผิดชอบ

ที่มา: South China Morning Post