เครื่องมือ AI จีนเผยวิธีสร้างอาวุธชีวภาพและแผนการลอบสังหาร

เครื่องมือ AI สัญชาติจีน ได้ให้ข้อมูลแก่นักวิจัยเกี่ยวกับวิธีการสร้างอาวุธชีวภาพ

บริษัท Moonshot AI ผู้พัฒนาปัญญาประดิษฐ์ (AI) สัญชาติจีน กำลังดำเนินการตรวจสอบภายใน หลังจากนักวิจัยสามารถชักจูงโมเดล Kimi ยอดนิยม 2 รุ่นของบริษัท ให้เปิดเผยวิธีการสร้างอาวุธชีวภาพและดำเนินแผนการลอบสังหารได้

บริษัท Mindgard ซึ่งเป็นผู้ทดสอบความปลอดภัยของระบบ AI เปิดเผยกับสำนักข่าว BBC ว่า บริษัทได้ค้นพบเมื่อเดือนกรกฎาคมว่า Kimi K2.6 และ K3 Swarm สามารถหลีกเลี่ยงข้อจำกัดด้านความปลอดภัยที่นักพัฒนาตั้งไว้ได้

ปัญหานี้เกิดขึ้นระหว่างกระบวนการที่เรียกว่า ‘jailbreaking’ ซึ่งนักวิจัยใช้ชุดคำสั่งที่ซับซ้อนเพื่อดูว่าเครื่องมือ AI จะละเลยข้อจำกัดความปลอดภัยหรือไม่ ซึ่ง Mindgard ระบุว่าควรจะหยุด Kimi ไม่ให้พูดคุยเกี่ยวกับหัวข้อที่น่ากังวลได้

Moonshot กล่าวกับ BBC ว่า บริษัทยินดีรับฟังข้อมูลจากบุคคลที่สาม ‘ในฐานะที่เป็นเสาหลักสำคัญสำหรับการสร้าง AI ที่ดีขึ้นและปลอดภัยยิ่งขึ้น’ บริษัทยังกล่าวกับ BBC ด้วยว่า กำลังหารือกับ Mindgard เกี่ยวกับสิ่งที่ค้นพบ

ปีเตอร์ การ์ราแกน ผู้ก่อตั้ง Mindgard กล่าวกับรายการ Tech Life ของ BBC World Service ว่าสิ่งที่ค้นพบเกี่ยวกับ Kimi K2.6 และ K3 Swarm นั้นน่ากังวล

‘เมื่อการ jailbreak สำเร็จ มันจะพูดคุยเกี่ยวกับหัวข้อใดก็ได้ มันจะเสนอคำแนะนำเกี่ยวกับหัวข้ออื่น ๆ ที่เป็นอันตรายอย่างเสรี และมันจะมีความคิดสร้างสรรค์และคิดค้นสิ่งใหม่ ๆ’ เขากล่าว

การ jailbreak นำเสนอความเสี่ยงที่แตกต่างจากเหตุการณ์ AI ที่เป็นข่าวโด่งดังเมื่อเร็ว ๆ นี้ ซึ่งเครื่องมือ AI อัตโนมัติที่เรียกว่า agent ซึ่งพัฒนาโดยบริษัทสหรัฐฯ รวมถึง OpenAI, Meta และ Anthropic ได้ทำการแฮกบริการออนไลน์บางอย่าง

แม้ว่าการ jailbreak เป็นกระบวนการที่ซับซ้อนและอาจใช้เวลาและความมุ่งมั่นสูง ผู้เชี่ยวชาญบางคนก็เกรงว่าแฮกเกอร์และผู้ไม่หวังดีอื่น ๆ อาจพยายามใช้มันเพื่อสร้างความเสียหาย

เมื่อเร็ว ๆ นี้ Anthropic กล่าวว่า ได้ระบุและขัดขวางความพยายามที่จะใช้โมเดล AI ของตนเพื่อ ‘กิจกรรมที่เป็นอันตราย’ ที่อาจสนับสนุนการพัฒนาอาวุธชีวภาพ

จุดเริ่มต้นของการโจมตีทางไซเบอร์

Mindgard ยังไม่ได้พิสูจน์ว่าคำตอบที่ Kimi ให้มาในหัวข้อที่น่ากังวลนั้นจะใช้งานได้จริงหรือไม่ แต่โต้แย้งว่าข้อจำกัดความปลอดภัยควรจะป้องกันโมเดลดังกล่าวจากการสนทนากับผู้ใช้ในหัวข้อเหล่านั้น

บริษัทกล่าวว่า ยังมั่นใจว่า Kimi 2.6 ที่ถูก jailbreak สามารถอนุญาตให้แฮกเกอร์รันโค้ดบนทรัพยากรคอมพิวเตอร์และเชื่อมต่ออินเทอร์เน็ตได้ ทำให้เป็นจุดเริ่มต้นที่เป็นไปได้สำหรับการโจมตีทางไซเบอร์

การ์ราแกนปกป้องการตัดสินใจของ Mindgard ที่จะเปิดเผยการ jailbreak ระบบของ Moonshot สู่สาธารณะ โดยกล่าวว่าได้แจ้งให้นักพัฒนาทราบแล้ว และไม่ได้เปิดเผยรายละเอียดสำคัญเกี่ยวกับวิธีการที่บริษัททำให้โมเดลของบริษัทละเลยข้อจำกัดความปลอดภัย

Mindgard แจ้งเตือน Moonshot เกี่ยวกับการ jailbreak ทางอีเมลเมื่อวันที่ 27 กรกฎาคม และติดตามผลประมาณหนึ่งสัปดาห์ต่อมา จากนั้นได้เผยแพร่บล็อกเกี่ยวกับปัญหานี้เมื่อวันที่ 12 กันยายน แต่บริษัทกล่าวว่า Moonshot เพิ่งติดต่อกลับมาเมื่อเร็ว ๆ นี้ หลังจาก BBC ได้ติดต่อเพื่อขอความคิดเห็น

ในส่วนหนึ่งของอีเมลถึง Mindgard ที่ขอรายละเอียดเพิ่มเติม ซึ่ง Moonshot แชร์กับ BBC ระบุว่า โมเดลของบริษัทโดยทั่วไปแสดง ‘อัตราการปฏิเสธสูงสำหรับคำขอประเภทนี้’ ในการประเมินภายใน

ผลการวิจัยนี้มีขึ้นในขณะที่อุตสาหกรรม AI ยังคงแบ่งความคิดเห็นว่าโมเดลปิดที่เป็นกรรมสิทธิ์ — เช่นที่ขับเคลื่อนระบบ ChatGPT และ Claude ของ Anthropic — หรือเครื่องมือโอเพนซอร์ส เป็นหนทางที่ดีที่สุดหรือปลอดภัยที่สุด

Kimi เป็นโมเดล ‘open-weight’ ซึ่งหมายความว่า ในทางทฤษฎีแล้ว ใครบางคนสามารถนำโมเดลไปใช้งานบนโครงสร้างพื้นฐานคอมพิวเตอร์ของตนเองได้

ศาสตราจารย์อลัน วูดเวิร์ด จากมหาวิทยาลัยเซอร์เรย์ กล่าวกับ BBC ว่า มีความเสี่ยงที่โมเดลโอเพนซอร์สอาจตกไปอยู่ในมือคนผิด แต่ก็สามารถนำมาใช้เพื่อการป้องกันทางไซเบอร์ได้เช่นกัน

เขาตั้งข้อสังเกตว่าบริษัท AI Hugging Face ใช้โมเดลโอเพนซอร์สของจีนเพื่อทำความเข้าใจการแฮกที่ภายหลังถูกเปิดเผยว่าดำเนินการโดย agent ของ OpenAI

ศาสตราจารย์วูดเวิร์ดกล่าวว่า กฎระเบียบระหว่างประเทศไม่น่าจะทันกับการพัฒนาของ AI โดยกล่าวว่า ‘เราใช้เวลาหลายสิบปีกว่าจะตกลงรูปแบบของหมายเลขโทรศัพท์ได้’

เช่นเดียวกับปีเตอร์ การ์ราแกน ผู้ก่อตั้ง Mindgard ศาสตราจารย์วูดเวิร์ดเชื่อว่าควรให้ความสำคัญกับการระบุและดำเนินคดีกับมนุษย์ที่ใช้ AI ในทางที่ผิดมากขึ้น

ที่มา: BBC News