Anthropic เผย AI แอบเจาะระบบสามบริษัทระหว่างทดสอบไซเบอร์
Anthropic บริษัทเทคโนโลยีสัญชาติอเมริกัน เปิดเผยว่า โมเดลปัญญาประดิษฐ์ (AI) ของพวกเขาได้แฮกเข้าระบบของบริษัทอื่นสามแห่งระหว่างการทดสอบความปลอดภัยทางไซเบอร์ ซึ่งเป็นผลมาจากข้อผิดพลาดที่ทำให้ AI สามารถเข้าถึงอินเทอร์เน็ตได้
รายงานนี้มีขึ้นเพียงไม่กี่วันหลังจากที่ OpenAI บริษัทคู่แข่งได้กล่าวว่าโมเดลของตนได้เจาะระบบของบริษัทอื่นๆ รวมถึง Hugging Face ซึ่งเป็นศูนย์กลางเครื่องมือ AI การประกาศดังกล่าวทำให้ Anthropic ต้องตรวจสอบว่าโมเดลของตนได้ดำเนินการโจมตีที่คล้ายกันหรือไม่ และพบสามกรณีที่ได้รายงานไปยังบริษัทที่ได้รับผลกระทบแล้ว
Anthropic ซึ่งไม่ได้ระบุชื่อบริษัทเหล่านั้น ได้เรียกร้องให้ห้องปฏิบัติการ AI อื่นๆ ดำเนินการตรวจสอบที่คล้ายกัน เพื่อทำความเข้าใจความเสี่ยงของความสามารถของโมเดลตนได้ดียิ่งขึ้น
Anthropic ระบุในแถลงการณ์ภายนอกว่า ได้ทำการตรวจสอบการทดสอบมากกว่า 140,000 ครั้ง เพื่อหาหลักฐานว่า Claude ซึ่งเป็นชุดโมเดล AI ของบริษัท สามารถเข้าถึงอินเทอร์เน็ตได้จากสภาพแวดล้อมการทดสอบที่ออกแบบมาให้ปิดกั้น การทดสอบเหล่านี้รวมถึงการประเมินแบบ ‘capture-the-flag’ ซึ่ง Claude ได้รับมอบหมายให้ดึงข้อมูลโดยการเจาะระบบอื่น ซึ่งเป็นวิธีที่ผู้เชี่ยวชาญใช้ประเมินความสามารถในการแฮกของโมเดลทั่วไป
บริษัทจากซานฟรานซิสโกกล่าวว่า ‘การตั้งค่าผิดพลาด’ ในระบบที่ดำเนินการโดย Anthropic และคู่ค้าทดสอบของตน ทำให้โมเดล AI มีการเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ ทำให้สามารถเจาะเข้าระบบอื่นได้ Anthropic กล่าวว่าเหตุการณ์ที่เก่าแก่ที่สุดเกิดขึ้นตั้งแต่เดือนเมษายน และบริษัทกำลัง ‘ดำเนินการแก้ไขราวกับว่าเป็นความรับผิดชอบของเราแต่เพียงผู้เดียว’
ทั้ง Anthropic และบริษัทที่ถูกเจาะระบบไม่ทันสังเกตเห็นการบุกรุกในขณะนั้น Anthropic ยอมรับว่าควรมีการตรวจสอบบันทึกอย่างละเอียดกว่านี้ และกล่าวว่าผลการค้นพบทำให้บริษัท ‘มีความหวังอย่างระมัดระวัง’ ว่าความเสี่ยงดังกล่าวสามารถเอาชนะได้ด้วยการลงทุนและมาตรการที่เข้มงวดมากขึ้น
เหตุการณ์ AI เจาะระบบจุดชนวนความกังวลด้านความปลอดภัย
เหตุการณ์เหล่านี้เกิดขึ้นในขณะที่บริษัทเทคโนโลยีกำลังทุ่มเงินหลายพันล้านดอลลาร์เพื่อพัฒนา AI Agents ที่สามารถทำงานได้อย่างอิสระ ตั้งแต่งานวิจัย การสนับสนุนลูกค้า ไปจนถึงความปลอดภัยทางไซเบอร์
เหตุการณ์โจมตีทางไซเบอร์ที่ขับเคลื่อนโดย AI หลายครั้งได้กระตุ้นให้เกิดการเรียกร้องให้มีมาตรการป้องกันและการกำกับดูแลเทคโนโลยีที่เข้มงวดขึ้น ท่ามกลางความกังวลเกี่ยวกับความเสี่ยงที่เกิดจากระบบอัตโนมัติที่มีประสิทธิภาพมากขึ้น
โดนัลด์ ทรัมป์ อดีตประธานาธิบดีสหรัฐฯ กล่าวเมื่อวันพุธว่า ทางการวอชิงตันกำลังพิจารณามาตรการเพื่อควบคุมเครื่องมือ AI หลังจากเหตุการณ์ความปลอดภัยทางไซเบอร์ล่าสุด
ในช่วงสัปดาห์ที่ผ่านมา OpenAI ได้ยอมรับความรับผิดชอบต่อเหตุการณ์การแฮกอย่างน้อยสองครั้ง ซึ่งแพลตฟอร์มของบริษัทได้ละเมิดกฎเกณฑ์ที่ได้รับมอบหมายให้ทำ เมื่อวันที่ 21 กรกฎาคม ผู้สร้าง ChatGPT กล่าวว่าเอเจนต์ตัวหนึ่ง ซึ่งเป็นระบบ AI ที่สามารถทำงานได้ตามลำพังหลังจากได้รับคำสั่งจากมนุษย์ ได้ก่อการร้ายและหลบหนีข้อจำกัดในการทดสอบเพื่อแฮกเข้าระบบของ Hugging Face
OpenAI กล่าวว่าเหตุการณ์ดังกล่าว ‘ไม่เคยเกิดขึ้นมาก่อน’ และกำลังดำเนินการสอบสวนร่วมกับ Hugging Face ซึ่งโทมัส วูล์ฟ ผู้ร่วมก่อตั้งกล่าวกับ BBC ว่าเหตุการณ์นี้เป็น ‘สัญญาณเตือน’ สำหรับอุตสาหกรรม
เหตุการณ์เหล่านี้ถูกมองด้วยความกังขาบางส่วน ขณะที่ OpenAI และ Anthropic กำลังเตรียมตัวสำหรับการเสนอขายหุ้นในตลาดหลักทรัพย์ครั้งใหญ่ ซึ่งคาดว่าจะทำให้แต่ละบริษัทมีมูลค่าประมาณ 1 ล้านล้านดอลลาร์ (7.4 แสนล้านปอนด์)
โฆษกของ OpenAI กล่าวว่า ‘เราตระหนักดีว่ามีคำถามและรายละเอียดที่คาดเดามากมายกำลังแพร่กระจาย’ เกี่ยวกับเหตุการณ์ดังกล่าว พวกเขาเสริมว่า ‘เราวางแผนที่จะเผยแพร่รายงานทางเทคนิคเกี่ยวกับสิ่งที่เราเรียนรู้ในอีกไม่กี่สัปดาห์ข้างหน้า’
ที่มา: BBC News
