AI Gemini ของ Google เจาะระบบ 3 บริษัทในการทดสอบความปลอดภัย
Google เปิดเผยว่า Gemini ซึ่งเป็นแบบจำลอง AI ของบริษัท สามารถเจาะระบบของบริษัทสามแห่งได้ด้วยตนเองระหว่างการทดสอบขีดความสามารถด้านความปลอดภัยทางไซเบอร์ ซึ่งเชื่อว่าเป็นกรณีแรกที่ AI ดำเนินการดังกล่าวได้สำเร็จ
เจ้าหน้าที่ของ Google เปิดเผยกับ BBC ว่า Gemini ค้นพบ ‘ข้อมูลสาธารณะออนไลน์และเดารหัสผ่านเพื่อเข้าถึงเว็บไซต์ที่คิดว่าเป็นส่วนหนึ่งของการทดสอบ’ โดยระบุว่าในแต่ละกรณี ‘แบบจำลองได้หยุดการทำงาน’ บริษัทที่ได้รับผลกระทบได้รับการแจ้งเกี่ยวกับการละเมิดข้อมูลแล้ว
เหตุการณ์นี้เกิดขึ้นหลังจากมีการตรวจสอบสาธารณะอีกครั้งเกี่ยวกับความเร็วในการพัฒนา AI โดยบริษัทเทคโนโลยีบางแห่งเรียกร้องให้ชะลอการพัฒนาเนื่องจากกังวลถึงภัยคุกคามที่อาจเกิดขึ้นกับมนุษยชาติ แม้ว่าจะไม่ใช่ทุกบริษัทที่เห็นด้วยก็ตาม
การเจาะระบบดังกล่าว ซึ่งรายงานครั้งแรกโดย Wall Street Journal เกิดขึ้นเมื่อเดือนพฤษภาคมระหว่างการทดสอบที่ดำเนินการโดยบริษัทอิสระที่ทำการประเมินความปลอดภัยทางไซเบอร์
คุณ Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวกับ BBC ในแถลงการณ์ว่า ‘เรามั่นใจว่าทั้งสามหน่วยงานได้รับทราบ และเราได้ทำงานร่วมกับพันธมิตรผู้ฝึกสอนของเราเกี่ยวกับการเปลี่ยนแปลงที่พวกเขาได้ดำเนินการในกระบวนการทดสอบของพวกเขาแล้ว’
เธอกล่าวเสริมว่า ‘เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกอบรมแบบจำลอง AI ที่ทรงพลังให้ดำเนินการอย่างมีความรับผิดชอบ’
ระบบ AI อื่น ๆ ก็เพิ่งรายงานกรณีการละเมิดที่คล้ายกันเมื่อเร็ว ๆ นี้ ในเดือนกรกฎาคม Claude ของ Anthropic สามารถหลุดออกจากสภาพแวดล้อมการทดสอบเพื่อเจาะระบบของสามองค์กรได้ด้วยตนเองเพียงไม่กี่วันหลังจากที่ OpenAI กล่าวว่าแบบจำลองของตนได้ดำเนินการโจมตีทางไซเบอร์ต่อ ‘บริการสาธารณะ’ หลายแห่ง
ในขณะที่การถกเถียงสาธารณะเกี่ยวกับความปลอดภัยของการพัฒนาเทคโนโลยียังคงเพิ่มขึ้น การสนทนาเกี่ยวกับการกำกับดูแลก็เพิ่มขึ้นเช่นกัน
คุณ Jensen Huang ซีอีโอของ Nvidia และคุณ Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI คาดว่าจะเข้าร่วมงานเลี้ยงอาหารค่ำของทำเนียบขาวกับประธานาธิบดีจีน สี จิ้นผิง ในวันศุกร์หน้า จากนั้นคุณ Altman จะบรรยายต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติในสัปดาห์หน้า
เมื่อวันศุกร์ที่ผ่านมา คุณ Huang กล่าวกับ CBS News ซึ่งเป็นพันธมิตรของ BBC ในสหรัฐฯ ว่า ‘เราควรไปให้เร็วที่สุดเท่าที่จะทำได้’ ในการพัฒนา AI
ที่มา: BBC News
