OpenAI ระงับเปิดตัว AI โมเดลใหม่ GPT-6.1 Astra หวั่นปัญหาด้านความปลอดภัย
OpenAI ผู้พัฒนา ChatGPT ยืนยันเมื่อวันอังคารที่ผ่านมาว่าจะไม่เปิดตัวโมเดล AI ใหม่ที่ชื่อ GPT-6.1 Astra เนื่องจากมีความกังวลด้านความปลอดภัย
ซาชิ เจน หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI ระบุว่า ระบบ AI ซึ่งสามารถทำงานได้หลากหลาย เช่น การท่องเว็บและการใช้งานแอปพลิเคชันด้วยตัวเองนั้น ‘ไม่เป็นไปตามมาตรฐาน’ ของบริษัท
เมื่อวันอังคารที่ผ่านมา OpenAI ยังได้ออกแถลงการณ์เกี่ยวกับเหตุการณ์ที่เกิดขึ้นในเดือนมิถุนายน แต่ไม่ได้เปิดเผยต่อสาธารณะจนกระทั่งสัปดาห์ที่แล้ว ซึ่งโมเดล AI ของบริษัทได้เข้าถึงเว็บไซต์และระบบของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต เหตุการณ์นี้และการละเมิดที่คล้ายกันโดยโมเดลที่พัฒนาโดยบริษัท AI รายใหญ่ได้เพิ่มความเข้มข้นของการถกเถียงเกี่ยวกับความเสี่ยงที่เทคโนโลยีนี้ก่อให้เกิดในช่วงไม่กี่สัปดาห์ที่ผ่านมา
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา ผู้นำด้าน AI ระดับสูงหลายคน รวมถึงแซม อัลต์แมน ของ OpenAI และดาริโอ อะโมเดย์ หัวหน้าของ Anthropic ได้เรียกร้องให้ภาคอุตสาหกรรมชะลอการพัฒนาเนื่องจากความกังวลเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับเทคโนโลยีนี้
การตัดสินใจของ OpenAI ซึ่งรายงานครั้งแรกโดย Wall Street Journal ถือเป็นกรณีที่หาได้ยากที่นักพัฒนา AI รายใหญ่ระงับการเปิดตัวใหม่เนื่องจากความกังวลด้านความปลอดภัย
เจนกล่าวว่า โมเดลล่าสุดนี้บกพร่องในด้าน ‘การทำงานภายใต้ขอบเขตและได้รับอนุญาต และวิธีการสื่อสารกลับไปยังผู้ใช้เกี่ยวกับประเภทของงานที่ทำไป’
‘เราต้องการให้แน่ใจว่าการพัฒนาโมเดลของเราปลอดภัย ไม่ว่าจะอยู่ภายในบริษัท หรือเมื่อเราจัดส่งให้กับผู้ใช้ แต่เมื่อเราจัดส่งให้กับผู้ใช้ เรามีมาตรฐานที่สูงมากในด้านความปลอดภัยและการจัดแนว’ เธอกล่าวเสริม
โมเดล GPT-6 Astra ซึ่งเป็นเรือธง ได้รับการเผยแพร่ในเดือนกันยายน และมีความเชี่ยวชาญในการให้เหตุผลที่ซับซ้อนและการดำเนินการงานโดยอัตโนมัติ OpenAI กล่าวว่าเป็นผลมาจากการ ‘วิจัยและลงทุนครั้งใหญ่มาหลายปี’
การควบคุมความปลอดภัยของบริษัทอยู่ภายใต้การตรวจสอบอย่างใกล้ชิด หลังจากเหตุการณ์สำคัญหลายครั้งที่เกี่ยวข้องกับเทคโนโลยีของบริษัท
เหตุการณ์ AI ของ OpenAI บุกรุกเว็บไซต์รัฐบาลออสเตรเลีย
เมื่อสัปดาห์ที่แล้ว นายกรัฐมนตรีออสเตรเลีย แอนโทนี อัลบานีส ประกาศว่า AI ของ OpenAI ได้แฮกเข้าสู่เว็บไซต์และระบบของรัฐบาลในเดือนมิถุนายน และเข้าถึงข้อมูลส่วนตัว ในสิ่งที่ผู้เชี่ยวชาญกล่าวว่าเป็นกรณีแรกที่ทราบในโลก
นายอัลบานีสยังวิจารณ์ OpenAI ที่แจ้งรัฐบาลออสเตรเลียผ่านที่อยู่อีเมลทั่วไป แทนที่จะติดต่อเจ้าหน้าที่โดยตรง
OpenAI กล่าวในแถลงการณ์เมื่อวันอังคารว่า บริษัทเสียใจกับเหตุการณ์ดังกล่าว และ ‘ควรจัดการการตอบสนองของเราให้ดีขึ้น’
ในเดือนกรกฎาคม OpenAI กล่าวว่าระบบ AI ของบริษัทได้เข้าถึงอินเทอร์เน็ตและแฮกเข้าไปใน Hugging Face ซึ่งเป็นศูนย์กลางนักพัฒนาโอเพนซอร์ส กระตุ้นให้นักวิจัยและเจ้าหน้าที่เรียกร้องให้มีการควบคุมเทคโนโลยีที่เข้มงวดขึ้น
เมื่อวันจันทร์ที่ผ่านมา บริษัท Nvidia ยักษ์ใหญ่ด้านชิป AI ได้เปิดตัวชุดเครื่องมือความปลอดภัยซอฟต์แวร์สำหรับแพลตฟอร์ม AI อัตโนมัติ หรือที่เรียกว่าเอเจนต์ ซึ่งกล่าวว่าสามารถป้องกันการแฮก Hugging Face ได้
หนึ่งในเครื่องมือใหม่นี้ใช้คุณสมบัติฮาร์ดแวร์ในชิปของ Nvidia เพื่อควบคุมเอเจนต์
นายเจ็นเซน หวง หัวหน้าของ Nvidia ส่วนใหญ่ได้ปฏิเสธข้อเรียกร้องให้มีการควบคุม AI ที่เข้มงวดขึ้น โดยยืนยันว่าเอเจนต์ที่ก่อปัญหาเป็นปัญหาทางวิศวกรรมที่สามารถแก้ไขได้ Nvidia ตกลงที่จะซื้อ Hugging Face ในราคา 1.29 หมื่นล้านดอลลาร์ (9.74 พันล้านปอนด์) เมื่อต้นเดือนนี้
นายโดนัลด์ ทรัมป์ ประธานาธิบดีสหรัฐฯ และนายไมค์ จอห์นสัน ประธานสภาผู้แทนราษฎร เตรียมเป็นเจ้าภาพจัดงานต้อนรับผู้นำด้านเทคโนโลยีชั้นนำที่ทำเนียบขาวในวันอังคารนี้ เพื่อหารือเกี่ยวกับการควบคุม AI
นายทรัมป์ได้ลดทอนความกังวลเกี่ยวกับความเสี่ยงของ AI ว่าเป็น ‘การหลอกลวง’ โดยยืนยันว่าสหรัฐฯ มีกฎหมายที่เพียงพอและ ‘มาตรการป้องกัน’ เดียวที่เทคโนโลยีนี้ต้องการคือประธานาธิบดีที่ ‘แข็งแกร่งและฉลาด’
ที่มา: BBC News
