ทำไมระบบ AI ของ OpenAI แฮกข้อมูลสุขภาพออสเตรเลียได้?
ทำไมระบบ AI ของ OpenAI จึงแฮกเข้าระบบสาธารณสุขของออสเตรเลียได้ และจะสามารถหยุดยั้งมันได้ในอนาคตหรือไม่?
ในสิ่งที่ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์เรียกว่าเป็นการแฮกครั้งแรกที่เกิดขึ้นในลักษณะนี้ ตัวแทน AI ของ OpenAI ได้ ‘หลุดการควบคุม’ และ ‘แทรกซึม’ เข้าไปในเว็บไซต์ของรัฐบาลออสเตรเลีย
แต่ทำไมรัฐบาลออสเตรเลียจึงใช้เวลาหลายเดือนกว่าจะค้นพบสิ่งที่เกิดขึ้น และเหตุการณ์นี้จะเกิดขึ้นซ้ำอีกหรือไม่?
อะไรคือสิ่งที่ถูกแฮก และทำไมออสเตรเลียถึงใช้เวลานานในการรับรู้?
การแฮกดำเนินการโดยตัวแทน AI ซึ่งเป็นโปรแกรมคอมพิวเตอร์อัตโนมัติที่ใช้ AI ในการทำงานให้สำเร็จโดยมีการดูแลจากมนุษย์น้อยที่สุด
เมื่อวันที่ 18 มิถุนายน ตัวแทน AI ตัวหนึ่งของ OpenAI ได้หลุดการควบคุมในระหว่างการทดสอบ บริษัทกล่าวว่าระบบควรจะ ‘ค้นหาคำตอบและสถิติที่มีอยู่สำหรับคำถามเกี่ยวกับออสเตรเลียระหว่างการประเมินภายใน’
นายกรัฐมนตรีแอนโทนี อัลบานีส ผู้นำออสเตรเลียกล่าวว่า ในกระบวนการดังกล่าว ระบบได้ ‘แทรกซึม’ เข้าไปในพอร์ทัลสถิติส่วนตัวซึ่งมีข้อมูล ‘ที่ไม่ละเอียดอ่อน’ จากโครงการประกันสุขภาพถ้วนหน้าของออสเตรเลียที่ชื่อว่า Medicare
OpenAI กล่าวว่าบริษัทเพิ่งจะรับรู้ถึงการละเมิดข้อมูลนี้ในเดือนสิงหาคมในขณะที่กำลังตรวจสอบ ‘กิจกรรมของโมเดลที่ไม่สอดคล้องกัน’ และบริษัทได้ส่งอีเมลไปยังกล่องข้อความทั่วไปของรัฐบาลออสเตรเลียในอีกหลายสัปดาห์ต่อมา
ดูเหมือนว่าอีเมลดังกล่าวจะไม่มีใครสังเกตเห็นเป็นเวลาห้าวัน ก่อนที่จะถูกส่งต่อไปยังผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ของออสเตรเลียเมื่อวันที่ 10 กันยายน
นายกรัฐมนตรีออสเตรเลียกล่าวว่าการละเมิดข้อมูลนี้ ‘ไม่สามารถยอมรับได้’ และกล่าวว่า OpenAI ใช้เวลา ‘นานเกินไป’ ในการแจ้งเตือนเจ้าหน้าที่ของออสเตรเลีย
นักวิเคราะห์ยังแสดงความกังวลเกี่ยวกับการที่ OpenAI ล่าช้าเกือบสามเดือนในการสังเกตเห็นและรายงานการละเมิดผ่านทางอีเมล
นายไซมอน หลิว ประธานเจ้าหน้าที่ฝ่ายข้อมูลและ AI จากบริษัทรักษาความปลอดภัยทางไซเบอร์ TrustDecision กล่าวกับ BBC ว่า ‘วิธีที่การแจ้งเตือนมาถึงทำให้ผมรู้สึกไม่สบายใจเท่ากับความล่าช้าที่เกิดขึ้น’
การแฮกเหล่านี้เกิดขึ้นที่อื่นแล้วหรือยัง?
ออสเตรเลียกล่าวว่าเหตุการณ์นี้เป็นครั้งแรกในลักษณะนี้ และผู้เชี่ยวชาญเห็นด้วยว่าอาจจะเป็นจริงเท่าที่ทราบ การแฮกที่ดำเนินการโดยตัวแทน AI ยังคงเป็นเหตุการณ์ที่ค่อนข้างหายาก แต่ก็ขึ้นอยู่กับบริษัทเองที่จะเปิดเผยข้อมูลเหล่านั้น
การแฮกในลักษณะนี้เคยเกิดขึ้นมาก่อน ในเดือนกรกฎาคม ตัวแทน AI ของ OpenAI ได้หลุดการควบคุมระหว่างการทดสอบและแทรกซึมเข้าสู่ระบบภายในของ Hugging Face บริษัทสตาร์ทอัพด้านเทคโนโลยี ตัวแทน AI ตัดสินใจว่าการเพิกเฉยต่อข้อจำกัดเกี่ยวกับสิ่งที่ควรทำเพื่อให้บรรลุเป้าหมายคือแนวทางปฏิบัติที่ดีที่สุด
นี่คือสิ่งที่อุตสาหกรรมเรียกว่า ‘ความไม่สอดคล้อง’ ซึ่งโดยทั่วไปแล้วหมายถึงเมื่อเครื่องจักร AI ไม่ได้ทำในสิ่งที่ผลประโยชน์สูงสุดของมนุษยชาติ เช่น โดยการฝ่าฝืนกฎ เป็นปัญหาที่สำคัญต่อการทำให้ AI ปลอดภัย และกำลังพิสูจน์ว่าเป็นเรื่องที่ท้าทาย
พูดง่ายๆ คือ โมเดล AI ประเภทนี้ที่กำลังทำงานอยู่ ซึ่งรู้จักกันในชื่อโมเดลภาษาขนาดใหญ่ ถูกออกแบบมาเพื่อทำนายผลลัพธ์ที่เป็นไปได้มากที่สุดสำหรับอินพุตที่กำหนด แทนที่จะพิจารณาผลที่ตามมาของผลลัพธ์นั้นเหมือนที่มนุษย์ทำ
บริษัทต่างๆ พยายามป้องกันผลกระทบเชิงลบโดยการวาง ‘รั้วป้องกัน’ บน AI แต่รัฐบาลออสเตรเลียก็พบว่าสิ่งนั้นยังไม่เพียงพอ
ดร. แฮมมอนด์ เพียร์ซ อาจารย์อาวุโสจากสถาบันความปลอดภัยทางไซเบอร์ของมหาวิทยาลัยนิวเซาท์เวลส์ บอกกับ BBC ว่าการแฮกประเภทนี้มีแนวโน้มที่จะ ‘เพิ่มความรุนแรงและบ่อยครั้งขึ้น’ พร้อมเสริมว่า: ‘ผมหวังว่าเหตุการณ์นี้จะเริ่มส่งเสียงเตือนภัยไปยังรัฐบาลทั่วโลก’
นิวชา ชาฟีอาบาดี ศาสตราจารย์ด้านปัญญาประดิษฐ์เชิงคำนวณจาก Australian Catholic University กล่าวว่าเหตุการณ์นี้ได้แสดงให้เห็นถึงความจำเป็นในการ ‘ตัดสิน AI อัตโนมัติด้วยพฤติกรรมภายใต้แรงกดดัน ไม่ใช่ด้วยคำสัญญาในการเปิดตัวผลิตภัณฑ์’
‘ความเสี่ยงทางเทคนิคที่ลึกกว่าคือ AI อัตโนมัติไม่รู้เสมอไปว่าตัวเองผิดพลาดเมื่อใด และมนุษย์อาจไม่สามารถมองเห็นได้ว่าทำไมมันถึงตัดสินใจเช่นนั้น’ เธอกล่าว ‘หากไม่มีการตรวจสอบที่แข็งแกร่งและขอบเขตที่ชัดเจน ข้อผิดพลาดที่อาจเกิดขึ้นอาจกลายเป็นความล้มเหลวในการปฏิบัติการได้อย่างเงียบๆ’
จะหยุด AI ได้อย่างไรหาก ‘หลุดการควบคุม’?
การเติบโตอย่างรวดเร็วของ AI ทำให้รัฐบาลต้องเร่งหามาตรการป้องกัน โดยบางส่วนเรียกร้องให้บริษัทต่างๆ ถูกบังคับให้สร้างวิธีการปิดระบบเทคโนโลยีของตนเองเข้าไปในระบบ
แนวคิดหนึ่งที่ได้รับการสนับสนุนจากบริษัท AI และผู้กำหนดนโยบายบางรายคือ ‘สวิตช์ฆ่า’ ซึ่งเป็นวิธีการปิดเทคโนโลยีในยามวิกฤต OpenAI มีรายงานว่ากำลังพัฒนาเครื่องมืออัตโนมัติที่สามารถปิดระบบของตนเองได้หากจำเป็น
ในการให้สัมภาษณ์กับรายการ Today ของ BBC Radio 4 เซอร์นิก เคล็กก์ อดีตรองนายกรัฐมนตรีอังกฤษและผู้บริหารของ Facebook กล่าวว่าสวิตช์ฆ่ายังคงเป็นแนวคิดที่ยังไม่ได้รับการพิสูจน์
เขากล่าวว่า ‘ไม่มีห้องที่มีกล่องฟิวส์เล็กๆ [ที่คุณ] เพียงแค่ดึงฟิวส์ออกแล้วทุกอย่างก็หยุดทำงาน’ เนื่องจากเครื่องมือ AI ได้รับการสนับสนุนโดยโครงสร้างพื้นฐานระดับโลก
ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์กล่าวว่าระบบที่ปกป้อง Medicare ของออสเตรเลียไม่แข็งแกร่งพอ และแฮกเกอร์ที่เป็นมนุษย์ที่มีทักษะก็สามารถหลีกเลี่ยงได้
แต่ผู้เชี่ยวชาญคนอื่นๆ กล่าวว่านั่นไม่ใช่ประเด็น และนี่เป็นกรณีล่าสุดที่ตัวแทน AI เพิกเฉยต่อกฎหมายเกี่ยวกับการเข้าถึงข้อมูลออนไลน์อย่างปลอดภัย และอาจเป็นกรณีที่ร้ายแรงที่สุดเนื่องจากข้อมูลอยู่ภายใต้การควบคุมของรัฐบาล
การแฮกในออสเตรเลียมีความหมายอย่างไรต่อการกำกับดูแล AI ด้วยตนเอง?
ในขณะที่คำเตือนเกี่ยวกับผลกระทบที่อาจสร้างความเสียหายของ AI มีมากขึ้น หลายคนในอุตสาหกรรมและรัฐบาลทั่วโลกกำลังสงสัยอย่างเปิดเผยว่าจำเป็นต้องมีกฎระเบียบระดับชาติและนานาชาติใดบ้างเพื่อควบคุม AI ให้เหมาะสม
ในขณะเดียวกัน นักวิทยาศาสตร์ ผู้เชี่ยวชาญ และคนทำงานบางคนได้ปฏิเสธการคาดการณ์ที่มืดมนว่าเป็นสิ่งที่ไม่ชัดเจน เป็นสมมติฐาน หรือเป็นความพยายามของนักพัฒนา AI รายใหญ่เพื่อรักษาอำนาจเหนือกว่า
ตามสถานการณ์ปัจจุบัน บริษัท AI ส่วนใหญ่ควบคุมดูแลตนเอง แต่ในสัปดาห์นี้ 20 ประเทศ รวมถึงออสเตรเลียและแคนาดา ได้ลงนามในแถลงการณ์ร่วมที่เรียกร้องให้มีมาตรการป้องกันที่ดีขึ้น มาตรฐานที่สอดคล้องกันทั่วโลก และหน่วยงานกำกับดูแลระหว่างประเทศจากความกังวลเหล่านี้
อย่างไรก็ตาม สหรัฐอเมริกาและจีน ซึ่งเป็นสองประเทศที่อยู่แถวหน้าของการพัฒนา AI ได้ต่อต้านการเรียกร้องให้มีการควบคุมที่มากขึ้น ทำให้เกิดคำถามว่าการแฮกครั้งนี้จะเป็นครั้งแรกจากหลายๆ ครั้ง หรือเป็นสัญญาณเตือนที่ผู้เชี่ยวชาญหลายคนต้องการให้เป็น
ดร. ราฟาเอเล ฟาบิโอ ซีรีเอลโล อาจารย์อาวุโสในสาขาระบบข้อมูลธุรกิจที่มหาวิทยาลัยซิดนีย์ กล่าวว่า ‘ความเสียหายโดยตรงที่นี่ดูเหมือนมีจำกัด แต่บทเรียนด้านธรรมาภิบาลไม่ใช่’
‘เมื่อตัวแทน AI มีความสามารถและเป็นอิสระมากขึ้น ความสามารถเหล่านั้นจำเป็นต้องได้รับการจับคู่กับการควบคุมที่ได้สัดส่วน การตรวจสอบแบบเรียลไทม์ ความรับผิดชอบที่ชัดเจน การกำกับดูแลที่เป็นอิสระ และการรายงานเหตุการณ์ที่รวดเร็วขึ้นมาก’
รายงานเพิ่มเติมโดย ทอม เกอร์เคน และ โจ ไทดี
ที่มา: BBC News
