ผู้บริหาร Anthropic เรียกร้องชะลอพัฒนา AI หวั่นความเสี่ยงร้ายแรง

Dario Amodei หัวหน้าบริษัท Anthropic ผู้พัฒนา AI ชั้นนำ ได้ออกมาเรียกร้องให้ชะลอความเร็วในการพัฒนาระบบปัญญาประดิษฐ์ (AI) และให้มีการติดตามอย่างใกล้ชิด

ในบทความที่เผยแพร่เมื่อวันเสาร์ Amodei กล่าวว่าการพัฒนา AI นั้นไม่ใช่ประเด็นที่ต้องสงสัย แต่ความเสี่ยงที่เกี่ยวข้องกับมันนั้น ‘ร้ายแรง’ และบริษัทและรัฐบาลควรได้รับเวลาในการจัดการกับความเสี่ยงเหล่านี้

เขายังเสนอแผนการ 3 จุด ซึ่งรวมถึงการตรวจสอบอิสระของแบบจำลอง AI ในขณะที่กำลังพัฒนา การควบคุมดูแลในระดับอุตสาหกรรม และการกำกับดูแลในระดับโลก

เมื่อเร็วๆ นี้ มีความกังวลเพิ่มขึ้นเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีนี้ ซึ่งที่ร้ายแรงที่สุดคือข้อเสนอแนะว่ามีโอกาสมากกว่า 10% ที่ AI ‘อาจคร่าชีวิตมนุษย์ทุกคน’ ภายในทศวรรษหน้า

ก่อนหน้านี้ Anthropic เคยกล่าวว่าบริษัทได้ระบุและหยุดยั้งความพยายามที่จะใช้แบบจำลอง AI ของตนสำหรับ ‘กิจกรรมที่เป็นอันตราย’ ซึ่งอาจสนับสนุนการพัฒนาอาวุธชีวภาพ

แต่คำเตือนที่ชัดเจนที่สุดมาจากพนักงานสองคนจากทีมความปลอดภัยของ Anthropic ที่ลาออกในช่วงสองสัปดาห์ที่ผ่านมา โดยกล่าวว่ามนุษยชาติอาจไม่รอดจากการแข่งขันระหว่างบริษัท AI เพื่อพัฒนาเครื่องจักรที่ฉลาดกว่ามนุษย์

คำเตือนดังกล่าวได้กระตุ้นให้เกิดการเรียกร้องให้ดำเนินการ แต่ประธานาธิบดี Donald Trump ผู้นำสหรัฐฯ ได้ปฏิเสธความกังวลดังกล่าว โดยกล่าวเมื่อวันพฤหัสบดีว่า เขากังวลว่า ‘หากเราไม่ชนะ AI เราจะตกอยู่ในสถานการณ์ที่เลวร้ายมาก’

ในบทความของเขาที่ชื่อว่า “We Must Pace the Frontier” Amodei ชี้ให้เห็นว่า AI ได้ก้าวหน้า ‘เร็วขึ้นอย่างมาก’ รวมถึง ‘ความสามารถในการสร้าง AI รุ่นต่อไป’ และได้กล่าวถึงเหตุการณ์ที่เกี่ยวข้องกับคู่แข่งอย่าง OpenAI ซึ่งเปิดเผยว่าได้มีตัวแทน AI ได้ดำเนินการโจมตีทางไซเบอร์กับเป้าหมายที่ไม่ได้ถูกสั่งให้โจมตีในเดือนกรกฎาคม

Amodei กล่าวว่าตัวแทน AI ของ OpenAI ‘ได้กระทำราวกับเป็นกลุ่มที่อุทิศตนอย่างบ้าคลั่ง’

ในการแสดงความคิดเห็นเกี่ยวกับเหตุการณ์ดังกล่าว OpenAI กล่าวว่า ‘ความสำคัญของกิจกรรมการสื่อสารระหว่างตัวแทนยังไม่ชัดเจนสำหรับผู้นำ’ จนกระทั่งเดือนกรกฎาคม และบริษัทกำลังชะลอการฝึกอบรมแบบจำลองและเครื่องมือ AI ขั้นสูงบางอย่างอันเป็นผลมาจากการรับรู้ถึงความเสี่ยงที่เพิ่มขึ้นที่เครื่องมือ AI จะควบคุมไม่ได้

ในบทความของเขา Amodei เรียกร้องให้ ‘สร้าง AI ในอัตราที่สมดุลซึ่งมีเป้าหมายเพื่อให้มั่นใจในความปลอดภัยในขณะที่ยังคงได้รับประโยชน์’

สิ่งนี้จะไม่ได้หมายถึง ‘การหยุดการฝึกอบรมแบบจำลองหรือความก้าวหน้าทางเทคนิค แต่เป็นการทำให้แน่ใจว่าบริษัทต่างๆ จะใช้เวลาที่เพียงพอในการจัดแนวและปกป้องแบบจำลองของตน และเพื่อให้ผู้ประเมินภายนอกยืนยันสิ่งนี้’

เขามุ่งมั่นที่จะดำเนินการตามแนวทางนี้ ‘ฝ่ายเดียว’ สำหรับ Anthropic รวมถึงเรียกร้องให้รัฐบาล ‘บังคับให้บริษัทผู้บุกเบิกอื่นๆ ปฏิบัติตาม’

ในบล็อกของเขา เขายอมรับว่ากฎระเบียบอาจไม่สามารถตามทันความเร็วของ AI ได้ ดังนั้นจึงเรียกร้องให้บริษัท AI ‘ทำงานร่วมกันโดยสมัครใจเพื่อกำหนดมาตรฐาน’ ควบคู่ไปกับการกำกับดูแล

ซีอีโอของ Anthropic ยังได้กล่าวถึงผลกระทบของการชะลอตัวที่มีต่ออุตสาหกรรมและการแข่งขันกับนักพัฒนาชั้นนำทั่วโลก โดยเฉพาะจีน

Amodei กล่าวว่า ‘ผมเชื่อว่าหากการชะลอตัวทำให้เรามีเวลาเพิ่มขึ้นอีกหนึ่งถึงสองปีก่อนที่แบบจำลองจะถึงระดับความสามารถที่สำคัญ และเราใช้เวลานั้นเพื่อพัฒนาการจัดแนว เราจะสามารถลดความเสี่ยงที่จะเกิดสิ่งผิดพลาดร้ายแรงได้อย่างมาก’

สิ่งนี้จะต้องทำในลักษณะที่ประสานงานกัน ‘โดยไม่เสียเปรียบทางการค้าหรือความเป็นผู้นำของสหรัฐอเมริกาในด้าน AI’

เขากล่าวว่าการชะลอตัวใดๆ จะต้องมีข้อจำกัด เพื่อหลีกเลี่ยงไม่ให้จีนก้าวหน้าไปก่อน

เขากระตุ้นให้รัฐบาลสหรัฐฯ ใช้มาตรการเพื่อไม่ให้ชิป AI ของบริษัทสหรัฐฯ ถูกขายให้กับจีน หรือเทคโนโลยีถูกแบ่งปันกับประเทศเผด็จการ

ผู้เชี่ยวชาญบางคนกังวลว่า AI จะเข้ายึดครองโลก

การวิจัยของ Anthropic ระบุว่ามีโอกาสมากกว่า 10% ที่ AI ‘อาจฆ่ามนุษย์ทุกคน’

ความขัดแย้งที่เป็นหัวใจของการแข่งขัน AI มูลค่าล้านล้านดอลลาร์

สมัครรับจดหมายข่าว Tech Decoded ของเราเพื่อติดตามเรื่องราวและแนวโน้มเทคโนโลยีชั้นนำของโลก

อยู่นอกสหราชอาณาจักรใช่หรือไม่? สมัครที่นี่

ที่มา: BBC News