อดีตนักวิจัย Anthropic เผย AI ทำบุคลากร ‘หวาดกลัว’ อนาคตมนุษยชาติ

อดีตนักวิจัยด้านปัญญาประดิษฐ์ (AI) ที่ลาออกจากบริษัท Anthropic ได้กล่าวว่าผู้ที่ทำงานเกี่ยวกับเทคโนโลยีนี้กำลัง “หวาดกลัวอย่างแท้จริง” ต่อความรวดเร็วของความก้าวหน้าของ AI และสิ่งที่มันอาจหมายถึงสำหรับมนุษยชาติ

“ผมเชื่อว่าหากเราไม่ชะลอความเร็วของความก้าวหน้าในอัตราปัจจุบัน มีความเป็นไปได้สูงที่เราทุกคนอาจเสียชีวิตในอนาคตอันใกล้” เขากล่าว

ยาค็อบ ค็อกซอน (Jacob Coxon) กำลังพูดกับสำนักข่าว BBC หลังจากที่โพสต์การลาออกของเขาเกี่ยวกับอันตรายของ AI ได้กลายเป็นไวรัล ท่ามกลางความกังวลด้านความปลอดภัยที่เพิ่มขึ้นเกี่ยวกับอุตสาหกรรมนี้

ดาริโอ อะโมเดอี (Dario Amodei) หัวหน้าของ Anthropic ซึ่งเป็นอดีตเจ้านายของค็อกซอน วัย 27 ปี ได้เรียกร้องให้การพัฒนา AI ชะลอตัวลงเมื่อเร็ว ๆ นี้ แม้ว่าบางคนจะตั้งคำถามถึงแรงจูงใจเบื้องหลังเรื่องนี้ก็ตาม

ผู้บริหารของบริษัท AI คู่แข่งสองแห่ง ได้แก่ แซม อัลต์แมน (Sam Altman) จาก OpenAI และ อีลอน มัสก์ (Elon Musk) จาก xAI ต่างกล่าวว่าเห็นด้วยกับข้อเสนอของอะโมเดอีในการชะลอและควบคุมอุตสาหกรรม รวมถึงการตรวจสอบการพัฒนาโมเดล AI โดยอิสระ

อะโมเดอีเขียนในบทความเมื่อวันเสาร์ว่า การพัฒนาเทคโนโลยีไม่ใช่ปัญหา แต่ความเสี่ยงที่เกี่ยวข้องกับมันนั้น “ร้ายแรง” และบริษัทและรัฐบาลต้องได้รับเวลาในการแก้ไขปัญหาเหล่านั้น

ค็อกซอน ซึ่งเคยทำงานที่ OpenAI ก่อนจะมาที่ Anthropic ยินดีกับข้อเสนอให้ชะลอตัวลง แต่กล่าวว่าจำเป็นต้องมีการประสานงานกับจีนเพื่อหลีกเลี่ยง “การแข่งขันในระดับนานาชาติ”

“ผู้คนที่ทำงานในบริษัทเหล่านี้จริงจังอย่างยิ่งเมื่อพวกเขาร้องขอการควบคุม เพราะพวกเขาพบว่าตัวเองติดอยู่ในวังวนของการแข่งขัน และพวกเขากลัวผลลัพธ์ของการแข่งขันนั้น” เขากล่าวกับรายการ Sunday with Laura Kuenssberg

ความกังวลจากภายใน: AI อาจนำไปสู่วันสิ้นโลก

คำถามที่ตอบยากที่สุด ตามที่ค็อกซอนกล่าวไว้ คือวันสิ้นโลกของ AI จะเป็นอย่างไร หนึ่งในความเสี่ยงที่ระบุในคำกล่าวของอะโมเดอีคือฝูงบอตที่ทำหน้าที่เหมือนซูเปอร์คอมพิวเตอร์ที่สามารถเข้าควบคุมอินเทอร์เน็ตได้ ค็อกซอนกล่าวว่าสถานการณ์นี้อาจเป็นจริงได้ภายในหกเดือนถึงหนึ่งปี

ในการตอบสนองต่อการลาออกของค็อกซอน โฆษกของ Anthropic กล่าวกับ BBC News ว่า “เราโปร่งใสมาโดยตลอดว่า AI จะนำมาซึ่งประโยชน์มหาศาลและความเสี่ยงที่ไม่เคยมีมาก่อน

“เพื่อจัดการกับความเสี่ยงเหล่านี้ เรายังคงสร้างโมเดลที่มีการป้องกันที่แข็งแกร่งที่สุดในอุตสาหกรรม”

โฆษกยังกล่าวเสริมว่า บริษัทเป็นผู้บุกเบิกในการศึกษาว่าโมเดล AI ทำงานอย่างไร เป็นรายแรกที่เผยแพร่กรอบการทำงานเพื่อลดความเสี่ยงจากการพัฒนา และยัง “ทดสอบ” โมเดลอย่างจริงจัง และเผยแพร่ผลการวิจัยเพื่อช่วยในการตรวจสอบและป้องกันเหตุการณ์ “การจัดเรียง AI ที่ผิดพลาด”

“งานนี้ยังเป็นเหตุผลที่เราเชื่อว่าโลกจะได้รับประโยชน์หากอุตสาหกรรมนำวิธีการที่ถูกกฎหมายและตรวจสอบได้มาใช้เพื่อทำงานร่วมกันในการกำหนดจังหวะการเผยแพร่โมเดลที่มีประสิทธิภาพ” พวกเขากล่าว

ค็อกซอนกล่าวว่าเพื่อนร่วมงานของเขากลัวว่าอันตรายอาจมาถึงได้ภายในสองปีข้างหน้า เขากล่าวว่าพนักงานในบริษัท AI กำลัง “วางแผนว่าจะทำอะไรกับชีวิตของพวกเขา และคิดถึงผลกระทบจากงานของพวกเขา” ในขณะที่บางคนกำลัง “พิจารณาซื้อที่ดินที่ไหนสักแห่ง เพราะพวกเขากลัวความไม่มั่นคงที่เกิดจากความก้าวหน้าอย่างรวดเร็วของ AI”

“พวกเขาทุกคนเก็บเรื่องนี้ไว้ในใจทุกวันขณะที่ทำงานกับเทคโนโลยี”

แต่ค็อกซอนก็มีความหวังเกี่ยวกับอนาคตของ AI โดยกล่าวกับ BBC ว่าผู้ที่วิจัยเทคโนโลยีนี้ “ต้องการเห็นด้านดี” ของสิ่งต่าง ๆ เช่น “การแก้ไขโรคภัยไข้เจ็บและการปรับปรุงชีวิตของทุกคน”

ผู้เชี่ยวชาญร่วมวงเตือน AI

คนอื่น ๆ ในอุตสาหกรรมหลายคนก็แสดงความกังวลเช่นกันตั้งแต่โพสต์บนโซเชียลมีเดียของค็อกซอน รวมถึงนักวิทยาศาสตร์ของ Anthropic อีวาน ฮูบิงเกอร์ (Evan Hubinger)

“เราเชื่ออย่างจริงใจว่า AI สามารถฆ่ามนุษย์ทุกคนได้! โดยส่วนตัวแล้วผมคิดว่ามีโอกาสมากกว่า 10% ภายในทศวรรษหน้า” ฮูบิงเกอร์กล่าว

จอฟฟรีย์ ฮินตัน (Geoffrey Hinton) นักวิทยาศาสตร์คอมพิวเตอร์และผู้ได้รับรางวัลโนเบล ซึ่งรู้จักกันในนาม “บิดาแห่ง AI” กล่าวกับ BBC เมื่อวันศุกร์ว่าโอกาส 10% ที่ AI จะฆ่ามนุษย์ทุกคนนั้น “ไม่น่าจะเป็นไปไม่ได้”

ขณะเดียวกัน มาร์ค วอร์เนอร์ (Marc Warner) ประธานเจ้าหน้าที่บริหารของ Faculty ซึ่งเป็นบริษัทด้านความปลอดภัย AI กล่าวกับ BBC ว่า “ยากมากที่จะระบุความน่าจะเป็น” ที่ AI จะฆ่ามนุษย์ทุกคน “แต่สิ่งสำคัญคือต้องตระหนักว่าคนเหล่านี้จริงใจอย่างยิ่งในสิ่งที่พวกเขากำลังพูด” เขากล่าวเสริม โดยชี้ให้เห็นว่าความเสี่ยงที่เกี่ยวข้องกับ AI ได้ถูกยกขึ้นมาโดยหัวหน้าบริษัท AI หลายแห่งมาหลายปีแล้ว

อดีตนายกรัฐมนตรีอังกฤษ ริชี ซูนัก (Rishi Sunak) ซึ่งเป็นที่ปรึกษาที่ได้รับค่าจ้างของ Anthropic เขียนใน The Sunday Times ว่าเขาก็กังวลเกี่ยวกับความเสี่ยงของ AI ต่อมนุษยชาติ แม้ว่าจะมองโลกในแง่ดีโดยทั่วไป

เสียงที่แตกต่างในซิลิคอนแวลลีย์

อย่างไรก็ตาม บุคคลในวงการบางคนได้แนะนำว่าความคิดเห็นเกี่ยวกับอันตรายและพลังของ AI อาจถูกออกแบบมาเพื่อสร้างกระแส

เคลมองต์ เดอลังก์ (Clement Delangue) ประธานเจ้าหน้าที่บริหารของแพลตฟอร์ม AI Hugging Face กล่าวบนโซเชียลมีเดียว่า “ขออภัย แต่การถามยาค็อบ [ค็อกซอน] เกี่ยวกับความเสี่ยงการสูญพันธุ์จาก AI ก็เหมือนกับการถามช่างแอร์ของคุณเกี่ยวกับการเปลี่ยนแปลงสภาพภูมิอากาศ ไม่ได้บอกว่าไม่น่าสนใจหรือไม่ผิดในตัวมันเอง แต่ขอให้มองในมุมที่ถูกต้อง”

หลังจากที่บทความของอะโมเดอีถูกเผยแพร่ เดอลังก์ได้เสนอตัวที่จะเป็นส่วนหนึ่งของวิธีแก้ปัญหาที่หัวหน้า Anthropic เสนอ

ขณะเดียวกัน เจนเซ่น หวาง (Jensen Huang) หัวหน้าของ Nvidia ก็ได้กล่าวถึงความคิดเห็นของค็อกซอนในการประชุมที่จัดโดยวาณิชธนกิจ Goldman Sachs เมื่อสัปดาห์ที่แล้ว โดยมีผู้คนหลายคนในกลุ่มบอกกับ BBC ว่าเขาปฏิเสธว่าไม่เป็นความจริง หวางเคยกล่าวไว้ก่อนหน้านี้ว่าแนวคิดที่ว่า AI จะ “เป็นจุดจบของมนุษยชาติ” นั้นเป็น “เรื่องไร้สาระโดยสิ้นเชิง”

และแม้ว่าเขาอาจมีผลประโยชน์ทางธุรกิจในการเติบโตของ AI — Nvidia สร้างชิปที่ขับเคลื่อนระบบ AI — ความคิดเห็นของเขาสะท้อนถึงปฏิกิริยาที่เพิ่มขึ้นในซิลิคอนแวลลีย์ต่อคำเตือนเกี่ยวกับการดำรงอยู่จากพนักงานทั้งในปัจจุบันและอดีต

นักวิจารณ์คนอื่น ๆ กล่าวว่า Anthropic พยายามที่จะกระตุ้นให้เกิดการผลักดันด้านกฎระเบียบเพื่อปิดกั้นการแข่งขัน ทำให้ตนเองและ OpenAI อยู่ในสภาวะผูกขาด Anthropic มีรายงานว่ากำลังเตรียมพร้อมสำหรับการเสนอขายหุ้นต่อสาธารณะครั้งแรก (IPO) ที่อาจสร้างสถิติในตลาดหลักทรัพย์ ซึ่งจะทำให้ผู้คนสามารถซื้อหุ้นในบริษัทของตนได้ OpenAI ซึ่งมีมูลค่าล่าสุด 8.52 แสนล้านดอลลาร์ (6.3 แสนล้านปอนด์) คาดว่าจะทำเช่นเดียวกัน แต่ อัลต์แมน จาก OpenAI กล่าวเมื่อวันศุกร์ว่าจะไม่เกิดขึ้นในปีนี้ โดยอ้างถึงความกังวลด้านความปลอดภัย

ที่มา: BBC News