Anthropic สกัดความพยายามใช้ AI สร้างอาวุธชีวภาพ
Anthropic บริษัทพัฒนา AI ระบุว่าได้ตรวจพบและขัดขวางความพยายามใช้โมเดล AI ของตนเพื่อ ‘กิจกรรมที่เป็นอันตราย’ ซึ่งอาจสนับสนุนการพัฒนาอาวุธชีวภาพได้
ข้อค้นพบนี้ซึ่งระบุในรายงานข่าวกรองภัยคุกคามล่าสุดของบริษัท ถือเป็นคำเตือนล่าสุดที่เพิ่มขึ้นจากนักวิจัย AI และผู้ที่อยู่ในวงการอุตสาหกรรมเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีนี้ต่อมนุษยชาติ
คำเตือนเหล่านี้กระตุ้นให้เกิดการดำเนินการ โดยวุฒิสมาชิกสหรัฐฯ เบอร์นี แซนเดอร์ส เรียกร้องให้หยุดการพัฒนา AI ขั้นสูงชั่วคราวและห้ามปัญญาประดิษฐ์ขั้นสูง (artificial superintelligence) ด้านประธานาธิบดีโดนัลด์ ทรัมป์ ได้ปฏิเสธความกังวลดังกล่าว โดยกล่าวเมื่อวันพฤหัสบดีว่าเขากังวล ‘ถ้าเราไม่ชนะ AI เราจะตกอยู่ในสถานการณ์ที่เลวร้ายมาก’
บริษัทได้เผยแพร่รายงานข่าวกรองภัยคุกคามล่าสุดเมื่อวันพฤหัสบดีที่ผ่านมา รายงานเหล่านี้กลายเป็นส่วนหนึ่งที่เกิดขึ้นเป็นประจำในอุตสาหกรรม AI เนื่องจากบริษัทต่างๆ พยายามแสดงให้เห็นว่าพวกเขาระบุและขัดขวางความพยายามในการใช้โมเดลของตนในทางที่ผิดได้อย่างไร
รวมถึง Google ที่เขียนเมื่อวันอังคารว่า มีบุคคลพยายามใช้เครื่องมือ AI ของตน Gemini เพื่อขอ ‘คู่มือทางเทคนิคแบบทีละขั้นตอนที่สมบูรณ์สำหรับการสังเคราะห์สารชีวภาพที่เป็นอาวุธ’
รายงานของ Anthropic ระบุว่า Claude ซึ่งเป็นโมเดล AI ของบริษัท ถูกนำไปใช้โดยผู้กระทำที่เชื่อมโยงกับแคมเปญจารกรรมทางไซเบอร์ที่ตั้งอยู่ในรัสเซีย และโดยสถาบันโฆษณาชวนเชื่อของอิหร่าน
กรณีที่น่ากังวลที่ตรวจพบในช่วงแปดเดือนที่ผ่านมามีตั้งแต่แอปหาคู่ปลอมและการหลอกลวง Wi-Fi โรงแรม ไปจนถึงการเฝ้าระวังที่สร้างขึ้นเพื่อระบุผู้เห็นต่าง นอกจากนี้ Anthropic ยังกล่าวหาบริษัท AI ของจีนว่าพยายามเลียนแบบความสามารถของ Claude
รายงานฉบับยาวระบุถึงกรณีที่กลุ่มที่ต้องสงสัยว่าได้รับการสนับสนุนจากรัฐบาล อาชญากร ผู้ขายสปายแวร์ สถาบันโฆษณาชวนเชื่อของรัฐ และบุคคลที่มีแรงจูงใจทางการเมืองใช้เทคโนโลยีของตนในทางที่ผิด
บริษัทระบุว่า ‘การใช้ในทางที่ผิด’ โมเดล Claude Haiku, Sonnet และ Opus ถูกขัดขวางระหว่างเดือนธันวาคม 2025 ถึงสิงหาคม 2026
ไม่มีกรณีการใช้ในทางที่ผิดใดที่เกี่ยวข้องกับ Claude Fable หรือโมเดลในกลุ่ม Mythos ที่ทรงพลัง ยกเว้นกรณีเดียวของการกลั่นกรอง (distillation) ซึ่งเป็นกระบวนการในการฝึกโมเดล AI ขนาดเล็กโดยใช้โมเดลขนาดใหญ่และมีค่าใช้จ่ายสูงกว่า
นอกจากการตรวจจับการใช้โมเดลของตนสำหรับการปฏิบัติการทางไซเบอร์และการมีอิทธิพล การเฝ้าระวัง การหลอกลวงและการฉ้อโกง และการพัฒนาอาวุธแล้ว Anthropic ยังกล่าวว่าได้ขัดขวางนักวิทยาศาสตร์ที่ใช้ AI ของตนในลักษณะที่อาจสนับสนุนการพัฒนาอาวุธชีวภาพ
รายงานเน้นย้ำถึง ‘กรณีศึกษาห้ากรณีที่ผู้กระทำใช้โมเดลของเราในลักษณะที่อาจสนับสนุนการพัฒนาอาวุธชีวภาพ’ โดยระบุว่าการใช้ชีวภาพในทางที่ผิดเป็น ‘หนึ่งในความเสี่ยงที่ร้ายแรงที่สุดของโมเดล AI ล้ำสมัย’ หากไม่มีการป้องกันที่ถูกต้อง ความสามารถดังกล่าว ‘อาจมีผลกระทบที่ร้ายแรง’ Anthropic กล่าว
Anthropic กล่าวว่า ‘ข้อมูลเดียวกันที่สามารถใช้พัฒนาอาวุธชีวภาพก็สามารถนำมาใช้พัฒนาวัคซีนหรือการรักษาโรคได้เช่นกัน’
เจค็อบ ไคลน์ หัวหน้าฝ่ายข่าวกรองภัยคุกคามของ Anthropic บอกกับ New York Times ว่ามันเป็น ‘สถานการณ์ที่ซับซ้อนอย่างไม่น่าเชื่อ’
‘คุณไม่ได้เห็นใครบางคนแบบในการ์ตูนพูดว่า ‘เฮ้ ฉันอยากสร้างอาวุธชีวภาพเพื่อฆ่าทุกคน” เขากล่าว
รายงานยังตั้งข้อสังเกตถึงหกกรณีที่ Claude ถูกใช้ ‘เพื่อพัฒนาซอฟต์แวร์สำหรับอาวุธทั่วไป รวมถึงอาวุธปืน ขีปนาวุธ โดรนติดอาวุธ ระเบิด และกระสุนอื่นๆ ตลอดจนระบบเล็งและควบคุมที่ใช้งานอาวุธเหล่านั้น’
ทำไมนักวิเคราะห์บางคนจึงกลัวว่า AI จะเข้ามาควบคุม
รายงานระบุว่าอาชญากรไซเบอร์และแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลได้ใช้เทคโนโลยีของ Anthropic เพื่อช่วยในการปฏิบัติการของพวกเขาเพิ่มขึ้น โดยกลุ่มแฮกเกอร์ ShinyHunters รวมถึงห้องปฏิบัติการที่ตั้งอยู่ในจีน เป็นหนึ่งในชื่อที่ถูกระบุในรายงาน
รายงานยังระบุอีกว่ากลุ่มแฮกเกอร์ที่มีการทำงานสอดคล้องกับ Midnight Blizzard ที่ตั้งอยู่ในรัสเซีย ได้ใช้ AI เพื่อสร้างระบบที่ตรวจจับอัตโนมัติเมื่อมัลแวร์ของพวกเขาถูกตั้งค่าสถานะโดยการป้องกันความปลอดภัย และเขียนโค้ดใหม่จนกว่าจะหลบเลี่ยงการตรวจจับได้
บริษัทที่ตั้งอยู่ในแคลิฟอร์เนียกล่าวว่าได้นำข้อค้นพบของตนไปใช้ในกระบวนการ ‘เพื่อป้องกัน ตรวจจับ และขัดขวางกิจกรรมเหล่านี้ได้ดียิ่งขึ้นในอนาคต’ Anthropic กล่าวว่าได้แบ่งปันข่าวกรองกับหน่วยงานและพันธมิตรในอุตสาหกรรมตามความเหมาะสม
หากต้องการเล่นวิดีโอนี้ คุณต้องเปิดใช้งาน JavaScript ในเบราว์เซอร์ของคุณ วิดีโอนี้ไม่สามารถเล่นได้
รายงานนี้ซึ่งเป็นฉบับแรกของบริษัทในปีนี้ มีขึ้นหลังจากนักวิจัยความปลอดภัยระดับสูงของ Anthropic เตือนว่า AI กำลังก้าวหน้าอย่างรวดเร็วจนเขาเชื่อว่ามีโอกาสมากกว่า 10% ที่ ‘อาจฆ่ามนุษย์ทุกคน’ ภายในทศวรรษหน้า
ในบทความที่เผยแพร่เมื่อวันที่ 6 กันยายน ยาคูบ ปาโชคกี หัวหน้านักวิทยาศาสตร์ของ OpenAI เรียกร้องให้ภาคอุตสาหกรรมใช้ ‘การชะลอตัวโดยสมัครใจ’ จนกว่าจะมีการกำหนดมาตรการป้องกัน
‘ผมกังวลว่าไม่มีใครเตรียมพร้อมสำหรับผลที่ตามมาของการเพิ่มขึ้นอย่างรวดเร็วของปัญญาจักรกล’ ปาโชคกีกล่าวเสริมว่า OpenAI ซึ่งสร้าง ChatGPT จะยังคงทำงานเกี่ยวกับการสร้างมาตรการป้องกันต่อไป แม้ว่าจะต้องมีการแทรกแซงในวงกว้างกว่านี้ก็ตาม
คำเตือนดังกล่าวทำให้เกิดจดหมายเปิดผนึกถึงนายกรัฐมนตรีอังกฤษ แอนดี้ เบิร์นแฮม เรียกร้องให้มีสนธิสัญญาพหุภาคีฉบับใหม่เพื่อการพัฒนา AI อย่างปลอดภัย และเรียกร้องให้รัฐบาลร่วมมือกันเกี่ยวกับสนธิสัญญาที่อิงกับการพัฒนาปัญญาประดิษฐ์ขั้นสูงควรมีลักษณะอย่างไร
ในสหรัฐอเมริกา ส.ส. พรรคเดโมแครต เบอร์นี แซนเดอร์ส ได้เสนอกฎหมายห้ามปัญญาประดิษฐ์ขั้นสูงและหยุดการพัฒนา AI ขั้นสูงชั่วคราว
‘เมื่อนักวิทยาศาสตร์บอกคุณว่ามีโอกาส โอกาสที่มันอาจส่งผลกระทบที่หายนะต่อมนุษยชาติ คุณต้องเป็นคนโง่เท่านั้นที่จะไม่พูดว่า ชะลอความเร็วลง’ เขากล่าวเมื่อวันพฤหัสบดีในรายการ Newsnight ของ BBC
พร้อมรายงานเพิ่มเติมจาก Osmond Chia
AI ‘slop’ กำลังเปลี่ยนแปลงโซเชียลมีเดีย – และการต่อต้านกำลังก่อตัว
ความขัดแย้งที่เป็นหัวใจของการแข่งขัน AI แสนล้านดอลลาร์
ลงทะเบียนเพื่อรับจดหมายข่าว Tech Decoded ของเราเพื่อติดตามข่าวสารและแนวโน้มเทคโนโลยีชั้นนำของโลก
อยู่นอกสหราชอาณาจักรหรือไม่? ลงทะเบียนที่นี่
ที่มา: BBC News
