จีนเผชิญภัยใหม่: วิดีโอ AI ปลอมแพร่สะพัดท่ามกลางภัยพิบัติธรรมชาติ
ในขณะที่ประเทศจีนกำลังเผชิญกับผลกระทบจากพายุไต้ฝุ่นโนอึลที่พัดขึ้นฝั่งเมื่อสุดสัปดาห์ที่ผ่านมา เจ้าหน้าที่รัฐตระหนักดีว่าพวกเขาจะต้องรับมือกับความท้าทายเพิ่มเติม นั่นคือวิดีโอที่สร้างโดยปัญญาประดิษฐ์ (AI) ซึ่งก่อให้เกิดการเข้าใจผิดอย่างอันตราย
ในช่วงหลายเดือนที่ผ่านมา พายุและเหตุน้ำท่วมหนัก ทำให้วิดีโอปลอมไหลบ่าท่วมแพลตฟอร์มโซเชียลมีเดีย ซึ่งรวมถึงภาพศพที่ลอยอยู่ในน้ำท่วม การแสดงภาพน้ำท่วมรุนแรงในพื้นที่ที่ไม่ได้รับผลกระทบจริง และรายละเอียดปลอมแปลงอย่างโจ่งแจ้งเกี่ยวกับความพยายามในการรับมือสถานการณ์ฉุกเฉิน
ในบางพื้นที่ วิดีโอที่มีข้อมูลเท็จเกี่ยวกับการไฟฟ้าขัดข้องทำให้ประชาชนแตกตื่นและรีบซื้อเสบียงฉุกเฉิน วิดีโออื่นๆ ก็ใช้ประโยชน์จากเหตุการณ์จริงที่เกิดขึ้น
เหตุน้ำท่วมในเมืองเหิงโจว เขตปกครองตนเองกว่างซีจ้วง เมื่อต้นเดือนกรกฎาคม ทำให้งูหลายร้อยตัวหลบหนีออกจากฟาร์มเพาะพันธุ์ จากนั้นก็มีภาพปลอมที่แสดงจรเข้ถูกปล่อยลงสู่แม่น้ำเผยแพร่ตามมา
ในสถานการณ์ที่ตึงเครียดและอันตรายอยู่แล้ว ซึ่งเกี่ยวข้องกับการอพยพจำนวนมากและการปฏิบัติการกู้ภัยที่ซับซ้อน ทางการต้องการหลีกเลี่ยงความตื่นตระหนก แต่ขณะนี้พวกเขากังวลว่าเทคโนโลยี AI ซึ่งจีนกำลังทุ่มเงินหลายพันล้านดอลลาร์ให้ กำลังกลายเป็นเครื่องมือที่เข้าถึงง่ายและสามารถใช้เพื่อหลอกลวงประชาชนได้
วิดีโอปลอม AI สร้างความตื่นตระหนก
นายหวง จื้อฮวา รองหัวหน้าผู้รับผิดชอบงานรักษาความปลอดภัยสาธารณะออนไลน์ของกรมตำรวจมณฑลเจ้อเจียง กล่าวกับสื่อของรัฐจีนว่า “ผู้สร้างเนื้อหาจำนวนมากใช้ข่าวภัยพิบัติเพื่อพยายามเพิ่มผู้ติดตาม โดยรู้ว่าเนื้อหาที่น่าตื่นเต้นหรือเกินจริงจะได้รับยอดไลก์และยอดวิวมากขึ้น พวกเขากำลังสร้างข้อมูลเท็จโดยเจตนาเพื่อดึงดูดความสนใจของผู้คน”
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา มีการจับกุมและลงโทษ ตั้งแต่การควบคุมตัวเพื่อรอการดำเนินคดีอาญาไปจนถึงการปรับ สำหรับการสร้างรายงานและเนื้อหาวิดีโอปลอม แต่ผู้เชี่ยวชาญกำลังเตือนว่าวิกฤตข้อมูลบิดเบือนที่ไม่เคยเกิดขึ้นมาก่อนอาจกำลังก่อตัวขึ้น
ในบทความที่ตีพิมพ์โดยหนังสือพิมพ์ของโรงเรียนพรรคส่วนกลางของพรรคคอมมิวนิสต์ ศาสตราจารย์เฉิน ปิน กล่าวว่า “AI ช่วยลดอุปสรรคทางเทคนิคในการสร้างข้อมูลเท็จลงอย่างมาก บุคคลทั่วไปไม่จำเป็นต้องมีทักษะทางเทคนิคที่ซับซ้อนอีกต่อไป เพียงแค่ใช้เครื่องมือ AI พวกเขาก็สามารถสร้างข้อความ รูปภาพ เสียง และวิดีโอที่น่าเชื่อถือได้อย่างรวดเร็ว… ซึ่งเป็นเนื้อหาที่เหมือนจริงสูงแต่ถูกสร้างขึ้นทั้งหมด และสามารถผลิตได้ในปริมาณมาก”
ศาสตราจารย์เกา ฟู่ผิง จากมหาวิทยาลัยการเมืองและกฎหมายจีนตะวันออก บอกกับ BBC ว่าแรงจูงใจในการเผยแพร่เนื้อหาเท็จดังกล่าวมีตั้งแต่ผู้ที่ทำไป “เพื่อสร้างความบันเทิงโดยไม่คิดถึงผลที่ตามมา” ไปจนถึงผู้ที่ต้องการ “สร้างยอดเข้าชมเพื่อผลประโยชน์ส่วนตัว” หรือผู้ที่ต้องการ “สร้างความตื่นตระหนกหรือความไม่สงบในสังคม” โดยเจตนา
“ผู้ใช้บางคนคิดว่าโลกออนไลน์เป็นพื้นที่ที่ไม่เปิดเผยตัวและไม่มีการควบคุม หรือคิดว่าพวกเขาไม่สามารถถูกติดตามได้” เขากล่าว
เทคโนโลยีระบุปลอมยังตามหลังการสร้าง
มีการเรียกร้องให้เนื้อหาที่สร้างโดย AI ทั้งหมดต้องมีการประทับตราอย่างชัดเจน แต่ผู้ใช้รายอื่นก็สามารถแก้ไขเนื้อหานั้นเพื่อลบรอยประทับออกไปได้ ศาสตราจารย์ Xu Xiaoke จากมหาวิทยาลัยปักกิ่งนอร์มอล บอกกับ BBC ว่าจำเป็นต้องมีความพยายามมากขึ้นในการตรวจสอบตำแหน่งทางภูมิศาสตร์ด้วยการประทับเวลา และการตรวจสอบแหล่งที่มาของรูปภาพ
“อย่างไรก็ตาม ผมก็อยากจะเน้นย้ำว่าเทคโนโลยีการตรวจจับยังคงตามหลังเทคโนโลยีการสร้าง เราอยู่ในเกมแมวไล่จับหนูที่ดำเนินอยู่อย่างต่อเนื่อง ดังนั้นเราไม่ควรคิดว่าเทคโนโลยีเพียงอย่างเดียวจะสามารถระบุเนื้อหาที่สร้างโดย AI ได้ด้วยการคลิกเพียงปุ่มเดียว” เขากล่าวเตือน
รัฐบาลจีนกำลังเปิดรับ AI ในความพยายามที่จะก้าวขึ้นเป็นมหาอำนาจทางเทคโนโลยีชั้นนำ ในปี 2017 ได้มีการประกาศว่า AI จะเป็น “แรงขับเคลื่อนหลัก” ของความก้าวหน้าของประเทศ เงินจำนวนมหาศาลกำลังไหลเข้าสู่ธุรกิจ AI ที่กำลังมองหาเงินทุนเพิ่มขึ้น ซึ่งกระตุ้นการแข่งขันภายในประเทศ สำนักข่าวซินหัวของรัฐรายงานว่า ประเทศจีนมี “บริษัท AI” มากกว่า 6,000 แห่ง
ในสภาพแวดล้อมเช่นนี้ ศาสตราจารย์ Xu เชื่อว่าจีนจำเป็นต้องสร้าง “โครงสร้างพื้นฐานข้อมูลที่น่าเชื่อถือ” ซึ่งอาจรวมถึงระบบเตือนภัยล่วงหน้าของรัฐบาลอย่างเป็นทางการและอินเทอร์เฟซภัยพิบัติที่องค์กรข่าวสามารถเข้าถึงได้
ขาดความเชื่อมั่นในข้อมูลทางการ
แต่ก็มีกรณีที่แหล่งข้อมูลทางการ รวมถึงสื่อที่ควบคุมโดยรัฐ ได้จงใจลดทอนความรุนแรงของภัยพิบัติ ซึ่งนำไปสู่ความไม่ไว้วางใจของสาธารณชนในเรื่องนี้ เมื่อต้นเดือนกรกฎาคม นักข่าวท้องถิ่นถูกขอให้ “ลดทอน” คำพูดในการบรรยายถึงการรั่วไหลครั้งใหญ่ของเขื่อนหลิวหลานใกล้หนานหนิงว่าเป็น “ช่องเปิด” หรือ “ช่องว่าง” เจ้าหน้าที่พยายามทำให้การรั่วไหลดูน่าตกใจน้อยลง แต่ผลที่ตามมาคือการตาย น้ำที่ทะลักออกมาจากเขื่อนที่พังทลายทำให้มีผู้เสียชีวิตอย่างน้อย 26 รายในพื้นที่ท้ายน้ำ
นี่ไม่ใช่เหตุการณ์โดดเดี่ยว ในปี 2021 เจ้าหน้าที่ท้องถิ่นถูกจับกุมในข้อหาปกปิดหรือรายงานจำนวนผู้เสียชีวิตต่ำกว่าความเป็นจริงถึง 139 รายในมณฑลเหอหนาน เหตุการณ์เช่นนี้ส่งผลให้เกิดช่องว่างแห่งความไว้วางใจ ซึ่งทำให้ผู้กระทำความผิดสามารถเผยแพร่เนื้อหาปลอมได้ง่ายขึ้น
แต่ตำรวจกำลังวิงวอนให้ประชาชนเชื่อถือแหล่งข่าวที่ได้รับการรับรองในช่วงสถานการณ์ฉุกเฉิน นายเกา ไค จากสำนักงานความมั่นคงสาธารณะหนิงโป กล่าวว่า “เมื่อพบข้อมูลที่เกี่ยวข้องกับภัยพิบัติจากแหล่งที่ไม่รู้จัก ให้พิจารณาด้วยความสงสัยและยึดถือการประกาศของทางการ”
เขายังพยายามสร้างความมั่นใจให้กับสาธารณชนว่าผู้สร้างข้อมูลเท็จจะถูกจับกุม โดยกล่าวว่า “อินเทอร์เน็ตไม่ใช่เขตปลอดกฎหมาย เจ้าหน้าที่ความมั่นคงสาธารณะจะยังคงเพิ่มความพยายามในการปราบปรามกิจกรรมออนไลน์ที่ผิดกฎหมาย”
“เราได้จัดตั้งหน่วยงานพิเศษเพื่อติดตามโซเชียลมีเดียอย่างใกล้ชิด โดยเฉพาะแพลตฟอร์มวิดีโอสั้น พวกเขาจะสอบสวนและจัดการกับคดีเหล่านี้อย่างรวดเร็ว โดยปราบปรามอย่างเข้มงวด”
บทลงโทษอาจมีตั้งแต่การปรับไปจนถึงจำคุกสูงสุดเจ็ดปี หากผลกระทบของข้อมูลที่ผิดนั้นร้ายแรงพอ
เมื่อวันที่ 23 กรกฎาคม สำนักงานบริหารไซเบอร์แห่งประเทศจีนยังได้ประกาศการปราบปรามเนื้อหาอินเทอร์เน็ตปลอมทั่วประเทศที่เกี่ยวข้องกับน้ำท่วมและภัยพิบัติอื่นๆ โดยสั่งให้สาขาในท้องถิ่นมุ่งเน้นการจับกุมข้อมูลที่ปั้นแต่ง การแก้ไขโดยเจตนา สถานการณ์ที่จัดฉาก เหตุการณ์ในอดีตที่นำมาประกอบผิด และผู้ที่สวมรอยเป็นเจ้าหน้าที่
นอกจากนี้ ยังเรียกร้องให้แพลตฟอร์มโซเชียลมีเดียเสริมสร้างการตรวจสอบเนื้อหาที่เผยแพร่
ศาสตราจารย์เกาเชื่อว่า “คำตอบคือการให้ความรู้แก่สาธารณชนควบคู่ไปกับการบังคับใช้กฎหมาย” โดยกล่าวว่ามีความ “จำเป็นต้องเผยแพร่กรณีจริงที่ผู้คนถูกลงโทษ” เขากล่าวเสริมว่า “อันตรายที่เกิดจากเนื้อหาปลอมที่สร้างโดย AI ในท้ายที่สุดเป็นผลมาจากการที่ผู้คนเลือกใช้เทคโนโลยี ไม่ใช่ตัวเทคโนโลยีเอง” และกล่าวเสริมว่ากฎหมายที่มีอยู่ก็เพียงพอที่จะจัดการกับเรื่องนี้ได้
อย่างไรก็ตาม คนอื่นๆ ไม่มั่นใจนัก ศาสตราจารย์เฉินชี้ให้เห็นว่า “เทคโนโลยี AI ยังคงพัฒนาเร็วกว่ากรอบกฎหมายมาก ในขณะที่กฎหมายใหม่ๆ เกิดขึ้น ข้อมูลบิดเบือนจาก AI ยังคงเป็นความท้าทายที่สำคัญ”
ปีเตอร์ แปง ทนายความในเซี่ยงไฮ้และวอชิงตันกล่าวว่า ทนายความทั่วโลกกำลังเห็นกรณีที่เกี่ยวข้องกับประเด็นเหล่านี้เพิ่มขึ้นอย่างรวดเร็ว เขาเชื่อว่าบริษัทที่สร้างแอป AI และแพลตฟอร์มที่ใช้ในการเผยแพร่วิดีโอปลอมและเนื้อหาอื่นๆ จะต้องรับผิดชอบทางกฎหมายร่วมกับผู้สร้างข้อมูลที่ผิด
“แนวทางแรกควรเป็นแพลตฟอร์ม เพราะพวกเขาคือผู้ที่อำนวยความสะดวก พวกเขาคือผู้ที่อนุญาตให้สิ่งนี้เผยแพร่ออกไป” เขากล่าวกับ BBC เขาใช้ตัวอย่างสมมติของบุคคลที่ขับรถชนคนเดินเท้าหลังจากเกิดความตื่นตระหนกจากโพสต์ปลอมบนโซเชียลมีเดีย “ผู้สร้างวิดีโออาจกล่าวว่า ‘คุณขับรถชนคน นั่นคือปัญหาของคุณ ผมไม่ได้ทำ’ แต่เรามาคิดดูให้ดี คุณสร้างรากฐานที่ผู้คนโต้ตอบ หากคุณสร้างความตื่นตระหนกนั้น คุณต้องรับผิดชอบต่อผลที่ตามมา”
และศาสตราจารย์ Xu เตือนว่า “ข้อมูลบิดเบือนที่สร้างโดย AI มีแนวโน้มที่จะเพิ่มขึ้นไม่เพียงแต่ในปริมาณ แต่ยังรวมถึงความเร็วในการแพร่กระจายด้วย”
“ในอนาคต การเลือกตั้งทางการเมือง เหตุฉุกเฉินด้านสาธารณสุข ความขัดแย้งทางอาวุธ ภัยพิบัติธรรมชาติ และประเด็นที่ส่งผลกระทบต่อการดำรงชีวิตของผู้คน ล้วนมีแนวโน้มที่จะกลายเป็นพื้นที่เสี่ยงสูงสำหรับข้อมูลบิดเบือนที่สร้างโดย AI”
“แทนที่จะรอให้ข้อมูลเท็จเป็นไวรัลก่อนที่จะพยายามควบคุม รัฐบาลและแพลตฟอร์มควรเตรียมพร้อมล่วงหน้าได้แล้ว”
ที่มา: BBC News
