อันตรายจาก ‘หุ่นยนต์สังหาร AI’ กำลังคุกคามความมั่นคงโลก

ภาพอันซับซ้อนของหุ่นยนต์ AI Killer

การอนุญาตให้ AI ควบคุมระบบอาวุธอาจหมายถึงการระบุเป้าหมาย โจมตี และทำลายเป้าหมายโดยปราศจากการแทรกแซงของมนุษย์ เรื่องนี้ก่อให้เกิดคำถามสำคัญทางกฎหมายและจริยธรรม

นายอเล็กซานเดอร์ ชัลเลนเบิร์ก รัฐมนตรี ต่างประเทศ ออสเตรีย เน้นย้ำถึงความร้ายแรงของสถานการณ์ โดยกล่าวว่า “นี่คือช่วงเวลาออพเพนไฮเมอร์แห่งยุคสมัยของเรา”

อันตรายจากหุ่นยนต์สังหารกำลังคุกคามความมั่นคงของโลก — หุ่นยนต์และอาวุธที่ใช้ปัญญาประดิษฐ์เริ่มถูกนำมาใช้อย่างแพร่หลายในกองทัพของหลายประเทศ ภาพ: Forbes

อันที่จริงแล้ว ขอบเขตที่ “ยักษ์จินนีหนีออกจากขวดได้” กลายเป็นคำถามเร่งด่วน เนื่องจากโดรนและปัญญาประดิษฐ์ (AI) ถูกนำมาใช้กันอย่างแพร่หลายในกองทัพทั่ว โลก

“การใช้โดรนในความขัดแย้งยุคใหม่ของรัสเซียและยูเครน การใช้โดรนของสหรัฐฯ ในปฏิบัติการโจมตีแบบกำหนดเป้าหมายในอัฟกานิสถานและปากีสถาน และตามที่เปิดเผยเมื่อเดือนที่แล้ว ซึ่งเป็นส่วนหนึ่งของโครงการ Lavender ของอิสราเอล แสดงให้เห็นว่าความสามารถในการประมวลผลข้อมูลของ AI ถูกนำมาใช้โดยกองทัพทั่วโลกอย่างจริงจังเพื่อเสริมสร้างอำนาจการรุก” วิลสัน โจนส์ นักวิเคราะห์ด้านกลาโหมของ GlobalData กล่าว

การสืบสวนโดยสำนักงานข่าวสืบสวนสงคราม (Office of War Investigative Journalism) ซึ่งตั้งอยู่ในลอนดอน พบว่าระบบปัญญาประดิษฐ์ลาเวนเดอร์ (Lavender AI) ของกองทัพอิสราเอลมีอัตราความแม่นยำ 90% ในการระบุตัวบุคคลที่มีความเชื่อมโยงกับกลุ่มฮามาส ซึ่งหมายความว่ามี 10% ที่ไม่เกี่ยวข้อง ส่งผลให้พลเรือนเสียชีวิตด้วยเนื่องจากความสามารถในการระบุตัวตนและการตัดสินใจของปัญญาประดิษฐ์

ภัยคุกคามต่อความมั่นคงของโลก

การใช้ AI ในลักษณะนี้เน้นย้ำถึงความจำเป็นในการจัดการเทคโนโลยีในระบบอาวุธ

“การใช้ AI ในระบบอาวุธ โดยเฉพาะอย่างยิ่งเมื่อใช้เพื่อการกำหนดเป้าหมาย ก่อให้เกิดคำถามพื้นฐานเกี่ยวกับว่าเราเป็นมนุษย์แบบไหน และความสัมพันธ์ของเรากับสงครามเป็นอย่างไร และโดยเฉพาะอย่างยิ่งสมมติฐานของเราเกี่ยวกับวิธีที่เราอาจใช้ความรุนแรงใน ความขัดแย้ง ทางอาวุธ” ดร.อเล็กซานเดอร์ บลานชาร์ด นักวิจัยอาวุโสในโครงการการกำกับดูแลปัญญาประดิษฐ์แห่งสถาบันวิจัยสันติภาพนานาชาติสตอกโฮล์ม (SIPRI) ซึ่งเป็นกลุ่มวิจัยอิสระที่มุ่งเน้นด้านความมั่นคงระดับโลก อธิบายให้ Army Technology ฟัง

“ปัญญาประดิษฐ์ (AI) เปลี่ยนแปลงวิธีที่กองทัพเลือกเป้าหมายและใช้กำลังกับเป้าหมายเหล่านั้นอย่างไร การเปลี่ยนแปลงเหล่านี้ก่อให้เกิดคำถามมากมายทั้งทางกฎหมาย จริยธรรม และการปฏิบัติการ ข้อกังวลที่สำคัญที่สุดคือด้านมนุษยธรรม” ดร. บลานชาร์ด กล่าวเสริม

“หลายคนกังวลว่าระบบอัตโนมัติเหล่านี้อาจทำให้พลเรือนและบุคคลอื่น ๆ ที่ได้รับความคุ้มครองตามกฎหมายระหว่างประเทศมีความเสี่ยงที่จะได้รับอันตรายมากขึ้น ขึ้นอยู่กับการออกแบบและการใช้งาน” ผู้เชี่ยวชาญของ SIPRI อธิบาย “นี่เป็นเพราะระบบ AI โดยเฉพาะอย่างยิ่งเมื่อใช้งานในสภาพแวดล้อมที่วุ่นวาย อาจทำงานแบบคาดเดาไม่ได้ และอาจไม่สามารถระบุเป้าหมายและโจมตีพลเรือนได้อย่างแม่นยำ หรือไม่สามารถระบุตัวผู้สู้รบที่ไม่ได้อยู่ในสนามรบได้”

Wilson Jones นักวิเคราะห์ด้านการป้องกันประเทศของ GlobalData อธิบายเพิ่มเติมเกี่ยวกับประเด็นนี้ โดยตั้งข้อสังเกตว่า ประเด็นเกี่ยวกับวิธีการพิจารณาความผิดนั้นอาจเป็นที่ถกเถียงกันได้

“ภายใต้กฎหมายสงครามปัจจุบัน มีแนวคิดเรื่องความรับผิดชอบในการบังคับบัญชา” โจนส์กล่าว “นั่นหมายความว่า นายทหาร นายพล หรือผู้นำคนอื่นๆ จะต้องรับผิดชอบตามกฎหมายต่อการกระทำของกองกำลังภายใต้การบังคับบัญชา หากกองกำลังก่ออาชญากรรมสงคราม นายทหารผู้นั้นต้องรับผิดชอบแม้ว่าจะไม่ได้เป็นผู้สั่งการก็ตาม ภาระการพิสูจน์ตกอยู่ที่พวกเขาที่จะต้องพิสูจน์ว่าพวกเขาได้ทำทุกอย่างเท่าที่ทำได้เพื่อป้องกันอาชญากรรมสงคราม”

“ระบบ AI ทำให้เรื่องซับซ้อนขึ้น ช่างเทคนิคไอทีรับผิดชอบหรือไม่? นักออกแบบระบบรับผิดชอบหรือไม่? ยังไม่ชัดเจน หากไม่ชัดเจน จะก่อให้เกิดอันตรายทางจริยธรรมหากผู้กระทำคิดว่าการกระทำของตนไม่ได้รับการคุ้มครองตามกฎหมายที่มีอยู่” โจนส์เน้นย้ำ

อนุสัญญาควบคุมอาวุธ ข้อตกลงระหว่างประเทศที่สำคัญหลายฉบับจำกัดและควบคุมการใช้อาวุธบางประเภท ได้แก่ การห้ามใช้อาวุธเคมี สนธิสัญญาไม่แพร่ขยายอาวุธนิวเคลียร์ และอนุสัญญาว่าด้วยอาวุธบางประเภท ซึ่งห้ามหรือจำกัดการใช้อาวุธบางชนิดที่ถือว่าก่อให้เกิดความทุกข์ทรมานแก่ผู้สู้รบโดยไม่จำเป็นหรือไม่มีเหตุผล หรือส่งผลกระทบต่อพลเรือนอย่างไม่เลือกปฏิบัติ

“การควบคุมอาวุธนิวเคลียร์ต้องอาศัยความร่วมมือระหว่างประเทศและสนธิสัญญาที่ตามมาหลายทศวรรษกว่าจะบังคับใช้ได้” วิลสัน โจนส์ นักวิเคราะห์ด้านกลาโหมอธิบาย “ถึงกระนั้น เราก็ยังคงทดสอบบรรยากาศอย่างต่อเนื่องจนถึงช่วงทศวรรษ 1990 เหตุผลสำคัญประการหนึ่งที่ทำให้การไม่แพร่ขยายอาวุธนิวเคลียร์ประสบความสำเร็จคือความร่วมมือระหว่างสหรัฐอเมริกาและสหภาพโซเวียตในระเบียบโลกสองขั้ว ซึ่งไม่มีอยู่อีกต่อไปแล้ว และเทคโนโลยีที่ช่วยให้เกิดปัญญาประดิษฐ์ (AI) นั้นเข้าถึงได้ง่ายกว่าพลังงานนิวเคลียร์ในหลายประเทศ”

สนธิสัญญาที่มีผลผูกพันจะต้องนำผู้ที่เกี่ยวข้องทั้งหมดมาเจรจาตกลงกันที่จะไม่ใช้เครื่องมือที่จะเพิ่มอำนาจทางทหาร ซึ่งไม่น่าจะได้ผล เพราะปัญญาประดิษฐ์สามารถเพิ่มประสิทธิภาพทางทหารได้โดยมีต้นทุนทางการเงินและวัสดุน้อยที่สุด

แนวโน้มภูมิรัฐศาสตร์ในปัจจุบัน

แม้ว่าประเทศต่างๆ ในสหประชาชาติจะยอมรับถึงความจำเป็นในการใช้ AI ทางทหารอย่างมีความรับผิดชอบ แต่ยังคงมีงานอีกมากที่ต้องทำ

“หากไม่มีกรอบการกำกับดูแลที่ชัดเจน ข้อเรียกร้องเหล่านี้ก็ยังคงเป็นเพียงความปรารถนา” ลอรา เปโตรเน นักวิเคราะห์หลักจากโกลบอลดาต้า กล่าวกับอาร์มี เทคโนโลยี “จึงไม่น่าแปลกใจที่บางประเทศต้องการรักษาอำนาจอธิปไตยของตนเองไว้เมื่อต้องตัดสินใจเรื่องการป้องกันประเทศและความมั่นคงแห่งชาติ โดยเฉพาะอย่างยิ่งในบรรยากาศความตึงเครียดทางภูมิรัฐศาสตร์ในปัจจุบัน”

นางเปโตรเนกล่าวเสริมว่า แม้ว่าพระราชบัญญัติ AI ของสหภาพยุโรปจะกำหนดข้อกำหนดบางประการสำหรับระบบ AI แต่ก็ไม่ได้ระบุถึงระบบ AI เพื่อวัตถุประสงค์ทางทหาร

“ดิฉันคิดว่าแม้จะมีข้อยกเว้นนี้ แต่พระราชบัญญัติ AI ก็เป็นความพยายามสำคัญที่จะสร้างกรอบการทำงานสำหรับการประยุกต์ใช้ AI ที่รอคอยกันมานาน ซึ่งอาจนำไปสู่ความสม่ำเสมอของมาตรฐานที่เกี่ยวข้องในระดับหนึ่งในอนาคต” เธอกล่าว “ความสม่ำเสมอนี้จะมีความสำคัญต่อ AI ในภาคการทหารด้วย”

เหงียน ข่านห์

ที่มา: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html