วิจัยและพัฒนาระบบปัญญาประดิษฐ์ที่มีความรับผิดชอบ

ตามรายงาน ของกระทรวงวิทยาศาสตร์และเทคโนโลยี ระบบปัญญาประดิษฐ์ได้รับการประเมินว่าสามารถให้ประโยชน์มหาศาลแก่ประชาชน สังคม และเศรษฐกิจของเวียดนามได้ โดยสนับสนุนและแก้ไขปัญหาที่ยากลำบากที่ประชาชนและชุมชนต้องเผชิญ ควบคู่ไปกับกระบวนการดังกล่าว จำเป็นต้องทำการวิจัยและมีมาตรการเพื่อลดความเสี่ยงในกระบวนการพัฒนาและใช้ปัญญาประดิษฐ์ รวมถึงการสร้างสมดุลระหว่างปัจจัยทางเศรษฐกิจ จริยธรรม และกฎหมายที่เกี่ยวข้อง ดังนั้น หน่วยงานเฉพาะทางจำเป็นต้องทำการวิจัยและพัฒนามาตรฐานและแนวทางปฏิบัติสำหรับการวางแนว แม้ว่าจะเป็นกฎระเบียบที่ผ่อนปรนและไม่มีผลผูกพันก็ตาม

ในแนวปฏิบัตินี้ กระทรวง วิทยาศาสตร์ และเทคโนโลยีได้กำหนดหลักการ 9 ประการสำหรับการวิจัยและพัฒนาระบบปัญญาประดิษฐ์อย่างมีความรับผิดชอบ

ประการแรก คือ จิตวิญญาณแห่งความร่วมมือ ส่งเสริมนวัตกรรม นักพัฒนาจำเป็นต้องพิจารณาถึงการเชื่อมต่อและการทำงานร่วมกันได้ระหว่างระบบปัญญาประดิษฐ์กับระบบปัญญาประดิษฐ์อื่นๆ โดยพิจารณาถึงความหลากหลายของระบบเพื่อเพิ่มประโยชน์ของระบบ ในขณะเดียวกันก็ปรับปรุงการประสานงานเพื่อควบคุมความเสี่ยง

ประการที่สอง ความโปร่งใส: ระบบ AI ที่ปฏิบัติตามหลักการนี้มักเป็นระบบที่สามารถส่งผลกระทบต่อชีวิต ร่างกาย ความเป็นส่วนตัว หรือทรัพย์สินของผู้ใช้หรือบุคคลที่สามที่เกี่ยวข้อง ในกรณีนี้ นักพัฒนาต้องให้ความสำคัญกับความสามารถในการระบุอินพุตและเอาต์พุตของระบบอย่างชัดเจน รวมถึงความสามารถในการอธิบายที่เกี่ยวข้องโดยอิงจากลักษณะเฉพาะของเทคโนโลยีที่นำไปใช้และวิธีการใช้งาน เพื่อสร้างความเชื่อมั่นให้กับสังคม รวมถึงผู้ใช้

ประการที่สาม ความสามารถในการควบคุม: เพื่อประเมินความเสี่ยงที่เกี่ยวข้องกับความสามารถในการควบคุมระบบ ผู้พัฒนาจำเป็นต้องทำการประเมินล่วงหน้าว่าระบบเป็นไปตามข้อกำหนดทางเทคนิคและมาตรฐานที่เกี่ยวข้องหรือไม่ วิธีการประเมินความเสี่ยงวิธีหนึ่งคือการทดสอบในพื้นที่แยกต่างหากพร้อมมาตรการด้านความปลอดภัยก่อนนำไปปฏิบัติ

ประการที่สี่ หลักการด้านความปลอดภัย: ผู้พัฒนาจำเป็นต้องมั่นใจว่าระบบปัญญาประดิษฐ์จะไม่ก่อให้เกิดอันตรายต่อชีวิต ร่างกาย หรือทรัพย์สินของผู้ใช้งานหรือบุคคลที่สาม รวมถึงผ่านตัวกลางด้วย

ประการที่ห้า หลักการด้านความปลอดภัย: นอกเหนือจากการปฏิบัติตามเอกสาร คำแนะนำ และการดำเนินการตามมาตรการรักษาความปลอดภัยข้อมูลตามที่กำหนดแล้ว ผู้พัฒนายังต้องใส่ใจในประเด็นต่างๆ เช่น ความน่าเชื่อถือและความต้านทานต่อการโจมตีทางกายภาพหรืออุบัติเหตุของระบบ ความลับ ความสมบูรณ์ และความพร้อมใช้งานของข้อมูลที่จำเป็นที่เกี่ยวข้องกับความปลอดภัยของข้อมูลของระบบ...

6. ความเป็นส่วนตัว: นักพัฒนาต้องแน่ใจว่าระบบ AI จะไม่ละเมิดความเป็นส่วนตัวของผู้ใช้หรือบุคคลที่สาม ความเป็นส่วนตัวรวมถึงความเป็นส่วนตัวในเชิงพื้นที่ (ความสบายใจในชีวิตส่วนตัว) ความเป็นส่วนตัวของข้อมูล (ข้อมูลส่วนบุคคล) และความลับของการสื่อสาร นักพัฒนาจำเป็นต้องใช้กฎระเบียบและแนวทางปฏิบัติปัจจุบัน สามารถศึกษามาตรฐานและแนวทางปฏิบัติสากลเกี่ยวกับความเป็นส่วนตัวได้

นักพัฒนาควรดำเนินการประเมินความเสี่ยงต่อความเป็นส่วนตัวล่วงหน้าและประเมินผลกระทบต่อความเป็นส่วนตัวล่วงหน้า หากเป็นไปได้ ควรใช้มาตรการที่เหมาะสมกับลักษณะของเทคโนโลยีที่ใช้ตลอดกระบวนการพัฒนาระบบ เพื่อหลีกเลี่ยงการละเมิดความเป็นส่วนตัวเมื่อนำไปใช้งาน

ประการที่เจ็ด การเคารพสิทธิมนุษยชนและศักดิ์ศรีของบุคคล: เมื่อพัฒนาระบบปัญญาประดิษฐ์ที่เกี่ยวข้องกับมนุษย์ นักพัฒนาจะต้องเอาใจใส่เป็นพิเศษในการเคารพสิทธิมนุษยชนและศักดิ์ศรีของบุคคลที่เกี่ยวข้อง ในขอบเขตที่เป็นไปได้ ขึ้นอยู่กับลักษณะของเทคโนโลยีที่นำไปใช้ นักพัฒนาควรใช้มาตรการเพื่อให้แน่ใจว่าจะไม่ก่อให้เกิดการเลือกปฏิบัติหรือความไม่เป็นธรรมอันเนื่องมาจากอคติในข้อมูลเมื่อฝึกอบรมระบบ

นักพัฒนาจำเป็นต้องใช้มาตรการป้องกันเพื่อให้แน่ใจว่าระบบจะไม่ละเมิดค่านิยมของมนุษย์และจริยธรรมทางสังคมตามหลักการพื้นฐานของเวียดนาม (เช่น ค่านิยมต่างๆ รวมถึงความรักชาติ ความสามัคคี การพึ่งพาตนเอง ความภักดี ความซื่อสัตย์ ความรับผิดชอบ วินัย ความคิดสร้างสรรค์ ฯลฯ)

8. การสนับสนุนผู้ใช้: เพื่อรองรับผู้ใช้ นักพัฒนาระบบจะต้องใส่ใจในประเด็นต่างๆ เช่น การสร้างอินเทอร์เฟซสำเร็จรูปเพื่อให้ข้อมูลที่ทันเวลาและเหมาะสมเพื่อช่วยให้ผู้ใช้ตัดสินใจและใช้งานได้สะดวก การนำมาตรการมาใช้เพื่อให้ระบบใช้งานง่ายยิ่งขึ้นสำหรับผู้ที่เปราะบางในสังคม (ผู้สูงอายุ ผู้พิการ)...

9. ความรับผิดชอบ: นักพัฒนาต้องรับผิดชอบต่อระบบที่พัฒนาขึ้นเพื่อให้มั่นใจว่าผู้ใช้ไว้วางใจ โดยเฉพาะอย่างยิ่ง นักพัฒนาต้องให้ข้อมูลแก่ผู้ใช้เพื่อช่วยในการเลือกและใช้งานระบบ นอกจากนี้ เพื่อเพิ่มการยอมรับทางสังคมต่อระบบ นักพัฒนาควรดำเนินการเพิ่มเติมดังต่อไปนี้: ให้ข้อมูลและคำอธิบายคุณลักษณะทางเทคนิคของระบบที่พัฒนาขึ้น อัลกอริทึม กลไกความปลอดภัย ฯลฯ แก่ผู้ใช้ รับฟังความคิดเห็นและพูดคุยกับผู้มีส่วนได้ส่วนเสีย

ที่มา: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html