วิจัยและพัฒนาระบบปัญญาประดิษฐ์ที่มีความรับผิดชอบ

ตามที่กระทรวงวิทยาศาสตร์และเทคโนโลยีคาดการณ์ไว้ว่า ตามแนวโน้มทั่วไปของโลก ระบบปัญญาประดิษฐ์คาดว่าจะนำประโยชน์มหาศาลมาสู่ประชาชน สังคม และเศรษฐกิจของเวียดนาม โดยการสนับสนุนและแก้ไขปัญหาที่ยากลำบากที่ประชาชนและชุมชนต้องเผชิญ ควบคู่ไปกับกระบวนการดังกล่าวนั้น จำเป็นต้องมีการวิจัยและมีมาตรการเพื่อลดความเสี่ยงในกระบวนการพัฒนาและการใช้ปัญญาประดิษฐ์ และการสร้างสมดุลระหว่างปัจจัยทางเศรษฐกิจ จริยธรรม และกฎหมายที่เกี่ยวข้อง ดังนั้น หน่วยงานวิชาชีพจำเป็นต้องวิจัยและพัฒนามาตรฐานและแนวปฏิบัติในการให้คำแนะนำ แม้ว่ากฎระเบียบเหล่านั้นจะเป็นเพียงกฎระเบียบที่ยืดหยุ่นและไม่มีผลผูกพันก็ตาม

ในแนวปฏิบัตินี้ กระทรวงวิทยาศาสตร์และเทคโนโลยีได้กำหนดหลักการ 9 ประการสำหรับการวิจัยและพัฒนาระบบปัญญาประดิษฐ์อย่างมีความรับผิดชอบ

ประการแรก จิตวิญญาณแห่งความร่วมมือและนวัตกรรม: นักพัฒนาจำเป็นต้องพิจารณาถึงการเชื่อมต่อและการทำงานร่วมกันได้ระหว่างระบบ AI ของตนกับระบบ AI อื่นๆ โดยพิจารณาถึงความหลากหลายของระบบเพื่อเพิ่มประโยชน์ของระบบ ในขณะเดียวกันก็ปรับปรุงการประสานงานเพื่อควบคุมความเสี่ยง

ประการที่สอง ความโปร่งใส: ระบบปัญญาประดิษฐ์ที่ปฏิบัติตามหลักการนี้ มักเป็นระบบที่สามารถส่งผลกระทบต่อชีวิต ร่างกาย ความเป็นส่วนตัว หรือทรัพย์สินของผู้ใช้หรือบุคคลที่สามที่เกี่ยวข้อง นักพัฒนาจึงต้องใส่ใจกับความสามารถในการระบุอินพุตและเอาต์พุตของระบบได้อย่างชัดเจน ตลอดจนความสามารถในการอธิบายที่เกี่ยวข้องโดยพิจารณาจากลักษณะเฉพาะของเทคโนโลยีที่นำไปใช้และวิธีการนำมาใช้เพื่อให้เกิดความไว้วางใจจากสังคม รวมถึงผู้ใช้งาน

ประการที่สาม ความสามารถในการควบคุม: เพื่อประเมินความเสี่ยงที่เกี่ยวข้องกับความสามารถในการควบคุมของระบบ นักพัฒนาจำเป็นต้องทำการประเมินล่วงหน้าว่าระบบเป็นไปตามข้อกำหนดและมาตรฐานทางเทคนิคที่เกี่ยวข้องหรือไม่ วิธีการหนึ่งในการประเมินความเสี่ยงคือการทดสอบในพื้นที่แยกต่างหากโดยมีมาตรการด้านความปลอดภัยและความมั่นคงก่อนนำไปปฏิบัติ

ประการที่สี่ หลักการด้านความปลอดภัย: ผู้พัฒนาจำเป็นต้องมั่นใจว่าระบบปัญญาประดิษฐ์จะไม่ก่อให้เกิดอันตรายต่อชีวิต ร่างกาย หรือทรัพย์สินของผู้ใช้งานหรือบุคคลที่สาม รวมถึงผ่านตัวกลางด้วย

5. หลักการรักษาความปลอดภัย นอกจากการปฏิบัติตามเอกสาร คำแนะนำ และการดำเนินการตามมาตรการรักษาความปลอดภัยข้อมูลตามที่กำหนดแล้ว ผู้พัฒนายังต้องใส่ใจประเด็นต่างๆ เช่น ความน่าเชื่อถือและความทนทานต่อการโจมตีทางกายภาพหรืออุบัติเหตุต่างๆ ของระบบ ความปลอดภัย; ความซื่อสัตย์; และความพร้อมของข้อมูลที่จำเป็นที่เกี่ยวข้องกับการรักษาความปลอดภัยข้อมูลของระบบ…

6. ความเป็นส่วนตัว: นักพัฒนาจำเป็นต้องแน่ใจว่าระบบปัญญาประดิษฐ์จะไม่ละเมิดความเป็นส่วนตัวของผู้ใช้หรือบุคคลที่สาม ความเป็นส่วนตัวได้แก่ ความเป็นส่วนตัวในเชิงพื้นที่ (ความสบายใจในชีวิตส่วนตัว) ความเป็นส่วนตัวของข้อมูล (ข้อมูลส่วนบุคคล) และความลับของการสื่อสาร นักพัฒนาจำเป็นต้องใช้กฎระเบียบและแนวปฏิบัติปัจจุบัน อาจต้องดูมาตรฐานและแนวปฏิบัติสากลเกี่ยวกับความเป็นส่วนตัว

นักพัฒนาควรทำการประเมินความเสี่ยงด้านความเป็นส่วนตัวล่วงหน้า และดำเนินการประเมินผลกระทบต่อความเป็นส่วนตัวล่วงหน้า ในขอบเขตที่เป็นไปได้ ให้ใช้มาตรการที่เหมาะสมกับลักษณะของเทคโนโลยีที่นำมาใช้ในระหว่างการพัฒนาระบบ เพื่อหลีกเลี่ยงการละเมิดความเป็นส่วนตัวเมื่อนำไปใช้งาน

เจ็ด การเคารพสิทธิมนุษยชนและศักดิ์ศรี: เมื่อพัฒนาระบบปัญญาประดิษฐ์ที่เกี่ยวข้องกับมนุษย์ นักพัฒนาจะต้องเอาใจใส่เป็นพิเศษในการเคารพสิทธิมนุษยชนและศักดิ์ศรีของบุคคลที่เกี่ยวข้อง ในขอบเขตที่เป็นไปได้ ขึ้นอยู่กับลักษณะของเทคโนโลยีที่ประยุกต์ใช้ นักพัฒนาควรใช้มาตรการเพื่อให้แน่ใจว่าจะไม่เกิดการเลือกปฏิบัติหรือไม่ยุติธรรมอันเนื่องมาจากความลำเอียงในข้อมูลเมื่อทำการฝึกอบรมระบบ

นักพัฒนาจำเป็นต้องใช้มาตรการป้องกันเพื่อให้แน่ใจว่าระบบจะไม่ละเมิดค่านิยมของมนุษย์และจริยธรรมทางสังคมตามหลักการพื้นฐานของเวียดนาม (เช่น ค่านิยมต่างๆ รวมถึงความรักชาติ ความสามัคคี การพึ่งพาตนเอง ความภักดี ความซื่อสัตย์ ความรับผิดชอบ วินัย ความคิดสร้างสรรค์ ฯลฯ)

8. การสนับสนุนผู้ใช้: เพื่อสนับสนุนผู้ใช้ นักพัฒนาระบบจำเป็นต้องใส่ใจในประเด็นต่างๆ เช่น: การสร้างอินเทอร์เฟซสำเร็จรูปเพื่อให้ข้อมูลที่ทันเวลาและเกี่ยวข้องเพื่อช่วยให้ผู้ใช้ตัดสินใจและใช้งานได้สะดวก ดำเนินมาตรการเพื่อให้ระบบใช้งานง่ายยิ่งขึ้นสำหรับสมาชิกกลุ่มเปราะบางในสังคม (ผู้สูงอายุ ผู้พิการ)….

9. ความรับผิดชอบ: นักพัฒนาต้องรับผิดชอบต่อระบบที่พวกเขาพัฒนาเพื่อให้มั่นใจว่าผู้ใช้ไว้วางใจ โดยเฉพาะอย่างยิ่งจำเป็นต้องให้ข้อมูลแก่ผู้ใช้เพื่อช่วยในการเลือกและใช้งานระบบ นอกจากนี้ เพื่อเพิ่มการยอมรับทางสังคมของระบบ นักพัฒนาควรดำเนินการเพิ่มเติมดังต่อไปนี้: ให้ข้อมูลและคำอธิบายเกี่ยวกับคุณลักษณะทางเทคนิคของระบบที่พวกเขาพัฒนา อัลกอริทึม กลไกการรักษาความปลอดภัย ฯลฯ แก่ผู้ใช้ รับฟังความคิดเห็นและพูดคุยกับผู้มีส่วนได้ส่วนเสีย

ที่มา: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html