يحظى التطور السريع للذكاء الاصطناعي باهتمام كبير على مستوى العالم بشكل عام وفي فيتنام بشكل خاص. ويرى الخبراء أن الذكاء الاصطناعي هو العامل الأكثر أهمية في الثورة الصناعية الرابعة، حيث يجلب فوائد هائلة ومبتكرة للتنمية الاقتصادية في البلاد. وفقًا لشركة الاستشارات Exactitude Consultancy، فمن المتوقع أن يرتفع حجم سوق الذكاء الاصطناعي العالمي للأمن والسلامة العامة والأمن الوطني من 11.43 مليار دولار في عام 2023 إلى 47.32 مليار دولار في عام 2030، اعتبارًا من فبراير 2024.

في حين يتم تطبيق الذكاء الاصطناعي على نطاق واسع في العديد من المجالات، فبالإضافة إلى الفوائد مثل توفير المعلومات والتنبؤ الذكي بالمواقف المتعلقة بالبنية التحتية الحيوية أو التنبؤ في الوقت المناسب بمواقف الأزمات، فإن هذه التكنولوجيا تشكل أيضًا العديد من المخاطر والتحديات.

يمكن تطبيق الذكاء الاصطناعي على جميع أشكال الهجمات الإلكترونية

تم ذكر المخاطر والتحديات التي يفرضها الذكاء الاصطناعي على المجتمع والقانون والأمن السيبراني على وجه التحديد في مؤتمر ومعرض قمة الأمن السيبراني في فيتنام 2024 تحت عنوان "السلامة في عصر انفجار الذكاء الاصطناعي"، والذي نظمته إدارة أمن المعلومات (وزارة المعلومات والاتصالات) بالتنسيق مع IEC، تحت رعاية وزارة المعلومات والاتصالات في 30 مايو.

W-KIN_4888.JPG.jpg
وناقش السيد نجوين آنه توان، نائب مدير المركز الوطني لبيانات السكان، بإدارة الشرطة الإدارية للنظام الاجتماعي (وزارة الأمن العام) في ورشة العمل. الصورة: اللجنة المنظمة

وفقًا للمقدم نجوين آنه توان - نائب مدير المركز الوطني لبيانات السكان، بإدارة الشرطة الإدارية للنظام الاجتماعي (وزارة الأمن العام)، فإن الذكاء الاصطناعي يثير مخاوف بشأن انتهاك الخصوصية على المستوى الاجتماعي؛ يتم استخدام الذكاء الاصطناعي للتمييز على أساس العرق والطبقة والجنس والانتماء العرقي، مما يتسبب في صراعات وتناقضات أكثر حدة؛ تقديم معلومات كاذبة، تبديل المفاهيم، تغيير التاريخ، تحريف الحقيقة، إحداث بلبلة عامة، التأثير على التعليم والثقافة.

بصفته شخصًا يتعامل بشكل مباشر مع البيانات، شارك السيد نجوين توان آنه، "على الرغم من أن الوزارات والإدارات والفروع الفيتنامية قد طورت مصادر بياناتها الخاصة للعمل المهني، إلا أن التوليف والاستغلال والتقييم لا يزال يعاني من العديد من القيود، وخاصة أن الدقة والاكتمال غير مضمونين تقريبًا". وفي الوقت نفسه، لا تعمل أنظمة الذكاء الاصطناعي بشكل جيد إلا عندما تكون لديها بيانات إدخال جيدة. إذا كانت بيانات الإدخال غير صحيحة أو غير دقيقة، فسوف يؤدي ذلك إلى نتائج تحليل الذكاء الاصطناعي غير الدقيقة أو يؤدي إلى توقعات "تمييزية" وغير عادلة.

وعلى صعيد القانون والسياسة، ووفقاً لإحصائيات موقع legalnodes.com، قامت حوالي 33 دولة بصياغة وثائق قانونية بشأن الذكاء الاصطناعي، ولكنها لا تزال محدودة ولا تملك مجموعة مشتركة من معايير الذكاء الاصطناعي الشاملة. تنقسم الدول إلى مدرستين: تعديل القوانين الحالية ودمج الذكاء الاصطناعي في كل مجال؛ إصدار وثائق قانونية شاملة لتنظيم الذكاء الاصطناعي. إن فيتنام لا تزال في مرحلة النهج ولا تمتلك سياسات أو وثائق قانونية أو مؤسسات محددة تتعلق بالذكاء الاصطناعي.

فيما يتعلق بالأمن السيبراني، يمكن لجميع أشكال الهجمات السيبرانية اليوم تطبيق الذكاء الاصطناعي لزيادة مبادرة المهاجم، مما يتسبب في المزيد من الضرر. هناك أشكال من الهجوم مثل الهجوم من خلال الملفات الضارة، والمحاكاة، والتصيد الاحتيالي، وهجمات رفض الخدمة واسعة النطاق، ومن خلال التعلم الآلي. في الوقت الحاضر، بالإضافة إلى نظام الإنترنت، فإن الوزارات والدوائر والفروع والمحليات لديها شبكاتها الخاصة. لقد كانت هناك هجمات ووصول غير مصرح به ويمكن تطبيق الذكاء الاصطناعي لزيادة نطاق ومستوى الهجمات.

استخدام الذكاء الاصطناعي للتخفيف من مخاطر الذكاء الاصطناعي

ومن خلال الإدارة الفعلية وتنفيذ قاعدة البيانات السكانية الوطنية، اقترح ممثل وزارة الأمن العام ثلاثة حلول لتقليل مخاطر الذكاء الاصطناعي.

أولاً، إكمال الممر القانوني الخاص بالذكاء الاصطناعي على الفور لتوقع الاتجاه، وإصدار الوثائق التي تنظم الأخلاقيات في عملية تطوير وإنتاج وتطبيق الذكاء الاصطناعي مثل حماية الخصوصية والبيانات الشخصية وحقوق الإنسان للوحدات المحلية والأجنبية.

وبحسب السيد نجوين آنه توان، فإن "فيتنام لديها مرسوم بشأن حماية البيانات الشخصية، لكن تطبيقه العملي لم يستوف المتطلبات اللازمة لضمان أمن البيانات وسلامتها". ولذلك اقترح أن يكون هناك قوانين للبيانات أو قوانين لحماية البيانات الشخصية. وعلاوة على ذلك، ينبغي أن تكون هناك لوائح أكثر وضوحا بشأن الجرائم المتعلقة بالذكاء الاصطناعي، ومعايير محددة بشأن منصات الاتصال والمشاركة والتبادل المتعلقة بالذكاء الاصطناعي.

ثانياً، البحث عن مشاريع الذكاء الاصطناعي وتطبيقها لمكافحة مخاطر الذكاء الاصطناعي. الذكاء الاصطناعي هو من صنع البشر، وهو نتاج المعرفة، لذا سيكون هناك اختلافات بين "الذكاء الاصطناعي الجيد" و"الذكاء الاصطناعي السيئ". ولمنع تطور الذكاء الاصطناعي، يمكن استخدام الذكاء الاصطناعي نفسه.

ثالثا، يجب أن يسير تطوير الذكاء الاصطناعي جنبًا إلى جنب مع قضايا الأمن السيبراني وأمن المعلومات لتجنب الهجمات والاختطاف التي يمكن أن تسبب عواقب وخيمة. إن مستوى الاهتمام بأمن المعلومات في الوحدات ليس كافيا.

بالنسبة لقسم الشرطة الإدارية للنظام الاجتماعي، من الضروري الحفاظ على الأمن والسلامة للأنظمة، وإجراء تحضيرات جيدة، والنسخ الاحتياطي للبيانات واستعادتها بانتظام، وتنظيم تدريبات الاستجابة للحوادث بشكل دوري لتكون مستعدة للتعامل مع هجمات الذكاء الاصطناعي المتعمدة.

تعزيز المراقبة والإشراف على عملية الربط وتبادل المعلومات مع الوحدات للكشف الفوري عن السلوكيات غير العادية وانتهاكات القواعد المتعلقة بحماية البيانات الشخصية أثناء استغلال المعلومات ومعالجتها.

أخيرًا، قم ببناء وتطبيق الذكاء الاصطناعي في مراقبة السجلات، وتحليل حركة المرور على الشبكة، والجمع بين التعلم الآلي واللغة الطبيعية لزيادة الدقة عند اتخاذ قرارات استكشاف الأخطاء وإصلاحها.