الذكاء الاصطناعي يشكل المستقبل - الجزء الثاني: التحديات المصاحبة له

الإمكانات تأتي مع المخاطر

من غير الممكن أن ننكر أن الذكاء الاصطناعي يثبت بشكل متزايد أنه أداة قوية لدعم العمال وتسهيل حياة الإنسان. ومع ذلك، فإن هذه المنتجات التكنولوجية تصبح بمثابة "سيف ذو حدين" عندما يستغلها الأشرار لارتكاب عمليات احتيال وهجمات في الفضاء الإلكتروني.

وتشير النشرات التحذيرية الصادرة عن إدارة أمن المعلومات (وزارة الاتصالات وتكنولوجيا المعلومات) أو جمعية الأمن السيبراني إلى العديد من حالات الاحتيال المسجلة باستخدام تقنية الذكاء الاصطناعي. على سبيل المثال، السيدة نجوين ثانه ت - وهي موظفة في أحد المكاتب في هانوي، أثناء الدردشة مع صديقة عبر ماسنجر فيسبوك، ودعتها الصديقة وأنهت المحادثة ولكنها عادت فجأة إلى الرسائل النصية، وطلبت اقتراض المال واقترحت تحويل الأموال إلى حساب مصرفي. على الرغم من أن اسم الحساب يتطابق مع اسم صديقتها، إلا أن السيدة T كانت تشك في الأمر، لذا طلبت إجراء مكالمة فيديو للتحقق. وافق الصديق على الفور ولكن المكالمة لم تستمر سوى بضع ثوانٍ بسبب "انقطاع الشبكة".

عندما رأت السيدة "ت" وجه صديقتها في مكالمة الفيديو وكان الصوت صحيحًا، قامت بتحويل الأموال. ولكن لم تدرك أنها وقعت في فخ القراصنة إلا بعد نجاح عملية تحويل الأموال.

ولم يتم خداع السيدة "ت" فقط، بل تعرض العديد من الضحايا الآخرين والأصدقاء والأقارب للخداع بنفس الطريقة. لقد وصلت كمية الأموال التي سرقها الأشرار من خلال انتحال الشخصيات باستخدام أدوات وأصوات مزيفة إلى عشرات الملايين من الدونغ.

ومن الأمثلة النموذجية الأخرى لاستخدام الذكاء الاصطناعي للاستيلاء على الأصول هي حالة السيد NTH، فعند استخدام هاتف يعمل بنظام Android، قام المحتالون بوضع فخ يتضمن تعليمات لتثبيت رابط ضار. ومن هناك، يتم التحكم في الهواتف والحسابات المصرفية لتحويل الأموال إلى أطراف ثالثة. بالإضافة إلى ذلك، يتصل البرنامج الخبيث تلقائيًا بمعلومات الاتصال المتاحة ويرسل رسائل تلقائية تطلب تحويل الأموال.

وقال السيد NTH إن المحتال ادعى أنه "ضابط شرطة"، واتصل برقم هاتفه وطلب التحقق من معلومات هويته الشخصية. ولأنه كان كبيرًا في السن وغير مطلع على التكنولوجيا وسهل الخداع، قام الضحية بتسليم هاتفه لشخص ثالث لمتابعة تعليمات المحتال، وبالتالي تنزيل وتثبيت التطبيق الخبيث "DichVuCong.apk" على هاتفه.

قال السيد تران نجوين تشونغ، رئيس قسم أمن أنظمة المعلومات (قسم أمن المعلومات): عندما يتم تطوير تكنولوجيا الذكاء الاصطناعي، سيصبح اكتشاف المحتوى الحقيقي والمزيف على الفضاء الإلكتروني والتمييز بينه وبين المحتوى الحقيقي أكثر صعوبة ويمكن لأي شخص أن يصبح هدفًا أو ضحية للهجمات الإلكترونية من قبل المجرمين الذين يستخدمون تكنولوجيا الذكاء الاصطناعي. ومع ذلك، فإن كونك ضحية أم لا يعتمد على مدى تزويد نفسك بالمعرفة والمعلومات اللازمة.

لا تظهر حالة الاحتيال المتعلقة بتكنولوجيا الذكاء الاصطناعي في فيتنام فحسب، بل تظهر أيضًا في العديد من البلدان حول العالم. في الوقت الحالي، تعمل الوكالات والمنظمات وشركات التكنولوجيا الكبرى معًا لإيجاد التدابير والحلول التقنية اللازمة للكشف عنها ومنعها من جذورها.

في الفترة الحالية، فإن الإجراء المهم هو تعزيز الدعاية، وتوعية الناس بالأساليب والحيل والطرق للتعرف على هذا الشكل المتطور من التزوير والتعامل معه للمساعدة في تقليل وتقييد تأثير التزييف العميق على الأنشطة في الفضاء الإلكتروني. إصدار تحذيرات واسعة النطاق بشكل استباقي في وسائل الإعلام عندما تكون هناك تطورات وأشكال جديدة من الاحتيال.

وقال السيد تران نجوين ترونج: "في حالة تلقي مكالمات تهديدية تحتوي على صور أو مقاطع فيديو حساسة، يتعين على الأشخاص البقاء هادئين والتحقق والبحث بعناية عن مصدر الصور ومقاطع الفيديو".

وبحسب تقرير البحث "تحديد المخاطر التي تهدد الاقتصاد العالمي في عام 2024" الذي أعدته جامعة الاقتصاد التابعة لجامعة فيتنام الوطنية في هانوي، فإن أحد المخاطر التي تؤثر على الاقتصاد العالمي هو المخاطر في قطاع التكنولوجيا. ويشير التقرير إلى أنه في سياق الظهور السريع للذكاء الاصطناعي، فإن السياسات التنظيمية لم تواكب بعد تطور الذكاء الاصطناعي. لقد شكلت المعلومات المضللة التي تولدها الذكاء الاصطناعي، خاصة في عام شهد العديد من الانتخابات في جميع أنحاء العالم مثل هذا العام، العديد من القضايا المتعلقة بالأمن والسياسة والدفاع والسلام على مستوى العالم.

وفي حديثه لمراسلي صحيفة Tin Tuc، قال نائب وزير العلوم والتكنولوجيا نجوين هوانج جيانج: "أصدر رئيس الوزراء القرار رقم 127/2021 بشأن الاستراتيجية الوطنية للبحث والتطوير وتطبيق الذكاء الاصطناعي حتى عام 2030. وللتنفيذ، نفذت وزارة العلوم والتكنولوجيا وكذلك الوزارات والفروع الأخرى بشكل جذري ومتزامن مثل وزارة العدل التي تبحث في الجانب القانوني. ووزارة المعلومات والاتصالات التي تبحث في التكنولوجيا الرقمية. كما دعمت وزارة العلوم والتكنولوجيا وبحثت وطورت الصناعة 4.0؛ وبحثت وطبقت تطوير تكنولوجيا المعلومات، مما يخدم تطوير المدن الرقمية والذكية. ومع ذلك، مع التطور السريع والقوي، ظهرت أيضًا الجوانب السلبية ومخاطر الذكاء الاصطناعي عندما يتم إساءة استخدامه ليصبح أداة لمجرمي الإنترنت لغرض الاحتيال وانتحال الشخصية والتهديدات والاستيلاء على الممتلكات وما إلى ذلك.

حتى الآن، إلى جانب البحث، تعمل وزارة العلوم والتكنولوجيا والحكومة أيضًا على بناء إطار قانوني بشكل نشط، والاستفادة من تجارب البلدان المتقدمة الأخرى حتى يتمكن مجال الذكاء الاصطناعي في فيتنام من تعزيز إمكاناته، وتعزيز التنمية، فضلاً عن الرقابة الصارمة، وضمان الأخلاق والإنسانية في مجال الذكاء الاصطناعي.

لقد أثار التطور السريع لأدوات الذكاء الاصطناعي العديد من القضايا المتعلقة بحقوق الإنسان والأخلاق والخصوصية وأمن المعلومات والمسؤولية القانونية. تعتبر فيتنام مقارنة بالعالم ما زالت في المراحل الأولى من تطوير الذكاء الاصطناعي. ومن ثم، هناك حاجة إلى قواعد وسياسات محددة للذكاء الاصطناعي تتناسب مع جميع جوانب الحياة والاقتصاد والمجتمع في فيتنام.

إصدار الإطار القانوني بشكل عاجل

إن إدارة الجانب المظلم للذكاء الاصطناعي هي أيضًا موضوع تمت مناقشته في بعض البلدان. وافق برلمان الاتحاد الأوروبي على أول مجموعة من القواعد الأساسية في العالم لتنظيم الذكاء الاصطناعي. ويعتقد العديد من خبراء التكنولوجيا أن هذا القانون سوف يساعد الاتحاد الأوروبي على تحقيق هدفين: تقليل التأثير السلبي للتطورات التكنولوجية على المستخدمين، فضلاً عن مواكبة الموقف المهيمن للمنافسين الرئيسيين في السوق.

وبعد فترة وجيزة، اعتمدت الجمعية العامة للأمم المتحدة قرارًا بشأن الذكاء الاصطناعي، مما يوفر الدعم العالمي للجهود الدولية الرامية إلى ضمان أن هذه التكنولوجيا الجديدة تعود بالنفع على جميع البلدان، وتحترم حقوق الإنسان، وتكون "آمنة ومأمونة وجديرة بالثقة".

قال السيد فو نغوك سون، المدير الفني لشركة تكنولوجيا الأمن السيبراني الوطنية المساهمة: "الذكاء الاصطناعي تقنية تخدم مصالح الإنسان، وتدعم أتمتة العديد من مراحل التشغيل المختلفة. إنها أداة فعّالة تُستخدم لأغراض متنوعة، مثل تقديم خدمات الأسئلة والأجوبة، وإنتاج البرمجيات، وغيرها. ومع ذلك، فإن للذكاء الاصطناعي جانبًا سلبيًا عندما يقع في أيدي جهات فاعلة بهدف إنشاء محتوى احتيالي وأكواد خبيثة لمهاجمة المستخدمين. وبناءً على ذلك، فإن الذكاء الاصطناعي ليس أداةً مخصصةً لإنشاء المنتجات أو ارتكاب الجرائم، ولكن المسألة المهمة هي "كيفية استخدامه".

أعتقد أن العقوبات والممرات القانونية لم تواكب سرعة تطور الذكاء الاصطناعي. سنحتاج إلى وقت لوضع وتطبيق سياسات للحد من مخاطر الذكاء الاصطناعي عند استخدامه لأغراض سيئة، مما يؤثر على حقوق الإنسان، بالإضافة إلى قضايا الأمن والنظام والسلامة الاجتماعية، كما قال السيد فو نغوك سون.

قال الدكتور دانج مينه توان، مدير معهد CMC ATI: "من ناحية، لا يزال يتعين علينا مواصلة البحث والتطوير في تقنيات جديدة، وتحديث ودراسة أساليب استخدام الذكاء الاصطناعي لأغراض سيئة. ومن ناحية أخرى، علينا أيضًا تعزيز النزاهة في العلوم والعمل. وبناءً على ذلك، يجب إجراء تعديلات واستثمارات في المحتوى ووضع سياسات محددة لهذه الأداة في فيتنام. وعلى وجه الخصوص، يمكننا أيضًا استخدام أدوات الذكاء الاصطناعي للكشف عن المحتوى والبرمجيات الخبيثة. فالذكاء الاصطناعي سلاح ذو حدين، إذ يُنشئ عملية مستمرة ومتواصلة ومتطورة باستمرار، بهدف خدمة المصالح الإنسانية في نهاية المطاف".

ويقول الخبراء إن المطلوب هو التحكم في تطوير المنتجات التكنولوجية المتقدمة بشكل مسؤول، لأن عدم القدرة على تنظيم وإتقان التكنولوجيا سيؤدي إلى عواقب لا يمكن التنبؤ بها، مما يتسبب في خسائر للاقتصاد ويؤثر على كل فرد وكذلك المجتمع بأكمله.

إن إصدار لوائح محددة وشفافة لن يساعد فقط في منع وتقليل المخاطر التي قد تسببها الذكاء الاصطناعي، بل سيساعد أيضًا فيتنام على جذب الانتباه والاستثمار من شركات التكنولوجيا الرائدة في العالم، مما يعزز تطوير تكنولوجيا المعلومات المحلية وصناعة الذكاء الاصطناعي.

المقال الأخير: التطوير المتوازي والتحكم في الذكاء الاصطناعي

المصدر: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238