التزييفات الصوتية العميقة، مصدر قلق جديد بشأن المعلومات المضللة

[إعلان 1]

أعلن مكتب المدعي العام في ولاية نيو هامبشاير يوم الاثنين أنه بدأ تحقيقا في احتمال التلاعب بأصوات الناخبين. يأتي ذلك بعد شكاوى من صوت مزيف، يبدو مطابقًا تمامًا لصوت الرئيس الأمريكي جو بايدن، يحث الناخبين على عدم التصويت في الانتخابات التمهيدية للولاية.

وحذر الباحثون أيضًا من استخدام الصوت المزيف لتقليد السياسيين والقادة، مع حدوث حالات بارزة في عام 2023 في المملكة المتحدة والهند ونيجيريا والسودان وإثيوبيا وسلوفاكيا.

ديب فيك صوت جديد معلومات جديدة صورة كاذبة 1 — شخص يصوت في الانتخابات التمهيدية في نيو هامبشاير، الولايات المتحدة الأمريكية. الصورة: جيتي

يقول الخبراء إن الصوت العميق أصبح شكلاً شائعًا من أشكال التضليل بسبب ظهور مجموعة من أدوات الذكاء الاصطناعي الرخيصة والفعالة من الشركات الناشئة. كما طورت مايكروسوفت نموذج ذكاء اصطناعي جديد يمكنه تكرار صوت من ثلاث ثوانٍ فقط من التسجيل.

قال هنري أجدر، الخبير في مجال الذكاء الاصطناعي والتزييف العميق والمستشار في Adobe وMeta وEY: "عندما يتعلق الأمر بالتلاعب البصري، فإن الجميع على دراية ببرنامج Photoshop أو على الأقل يعرفون أنه موجود". "هناك وعي ضئيل للغاية حول كيفية التلاعب بالصوت، لذلك أعتقد أن هذا يجعلنا عرضة للخطر حقًا."

في سبتمبر/أيلول، اكتشف نظام NewsGuard، الذي يصنف جودة مواقع الأخبار وموثوقيتها، شبكة من حسابات TikTok تنتحل صفة مواقع إخبارية شرعية، باستخدام محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي لنشر نظريات المؤامرة والمعلومات السياسية المضللة. وقد جذبت التسجيلات الصوتية المزيفة، بما في ذلك تسجيل الرئيس الأمريكي السابق باراك أوباما، مئات الملايين من المشاهدات.

ويبدو أن التعليقات الصوتية المزيفة تم إنشاؤها بواسطة أداة قدمتها شركة ElevenLabs المدعومة من Andreessen Horowitz، في حين حصدت المقاطع مئات الملايين من المشاهدات، وفقًا لما ذكره موقع NewsGuard.

وقالت شركة ElevenLabs: "أكثر من 99% من المستخدمين على منصتنا يقومون بإنشاء محتوى مثير للاهتمام وإبداعي ومفيد، لكننا ندرك أن هناك حالات من سوء الاستخدام وقد قمنا باستمرار بتطوير وتقديم الحماية للحد منها".

تقدم شركة ElevenLabs، التي أسسها قبل عامين موظفان سابقان في Google وPalantir، Piotr Dabkowski وMati Staniszewski، أدوات أولية لتوليد الصوت بالذكاء الاصطناعي مجانًا بنقرة واحدة فقط. تتراوح خطط الاشتراك من 1 دولار شهريًا إلى 330 دولارًا شهريًا وما فوق لأولئك الذين يبحثون عن خدمات أكثر تعقيدًا.

وفي العام الماضي، حذرت وكالات الاستخبارات الأمريكية في تقرير من أن "عمليات الاحتيال بالذكاء الاصطناعي المخصصة زادت بشكل كبير بسبب إصدار نماذج استنساخ صوتية متطورة ومدربة تدريبًا جيدًا".

بالإضافة إلى عمليات الاحتيال ذات الدوافع المالية، يدق الخبراء السياسيون الآن ناقوس الخطر بشأن مقاطع الصوت المزيفة الفيروسية بالإضافة إلى استخدام مقاطع الصوت المزيفة في المكالمات الآلية أو الحملات الانتخابية. وقال إيه جيه ناش، نائب الرئيس وزميل الاستخبارات المتميز في مجموعة زيرو فوكس للأمن السيبراني: "يمكنك بناء حملة تضليل قوية وواسعة النطاق من خلال استهداف الهواتف".

وقد سعت بعض هذه الشركات بشكل استباقي إلى إيجاد طرق أخرى لمكافحة المعلومات المضللة. أصدرت شركة مايكروسوفت بيانًا أخلاقيًا، تحث فيه المستخدمين على الإبلاغ عن أي إساءة استخدام لمحرك الصوت الذكي الخاص بها. قامت شركة ElevenLabs ببناء أدوات الكشف الخاصة بها لتحديد التسجيلات التي تم إنشاؤها بواسطة نظامها.

خلال الانتخابات النيجيرية لعام 2023، انتشر مقطع فيديو تم التلاعب به بواسطة الذكاء الاصطناعي على وسائل التواصل الاجتماعي "يُشير على ما يبدو إلى أن مرشح المعارضة كان يخطط لتزوير الأصوات"، وفقًا لمنظمة حقوق الإنسان فريدوم هاوس.

في سلوفاكيا، انتشر على نطاق واسع تسجيل صوتي مزيف لمرشح المعارضة ميخال شيميتشكا وهو يتآمر على ما يبدو لتزوير الانتخابات قبل أيام قليلة من الانتخابات الرئاسية في البلاد في سبتمبر/أيلول.

قال روبرت فايسمان، رئيس منظمة الدفاع عن المستهلك غير الربحية Public Citizen: "إن تقنية التزييف العميق في نيو هامبشاير هي تذكير بالعديد من الطرق التي يمكن أن تؤدي بها تقنية التزييف العميق إلى الارتباك والغش". لقد حانت لحظة التزييف السياسي العميق. على صانعي السياسات التحرك بسرعة لوضع ضمانات، وإلا سنواجه فوضى انتخابية.

ماي آنه (وفقًا لصحيفة فاينانشال تايمز)

[إعلان 2]
مصدر