أعلن مكتب المدعي العام في ولاية نيو هامبشاير يوم الاثنين أنه بدأ تحقيقا في احتمال التلاعب بأصوات الناخبين. يأتي ذلك بعد شكاوى من صوت مزيف، يبدو مطابقًا تمامًا لصوت الرئيس الأمريكي جو بايدن، يحث الناخبين على عدم التصويت في الانتخابات التمهيدية بالولاية.
وحذر الباحثون أيضًا من استخدام الصوت المزيف لتقليد السياسيين والقادة، مع حدوث حالات بارزة في عام 2023 في المملكة المتحدة والهند ونيجيريا والسودان وإثيوبيا وسلوفاكيا.
يقوم شخص ما بالتصويت في الانتخابات التمهيدية في نيو هامبشاير، الولايات المتحدة الأمريكية. الصورة: جيتي
يقول الخبراء إن الصوت العميق أصبح شكلاً شائعًا من أشكال التضليل بسبب ظهور مجموعة من أدوات الذكاء الاصطناعي الرخيصة والفعالة من الشركات الناشئة. كما طورت مايكروسوفت نموذج ذكاء اصطناعي جديد يمكنه إنتاج صوت من ثلاث ثوانٍ فقط من التسجيل.
قال هنري أجدر، الخبير في مجال الذكاء الاصطناعي والتزييف العميق والمستشار في Adobe وMeta وEY: "عندما يتعلق الأمر بالتلاعب البصري، فإن الجميع على دراية ببرنامج Photoshop أو على الأقل يعرفون أنه موجود". "هناك وعي ضئيل للغاية حول كيفية التلاعب بالصوت، لذلك بالنسبة لي فإن هذا يجعلنا عرضة للخطر حقًا."
في سبتمبر/أيلول، اكتشف نظام NewsGuard، الذي يصنف جودة مواقع الأخبار وموثوقيتها، شبكة من حسابات TikTok تنتحل صفة مواقع إخبارية شرعية، باستخدام محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي لنشر نظريات المؤامرة والمعلومات السياسية المضللة. وقد جذبت التسجيلات الصوتية المزيفة، بما في ذلك تسجيل الرئيس الأمريكي السابق باراك أوباما، مئات الملايين من المشاهدات.
ويبدو أن التعليقات الصوتية المزيفة قد تم إنشاؤها بواسطة أداة قدمتها شركة ElevenLabs المدعومة من Andreessen Horowitz، في حين حصدت المقاطع مئات الملايين من المشاهدات، وفقًا لما ذكره موقع NewsGuard.
وقالت شركة ElevenLabs: "أكثر من 99% من المستخدمين على منصتنا يقومون بإنشاء محتوى مثير للاهتمام وإبداعي ومفيد، لكننا ندرك أن هناك حالات من سوء الاستخدام وقد قمنا باستمرار بتطوير وتقديم الحماية للحد منها".
تقدم شركة ElevenLabs، التي أسسها قبل عامين موظفان سابقان في Google وPalantir، بيوتر دابكوفسكي وماتي ستانيسزوسكي، أدوات أولية لتوليد الصوت بالذكاء الاصطناعي مجانًا بنقرة واحدة فقط. تتراوح خطط الاشتراك من 1 دولار شهريًا إلى 330 دولارًا شهريًا وما فوق لأولئك الذين يبحثون عن خدمات أكثر تعقيدًا.
وفي العام الماضي، حذرت وكالات الاستخبارات الأميركية في تقرير لها من أن "عمليات الاحتيال باستخدام الذكاء الاصطناعي زادت بشكل كبير بسبب إصدار نماذج استنساخ صوتية متطورة ومدربة تدريبا جيدا".
بالإضافة إلى عمليات الاحتيال ذات الدوافع المالية، يدق الخبراء السياسيون الآن ناقوس الخطر بشأن مقاطع الصوت المزيفة الفيروسية بالإضافة إلى استخدام مقاطع الصوت المزيفة في المكالمات الآلية أو الحملات الانتخابية. وقال إيه جيه ناش، نائب الرئيس وزميل الاستخبارات المتميز في مجموعة الأمن السيبراني زيرو فوكس: "يمكنك بناء حملة تضليل قوية وواسعة النطاق من خلال استهداف الهواتف".
وقد سعت بعض هذه الشركات بشكل استباقي إلى إيجاد طرق أخرى لمكافحة المعلومات المضللة. أصدرت شركة مايكروسوفت بيانًا أخلاقيًا، تحث فيه المستخدمين على الإبلاغ عن أي سوء استخدام لمحرك الصوت الذكي الخاص بها. قامت شركة ElevenLabs ببناء أدوات الكشف الخاصة بها لتحديد التسجيلات التي تم إنشاؤها بواسطة نظامها.
خلال الانتخابات النيجيرية لعام 2023، انتشر مقطع فيديو تم التلاعب به بواسطة الذكاء الاصطناعي على وسائل التواصل الاجتماعي "يُشير على ما يبدو إلى أن مرشحًا معارضًا كان يخطط لتزوير التصويت"، وفقًا لمنظمة حقوق الإنسان فريدوم هاوس.
وفي سلوفاكيا، انتشر على نطاق واسع تسجيل صوتي مزيف لمرشح المعارضة ميخال شيميتشكا وهو يتآمر على ما يبدو لتزوير الانتخابات، وذلك قبل أيام قليلة من الانتخابات الرئاسية في البلاد في سبتمبر/أيلول.
قال روبرت فايسمان، رئيس منظمة الدفاع عن المستهلك غير الربحية Public Citizen: "إن مقطع الفيديو المزيف في نيو هامبشاير هو تذكير بالعديد من الطرق التي يمكن أن يؤدي بها مقطع الفيديو المزيف إلى التضليل والخداع". لقد حانت لحظة التزييف السياسي العميق. يتعين على صناع القرار التحرك بسرعة لوضع الضمانات اللازمة وإلا فإننا سنواجه فوضى انتخابية".
ماي آنه (وفقا لـ FT)
[إعلان رقم 2]
مصدر
تعليق (0)