أدوات الذكاء الاصطناعي لتحويل الكلام إلى نص "تمثل بشكل خاطئ" أيضًا

يتم الإعلان عن أداة تحويل الكلام إلى نص Whisper من OpenAI على أنها "قوية ودقيقة على مستوى الإنسان تقريبًا"، ولكن لديها عيب رئيسي واحد: إنها عرضة لتزييف أجزاء نصية أو حتى جمل كاملة!

ويقول الخبراء إن بعض النصوص التي تنتجها، والمعروفة في هذه الصناعة باسم النصوص المهلوسة، يمكن أن تتضمن تعليقات عنصرية، وعنفًا، وحتى علاجات طبية خيالية.

ويقول الخبراء إن مثل هذه التلفيقات خطيرة لأن برنامج Whisper يستخدم في مجموعة واسعة من الصناعات حول العالم لترجمة ونسخ المقابلات وإنشاء النصوص ومقاطع الفيديو المصاحبة لها.

والأمر الأكثر إثارة للقلق هو أن المراكز الطبية تستخدم أدوات تعتمد على Whisper لتسجيل استشارات المرضى والأطباء، على الرغم من تحذير OpenAI من أنه لا ينبغي استخدام الأداة في "المناطق عالية الخطورة".

الجمل التي تبدأ بـ "#الحقيقة الأساسية" هي ما قيل بالفعل، الجمل التي تبدأ بـ "#النص" هي ما قام Whisper بنسخه. الصورة: وكالة اسوشيتد برس

يقول الباحثون والمهندسون إن دواء Whisper يسبب الهلوسة بشكل متكرر أثناء الاستخدام. على سبيل المثال، قال أحد الباحثين في جامعة ميشيغان إنه وجد هلوسات في ثمانية من أصل عشرة تسجيلات قام بفحصها.

اكتشف مهندس التعلم الآلي في البداية التشوه في حوالي نصف أكثر من 100 ساعة من نصوص Whisper التي قام بتحليلها. وقال مطور ثالث إنه اكتشف الهلوسة في كل واحدة تقريبا من الـ 26 ألف ملاحظة التي تم إنشاؤها باستخدام Whisper.

يستمر الوهم حتى في عينات الصوت القصيرة المسجلة جيدًا. توصلت دراسة حديثة أجراها علماء الكمبيوتر إلى وجود 187 تشويهاً في أكثر من 13 ألف مقطع صوتي واضح قاموا بفحصها.

وقال الباحثون إن هذا الاتجاه من شأنه أن يؤدي إلى عشرات الآلاف من الأخطاء عبر ملايين التسجيلات.

وقالت ألوندرا نيلسون، أستاذة في كلية العلوم الاجتماعية في معهد الدراسات المتقدمة، إن مثل هذه الأخطاء يمكن أن يكون لها "عواقب وخيمة حقًا"، خاصة في بيئة المستشفى.

لا أحد يرغب في أن يُشخَّص خطأً. يجب أن يكون هناك حاجز أعلى، كما قال نيلسون.

قامت الأستاذة أليسون كوينيكي من جامعة كورنيل والأستاذة مونا سلون من جامعة فيرجينيا بفحص آلاف المقتطفات القصيرة التي استرجعتاها من TalkBank، وهو أرشيف بحثي مستضاف في جامعة كارنيجي ميلون. وقد حددوا أن ما يقرب من 40% من الهلوسة كانت ضارة أو مزعجة لأن المتحدث قد يكون مفهوما بشكل خاطئ أو يتم تمثيله بشكل خاطئ.

في أحد التسجيلات، وصف أحد المتحدثين "فتاتين أخريين وامرأة"، لكن ويسبر اختلق تعليقًا عنصريًا إضافيًا، مضيفًا "فتاتين أخريين وامرأة، سوداء".

في نسخة أخرى، اخترع ويسبر دواءً غير موجود يُسمى "المضادات الحيوية ذات النشاط المتزايد".

في حين يفترض معظم المطورين أن أدوات النسخ يمكن أن ترتكب أخطاء إملائية أو أخطاء أخرى، يقول المهندسون والباحثون إنهم لم يروا أبدًا أداة نسخ مدعومة بالذكاء الاصطناعي تسبب الهلوسة مثل Whisper.

تم دمج الأداة في العديد من إصدارات برنامج ChatGPT الرائد من OpenAI، وهي خدمة متكاملة في منصات الحوسبة السحابية من Oracle وMicrosoft، وتخدم آلاف الشركات في جميع أنحاء العالم. كما يتم استخدامه أيضًا لنسخ النصوص وترجمتها إلى العديد من اللغات.

نغوك آنه (وفقًا لوكالة أسوشيتد برس)

المصدر: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html