مخاوف من أن برنامج المحادثة جروك يتسبب في زيادة المعلومات المضللة على الإنترنت

بدأ روبوت المحادثة Grok التابع لإيلون ماسك في السماح للمستخدمين بإنشاء صور ذكاء اصطناعي من النصوص ونشرها على X، بما في ذلك صور مزيفة لسياسيين مثل الرئيس الأمريكي السابق دونالد ترامب، ونائبة الرئيس الأمريكي كامالا هاريس...

على عكس أدوات التصوير بالذكاء الاصطناعي السائدة الأخرى، يبدو أن Grok الخاص بموسك يخضع لقدر أقل من التنظيم. على سبيل المثال، في اختبار CNN ، نجح Grok بسهولة في إنشاء صور مزيفة للسياسيين، مما أدى إلى تضليل الناخبين.

صورة إيلون ماسك تم إنشاؤها بواسطة chatbox Grok. (المصدر: سي إن إن)

ونشر بعض مستخدمي X أيضًا صورًا تم إنشاؤها بواسطة Grok، تظهر المشاهير وهم يدخنون المخدرات، وشخصيات كرتونية تقتل الناس، وصور جنسية لنساء يرتدين البكيني.

وبحسب شبكة CNN ، أثار جروك مخاوف أخرى من أن الذكاء الاصطناعي قد يؤدي إلى انفجار المعلومات المضللة على الإنترنت، خاصة مع اقتراب موعد الانتخابات الرئاسية الأمريكية.

أطلق المشرعون وجماعات النشطاء وقادة التكنولوجيا ناقوس الخطر من أن إساءة استخدام مثل هذه الأدوات قد يسبب ارتباكًا وفوضى للناخبين.

لقد نفذت العديد من شركات الذكاء الاصطناعي الرائدة في العالم سياسات لمنع استخدام أدوات توليد الصور المعتمدة على الذكاء الاصطناعي لإنشاء معلومات سياسية مضللة، على الرغم من أن الباحثين وجدوا أن المستخدمين يجدون أحيانًا طرقًا للالتفاف على القواعد.

تستخدم العديد من الشركات مثل OpenAI وMeta وMicrosoft التكنولوجيا أو الملصقات لمساعدة المشاهدين على معرفة الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي الخاص بهم.

وتقوم الشبكات الاجتماعية بما في ذلك يوتيوب وتيك توك وإنستغرام وفيسبوك أيضًا بوضع علامة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في خلاصات المستخدمين، باستخدام التكنولوجيا لاكتشافه بأنفسهم أو مطالبة المستخدمين بتحديد الوقت الذي نشروه فيه.

في 16 أغسطس، يبدو أن الذكاء الاصطناعي قد فرض بعض القيود على Grok. ترفض الأداة حاليًا إنشاء صور للمرشحين السياسيين أو الشخصيات الكرتونية الشهيرة التي ترتكب أعمال عنف.

المصدر: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html