المخاطر الأمنية عند استخدام ChatGPT

[إعلان 1]

قامت أكبر بنوك الولايات المتحدة، جي بي مورجان تشيس، وأمازون، وشركة التكنولوجيا أكسنتشر، بتقييد استخدام ChatGPT لدى موظفيها بسبب مخاوف تتعلق بأمن البيانات.

وبحسب شبكة CNN، فإن مخاوف هذه الشركات مبررة تماما. في 20 مارس، تعطل برنامج الدردشة الآلي الخاص بشركة OpenAI مما أدى إلى كشف بيانات المستخدم. ورغم أن المشكلة تم إصلاحها بسرعة، كشفت الشركة أن المشكلة أثرت على 1.2% من مستخدمي ChatGPT Plus. وتتضمن المعلومات المسربة الأسماء الكاملة وعناوين البريد الإلكتروني وعناوين الفواتير والأرقام الأربعة الأخيرة من أرقام بطاقات الائتمان وتواريخ انتهاء صلاحية البطاقة.

في 31 مارس، أصدرت هيئة حماية البيانات الإيطالية (Garante) حظرًا مؤقتًا على ChatGPT مشيرة إلى مخاوف تتعلق بالخصوصية بعد أن كشفت OpenAI عن الثغرة الأمنية.

وقال مارك ماكرياري، الرئيس المشارك لقسم أمن البيانات والخصوصية في شركة المحاماة Fox Rothschild LLP، لشبكة CNN إن المخاوف الأمنية المحيطة بـ ChatGPT ليست مبالغ فيها. لقد شبه روبوت الذكاء الاصطناعي بـ "الصندوق الأسود".

تم إطلاق ChatGPT بواسطة OpenAI في نوفمبر 2022 وسرعان ما جذب الانتباه بفضل قدرته على كتابة المقالات أو تأليف القصص أو كلمات الأغاني عن طريق إعطاء الأوامر. كما قامت شركات التكنولوجيا العملاقة مثل جوجل ومايكروسوفت أيضًا بطرح أدوات الذكاء الاصطناعي التي تعمل بشكل مشابه، مدعومة بنماذج لغوية كبيرة مدربة على كميات هائلة من البيانات عبر الإنترنت.

بعد الخطوة الإيطالية، تدرس ألمانيا أيضًا حظر ChatGPT

وأضاف السيد ماكراي أنه عندما يقوم المستخدمون بإدخال المعلومات في هذه الأدوات، فإنهم لا يعرفون كيف سيتم استخدامها بعد ذلك. وهذا أمر مثير للقلق بالنسبة للشركات مع تزايد عدد الموظفين الذين يستخدمون أدوات للمساعدة في كتابة رسائل البريد الإلكتروني الخاصة بالعمل أو تدوين الملاحظات للاجتماعات، مما يؤدي إلى زيادة خطر الكشف عن الأسرار التجارية.

وقال ستيف ميلز، مدير أخلاقيات الذكاء الاصطناعي في مجموعة بوسطن الاستشارية (BCG)، إن الشركات تشعر بالقلق إزاء قيام الموظفين بالكشف عن معلومات حساسة عن طريق الخطأ. إذا تم استخدام البيانات التي يدخلها الأشخاص لتدريب أداة الذكاء الاصطناعي هذه، فهذا يعني أنهم فقدوا السيطرة على البيانات لصالح شخص آخر.

وفقًا لسياسة الخصوصية الخاصة بشركة OpenAI، يجوز للشركة جمع جميع المعلومات الشخصية وبيانات مستخدمي الخدمة لتحسين نماذج الذكاء الاصطناعي. يمكنهم استخدام هذه المعلومات لتحسين خدماتهم أو تحليلها، وإجراء الأبحاث، والتواصل مع المستخدمين، وتطوير برامج وخدمات جديدة.

تنص سياسة الخصوصية على أن OpenAI قد تقدم معلومات شخصية إلى أطراف ثالثة دون إخطار المستخدمين، ما لم يكن ذلك مطلوبًا بموجب القانون. لدى OpenAI أيضًا وثيقة شروط الخدمة الخاصة بها، ولكن الشركة تضع قدرًا كبيرًا من المسؤولية على المستخدمين لاتخاذ التدابير المناسبة عند التفاعل مع أدوات الذكاء الاصطناعي.

لدى مالك ChatGPT منشور مدونة حول نهجهم فيما يتعلق بسلامة الذكاء الاصطناعي. وتؤكد الشركة أنها لا تستخدم البيانات لبيع الخدمات أو الإعلان أو بناء ملفات تعريف للمستخدمين، بل تستخدم OpenAI البيانات لجعل النماذج أكثر فائدة. على سبيل المثال، سيتم استخدام محادثات المستخدم لتدريب ChatGPT.

تعتبر سياسة الخصوصية الخاصة بـ ChatGPT غامضة إلى حد كبير.

تتضمن سياسة الخصوصية الخاصة بشركة Google، الشركة التي طورت أداة Bard AI، أحكامًا إضافية لمستخدمي الذكاء الاصطناعي. ستقوم الشركة باختيار جزء صغير من المحادثة واستخدام أدوات آلية لإزالة المعلومات الشخصية القابلة للتعريف. يؤدي هذا النهج إلى تحسين Bard وحماية خصوصية المستخدم.

سيتم مراجعة المحادثات النموذجية من قبل المدربين وسيتم الاحتفاظ بها لمدة تصل إلى 3 سنوات، منفصلة عن حساب Google الخاص بالمستخدم. وتذكّر جوجل أيضًا المستخدمين بعدم تضمين معلومات شخصية عن أنفسهم أو عن الآخرين في المحادثات على Bard AI. وأكدت شركة التكنولوجيا العملاقة أنها لن تستخدم هذه المحادثات لأغراض إعلانية وستعلن عن التغييرات في المستقبل.

يتيح Bard AI للمستخدمين اختيار عدم حفظ المحادثات في حساباتهم على Google، بالإضافة إلى مراجعة المحادثات أو حذفها عبر رابط. بالإضافة إلى ذلك، وضعت الشركة ضمانات مصممة لمنع بارد من تضمين المعلومات الشخصية في الردود.

يعتقد ستيف ميلز أن المستخدمين والمطورين في بعض الأحيان لا يكتشفون المخاطر الأمنية المخفية في التقنيات الجديدة إلا بعد فوات الأوان. على سبيل المثال، قد يؤدي الإكمال التلقائي إلى الكشف عن رقم الضمان الاجتماعي للمستخدم عن طريق الخطأ.

وقال ميلز إنه لا ينبغي للمستخدمين أن يضعوا في هذه الأدوات أي شيء لا يرغبون في مشاركته مع الآخرين.

[إعلان 2]
رابط المصدر