وفقًا لموقع Android Authority ، تتضمن ورقة بحثية لشركة Apple حلاً لتشغيل نماذج اللغة الكبيرة (LLMs) على الأجهزة ذات ذاكرة الوصول العشوائي المحدودة. يكشف التقرير كيف يمكن للشركة تخزين "معلمات النموذج" وتحميل أجزاء منها في ذاكرة الوصول العشوائي للجهاز عند الحاجة بدلاً من تحميل النموذج بأكمله في ذاكرة الوصول العشوائي.
تتطلع شركة Apple إلى مساعدة أجهزة iPhone القديمة ذات ذاكرة الوصول العشوائي الأقل في تشغيل الذكاء الاصطناعي العام
تدعي الورقة البحثية أن هذه الطريقة تسمح بتشغيل نماذج تتطلب ضعف ذاكرة الوصول العشوائي التي قد يحتوي عليها جهاز iPhone مع ضمان سرعات استنتاج 4-5x و20-25x مقارنة بطرق التحميل البسيطة على وحدة المعالجة المركزية ووحدة معالجة الرسومات على التوالي.
سيكون نشر الذكاء الاصطناعي على الأجهزة ذات ذاكرة الوصول العشوائي (RAM) الأكبر مفيدًا لأنه يوفر سرعات قراءة وكتابة أسرع. السرعة مهمة للذكاء الاصطناعي على الجهاز، مما يسمح بأوقات استدلال أسرع بكثير حيث لا يتعين على المستخدمين بالضرورة الانتظار لعشرات الثواني (أو أكثر) للحصول على استجابة أو نتيجة نهائية. كل هذا يعني مساعد ذكاء اصطناعي على الجهاز يمكنه العمل بسرعات المحادثة، وإنشاء الصور/النصوص بشكل أسرع، وتلخيص المقالات بشكل أسرع... ولكن حل Apple يعني أن المستخدمين لا يحتاجون بالضرورة إلى قدر كبير من ذاكرة الوصول العشوائي (RAM) لتسريع استجابة مهام الذكاء الاصطناعي على الجهاز.
قد يسمح نهج Apple لأجهزة iPhone القديمة والجديدة بتقديم ميزات الذكاء الاصطناعي مباشرة على أجهزتها. وهذا مهم لأن هواتف Apple iPhone عادةً ما توفر ذاكرة وصول عشوائي (RAM) أقل من هواتف Android المتطورة. على سبيل المثال، تقدم سلسلة iPhone 11 فقط 4 جيجابايت من ذاكرة الوصول العشوائي (RAM)، في حين أن هاتف iPhone 15 العادي يحتوي فقط على 6 جيجابايت من ذاكرة الوصول العشوائي (RAM).
لا تعد شركة أبل هي شركة الهاتف المحمول الوحيدة التي تحاول تقليص حجم LLM. تدعم الرقائق الرائدة الحديثة من Qualcomm و MediaTek دقة INT4 لتقليص حجم هذه النماذج. على أية حال، تحاول الشركات إيجاد حلول جديدة لتقليل متطلبات النظام للذكاء الاصطناعي الموجود على الجهاز، مما يسمح حتى للهواتف منخفضة التكلفة بتقديم هذه الميزة.
[إعلان رقم 2]
رابط المصدر
تعليق (0)