أعلنت شركة ميتا عن إصدار نماذج جديدة من سلسلة "لاما" للذكاء الاصطناعي، تحت اسم Llama 3.2 1B وLlama 3B، والتي تم تصميمها خصيصاً لتعمل على الأجهزة ذات القدرات المحدودة.
تتميز هذه النماذج الجديدة بتقنية "التكميم" التي تقلل من استهلاك الذاكرة، ما يزيد من سرعة الأداء، مما يجعلها مثالية للاستخدام على الهواتف الذكية والأجهزة الطرفية. كما أوضحت ميتا عبر مدونتها أن نماذج Llama 3.2 1B وLlama 3B تأتي بقدرات محسنة، حيث تم تطبيق تقنية التكميم لتقليل دقة بعض مكونات النموذج، مما يجعلها أخف وزناً على الذاكرة ويقلل من استهلاك الطاقة.
تستهدف ميتا من خلال هذه التقنية التطبيقات القصيرة التي تتطلب معالجة حتى 8000 رمز نصي. وتعتمد الشركة على طريقتين رئيسيتين للتكميم، وهما التكميم باستخدام "QLoRA"، الذي يركز على دقة النتائج، ما يجعله مثالياً للتطبيقات التي تتطلب دقة عالية. أما الطريقة الثانية فتستخدم أسلوب "SpinQuant"، المصمم للمطورين الذين يرغبون في تقليل حجم النموذج دون التضحية الكبيرة بالدقة.
أجرت ميتا تجارب على نماذجها الجديدة باستخدام هواتف OnePlus 12، وظهرت النتائج أن النماذج الجديدة تمكنت من تقليل حجم الذاكرة المستخدمة بنسبة 41%، مع الحفاظ على أداء مقارب للنماذج الأصلية، وسرعة تصل إلى أربعة أضعاف في وقت التنفيذ.
بفضل التعاون مع شركات مثل كوالكوم وميدياتيك، تم تحسين هذه النماذج لتعمل بسلاسة على معالجات الهواتف المحمولة، مما يتيح للمستخدمين تجربة مخصصة للذكاء الاصطناعي، مع الحفاظ على خصوصية البيانات عبر التشغيل المحلي دون الحاجة للاتصال بالإنترنت.
تأتي هذه الإصدارات ضمن سلسلة من الإعلانات المتسارعة لميتا هذا الشهر، والتي شملت نماذج أخرى مثل "Meta Movie Gen" لتحرير مقاطع الفيديو، ونموذج "Spirit LM" لتوليد أصوات اصطناعية تعبر عن مشاعر متنوعة.
الآن، أصبحت النماذج المخففة من "لاما" متاحة للتنزيل عبر مواقع Llama.com وHugging Face، مما يفتح آفاقاً جديدة أمام المطورين لابتكار تطبيقات ذكاء اصطناعي على الأجهزة المحمولة، مع زيادة كفاءة استهلاك الموارد.
إرسال تعليق