أعلنت شركة إنفيديا عن إطلاق منصة برمجية جديدة تحت اسم NIM في مؤتمر GTC 2024، والتي تهدف إلى تبسيط عمليات نشر وتنفيذ نماذج الذكاء الاصطناعي المخصصة في بيئات الإنتاج.
تعتمد منصة NIM على العمل البرمجي الذي نفذته إنفيديا في مجال الاستدلال وتحسين النماذج، وتقوم بجمع النماذج ومحركات الاستدلال وتجميعها في حزمة برمجية صغيرة يسهل الوصول إليها.
ومن المعروف أنه يستغرق وقتًا طويلاً للمطورين لإطلاق حزم برمجية مماثلة، ولكن من خلال NIM، يمكن للمطورين الوصول بسهولة إلى الخدمات البرمجية الصغيرة واستخدامها في تطبيقاتهم.
وتهدف إنفيديا من خلال NIM إلى تطوير نظام بيئي للحزم الجاهزة للذكاء الاصطناعي، والتي تستخدم أجهزتها كطبقة أساسية، وتوفير خدمات صغيرة منسقة للشركات التي تسعى لتطبيق تقنيات الذكاء الاصطناعي في أعمالها.
تتضمن NIM دعمًا لنماذج مختلفة من إنفيديا وشركات أخرى مثل Google وMicrosoft، وتعمل إنفيديا حاليًا مع هذه الشركات لجعل خدمات NIM متاحة عبر أطر عمل مختلفة.
وقال مانوفير داس، رئيس قسم الحوسبة المؤسسية في إنفيديا، إن الشركة تؤمن أن وحدة معالجة الرسومات من إنفيديا هي المكان الأفضل لإجراء الاستدلال على هذه النماذج، وأن NIM هي الحزمة البرمجية المثالية للمطورين للبناء عليها.
ومن خلال استخدام خوادم الاستدلال Triton وTensorRT وTensorRT-LLM، يمكن للمطورين الوصول إلى خدمات متنوعة مثل تخصيص نماذج الكلام والترجمة وتحسين التوجيه ومحاكاة الطقس والمناخ.
ومن المتوقع أن تقدم إنفيديا ميزات إضافية في المستقبل، مما يشمل إمكانية استخدام مشغل النموذج اللغوي الكبير للحصول على تجربة محسنة في بناء تطبيقات الدردشة الذكية.
يجري استخدام NIM حاليًا من قبل العديد من الشركات الرائدة مثل Box وCloudera وCohesity وDatastax وDropbox وNetApp، وهو يثير اهتماما كبيرًا في عالم التكنولوجيا وصناعة الذكاء الاصطناعي.
إرسال تعليق