أعلنت شركة مايكروسوفت عن إطلاق مجموعة من ميزات الأمان الجديدة المرتبطة بتقنيات الذكاء الاصطناعي، وذلك استجابةً للمخاوف المتزايدة المتعلقة بالخصوصية، الأمان، والموثوقية في مجال الذكاء الاصطناعي. تأتي هذه المبادرة تحت مسمى "الذكاء الاصطناعي الجدير بالثقة" (Trustworthy AI)، في خطوة تشير إلى التزام الشركة بتطوير الذكاء الاصطناعي بشكل مسؤول يراعي القيم الإنسانية والأخلاقيات.
هذه التحسينات تأتي في وقت حساس، حيث أصبحت الشركات والمؤسسات حول العالم تعتمد على حلول الذكاء الاصطناعي بشكل متزايد، وهو ما يخلق فرصًا كبيرة ولكنه يطرح أيضًا تحديات جديدة فيما يتعلق بالأمان والتأكد من دقة المعلومات الناتجة عن هذه النماذج الذكية.
تشمل التحسينات الجديدة التي قدمتها مايكروسوفت ميزات مثل "الاستدلال السري" لخدمة Azure OpenAI، والتي تتيح أمانًا محسنًا لمعالجة البيانات الحساسة. بالإضافة إلى ذلك، عملت الشركة على تحسين أمان وحدة معالجة الرسوميات (GPU) وإضافة أدوات جديدة تهدف إلى تقييم وتحليل مخرجات الذكاء الاصطناعي بشكل أكثر دقة وموثوقية.
ومن ضمن الميزات البارزة التي تم الكشف عنها أيضًا، خدمة جديدة تحمل اسم Correction، وهي مصممة لمعالجة مشكلة "هلوسات" الذكاء الاصطناعي، حيث تقوم الخدمة بمراجعة وتصحيح المعلومات التي قد تنتج بشكل خاطئ من نماذج الذكاء الاصطناعي. تقوم Correction بمقارنة النصوص المولدة مع مصادر أخرى للتحقق من دقتها، مما يعزز موثوقية هذه الأدوات في تطبيقات متعددة.
وتتيح مايكروسوفت استخدام Correction ضمن واجهة برمجة تطبيقات Azure AI Content Safety، ويمكن لهذه الخدمة العمل مع مجموعة متنوعة من نماذج الذكاء الاصطناعي بما في ذلك نماذج Llama من ميتا وGPT-4 من OpenAI.
مايكروسوفت أشارت إلى أن نهجها الجديد يعتمد على مواءمة المخرجات باستخدام نماذج لغوية صغيرة وكبيرة لضمان توافق النتائج مع المستندات والمعلومات الأساسية. في حال اكتشاف أي تناقض بين المعرفة الأساسية والمخرجات، يتم تصحيح هذا الخطأ تلقائيًا، مما يتيح للمستخدمين الحصول على استجابات أكثر دقة.
إلى جانب ذلك، تعمل مايكروسوفت على توسيع جهودها في مجال سلامة المحتوى المضمن، مما يسمح بإجراء فحوصات السلامة حتى عند عدم توفر اتصال بالإنترنت، وهي ميزة ترتبط بتطبيقات مثل Copilot التي تدمج الذكاء الاصطناعي مباشرةً في نظام التشغيل.
إرسال تعليق