طورت جوجل نهجًا مبتكرًا أطلقت عليه اسم Project Naptime، وهو مصمم لتحسين قدرات النماذج اللغوية الكبيرة في اكتشاف الثغرات الأمنية. هذه المبادرة تهدف إلى تحسين أساليب الاكتشاف الآلي من خلال أبحاث مستمرة حول نقاط الضعف.
أوضحت جوجل أن الذكاء الاصطناعي يمكنه تعزيز التعرف على التهديدات وتحليلها، وكشف نقاط الضعف التي لا تستطيع الأدوات الحالية اكتشافها. ويعمل فريق Project Zero على استكشاف كيفية استخدام النماذج اللغوية الكبيرة لمحاكاة أساليب الباحثين الأمنيين البشريين، مثل تدقيق التعليمات البرمجية والهندسة العكسية.
يهدف Project Naptime إلى تعزيز التفاعل بين وكيل الذكاء الاصطناعي وقاعدة التعليمات البرمجية المستهدفة. يتم تزويد الوكيل بمجموعة من الأدوات المتخصصة التي تحاكي سير عمل الباحث الأمني البشري، مما يمكن النماذج اللغوية من تحديد الثغرات الأمنية وتحليلها بشكل أكثر دقة.
يتضمن النهج عدة مكونات رئيسية، مثل أداة متصفح التعليمات البرمجية التي تتيح لوكيل الذكاء الاصطناعي التنقل عبر قاعدة التعليمات البرمجية المستهدفة، وأداة لتشغيل برامج بايثون النصية في بيئة آمنة، ومصحح أخطاء لمراقبة سلوك البرنامج بمدخلات مختلفة، وأداة لمراقبة التقدم المحرز في المهام.
وأشارت جوجل إلى أن Project Naptime حيادي للنموذج والواجهة الخلفية، ويتمتع بقدرات محسنة في الإبلاغ عن تجاوز سعة المخزن المؤقت وعيوب تلف الذاكرة المتقدمة، وفقًا لمعايير CYBERSECEVAL 2 التي أصدرتها ميتا في أبريل الماضي.
في الاختبارات التي أجرتها جوجل لإعادة إنتاج العيوب واستغلالها، حقق النموذج اللغوي الكبير نتائج ملحوظة، حيث حصلت فئتا الثغرات الأمنية على درجات جديدة بلغت 1.00 و 0.76، مقارنة بـ 0.05 و 0.24 لنموذج GPT-4 Turbo من OpenAI.
أكدت جوجل أن Project Naptime يتيح للنموذج اللغوي الكبير إجراء أبحاث مستمرة حول نقاط الضعف، مما يعزز قدرة الوكيل على تحديد الثغرات الأمنية وتحليلها بدقة وقابلية للتكرار.
إرسال تعليق