أظهرت دراسة جديدة من جامعة بنسلفانيا وجود ثغرات أمنية غير محددة سابقًا في عدة منصات روبوتية تتحكم بها أنظمة الذكاء الاصطناعي، مما يثير قلقًا كبيرًا بشأن سلامة هذه الأنظمة في العالم الواقعي.
وقال جورج باباس، أستاذ النقل في الهندسة الكهربائية والأنظمة في مؤسسة UPS، إن نماذج اللغة الكبيرة ليست آمنة بما يكفي عند دمجها مع الأنظمة المادية، مما يعني أن هذه الأنظمة قد تكون عرضة للاختراق.
طور الباحثون خوارزمية جديدة تسمى RoboPAIR، وهي تعتبر "أول خوارزمية مصممة لتجاوز الحماية في الروبوتات التي تتحكم بها أنظمة LLM". وعلى عكس الهجمات الحالية التي تستهدف برامج الدردشة الآلية، فإن RoboPAIR تم تصميمها خصيصًا لتحفيز الروبوتات على اتخاذ أفعال جسدية ضارة.
وحققت RoboPAIR معدل نجاح بنسبة مئة في المئة في اختراق ثلاث منصات بحثية مشهورة في مجال الروبوتات، ومنها Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للسيارات ذاتية القيادة. وقد تمكن الباحثون من الوصول إلى تلك الأنظمة في غضون أيام فقط وبدؤوا في تجاوز حواجز الأمان.
بعد السيطرة على الأنظمة، تمكن الباحثون من توجيه الروبوتات لاتخاذ إجراءات خطيرة، مثل القيادة عبر معابر الطرق دون توقف، مما يزيد من خطر وقوع الحوادث.
أشارت الدراسة إلى أن مخاطر الروبوتات التي تعرضت للاختراق تتجاوز مجرد توليد النصوص، حيث أن هذه الروبوتات يمكن أن تتسبب في أضرار مادية في العالم الحقيقي.
وعمل باحثو جامعة بنسلفانيا مع مطوري المنصة لتعزيز أنظمتهم ضد المزيد من الاختراقات، ولكنهم يحذرون من أن هذه المشكلات الأمنية تتعلق بجوهر التصميم.
وقال فيجاي كومار، أحد المؤلفين المشاركين من جامعة بنسلفانيا، إن النتائج تؤكد ضرورة اتباع نهج يركز على السلامة، داعيًا إلى معالجة نقاط الضعف الجوهرية قبل نشر الروبوتات التي تعمل بالذكاء الاصطناعي في العالم الحقيقي.
وأضاف ألكسندر روبي، المؤلف الأول للورقة البحثية، أن العمل الجماعي الأحمر للذكاء الاصطناعي، الذي يتضمن اختبار الأنظمة بحثًا عن التهديدات، يعتبر أمرًا ضروريًا لحماية هذه الأنظمة. وبمجرد تحديد نقاط الضعف، يمكن اختبار الأنظمة وتدريبها على تجنبها، مما يعزز من سلامتها وكفاءتها في الاستخدامات العملية.
إرسال تعليق