أعلنت شركة الذكاء الاصطناعي OpenAI عن إطلاق فريق جديد يحمل اسم "Collective Alignment". هذا الفريق يهدف إلى خلق عمليات ديمقراطية لتشكيل كيفية إدارة برامج الذكاء الاصطناعي، مع التركيز على التحيز والعوامل الأخرى المتعلقة.
يأتي هذا الخطوة كجزء من برنامج المنح الذي أطلقته OpenAI في شهر مايو الماضي، والذي يهدف إلى تمويل تجارب العملية الديمقراطية. يقوم البرنامج بتقديم منح لدعم التجارب التي تسهم في تحديد القواعد التي يجب أن تتبعها أنظمة الذكاء الاصطناعي.
تعليقًا على هذا الإعلان، صرحت تينا إيلوندو، مهندسة الأبحاث وعضو مؤسس في فريق OpenAI الجديد، بأهمية إتاحة الفرص للناس لتقديم مدخلاتهم المباشرة في هذا السياق. وأكدت على أهمية مشاركة المجتمع في توجيه تطورات الذكاء الاصطناعي نحو فائدة الجميع.
من جهته، أشار تيدي لي، مدير المنتج وعضو آخر في الفريق، إلى إمكانية شراكة محتملة مع مشروع Worldcoin. يهدف هذا المشروع، الذي أسسه سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إلى تمييز بين البشر وروبوتات الذكاء الاصطناعي من خلال توفير وسيلة للتحقق والتصويت بواسطة البشر.
وبالرغم من هذه الإعلانات، أكدت OpenAI أنها لم تحدد بعد خططًا محددة لدمج Worldcoin في أنشطتها.
تجدر الإشارة إلى أن تقنية الذكاء الاصطناعي التوليدي، وخاصة روبوت الدردشة ChatGPT الذي أطلقته OpenAI في نهاية عام 2022، قد لاقت اهتماماً وتفضيلًا كبيرين من قبل الجمهور.
مع تصاعد الحملة الانتخابية الأمريكية لعام 2024، تتزايد المخاوف حول قدرة الذكاء الاصطناعي على إنتاج معلومات خاطئة، وتوليد صور تزييفية عميقة. يُشير النقاد إلى التحيز الذي قد تحمله هذه الأنظمة نتيجة لاستخدامها لمدخلات تشكل وجهات نظرها.
من جانبها، تعبر OpenAI عن استعدادها لتوظيف مهندسين وعلماء أبحاث جدد في فريقها الجديد، الذي يعمل بشكل وثيق مع فريق Human Data التابع للشركة. يهدف هذا الفريق إلى بناء بنية تحتية لجمع المدخلات البشرية لدمجها في نماذج الذكاء الاصطناعي.
بشكل عام، تسعى OpenAI إلى تحقيق توافق نماذجها المستقبلية مع القيم الإنسانية وتطبيق أفكار الجمهور حول هذا الشأن. يجسد فريق Collective Alignment هذه الرؤية من خلال جمع المدخلات العامة حول سلوكيات نماذجها.
إرسال تعليق