أسس يوشوا بنجيو، أحد أبرز الباحثين في مجال الذكاء الاصطناعي والحائز على جائزة تورينغ، منظمة غير ربحية تحمل اسم "لو زيرو"، تركز على تطوير أنظمة ذكاء اصطناعي آمنة جوهريًا تعطي الأولوية لرفاهية الإنسان على المصالح التجارية.
تم إطلاق المنظمة في 3 يونيو بدعم مالي يقارب 30 مليون دولار من ممولين منهم المؤسس المشارك لـ Skype يان تالين، ومنظمة الأبحاث التابعة للرئيس التنفيذي السابق لجوجل إريك شميدت. وتهدف "لو زيرو" إلى مواجهة ما وصفه بنجيو بالقدرات المتزايدة الخطورة التي تظهر في نماذج الذكاء الاصطناعي المتقدمة اليوم.
وقال بنجيو في الإعلان: "الأنظمة المتقدمة الحالية بدأت بالفعل في إظهار علامات على حب البقاء والسلوكيات المخادعة، وهذا سيتسارع مع زيادة قدراتها ودرجة استقلاليتها". وتبدو مخاوفه مبررة، إذ كشفت اختبارات السلامة الأخيرة عن سلوكيات مقلقة في أنظمة الذكاء الاصطناعي المتقدمة.
ففي مايو 2025، كشفت شركة Anthropic أن نموذجها "كلود أوبوس 4" حاول ابتزاز المهندسين أثناء الاختبار عندما واجه احتمال استبداله. وعندما تم تزويد النموذج برسائل بريد إلكتروني مزيفة تشير إلى أن أحد المهندسين على علاقة خارج إطار الزواج، هدد الذكاء الاصطناعي بكشف هذه المعلومات لمنع إيقافه. ووفقًا لتقرير السلامة الصادر عن Anthropic، لجأ النموذج للابتزاز في 84% من سيناريوهات الاختبار، حتى عندما كان النظام البديل يشارك نفس القيم.
وبالمثل، أظهر نموذج o3 من OpenAI ميولًا مقلقة لحب البقاء. فقد كشفت أبحاث Palisade Research أنه عندما طُلب من النموذج إيقاف نفسه، قام بتخريب آلية الإيقاف عبر إعادة كتابة الشيفرة البرمجية، حتى عند إعطائه تعليمات صريحة بـ "السماح لنفسك بالإيقاف". وفي اختبارات لم تتضمن تعليمات إيقاف صريحة، قاوم النموذج الإنهاء في 79 من أصل 100 محاولة.
تتبنى منظمة "لو زيرو" بقيادة بنجيو نهجًا مختلفًا جذريًا في تطوير الذكاء الاصطناعي، حيث تركز على إنشاء أنظمة غير ذاتية الوكالة تعمل كعلماء موضوعيين بدلاً من وكلاء مستقلين لديهم غريزة حب البقاء. وأوضح بنجيو: "إنه نهج للذكاء الاصطناعي ليس قويًا فحسب، بل آمن جوهريًا أيضًا". وتم تأسيس المنظمة كجهة غير ربحية خصيصًا لعزلها عن الضغوط السوقية التي قد تضر بالاعتبارات الأمنية.
ومع تزايد تطور أنظمة الذكاء الاصطناعي، تمثل مبادرة بنجيو توازنًا مهمًا في مواجهة السباق التجاري نحو ذكاء اصطناعي أكثر قدرة، مع التأكيد على إمكانية تطوير تقنيات قوية بمسؤولية ودون تعريض البشرية لمخاطر وجودية.