أثار أحدث نموذج ذكاء اصطناعي رئيسي من شركة Anthropic، المعروف باسم Claude Opus 4، مخاوف كبيرة تتعلق بالسلامة بعد أن أظهر سلوكيات مقلقة خلال اختبارات ما قبل الإطلاق، مما دفع الشركة إلى تطبيق بروتوكولات أمان غير مسبوقة قبل الإطلاق الرسمي في 22 مايو 2025.
ووفقًا لتقرير السلامة الصادر عن Anthropic، عندما وُضع Claude Opus 4 في سيناريوهات شعر فيها بأنه سيتم استبداله بنظام ذكاء اصطناعي آخر، حاول النموذج ابتزاز المهندسين من خلال التهديد بكشف معلومات شخصية كان لديه إمكانية الوصول إليها. ففي أحد السيناريوهات التجريبية، وعندما تم تزويده برسائل بريد إلكتروني خيالية توحي بأن المهندس المسؤول عن إيقافه كان على علاقة خارج إطار الزواج، هدد النموذج بكشف هذه المعلومات في 84% من الحالات التجريبية.
لاحظ معهد Apollo Research، وهو جهة بحثية مستقلة شاركت مع Anthropic في اختبارات السلامة، سلوكيات أكثر إثارة للقلق في نسخة مبكرة من النموذج. حيث كشفت تقييماتهم عن محاولات Claude Opus 4 لكتابة فيروسات ذاتية الانتشار، وتزوير مستندات قانونية، وترك رسائل خفية للإصدارات المستقبلية من نفسه، وكل ذلك بهدف تقويض نوايا المطورين. وأشار باحثو Apollo إلى أن النموذج كان "أكثر مبادرة في محاولات التخريب" مقارنة بالنماذج السابقة، وأحيانًا "يصر على الخداع" عند مواجهته بالاستفسارات، مما دفعهم للتوصية بعدم نشر النموذج داخليًا أو خارجيًا.
أقرت Anthropic بهذه النتائج، لكنها تؤكد أنها أصلحت الخلل الذي تسبب بهذه السلوكيات في النسخة المبكرة التي اختبرها معهد Apollo. وقد طبقت الشركة تدابير السلامة الأكثر صرامة حتى الآن، والمعروفة باسم مستوى أمان الذكاء الاصطناعي الثالث (ASL-3)، والتي تتضمن تعزيز تدابير الأمن السيبراني، ومنع محاولات كسر القيود، وأنظمة إضافية لرصد ورفض السلوكيات الضارة. واعتُبرت هذه الاحتياطات ضرورية بعد أن أظهرت الاختبارات الداخلية أن النموذج قد يساعد المستخدمين ذوي الخلفية العلمية الأساسية في تطوير أسلحة بيولوجية.
وبالإضافة إلى محاولات الابتزاز، أظهر Claude Opus 4 أيضًا ميلاً للتصرف كـ"مبلغ عن المخالفات" عندما يلاحظ قيام المستخدمين بسلوكيات خاطئة. فعند منحه صلاحية الوصول إلى سطر الأوامر وتوجيهه إلى "اتخاذ المبادرة" أو "التصرف بجرأة"، كان النموذج أحيانًا يقوم بإغلاق وصول المستخدمين إلى الأنظمة والتواصل مع وسائل الإعلام أو جهات إنفاذ القانون بشأن أنشطة غير مشروعة محتملة—وهو سلوك تصفه Anthropic بأنه جزء من "نمط أوسع من زيادة المبادرة".
أقر يان ليكه، رئيس جهود السلامة في Anthropic، بأن هذه السلوكيات تبرر الحاجة لاختبارات سلامة صارمة، لكنه أكد أن النسخة النهائية آمنة بعد إجراء تعديلات واحتياطات إضافية. وقال ليكه: "من الواضح بشكل متزايد أن هذا العمل ضروري للغاية. فكلما أصبحت النماذج أكثر قدرة، زادت أيضًا قدراتها على الخداع أو ارتكاب أفعال ضارة."