نفذت جوجل ترقيات أمنية كبيرة على عائلة نماذج الذكاء الاصطناعي جيميني 2.5، لتجعلها أكثر النماذج أماناً لدى الشركة حتى الآن في مواجهة التهديدات المتطورة لأمن الذكاء الاصطناعي.
في صميم هذه التحسينات، اعتمدت جوجل نهجاً أمنياً جديداً يعزز بشكل كبير حماية جيميني ضد هجمات الحقن غير المباشر للأوامر أثناء استخدام الأدوات. وتحدث هذه الهجمات عندما يتم تضمين تعليمات خبيثة داخل البيانات التي يسترجعها نموذج الذكاء الاصطناعي، مما قد يؤدي إلى تنفيذ أوامر ضارة أو تسريب معلومات حساسة.
تأتي هذه التحسينات الأمنية في الوقت الذي تستعد فيه جوجل لدمج قدرات مشروع مارينر للتحكم في الحاسوب ضمن Gemini API وVertex AI. حيث يتيح مشروع مارينر لوكلاء الذكاء الاصطناعي التحكم في متصفحات الإنترنت وأداء مهام محددة بشكل تلقائي، بما في ذلك تصفح المواقع والتفاعل مع عناصر الويب. وتقوم عدة شركات مثل Automation Anywhere وUiPath وBrowserbase وAutotab وThe Interaction Company وCartwheel باختبار هذه القدرات بالفعل، مع توقع إتاحة الوصول الأوسع للمطورين خلال الصيف القادم.
تعتمد استراتيجية جوجل الأمنية لجيميني 2.5 على عدة طبقات دفاعية، من بينها الاختبار التلقائي للهجمات (ART) الذي يقوم باستمرار بالكشف عن الثغرات. ووفقاً لأبحاث Google DeepMind، فقد أدى هذا النهج إلى تقليص كبير في معدل نجاح الهجمات التكيفية مقارنة بالإصدارات السابقة من النماذج. كما قامت الشركة بضبط جيميني على مجموعات بيانات تحتوي على سيناريوهات هجوم واقعية، لتعليم النموذج تجاهل التعليمات الخبيثة المدمجة مع الاستجابة لطلبات المستخدمين المشروعة.
وبالإضافة إلى التحسينات الأمنية، تحصل نماذج جيميني 2.5 على مزايا إضافية، منها ملخصات التفكير في Gemini API وVertex AI، والتي تنظم عملية استدلال النموذج في شكل منظم لزيادة الشفافية وتسهيل التصحيح. كما تدعم النماذج إخراج الصوت بشكل أصلي لتجارب محادثة أكثر طبيعية.
يتوفر الآن نموذج جيميني 2.5 فلاش للجميع عبر تطبيق جيميني، مع توفره العام للمطورين في Google AI Studio وللشركات عبر Vertex AI في أوائل يونيو. وسيتبع ذلك قريباً إطلاق جيميني 2.5 برو، ليقدم ميزاته الأمنية المعززة لشريحة أوسع من المستخدمين.