Google ने अपनी Gemini 2.5 AI मॉडल श्रृंखला में महत्वपूर्ण सुरक्षा सुधार लागू किए हैं, जिससे ये बदलते AI सुरक्षा खतरों के जवाब में कंपनी के अब तक के सबसे सुरक्षित मॉडल बन गए हैं।
इन सुधारों के केंद्र में एक नया सुरक्षा दृष्टिकोण है, जो टूल उपयोग के दौरान Gemini को इनडायरेक्ट प्रॉम्प्ट इंजेक्शन अटैक्स के खिलाफ काफी अधिक सुरक्षा प्रदान करता है। ये हमले तब होते हैं जब AI मॉडल द्वारा प्राप्त डेटा में छिपे दुर्भावनापूर्ण निर्देश डाले जाते हैं, जिससे मॉडल हानिकारक कमांड चला सकता है या संवेदनशील जानकारी लीक कर सकता है।
ये सुरक्षा सुधार ऐसे समय आए हैं जब Google Project Mariner की कंप्यूटर उपयोग क्षमताओं को Gemini API और Vertex AI में एकीकृत करने की तैयारी कर रहा है। Project Mariner AI एजेंट्स को वेब ब्राउज़र नियंत्रित करने और स्वचालित रूप से विशिष्ट कार्य करने में सक्षम बनाता है, जिसमें वेबसाइट्स पर नेविगेट करना और वेब एलिमेंट्स के साथ इंटरैक्ट करना शामिल है। Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company और Cartwheel जैसी कई कंपनियां पहले ही इन क्षमताओं का परीक्षण कर रही हैं, और इस गर्मी में डेवलपर्स के लिए व्यापक पहुंच की उम्मीद है।
Gemini 2.5 के लिए Google की सुरक्षा रणनीति में कई सुरक्षात्मक स्तर शामिल हैं, जिनमें स्वचालित रेड टीमिंग (ART) भी है, जो लगातार कमजोरियों की जांच करती है। Google DeepMind के अनुसंधान के अनुसार, इस दृष्टिकोण ने पिछले मॉडल वर्शन की तुलना में अनुकूलनीय हमलों की सफलता दर को काफी कम कर दिया है। कंपनी ने Gemini को ऐसे डाटासेट्स पर फाइन-ट्यून किया है, जिनमें यथार्थवादी हमले के परिदृश्य शामिल हैं, जिससे मॉडल को वैध यूजर अनुरोधों का पालन करते हुए दुर्भावनापूर्ण एम्बेडेड निर्देशों की अनदेखी करना सिखाया गया है।
सुरक्षा सुधारों के अलावा, Gemini 2.5 मॉडलों में अतिरिक्त फीचर्स भी जोड़े जा रहे हैं, जिनमें Gemini API और Vertex AI में थॉट समरीज़ शामिल हैं, जो मॉडल की सोच प्रक्रिया को एक संरचित प्रारूप में व्यवस्थित करती हैं ताकि पारदर्शिता और डिबगिंग बेहतर हो सके। ये मॉडल अब अधिक प्राकृतिक संवाद अनुभव के लिए नेटिव ऑडियो आउटपुट का भी समर्थन करते हैं।
Gemini 2.5 Flash मॉडल अब सभी के लिए Gemini ऐप में उपलब्ध है, जबकि डेवलपर्स के लिए Google AI Studio और एंटरप्राइजेज के लिए Vertex AI में इसकी सामान्य उपलब्धता जून की शुरुआत में होगी। Gemini 2.5 Pro भी जल्द ही उपलब्ध होगा, जिससे इसकी उन्नत सुरक्षा सुविधाएं और अधिक लोगों तक पहुंचेंगी।