Google zaviedol výrazné bezpečnostné vylepšenia do rodiny AI modelov Gemini 2.5, čím ich ustanovil za svoje doteraz najbezpečnejšie modely v reakcii na vyvíjajúce sa bezpečnostné hrozby v oblasti umelej inteligencie.
Jadrom týchto vylepšení je nový bezpečnostný prístup, ktorý výrazne zvyšuje ochranu Gemini pred nepriamymi útokmi typu prompt injection počas používania nástrojov. Tieto útoky nastávajú vtedy, keď sú škodlivé inštrukcie ukryté v dátach, ktoré AI model získava, čo môže viesť k vykonaniu nebezpečných príkazov alebo úniku citlivých informácií.
Bezpečnostné vylepšenia prichádzajú v čase, keď sa Google pripravuje integrovať schopnosti projektu Mariner na ovládanie počítača do Gemini API a Vertex AI. Projekt Mariner umožňuje AI agentom ovládať webové prehliadače a automaticky vykonávať špecifické úlohy, vrátane navigácie na webových stránkach a interakcie s webovými prvkami. Viaceré spoločnosti, ako Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company a Cartwheel, už tieto schopnosti testujú a širší prístup pre vývojárov sa očakáva v lete.
Bezpečnostná stratégia Google pre Gemini 2.5 zahŕňa viacero obranných vrstiev, vrátane automatizovaného red teamingu (ART), ktorý nepretržite vyhľadáva zraniteľnosti. Podľa výskumu Google DeepMind tento prístup výrazne znížil úspešnosť adaptívnych útokov v porovnaní s predchádzajúcimi verziami modelov. Spoločnosť doladila Gemini na dátových súboroch obsahujúcich realistické scenáre útokov, aby sa model naučil ignorovať škodlivé vložené inštrukcie a zároveň plnil legitímne požiadavky používateľov.
Okrem bezpečnostných vylepšení získavajú modely Gemini 2.5 aj ďalšie funkcie, ako sú súhrny uvažovania (thought summaries) v Gemini API a Vertex AI, ktoré organizujú proces uvažovania modelu do štruktúrovanej podoby pre lepšiu transparentnosť a ladenie. Modely tiež podporujú natívny zvukový výstup pre prirodzenejšie konverzačné zážitky.
Model Gemini 2.5 Flash je už dostupný pre všetkých v aplikácii Gemini, pričom všeobecná dostupnosť v Google AI Studio pre vývojárov a Vertex AI pre podniky sa očakáva začiatkom júna. Gemini 2.5 Pro bude nasledovať krátko nato a prinesie svoje vylepšené bezpečnostné funkcie širšiemu publiku.