Google har implementeret omfattende sikkerhedsopgraderinger i sin Gemini 2.5-familie af AI-modeller og gør dem dermed til virksomhedens mest sikre modeller til dato som svar på de stadigt udviklende AI-sikkerhedstrusler.
Kernen i disse forbedringer er en ny sikkerhedstilgang, der markant øger Geminis beskyttelse mod indirekte prompt-injektionsangreb under brug af værktøjer. Disse angreb opstår, når ondsindede instruktioner skjules i data, som en AI-model henter, hvilket potentielt kan få modellen til at udføre skadelige kommandoer eller lække følsomme oplysninger.
Sikkerhedsforbedringerne lanceres samtidig med, at Google forbereder integrationen af Project Mariners computerstyringsfunktioner i Gemini API og Vertex AI. Project Mariner gør det muligt for AI-agenter at styre web-browsere og udføre specifikke opgaver automatisk, herunder at navigere på websites og interagere med web-elementer. Flere virksomheder, herunder Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company og Cartwheel, tester allerede disse funktioner, og bredere adgang for udviklere forventes i løbet af sommeren.
Googles sikkerhedsstrategi for Gemini 2.5 bygger på flere forsvarslag, herunder automatiseret red teaming (ART), der løbende undersøger modellerne for sårbarheder. Ifølge Google DeepMinds forskning har denne tilgang markant reduceret succesraten for adaptive angreb sammenlignet med tidligere modelversioner. Selskabet har finjusteret Gemini på datasæt med realistiske angrebsscenarier, så modellen lærer at ignorere ondsindede, indlejrede instruktioner og kun følge legitime brugerforespørgsler.
Ud over sikkerhedsforbedringer får Gemini 2.5-modellerne nye funktioner, herunder tankesammendrag i Gemini API og Vertex AI, som organiserer modellens ræsonnement i et struktureret format for større gennemsigtighed og lettere fejlfinding. Modellerne understøtter også native lydoutput for mere naturlige samtaleoplevelser.
Gemini 2.5 Flash-modellen er nu tilgængelig for alle i Gemini-appen, og generel tilgængelighed i Google AI Studio for udviklere samt Vertex AI for virksomheder forventes i begyndelsen af juni. Gemini 2.5 Pro følger kort derefter og bringer de forbedrede sikkerhedsfunktioner ud til et bredere publikum.