Google heeft ingrijpende beveiligingsupgrades doorgevoerd in zijn Gemini 2.5-familie van AI-modellen, waarmee deze modellen de veiligste van het bedrijf tot nu toe zijn geworden als reactie op de steeds veranderende AI-beveiligingsdreigingen.
Centraal in deze verbeteringen staat een nieuwe beveiligingsaanpak die de bescherming van Gemini aanzienlijk verhoogt tegen indirecte prompt-injectieaanvallen tijdens het gebruik van tools. Bij dit soort aanvallen worden kwaadaardige instructies verwerkt in data die een AI-model ophaalt, waardoor het model mogelijk schadelijke opdrachten uitvoert of gevoelige informatie lekt.
De beveiligingsverbeteringen komen op het moment dat Google zich voorbereidt om de computergebruik-functionaliteiten van Project Mariner te integreren in de Gemini API en Vertex AI. Project Mariner stelt AI-agenten in staat om webbrowsers te bedienen en automatisch specifieke taken uit te voeren, zoals het navigeren op websites en het interacteren met web-elementen. Verschillende bedrijven, waaronder Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company en Cartwheel, testen deze mogelijkheden al, waarbij bredere toegang voor ontwikkelaars deze zomer wordt verwacht.
Googles beveiligingsstrategie voor Gemini 2.5 bestaat uit meerdere verdedigingslagen, waaronder geautomatiseerde red teaming (ART) die continu zoekt naar kwetsbaarheden. Volgens onderzoek van Google DeepMind heeft deze aanpak het slagingspercentage van adaptieve aanvallen aanzienlijk verminderd ten opzichte van eerdere modelversies. Het bedrijf heeft Gemini getraind op datasets met realistische aanvalsscenario's, waardoor het model leert om kwaadaardige ingebedde instructies te negeren en alleen legitieme gebruikersverzoeken te volgen.
Naast de beveiligingsverbeteringen krijgen de Gemini 2.5-modellen extra functies, waaronder gedachte-samenvattingen in de Gemini API en Vertex AI. Hiermee wordt het redeneerproces van het model gestructureerd weergegeven voor meer transparantie en betere foutopsporing. De modellen ondersteunen ook native audio-uitvoer voor een natuurlijkere gesprekservaring.
Het Gemini 2.5 Flash-model is nu voor iedereen beschikbaar in de Gemini-app, met algemene beschikbaarheid in Google AI Studio voor ontwikkelaars en Vertex AI voor bedrijven vanaf begin juni. Gemini 2.5 Pro volgt kort daarna, zodat de verbeterde beveiligingsfuncties voor een breder publiek beschikbaar komen.