Google je implementirao značajna sigurnosna poboljšanja u svojoj Gemini 2.5 obitelji AI modela, čime su oni postali najzaštićeniji modeli tvrtke do sada kao odgovor na rastuće sigurnosne prijetnje u području umjetne inteligencije.
U središtu ovih poboljšanja nalazi se novi sigurnosni pristup koji značajno povećava zaštitu Geminija od neizravnih prompt injection napada tijekom korištenja alata. Takvi napadi događaju se kada su zlonamjerne upute ugrađene u podatke koje AI model dohvaća, što može dovesti do izvršavanja štetnih naredbi ili otkrivanja osjetljivih informacija.
Sigurnosna poboljšanja dolaze u trenutku kada se Google priprema integrirati računalne mogućnosti Project Marinera u Gemini API i Vertex AI. Project Mariner omogućuje AI agentima upravljanje web preglednicima i automatsko izvršavanje specifičnih zadataka, uključujući navigaciju web stranicama i interakciju s web elementima. Nekoliko tvrtki, uključujući Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company i Cartwheel, već testira ove mogućnosti, a širi pristup za developere očekuje se ovog ljeta.
Googleova sigurnosna strategija za Gemini 2.5 uključuje višeslojnu obranu, uključujući automatizirani red teaming (ART) koji kontinuirano ispituje ranjivosti. Prema istraživanju Google DeepMinda, ovaj pristup je značajno smanjio uspješnost adaptivnih napada u odnosu na prethodne verzije modela. Tvrtka je dodatno prilagodila Gemini na skupovima podataka koji sadrže realistične scenarije napada, podučavajući model da ignorira zlonamjerne upute dok slijedi legitimne korisničke zahtjeve.
Osim sigurnosnih poboljšanja, Gemini 2.5 modeli dobivaju i dodatne značajke, uključujući sažetke razmišljanja u Gemini API-ju i Vertex AI-u, koji organiziraju proces zaključivanja modela u strukturirani format radi bolje transparentnosti i otklanjanja pogrešaka. Modeli također podržavaju izvorni audio izlaz za prirodnije konverzacijsko iskustvo.
Gemini 2.5 Flash model sada je dostupan svima u Gemini aplikaciji, dok se opća dostupnost u Google AI Studio za developere i Vertex AI za poduzeća očekuje početkom lipnja. Gemini 2.5 Pro slijedi ubrzo nakon toga, donoseći poboljšane sigurnosne značajke široj publici.