Google telah menerapkan peningkatan keamanan yang substansial pada keluarga model AI Gemini 2.5, menjadikannya sebagai model paling aman milik perusahaan sebagai respons terhadap ancaman keamanan AI yang terus berkembang.
Inti dari peningkatan ini adalah pendekatan keamanan baru yang secara signifikan meningkatkan perlindungan Gemini terhadap serangan injeksi prompt tidak langsung selama penggunaan alat. Serangan ini terjadi ketika instruksi berbahaya disisipkan dalam data yang diambil oleh model AI, yang berpotensi menyebabkan model menjalankan perintah berbahaya atau membocorkan informasi sensitif.
Peningkatan keamanan ini hadir seiring Google bersiap mengintegrasikan kapabilitas penggunaan komputer dari Project Mariner ke dalam Gemini API dan Vertex AI. Project Mariner memungkinkan agen AI untuk mengendalikan peramban web dan melakukan tugas-tugas tertentu secara otomatis, termasuk menavigasi situs web dan berinteraksi dengan elemen web. Beberapa perusahaan seperti Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company, dan Cartwheel telah menguji kapabilitas ini, dengan akses pengembang yang lebih luas dijadwalkan hadir musim panas ini.
Strategi keamanan Google untuk Gemini 2.5 melibatkan beberapa lapisan pertahanan, termasuk automated red teaming (ART) yang secara terus-menerus menguji kerentanan. Menurut riset Google DeepMind, pendekatan ini secara signifikan menurunkan tingkat keberhasilan serangan adaptif dibandingkan versi model sebelumnya. Perusahaan juga melakukan fine-tuning Gemini pada dataset yang berisi skenario serangan realistis, sehingga model dapat mengabaikan instruksi berbahaya yang disisipkan sekaligus tetap mengikuti permintaan pengguna yang sah.
Selain peningkatan keamanan, model Gemini 2.5 juga mendapatkan fitur tambahan seperti ringkasan pemikiran di Gemini API dan Vertex AI, yang mengorganisasi proses penalaran model dalam format terstruktur untuk transparansi dan debugging yang lebih baik. Model ini juga mendukung output audio secara native untuk pengalaman percakapan yang lebih alami.
Model Gemini 2.5 Flash kini tersedia untuk semua orang di aplikasi Gemini, dengan ketersediaan umum di Google AI Studio untuk pengembang dan Vertex AI untuk perusahaan akan hadir pada awal Juni. Gemini 2.5 Pro akan segera menyusul, membawa fitur keamanan yang ditingkatkan ke audiens yang lebih luas.