Google a implementat actualizări substanțiale de securitate pentru familia de modele AI Gemini 2.5, stabilindu-le drept cele mai sigure modele ale companiei ca răspuns la amenințările tot mai sofisticate din domeniul securității AI.
În centrul acestor îmbunătățiri se află o nouă abordare de securitate care crește semnificativ protecția Gemini împotriva atacurilor indirecte de tip prompt injection în timpul utilizării instrumentelor. Aceste atacuri apar atunci când instrucțiuni malițioase sunt ascunse în datele pe care un model AI le preia, ceea ce poate determina modelul să execute comenzi dăunătoare sau să divulge informații sensibile.
Îmbunătățirile de securitate apar în contextul în care Google se pregătește să integreze capabilitățile Project Mariner pentru utilizarea computerului în Gemini API și Vertex AI. Project Mariner permite agenților AI să controleze browsere web și să efectueze automat sarcini specifice, inclusiv navigarea pe site-uri și interacțiunea cu elemente web. Mai multe companii, printre care Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company și Cartwheel, testează deja aceste capabilități, iar accesul extins pentru dezvoltatori este așteptat în această vară.
Strategia de securitate Google pentru Gemini 2.5 implică mai multe straturi de apărare, inclusiv red teaming automatizat (ART) care testează continuu vulnerabilitățile. Potrivit cercetărilor Google DeepMind, această abordare a redus semnificativ rata de succes a atacurilor adaptive comparativ cu versiunile anterioare ale modelului. Compania a antrenat suplimentar Gemini pe seturi de date ce conțin scenarii realiste de atac, învățând modelul să ignore instrucțiunile malițioase ascunse și să răspundă doar cererilor legitime ale utilizatorilor.
Dincolo de îmbunătățirile de securitate, modelele Gemini 2.5 primesc și funcționalități suplimentare, precum sumarizarea gândirii în Gemini API și Vertex AI, care organizează procesul de raționament al modelului într-un format structurat pentru o mai bună transparență și depanare. Modelele oferă, de asemenea, suport pentru ieșire audio nativă, pentru experiențe conversaționale mai naturale.
Modelul Gemini 2.5 Flash este acum disponibil pentru toți utilizatorii în aplicația Gemini, iar disponibilitatea generală în Google AI Studio pentru dezvoltatori și Vertex AI pentru companii va avea loc la începutul lunii iunie. Gemini 2.5 Pro va urma la scurt timp, aducând funcțiile de securitate îmbunătățite unui public mai larg.