구글은 Gemini 2.5 AI 모델군에 대대적인 보안 업그레이드를 적용해, 진화하는 AI 보안 위협에 대응하는 자사 최고 수준의 보안 모델로 자리매김했다.
이번 강화의 핵심은 도구 사용 중 발생할 수 있는 간접 프롬프트 인젝션 공격에 대한 Gemini의 방어력을 크게 높인 새로운 보안 접근법이다. 간접 프롬프트 인젝션 공격은 AI 모델이 데이터를 수집하는 과정에서 악의적인 명령이 데이터에 숨겨져 모델이 이를 실행하거나 민감 정보를 유출하도록 유도하는 방식이다.
이러한 보안 강화는 구글이 Project Mariner의 컴퓨터 활용 기능을 Gemini API와 Vertex AI에 통합할 준비를 하면서 도입됐다. Project Mariner는 AI 에이전트가 웹 브라우저를 제어하고, 웹사이트 탐색이나 웹 요소와의 상호작용 등 특정 작업을 자동으로 수행할 수 있게 한다. Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company, Cartwheel 등 여러 기업이 이미 해당 기능을 시험 중이며, 올 여름에는 더 많은 개발자들이 사용할 수 있을 전망이다.
Gemini 2.5의 보안 전략은 자동화된 레드팀(ART) 등 다층 방어 체계를 포함한다. ART는 지속적으로 취약점을 탐색하며, 구글 딥마인드 연구에 따르면 이 방식은 이전 모델 대비 적응형 공격의 성공률을 크게 낮췄다. 구글은 실제 공격 시나리오가 포함된 데이터셋으로 Gemini를 정교하게 튜닝해, 합법적인 사용자 요청만 따르고 악의적 명령은 무시하도록 학습시켰다.
보안 강화 외에도 Gemini 2.5 모델은 Gemini API와 Vertex AI에서 모델의 추론 과정을 구조화해 투명성과 디버깅을 돕는 '사고 요약' 기능, 그리고 자연스러운 대화를 위한 오디오 출력 지원 등 다양한 기능이 추가됐다.
Gemini 2.5 Flash 모델은 현재 Gemini 앱에서 누구나 사용할 수 있으며, 6월 초에는 Google AI Studio(개발자용)와 Vertex AI(기업용)에서도 공식 제공될 예정이다. 강화된 보안 기능을 갖춘 Gemini 2.5 Pro 역시 곧 더 많은 사용자에게 공개된다.