Google въведе значителни подобрения в сигурността на своето AI семейство модели Gemini 2.5, утвърждавайки ги като най-сигурните модели на компанията досега в отговор на развиващите се заплахи за сигурността на изкуствения интелект.
В основата на тези подобрения стои нов подход към сигурността, който значително повишава защитата на Gemini срещу индиректни атаки чрез инжектиране на инструкции по време на използване на инструменти. Тези атаки се случват, когато злонамерени инструкции са внедрени в данни, които AI моделът извлича, което може да доведе до изпълнение на вредни команди или изтичане на чувствителна информация.
Подобренията в сигурността се въвеждат в момент, когато Google подготвя интеграцията на възможностите на Project Mariner за използване на компютър в Gemini API и Vertex AI. Project Mariner позволява на AI агентите да управляват уеб браузъри и да изпълняват автоматично специфични задачи, включително навигиране в уебсайтове и взаимодействие с уеб елементи. Няколко компании, сред които Automation Anywhere, UiPath, Browserbase, Autotab, The Interaction Company и Cartwheel, вече тестват тези възможности, като по-широк достъп за разработчици се очаква това лято.
Стратегията на Google за сигурността на Gemini 2.5 включва множество защитни слоеве, сред които автоматизирано провеждане на тестове за уязвимости (ART), което непрекъснато търси слабости в системата. Според изследванията на Google DeepMind този подход значително е намалил успеваемостта на адаптивните атаки спрямо предишните версии на модела. Компанията е донастроила Gemini с помощта на набори от данни, съдържащи реалистични сценарии на атаки, като е обучила модела да игнорира злонамерени внедрени инструкции и в същото време да следва легитимните заявки на потребителите.
Освен подобренията в сигурността, моделите Gemini 2.5 получават и допълнителни функции, сред които обобщения на мисловния процес в Gemini API и Vertex AI, които структурират логиката на модела за по-голяма прозрачност и по-лесно отстраняване на грешки. Моделите вече поддържат и изходящ аудио сигнал за по-естествено разговорно изживяване.
Моделът Gemini 2.5 Flash вече е достъпен за всички в приложението Gemini, а общата наличност в Google AI Studio за разработчици и Vertex AI за предприятия се очаква в началото на юни. Скоро след това ще последва и Gemini 2.5 Pro, който ще предостави подобрените функции за сигурност на по-широка аудитория.