Швидка інтеграція штучного інтелекту в критичну інфраструктуру створила тривожний ландшафт кібербезпеки, стверджують експерти з кіберзахисту у свіжому випуску RISKS Forum Digest від 17 травня 2025 року.
У Глобальному огляді кібербезпеки 2025 року Всесвітнього економічного форуму зазначається, що хоча 66% організацій вважають ШІ головним рушієм змін у сфері кібербезпеки цього року, лише 37% впровадили заходи для оцінки інструментів ШІ перед їх використанням. Такий розрив між усвідомленням ризиків і діями створює значні вразливості у різних галузях.
«Організації та системи, які не встигають за темпами розвитку загроз на основі ШІ, ризикують стати ще більш вразливими ланками у ланцюгах постачання через підвищену ймовірність експлуатації вразливостей», — попереджає представник Національного центру кібербезпеки Великої Британії (NCSC) у своєму останньому звіті. NCSC прогнозує, що до 2027 року зловмисники, які використовують ШІ, ще більше скоротять час між виявленням і експлуатацією вразливостей — цей період вже зменшився до кількох днів.
Фахівці з кібербезпеки особливо занепокоєні атаками через підстановку запитів (prompt injection) на великі мовні моделі (LLM). У нещодавньому тестуванні на проникнення, яке наводять дослідники, чат-бот магазину свічок був скомпрометований шляхом маніпуляцій із запитами, що призвело до ризиків для безпеки, захисту та бізнесу. Атака дозволила отримати дані системи та змінити відповіді чат-бота, що демонструє, як навіть на перший погляд безпечні впровадження ШІ можуть стати серйозною загрозою.
Вразливості ланцюгів постачання залишаються ще однією ключовою проблемою: 54% великих організацій називають їх головною перешкодою для досягнення кіберстійкості. Зростаюча складність ланцюгів постачання та обмежена прозорість щодо практик безпеки постачальників створюють умови, за яких системи ШІ можуть бути скомпрометовані через сторонні компоненти.
Поява агентного ШІ — систем, здатних самостійно приймати рішення та виконувати складні завдання — очікувано змінить ландшафт загроз у 2025 році. «Раніше ми зосереджувалися на асистентах ШІ, які відповідали на запити користувачів. Тепер ми маємо справу з агентними інструментами ШІ, що здатні самостійно приймати рішення та виконувати складні завдання», — пояснює Хао Ян, віцепрезидент з питань штучного інтелекту компанії Splunk, що належить Cisco.
Експерти радять організаціям впроваджувати формальні політики безпеки ШІ, проводити моделювання загроз перед розгортанням, системно зменшувати площу атаки та переконуватися, що постачальники мають діючі програми з підвищення безпеки. Крім того, безперервне навчання команд з безпеки є критично важливим, оскільки атаки на основі ШІ швидко еволюціонують і виходять за межі традиційних механізмів захисту.
Як зазначає один із дослідників у RISKS Forum: «Зміни полягають не лише в захисті від атак із використанням ШІ — потрібно усвідомлювати, що наші власні системи ШІ стають основними цілями».