22 травня 2025 року CISA разом із низкою партнерів із безпеки представили спільний інформаційний лист із кібербезпеки під назвою "Безпека даних ШІ: найкращі практики захисту даних для навчання та експлуатації систем ШІ", що стало важливим кроком у вирішенні зростаючих проблем із вразливістю ШІ.
Документ, співавторами якого виступили Центр безпеки штучного інтелекту Агентства національної безпеки (AISC), Федеральне бюро розслідувань (ФБР) та міжнародні партнери, зокрема Австралійський центр кібербезпеки (ACSC), Національний центр кібербезпеки Нової Зеландії (NCSC-NZ) та Національний центр кібербезпеки Великої Британії (NCSC), наголошує, що безпека даних є фундаментальною умовою надійності систем ШІ.
Інформаційний лист окреслює основні ризики, які можуть виникати через проблеми із захистом та цілісністю даних на всіх етапах життєвого циклу ШІ — від розробки й тестування до впровадження та експлуатації. У документі наведено детальні рекомендації щодо захисту даних, які використовуються в системах ШІ, зокрема впровадження надійних заходів захисту, таких як шифрування, цифрові підписи та відстеження походження даних.
Посібник окремо розглядає три основні сфери ризиків для безпеки даних у системах ШІ: вразливості ланцюга постачання даних, навмисно змінені ("отруєні") дані та дрейф даних. Для кожної з цих категорій у документі запропоновано докладні стратегії зниження ризиків і найкращі практики.
"Оскільки системи ШІ дедалі глибше інтегруються у важливі операції, організації повинні залишатися пильними й вживати цілеспрямованих заходів для захисту даних, які їх живлять", — йдеться в повідомленні CISA. Агентство рекомендує організаціям впроваджувати надійні засоби захисту даних, проактивно управляти ризиками та посилювати моніторинг, виявлення загроз і захист мережі.
Ці рекомендації особливо актуальні для оборонних підприємств, власників систем національної безпеки, федеральних агентств та операторів критичної інфраструктури, які дедалі частіше впроваджують системи ШІ у чутливих середовищах. Дотримуючись запропонованих заходів безпеки, організації зможуть краще захистити свої системи ШІ від потенційних загроз, зберігаючи точність і цілісність результатів, отриманих за допомогою ШІ.