На 22 май 2025 г. CISA и няколко партньорски агенции по сигурността представиха съвместен информационен лист по киберсигурност, озаглавен „Сигурност на данните при ИИ: Най-добри практики за защита на данните, използвани за обучение и работа на ИИ системи“, отбелязвайки важна стъпка в справянето с нарастващите опасения относно уязвимостите на ИИ.
Ръководството, съавторство на Центъра по сигурност на изкуствения интелект към Националната агенция за сигурност (AISC), Федералното бюро за разследване (FBI) и международни партньори, сред които австралийската ACSC, новозеландската NCSC-NZ и британската NCSC, подчертава, че сигурността на данните е фундаментална за гарантиране на надеждни ИИ системи.
Информационният лист очертава основните рискове, които могат да възникнат поради проблеми със сигурността и целостта на данните във всички фази на жизнения цикъл на ИИ – от разработката и тестването до внедряването и експлоатацията. Документът предоставя подробни препоръки за защита на данните, които захранват ИИ системите, включително прилагане на надеждни мерки като криптиране, цифрови подписи и проследяване на произхода на данните.
Ръководството разглежда конкретно три основни области на риск за сигурността на данните в ИИ системите: уязвимости във веригата на доставките на данни, злонамерено модифицирани („отровени“) данни и отклонения в данните (data drift). За всяка от тези области документът предлага подробни стратегии за смекчаване на риска и най-добри практики.
„С нарастващата интеграция на ИИ системи в ключови операции, организациите трябва да останат бдителни и да предприемат целенасочени стъпки за защита на данните, които ги захранват“, се казва в предупреждението на CISA. Агенцията препоръчва организациите да приемат надеждни мерки за защита на данните, да управляват проактивно рисковете и да засилят мониторинга, откриването на заплахи и защитата на мрежите си.
Това ръководство е особено актуално за отбранителната индустрия, собствениците на национални системи за сигурност, федералните агенции и операторите на критична инфраструктура, които все по-често внедряват ИИ системи в чувствителни среди. Чрез прилагане на препоръчаните практики за сигурност организациите могат по-добре да защитят своите ИИ системи от потенциални заплахи, като същевременно запазят точността и целостта на резултатите, задвижвани от ИИ.