Dne 22. května 2025 představila CISA spolu s několika bezpečnostními partnery společný kyberbezpečnostní informační list s názvem „AI Data Security: Best Practices for Securing Data Used to Train & Operate AI Systems“, který představuje významný krok v řešení narůstajících obav ohledně zranitelností AI.
Tento dokument, na jehož tvorbě se podílelo Centrum pro bezpečnost umělé inteligence Národní bezpečnostní agentury (AISC), Federální úřad pro vyšetřování (FBI) a mezinárodní partneři včetně australského ACSC, novozélandského NCSC-NZ a britského NCSC, zdůrazňuje, že bezpečnost dat je základem pro spolehlivé systémy AI.
Informační list popisuje klíčová rizika, která mohou vzniknout v důsledku problémů s bezpečností a integritou dat ve všech fázích životního cyklu AI – od vývoje a testování až po nasazení a provoz. Obsahuje podrobné doporučení pro ochranu dat, která pohánějí AI systémy, včetně zavádění robustních opatření, jako je šifrování, digitální podpisy a sledování původu dat.
Průvodce se konkrétně zaměřuje na tři hlavní oblasti rizik spojených s bezpečností dat v AI systémech: zranitelnosti v dodavatelském řetězci dat, úmyslně pozměněná („otrávená“) data a datový drift. Pro každou z těchto oblastí dokument nabízí detailní strategie zmírnění rizik a osvědčené postupy.
„S rostoucí integrací AI systémů do klíčových operací musí organizace zůstat ostražité a podnikat cílené kroky k zajištění bezpečnosti dat, která je pohánějí,“ uvádí varování CISA. Agentura doporučuje organizacím zavádět robustní opatření na ochranu dat, proaktivně řídit rizika a posilovat schopnosti monitoringu, detekce hrozeb a obrany sítí.
Tato doporučení jsou obzvláště relevantní pro subjekty z obranného průmyslu, vlastníky systémů národní bezpečnosti, federální úřady a provozovatele kritické infrastruktury, kteří stále častěji nasazují AI systémy v citlivých prostředích. Implementací doporučených bezpečnostních postupů mohou organizace lépe chránit své AI systémy před potenciálními hrozbami a zároveň udržet přesnost a integritu výsledků založených na AI.