Dňa 22. mája 2025 CISA a viacerí bezpečnostní partneri predstavili spoločný kyberbezpečnostný informačný list s názvom „Bezpečnosť dát v AI: Najlepšie postupy na zabezpečenie dát používaných na trénovanie a prevádzku AI systémov“, ktorý predstavuje významný krok v riešení narastajúcich obáv týkajúcich sa zraniteľností AI.
Tento dokument, ktorý spoluautorsky pripravilo Centrum pre bezpečnosť umelej inteligencie Národnej bezpečnostnej agentúry (AISC), Federálny úrad pre vyšetrovanie (FBI) a medzinárodní partneri vrátane austrálskeho ACSC, novozélandského NCSC-NZ a britského NCSC, zdôrazňuje, že bezpečnosť dát je základom pre spoľahlivé AI systémy.
Informačný list opisuje hlavné riziká, ktoré môžu vzniknúť v dôsledku problémov s bezpečnosťou a integritou dát vo všetkých fázach životného cyklu AI – od vývoja a testovania až po nasadenie a prevádzku. Prináša podrobné odporúčania na ochranu dát, ktoré poháňajú AI systémy, vrátane implementácie robustných opatrení ako je šifrovanie, digitálne podpisy a sledovanie pôvodu dát.
Sprievodca sa špecificky zameriava na tri významné oblasti rizík v bezpečnosti dát AI systémov: zraniteľnosti v dodávateľskom reťazci dát, zámerne upravené („otrávené“) dáta a posun v dátach (data drift). Pre každú z týchto oblastí dokument poskytuje detailné stratégie zmierňovania rizík a najlepšie postupy.
„Ako sa AI systémy čoraz viac integrujú do kľúčových operácií, organizácie musia zostať ostražité a podniknúť cielené kroky na zabezpečenie dát, ktoré ich poháňajú,“ uvádza výstraha CISA. Agentúra odporúča organizáciám zaviesť robustné opatrenia na ochranu dát, proaktívne riadiť riziká a posilniť monitorovanie, detekciu hrozieb a obranu sietí.
Tento sprievodca je obzvlášť relevantný pre subjekty obranného priemyslu, vlastníkov systémov národnej bezpečnosti, federálne agentúry a prevádzkovateľov kritickej infraštruktúry, ktorí čoraz častejšie nasadzujú AI systémy v citlivých prostrediach. Implementáciou odporúčaných bezpečnostných postupov môžu organizácie lepšie chrániť svoje AI systémy pred potenciálnymi hrozbami a zároveň zachovať presnosť a integritu výsledkov poháňaných AI.