Dana 22. svibnja 2025., CISA i nekoliko sigurnosnih partnera predstavili su zajednički Kibernetički informacijski list pod nazivom "Sigurnost podataka u AI: Najbolje prakse za zaštitu podataka korištenih za treniranje i rad AI sustava", čime su napravili značajan iskorak u rješavanju sve većih zabrinutosti oko ranjivosti AI sustava.
Vodič, koji su zajednički izradili Centar za sigurnost umjetne inteligencije Nacionalne sigurnosne agencije (AISC), Savezni istražni ured (FBI) te međunarodni partneri uključujući australski ACSC, novozelandski NCSC-NZ i britanski NCSC, naglašava da je sigurnost podataka temelj za pouzdane AI sustave.
Informativni dokument iznosi ključne rizike koji mogu proizaći iz problema sa sigurnošću i integritetom podataka kroz sve faze životnog ciklusa AI-a, od razvoja i testiranja do implementacije i rada. Sadrži detaljne preporuke za zaštitu podataka koji pokreću AI sustave, uključujući primjenu snažnih mjera zaštite podataka poput enkripcije, digitalnih potpisa i praćenja izvora podataka.
Vodič se posebno bavi trima značajnim područjima rizika za sigurnost podataka u AI sustavima: ranjivostima u lancu opskrbe podacima, zlonamjerno izmijenjenim ("zatrovanim") podacima i promjenama u podacima (data drift). Za svako područje rizika dokument nudi detaljne strategije ublažavanja i najbolje prakse.
"Kako se AI sustavi sve više integriraju u ključne operacije, organizacije moraju biti oprezne i poduzeti ciljane korake kako bi osigurale podatke koji ih pokreću", navodi se u CISA-inom upozorenju. Agencija preporučuje organizacijama da usvoje snažne mjere zaštite podataka, proaktivno upravljaju rizicima te ojačaju mogućnosti nadzora, otkrivanja prijetnji i obrane mreže.
Ove su smjernice posebno relevantne za industrijsku obrambenu bazu, vlasnike nacionalnih sigurnosnih sustava, savezne agencije i operatere kritične infrastrukture koji sve češće implementiraju AI sustave u osjetljivim okruženjima. Primjenom preporučenih sigurnosnih praksi, organizacije mogu bolje zaštititi svoje AI sustave od potencijalnih prijetnji, istovremeno održavajući točnost i integritet rezultata temeljenih na umjetnoj inteligenciji.