Am 22. Mai 2025 haben CISA und mehrere Sicherheitspartner ein gemeinsames Cybersecurity-Informationsblatt mit dem Titel "KI-Datensicherheit: Best Practices zum Schutz von Daten für das Training und den Betrieb von KI-Systemen" veröffentlicht. Dies stellt einen bedeutenden Schritt zur Bewältigung wachsender Bedenken hinsichtlich Sicherheitslücken bei KI dar.
Die Leitlinie, die gemeinsam vom Artificial Intelligence Security Center (AISC) der National Security Agency, dem Federal Bureau of Investigation (FBI) sowie internationalen Partnern wie dem australischen ACSC, dem neuseeländischen NCSC-NZ und dem britischen NCSC verfasst wurde, betont, dass Datensicherheit die Grundlage für verlässliche KI-Systeme bildet.
Das Informationsblatt beschreibt zentrale Risiken, die sich aus Problemen mit Datensicherheit und -integrität in allen Phasen des KI-Lebenszyklus ergeben können – von Entwicklung und Test bis hin zu Einsatz und Betrieb. Es enthält detaillierte Empfehlungen zum Schutz der Daten, die KI-Systeme antreiben, darunter robuste Maßnahmen wie Verschlüsselung, digitale Signaturen und die Nachverfolgung der Herkunft von Daten (Data Provenance).
Der Leitfaden geht insbesondere auf drei bedeutende Bereiche von Datensicherheitsrisiken in KI-Systemen ein: Schwachstellen in der Datenlieferkette, böswillig veränderte ("vergiftete") Daten und Datenabweichungen (Data Drift). Für jeden dieser Risikobereiche werden detaillierte Strategien zur Risikominderung und Best Practices vorgestellt.
"Da KI-Systeme zunehmend in essenzielle Abläufe integriert werden, müssen Organisationen wachsam bleiben und gezielte Maßnahmen ergreifen, um die Daten, die diese Systeme antreiben, zu schützen", heißt es in der CISA-Mitteilung. Die Behörde empfiehlt Organisationen, robuste Datenschutzmaßnahmen zu implementieren, Risiken proaktiv zu managen sowie Monitoring-, Bedrohungserkennungs- und Netzwerkschutzfähigkeiten zu stärken.
Diese Leitlinie richtet sich insbesondere an Betreiber der Verteidigungsindustrie, Inhaber nationaler Sicherheitssysteme, Bundesbehörden und Betreiber kritischer Infrastrukturen, die KI-Systeme zunehmend in sensiblen Umgebungen einsetzen. Durch die Umsetzung der empfohlenen Sicherheitspraktiken können Organisationen ihre KI-Systeme besser vor potenziellen Bedrohungen schützen und gleichzeitig die Genauigkeit und Integrität KI-basierter Ergebnisse wahren.