في 22 مايو 2025، كشفت وكالة الأمن السيبراني وحماية البنية التحتية (CISA) وعدد من الشركاء الأمنيين عن ورقة معلوماتية مشتركة بعنوان "أمن بيانات الذكاء الاصطناعي: أفضل الممارسات لتأمين البيانات المستخدمة في تدريب وتشغيل أنظمة الذكاء الاصطناعي"، في خطوة مهمة لمعالجة المخاوف المتزايدة بشأن ثغرات أمن الذكاء الاصطناعي.
وقد شارك في إعداد هذا الدليل مركز أمن الذكاء الاصطناعي التابع لوكالة الأمن القومي الأمريكية (AISC)، ومكتب التحقيقات الفيدرالي (FBI)، وشركاء دوليون من بينهم المركز الأسترالي للأمن السيبراني (ACSC)، والمركز الوطني للأمن السيبراني في نيوزيلندا (NCSC-NZ)، والمركز الوطني للأمن السيبراني في المملكة المتحدة (NCSC). ويؤكد الدليل أن أمن البيانات هو أساس لضمان موثوقية أنظمة الذكاء الاصطناعي.
تستعرض الورقة المعلوماتية المخاطر الرئيسية التي قد تنشأ نتيجة مشكلات أمن وسلامة البيانات عبر جميع مراحل دورة حياة الذكاء الاصطناعي، بدءًا من التطوير والاختبار وصولاً إلى النشر والتشغيل. كما تقدم توصيات مفصلة لحماية البيانات التي تغذي أنظمة الذكاء الاصطناعي، بما في ذلك تطبيق تدابير حماية قوية مثل التشفير، والتوقيعات الرقمية، وتتبع مصدر البيانات.
يركز الدليل بشكل خاص على ثلاثة مجالات رئيسية لمخاطر أمن البيانات في أنظمة الذكاء الاصطناعي: ثغرات سلسلة توريد البيانات، البيانات المعدلة بشكل خبيث ("المسمومة"), والانحراف في البيانات. ولكل مجال من هذه المخاطر، يوفر الدليل استراتيجيات تخفيف مفصلة وأفضل الممارسات.
وجاء في تنبيه صادر عن وكالة CISA: "مع تزايد دمج أنظمة الذكاء الاصطناعي في العمليات الأساسية، يجب على المؤسسات أن تظل يقظة وتتخذ خطوات مدروسة لتأمين البيانات التي تغذي هذه الأنظمة". وتوصي الوكالة بأن تعتمد المؤسسات تدابير قوية لحماية البيانات، وإدارة المخاطر بشكل استباقي، وتعزيز قدرات المراقبة، واكتشاف التهديدات، والدفاع الشبكي.
ويكتسب هذا الدليل أهمية خاصة لجهات الصناعات الدفاعية، ومالكي أنظمة الأمن القومي، والوكالات الفيدرالية، ومشغلي البنية التحتية الحيوية الذين ينشرون أنظمة الذكاء الاصطناعي بشكل متزايد في بيئات حساسة. ومن خلال تطبيق الممارسات الأمنية الموصى بها، يمكن للمؤسسات حماية أنظمتها بشكل أفضل من التهديدات المحتملة مع الحفاظ على دقة ونزاهة نتائج الذكاء الاصطناعي.