أصدرت شركة أوبن إيه آي تقريراً شاملاً بعنوان "إحباط الاستخدامات الخبيثة للذكاء الاصطناعي: يونيو 2025"، كشفت فيه كيف تمكنت من تحديد وإحباط 10 حملات خبيثة استغلت أنظمتها للذكاء الاصطناعي خلال الأشهر الأولى من عام 2025.
يستعرض التقرير كيف استغلت جهات مدعومة من ست دول—الصين، روسيا، كوريا الشمالية، إيران، كمبوديا، والفلبين—أدوات مثل ChatGPT وغيرها من تقنيات الذكاء الاصطناعي لتنفيذ عمليات احتيال وظيفي، وحملات تأثير، وحملات بريد عشوائي. انطلقت أربع من هذه الحملات من الصين، وركزت على الهندسة الاجتماعية، وعمليات التأثير السرية، والتهديدات السيبرانية.
في إحدى الحملات التي أطلق عليها اسم "مراجعة ساخرة" (Sneer Review)، أغرقت جهات صينية منصات التواصل الاجتماعي بتعليقات نقدية تستهدف لعبة لوحية تايوانية تتناول موضوعات مقاومة الحزب الشيوعي الصيني. وفي عملية أخرى باسم "عضة هيلغولاند" (Helgoland Bite)، أنتجت جهات روسية محتوى باللغة الألمانية ينتقد الولايات المتحدة وحلف الناتو، مع محاولة التأثير على انتخابات ألمانيا 2025. كما لوحظ استخدام جهات كورية شمالية للذكاء الاصطناعي في إنتاج سير ذاتية مزيفة بكميات كبيرة لوظائف تقنية عن بُعد، بهدف السيطرة على أجهزة الشركات التي يتم تسليمها خلال التوظيف.
استخدمت فرق الأمن في أوبن إيه آي الذكاء الاصطناعي كعامل مضاعف لجهود التحقيق، مما مكنها من اكتشاف وتعطيل وكشف الأنشطة المسيئة، بما في ذلك الهندسة الاجتماعية، والتجسس السيبراني، ومخططات التوظيف الاحتيالية. وقد رصدت أنظمة الكشف لدى الشركة سلوكيات غير معتادة في جميع الحملات، ما أدى إلى إغلاق الحسابات ومشاركة المعلومات الاستخباراتية مع منصات شريكة.
وقالت أوبن إيه آي في تقريرها: "نعتقد أن الشفافية والمشاركة تعزز الوعي والاستعداد لدى جميع الأطراف، مما يؤدي إلى دفاع جماعي أقوى ضد الخصوم المتطورين باستمرار". وبينما لم يخلق الذكاء الاصطناعي التوليدي فئات تهديد جديدة كلياً، إلا أنه خفض بشكل كبير الحواجز التقنية أمام الجهات الخبيثة وزاد من كفاءة الهجمات المنسقة.
ويؤكد خبراء الأمن السيبراني على ضرورة بقاء المؤسسات في حالة يقظة تجاه كيفية تبني الخصوم لنماذج اللغة الكبيرة في عملياتهم، والانخراط مع المعلومات الاستخباراتية الفورية التي تشاركها شركات مثل أوبن إيه آي، وجوجل، وميتا، وأنثروبيك لبناء دفاعات جماعية أقوى ضد هذه التهديدات المتطورة.