OpenAI виявила зростаючу тенденцію до зловживання її технологіями штучного інтелекту китайськими групами для проведення таємних операцій, згідно зі звітом, оприлюдненим 5 червня. Компанія із Сан-Франциско, яка нещодавно була оцінена у $300 мільярдів після рекордного раунду фінансування на $40 мільярдів, вжила заходів, заблокувавши низку акаунтів, пов’язаних із цими діями.
В одному з помітних випадків, який дослідники OpenAI назвали "Sneer Review", оператори створювали пости у соцмережах на політично чутливі для Китаю теми. Серед них — критика відеогри з тайванським контекстом, хибні звинувачення проти пакистанської активістки та контент, пов’язаний із закриттям USAID. Деякі пости також містили критику тарифної політики президента США Дональда Трампа. Операція була досить складною: створювалися як пости, так і коментарі, щоб імітувати органічну взаємодію.
Друга операція передбачала використання ChatGPT пов’язаними з Китаєм зловмисниками для підтримки різних етапів кібероперацій. Це включало дослідження відкритих джерел, модифікацію скриптів, налаштування систем і розробку інструментів для підбору паролів та автоматизації роботи у соцмережах. Особливе занепокоєння викликало те, що ці особи використовували інструменти OpenAI для створення внутрішніх документів, зокрема службових записок із детальним описом своєї діяльності.
Третій приклад стосувався операції з Китаю, яка генерувала поляризуючий контент у соцмережах, підтримуючи обидві сторони суперечливих тем у політичному дискурсі США. Такий підхід, імовірно, спрямований на загострення вже існуючих політичних розбіжностей, а не на просування певної ідеології. Бен Німмо, головний дослідник розвідувальної команди OpenAI, зазначив, що хоча ці операції демонструють "зростаючу кількість таємних операцій із дедалі ширшим спектром тактик", зазвичай їх вдавалося зупинити на ранніх етапах, не допустивши до широкої аудиторії.
У звіті OpenAI також йдеться про припинення таємних впливових операцій з боку інших країн, зокрема Росії та Ірану, а також про різноманітні шахрайські схеми, пов’язані з Камбоджею та Північною Кореєю. Компанія регулярно відстежує та звітує про зловмисну активність на своїй платформі в рамках зобов’язань щодо відповідального розвитку ШІ.
Міністерство закордонних справ Китаю не відповіло на запити щодо коментарів стосовно висновків OpenAI.