OpenAI е идентифицирала нарастваща тенденция китайски групи да злоупотребяват с нейната технология за изкуствен интелект за тайни операции, според доклад, публикуван на 5 юни. Базираната в Сан Франциско компания, която наскоро беше оценена на 300 милиарда долара след рекорден рунд на финансиране от 40 милиарда долара, е предприела действия, като е забранила множество акаунти, свързани с тези дейности.
В един от значимите случаи, наречен „Sneer Review“ от разследващите на OpenAI, оператори са генерирали публикации в социалните мрежи по политически чувствителни теми, свързани с Китай. Сред тях са критики към видео игра с фокус върху Тайван, фалшиви обвинения срещу пакистански активист и съдържание, свързано със закриването на USAID. Някои публикации също така са критикували тарифната политика на президента на САЩ Доналд Тръмп. Операцията е била достатъчно сложна, за да създава както публикации, така и коментари, с цел да се симулира органичен ангажимент.
Втора операция е включвала заплахи, свързани с Китай, които използват ChatGPT за подпомагане на различни етапи от своите кибердейности. Това е включвало проучване на публично достъпни източници, модифициране на скриптове, отстраняване на проблеми с конфигурации на системи и разработване на инструменти за грубо налучкване на пароли и автоматизация на социални мрежи. Особено тревожно е откритието, че тези актьори са използвали инструментите на OpenAI за създаване на вътрешни документи, включително оценки на представянето, описващи техните дейности.
Трети пример разкрива операция с произход от Китай, която генерира поляризиращо съдържание в социалните мрежи, подкрепящо и двете страни на разделящи теми в американския политически дискурс. Този подход изглежда е насочен към експлоатиране на съществуващи политически разделения, а не към промотиране на конкретна идеологическа позиция. Бен Нимо, главен разследващ в екипа по разузнаване на OpenAI, отбелязва, че макар тези операции да демонстрират „нарастващ спектър от тайни операции с нарастващо разнообразие от тактики“, те обикновено са били осуетявани в ранен етап, преди да достигнат до широка аудитория.
Докладът на OpenAI също така споменава за прекъсване на тайни операции за влияние от други държави, включително Русия и Иран, както и различни измами, свързани с Камбоджа и Северна Корея. Компанията редовно следи и докладва за злонамерена активност на своята платформа като част от ангажимента си към отговорно развитие на изкуствения интелект.
Министерството на външните работи на Китай не е отговорило на запитванията за коментар относно констатациите на OpenAI.