OpenAI выявила растущую тенденцию злоупотребления её искусственным интеллектом со стороны китайских групп для проведения скрытых операций, говорится в отчёте, опубликованном 5 июня. Компания из Сан-Франциско, недавно оценённая в $300 млрд после рекордного раунда финансирования на $40 млрд, приняла меры, заблокировав несколько аккаунтов, связанных с подобной деятельностью.
В одном из примечательных случаев, получившем название «Sneer Review» от исследователей OpenAI, операторы создавали публикации в социальных сетях на политически чувствительные для Китая темы. Среди них — критика видеоигры, ориентированной на Тайвань, ложные обвинения в адрес пакистанского активиста и материалы, связанные с закрытием USAID. Некоторые посты также содержали критику тарифной политики президента США Дональда Трампа. Операция была достаточно сложной: создавались не только публикации, но и комментарии, чтобы имитировать органичную вовлечённость аудитории.
Вторая операция включала действия аффилированных с Китаем злоумышленников, использовавших ChatGPT для поддержки различных этапов своих киберопераций. Это включало открытые исследования, модификацию скриптов, устранение неполадок в конфигурациях систем, а также разработку инструментов для перебора паролей и автоматизации работы в соцсетях. Особую обеспокоенность вызвало то, что злоумышленники применяли инструменты OpenAI для создания внутренних документов, включая отчёты о результатах, в которых подробно описывались их действия.
Третий пример показал, что операция китайского происхождения генерировала поляризующий контент в соцсетях, поддерживающий обе стороны острых тем в американском политическом дискурсе. Такой подход, по-видимому, направлен на эксплуатацию существующих политических разногласий, а не продвижение определённой идеологии. Бен Ниммо, ведущий исследователь команды OpenAI по анализу угроз, отметил, что, несмотря на «расширяющийся спектр скрытых операций и тактик», их удавалось пресекать на ранних этапах, до охвата широкой аудитории.
В отчёте OpenAI также говорится о пресечении скрытых операций влияния со стороны других стран, включая Россию и Иран, а также о различных мошеннических схемах, связанных с Камбоджей и Северной Кореей. Компания регулярно отслеживает и сообщает о вредоносной активности на своей платформе в рамках приверженности ответственному развитию ИИ.
Министерство иностранных дел Китая не ответило на запросы о комментарии по поводу выводов OpenAI.