OpenAI zidentyfikowało rosnący trend nadużywania swojej technologii sztucznej inteligencji przez chińskie grupy do tajnych operacji, jak wynika z raportu opublikowanego 5 czerwca. Firma z San Francisco, której ostatnia wycena osiągnęła 300 miliardów dolarów po rekordowej rundzie finansowania na 40 miliardów dolarów, podjęła działania, blokując wiele kont powiązanych z tymi aktywnościami.
W jednym z głośnych przypadków, nazwanym przez śledczych OpenAI „Sneer Review”, operatorzy generowali posty w mediach społecznościowych na politycznie wrażliwe tematy dotyczące Chin. Obejmowały one krytykę gry komputerowej skupionej na Tajwanie, fałszywe oskarżenia wobec pakistańskiego aktywisty oraz treści związane z zamknięciem USAID. Niektóre wpisy krytykowały także politykę celną prezydenta USA Donalda Trumpa. Operacja była na tyle zaawansowana, że tworzono zarówno posty, jak i komentarze, by sprawiać wrażenie organicznego zaangażowania.
Druga operacja dotyczyła powiązanych z Chinami aktorów zagrożeń, którzy wykorzystywali ChatGPT do wsparcia różnych etapów swoich działań cybernetycznych. Obejmowało to badania open source, modyfikowanie skryptów, rozwiązywanie problemów z konfiguracją systemów oraz opracowywanie narzędzi do łamania haseł i automatyzacji działań w mediach społecznościowych. Szczególnie niepokojące było odkrycie, że ci aktorzy używali narzędzi OpenAI do tworzenia wewnętrznych dokumentów, w tym ocen wydajności opisujących ich aktywność.
Trzeci przykład ujawnił operację wpływu pochodzącą z Chin, która generowała spolaryzowane treści w mediach społecznościowych, wspierające obie strony podzielonych tematów w amerykańskiej debacie politycznej. Taka strategia wydaje się wykorzystywać istniejące podziały polityczne, zamiast promować konkretną ideologię. Ben Nimmo, główny śledczy w zespole ds. wywiadu OpenAI, zauważył, że choć te operacje pokazują „rosnący zakres tajnych działań i taktyk”, zazwyczaj były one przerywane na wczesnym etapie, zanim dotarły do szerokiego grona odbiorców.
W raporcie OpenAI wspomniano również o zakłócaniu tajnych operacji wpływu prowadzonych przez inne kraje, w tym Rosję i Iran, a także o różnych oszustwach powiązanych z Kambodżą i Koreą Północną. Firma regularnie monitoruje i raportuje szkodliwą aktywność na swojej platformie w ramach zobowiązania do odpowiedzialnego rozwoju AI.
Chińskie ministerstwo spraw zagranicznych nie odpowiedziało na prośby o komentarz w sprawie ustaleń OpenAI.