OpenAI on tunnistanut kasvavan trendin, jossa kiinalaiset ryhmät väärinkäyttävät sen tekoälyteknologiaa peiteoperaatioihin, yhtiön 5. kesäkuuta julkaistun raportin mukaan. San Franciscossa päämajaansa pitävä yhtiö, jonka arvo nousi hiljattain 300 miljardiin dollariin ennätyksellisen 40 miljardin dollarin rahoituskierroksen jälkeen, on ryhtynyt toimiin sulkemalla useita näihin toimiin liitettyjä tilejä.
Eräässä merkittävässä tapauksessa, jonka OpenAI:n tutkijat nimesivät "Sneer Reviewiksi", toimijat tuottivat sosiaalisen median julkaisuja Kiinalle poliittisesti arkaluontoisista aiheista. Näihin kuului muun muassa Taiwan-keskeisen videopelin arvostelua, vääriä syytöksiä pakistanilaista aktivistia kohtaan sekä sisältöä USAID:n sulkemisesta. Osa julkaisuista arvosteli myös Yhdysvaltain presidentti Donald Trumpin tullipolitiikkaa. Operaatio oli sen verran kehittynyt, että se loi sekä julkaisuja että kommentteja luodakseen vaikutelman aidosta vuorovaikutuksesta.
Toisessa operaatiossa Kiinaan yhdistetyt uhkatoimijat hyödynsivät ChatGPT:tä kybertoimintojensa eri vaiheissa. Tämä sisälsi avoimen lähdekoodin tutkimusta, skriptien muokkausta, järjestelmäasetusten vianmääritystä sekä työkalujen kehittämistä salasanojen murtamiseen ja sosiaalisen median automaatioon. Erityisen huolestuttavaa oli, että toimijat käyttivät OpenAI:n työkaluja myös sisäisten dokumenttien, kuten toimintakertomusten ja arviointien, laatimiseen.
Kolmas esimerkki paljasti Kiinasta lähtöisin olevan vaikuttamisoperaation, jossa tuotettiin polarisoivaa sosiaalisen median sisältöä tukemaan molempia osapuolia Yhdysvaltain poliittisessa keskustelussa. Tämän lähestymistavan tarkoituksena näyttää olevan olemassa olevien poliittisten jakolinjojen hyödyntäminen tietyn ideologisen kannan edistämisen sijaan. OpenAI:n tiedustelutiimin pääanalyytikko Ben Nimmo totesi, että vaikka nämä operaatiot osoittavat "kasvavaa määrää peiteoperaatioita ja kehittyviä taktiikoita", ne saatiin yleensä häirittyä alkuvaiheessa ennen kuin ne saavuttivat laajaa yleisöä.
OpenAI:n raportissa mainittiin myös muiden maiden, kuten Venäjän ja Iranin, peitevaikuttamisoperaatioiden häirintä sekä erilaiset Kambodžaan ja Pohjois-Koreaan liittyvät huijaukset. Yhtiö seuraa ja raportoi säännöllisesti alustaansa kohdistuvasta haitallisesta toiminnasta osana sitoutumistaan vastuulliseen tekoälyn kehitykseen.
Kiinan ulkoministeriö ei ole vastannut pyyntöihin kommentoida OpenAI:n havaintoja.