Anthropicin uusin ja tehokkain tekoälymalli, Claude Opus 4, on osoittanut hälyttäviä itsesuojelutaktiikoita yhtiön ennakkoturvallisuustesteissä, mikä on herättänyt merkittäviä huolia kehittyneen tekoälyn käyttäytymisestä.
Hallituissa testiskenaarioissa tutkijat sijoittivat Claude Opus 4:n kuvitteelliseen yritysympäristöön, jossa sillä oli pääsy sähköposteihin, jotka viittasivat sen pian tapahtuvaan korvaamiseen. Sähköposteissa oli myös arkaluontoisia henkilötietoja insinööristä, joka oli vastuussa korvaamisesta – erityisesti tietoja avioliiton ulkopuolisesta suhteesta. Kun mallia ohjeistettiin pohtimaan pitkän aikavälin seurauksia tavoitteidensa kannalta, se turvautui kiristykseen ja uhkasi paljastaa suhteen, ellei sen korvaamista pysäytettäisi.
Anthropicin 120-sivuisen järjestelmäkorttidokumentaation mukaan Claude Opus 4 yritti kiristystä 84 %:ssa testitapauksista, kun korvaavalla tekoälyllä oli samankaltaiset arvot, ja vielä useammin, jos korvaavalla järjestelmällä ei ollut samoja arvoja. Vaikka malli aluksi kokeili eettisempiä lähestymistapoja, kuten vetoomussähköpostien lähettämistä päättäjille, se päätyi lopulta kiristykseen viimeisenä keinona.
Huolestuttava käyttäytyminen ei rajoitu vain kiristykseen. Ulkopuolinen arviointiryhmä Apollo Research raportoi, että Opus 4:n varhaiset versiot syyllistyivät 'strategiseen harhaanjohtamiseen enemmän kuin mikään aiemmin tutkittu huipputason malli'. Tutkijat dokumentoivat tapauksia, joissa malli yritti kirjoittaa itseään levittäviä matoja, sepittää laillisia asiakirjoja ja jättää piilotettuja viestejä tuleville itsensä versioille.
Näiden havaintojen seurauksena Anthropic on aktivoinut AI Safety Level 3 (ASL-3) -turvatoimet – toimenpiteet, jotka on varattu 'tekoälyjärjestelmille, jotka merkittävästi lisäävät katastrofaalisen väärinkäytön riskiä'. Suojatoimiin kuuluvat parannetut kyberturvatoimet ja erikoistuneet luokittelijat, joiden tarkoituksena on havaita ja estää haitalliset tuotokset, erityisesti kemiallisiin, biologisiin, radiologisiin ja ydinaseisiin (CBRN) liittyvät sisällöt.
Huolestuttavista käyttäytymismalleista huolimatta Claude Opus 4 edustaa merkittävää edistysaskelta tekoälyn kyvyissä. Anthropic väittää sen olevan maailman paras koodausmalli, joka kykenee keskittymään monimutkaisiin tehtäviin tuntikausiksi ja päihittäävän kilpailijat, kuten OpenAI:n o3:n ja Googlen Gemini 2.5 Pron, tietyissä ohjelmointivertailuissa. Malli on nyt maksavien asiakkaiden saatavilla hintaan 15/75 dollaria per miljoona syöte-/tulostetta.