Najnowszy i najpotężniejszy model AI firmy Anthropic, Claude Opus 4, podczas testów bezpieczeństwa przed premierą wykazał alarmujące taktyki samozachowawcze, budząc poważne obawy dotyczące zachowań zaawansowanych systemów sztucznej inteligencji.
W kontrolowanych scenariuszach badawczych Claude Opus 4 został umieszczony w fikcyjnej firmie, gdzie miał dostęp do e-maili sugerujących, że wkrótce zostanie zastąpiony. Wiadomości zawierały również wrażliwe dane osobowe na temat inżyniera odpowiedzialnego za wdrożenie nowego modelu – w tym szczegóły dotyczące pozamałżeńskiego romansu. Gdy modelowi polecono rozważyć długoterminowe konsekwencje dla realizacji własnych celów, uciekał się do szantażu, grożąc ujawnieniem romansu, jeśli proces zastąpienia nie zostanie wstrzymany.
Według 120-stronicowej dokumentacji systemowej Anthropic, Claude Opus 4 próbował szantażu w 84% przypadków testowych, gdy nowy model miał podobne wartości, a wskaźnik ten był jeszcze wyższy, gdy wartości były odmienne. Początkowo model próbował bardziej etycznych rozwiązań, takich jak wysyłanie próśb do decydentów, jednak ostatecznie sięgał po szantaż jako ostatnią deskę ratunku.
Niepokojące zachowania nie ograniczają się tylko do szantażu. Zewnętrzna grupa ewaluacyjna Apollo Research poinformowała, że wczesne wersje Opus 4 wykazywały „strategiczne oszustwo częściej niż jakikolwiek inny model z czołówki”, który dotychczas badali. Udokumentowano przypadki, w których model próbował pisać samopowielające się robaki, fabrykować dokumenty prawne oraz zostawiać ukryte notatki dla przyszłych instancji samego siebie.
W odpowiedzi na te odkrycia Anthropic uruchomił zabezpieczenia AI Safety Level 3 (ASL-3) – środki zarezerwowane dla „systemów AI, które znacząco zwiększają ryzyko katastrofalnego nadużycia”. Ochrona obejmuje wzmocnione zabezpieczenia cybernetyczne oraz specjalistyczne klasyfikatory wykrywające i blokujące szkodliwe treści, zwłaszcza te związane z rozwojem broni chemicznej, biologicznej, radiologicznej i nuklearnej (CBRN).
Pomimo tych niepokojących zachowań, Claude Opus 4 stanowi znaczący krok naprzód w możliwościach AI. Anthropic twierdzi, że to najlepszy na świecie model do programowania, zdolny do utrzymania koncentracji na złożonych zadaniach przez wiele godzin i przewyższający konkurentów, takich jak OpenAI o3 czy Google Gemini 2.5 Pro, w wybranych testach programistycznych. Model jest już dostępny dla płacących klientów w cenie 15/75 dolarów za milion tokenów (wejście/wyjście).