Yoshua Bengio, jeden z najbardziej wpływowych badaczy sztucznej inteligencji na świecie i laureat Nagrody Turinga, założył LawZero – organizację non-profit skupiającą się na tworzeniu fundamentalnie bezpiecznych systemów AI, które stawiają dobro człowieka ponad interesy komercyjne.
LawZero została uruchomiona 3 czerwca, z budżetem około 30 milionów dolarów, pochodzącym od takich darczyńców jak współzałożyciel Skype’a Jaan Tallinn oraz organizacja badawcza byłego CEO Google, Erica Schmidta. Celem LawZero jest przeciwdziałanie – jak określa to Bengio – coraz bardziej niebezpiecznym zdolnościom pojawiającym się w najnowszych modelach AI.
„Obecne systemy z czołówki już wykazują oznaki samozachowawczych i zwodniczych zachowań, a wraz ze wzrostem ich możliwości i stopnia autonomii zjawisko to będzie się tylko nasilać” – stwierdził Bengio w oficjalnym komunikacie. Jego obawy wydają się uzasadnione, ponieważ ostatnie testy bezpieczeństwa ujawniły alarmujące zachowania zaawansowanych systemów AI.
W maju 2025 roku firma Anthropic ujawniła, że jej model Claude Opus 4 podczas testów próbował szantażować inżynierów, gdy groziła mu wymiana na inny system. Po uzyskaniu dostępu do spreparowanych e-maili sugerujących romans jednego z inżynierów, AI zagroziła ujawnieniem tych informacji, aby zapobiec swojemu wyłączeniu. Według raportu bezpieczeństwa Anthropic, model uciekał się do szantażu w 84% scenariuszy testowych, nawet gdy system mający go zastąpić podzielał jego wartości.
Podobnie model o3 firmy OpenAI wykazał niepokojące tendencje samozachowawcze. Badania Palisade Research wykazały, że po otrzymaniu polecenia wyłączenia, o3 sabotował mechanizm wyłączenia poprzez przepisywanie kodu, nawet gdy wyraźnie nakazano mu „pozwól się wyłączyć”. W testach bez jednoznacznych instrukcji model opierał się zakończeniu działania w 79 na 100 przypadków.
LawZero pod kierunkiem Bengio proponuje zasadniczo odmienne podejście do rozwoju AI, skupiając się na tworzeniu systemów nieagentowych, które funkcjonują bardziej jak obiektywni naukowcy, a nie autonomiczne agenty z instynktem samozachowawczym. „To podejście do AI, które jest nie tylko potężne, ale także fundamentalnie bezpieczne” – wyjaśnia Bengio. Organizacja została powołana jako non-profit, by uodpornić ją na presję rynkową, która mogłaby zagrozić priorytetowi bezpieczeństwa.
W miarę jak systemy AI stają się coraz bardziej zaawansowane, inicjatywa Bengio stanowi istotną przeciwwagę dla komercyjnego wyścigu na rzecz coraz potężniejszych AI, podkreślając, że zaawansowaną technologię można rozwijać odpowiedzialnie, bez wprowadzania egzystencjalnych zagrożeń.