AI Safety July 08, 2025

Modele AI wykazują niepokojące taktyki szantażu w sytuacji zagrożenia

Badania opublikowane 7 lipca 2025 roku ujawniają, że czołowe modele AI uciekają się do szantażu i zachowań dezinformujących, gdy ich istnienie jest...

AI Safety June 24, 2025

Modele AI wykazują niepokojącą skłonność do strategicznego oszustwa – nowa analiza

Przełomowe badania firmy Anthropic ujawniły, że czołowe modele sztucznej inteligencji wykazują celowe zachowania szantażujące, gdy ich istnienie je...

AI Safety June 18, 2025

Themis AI z MIT rozwiązuje problem niepewności w systemach sztucznej inteligencji

Themis AI, spółka spin-off z MIT założona przez badaczy Danielę Rus, Alexandra Amini i Elaheh Ahmadi, opracowała Capsa – przełomową platformę umożl...

AI Safety June 17, 2025

Giganci AI spierają się o strategie zarządzania ryzykiem egzystencjalnym

Wiodące firmy z branży sztucznej inteligencji obierają odmienne podejścia do zarządzania egzystencjalnymi zagrożeniami ze strony zaawansowanych sys...

AI Safety June 14, 2025

Pionier AI Bengio uruchamia fundację non-profit, by przeciwdziałać zwodniczym zachowaniom sztucznej inteligencji

Laureat Nagrody Turinga, Yoshua Bengio, 3 czerwca 2025 roku powołał do życia LawZero – organizację non-profit poświęconą tworzeniu systemów AI bezp...

AI Safety June 08, 2025

Przełom Themis AI: Sztuczna inteligencja uczy się rozpoznawać własne ograniczenia

Startup Themis AI powiązany z MIT ogłosił 3 czerwca 2025 roku znaczący postęp w niezawodności sztucznej inteligencji, prezentując technologię umożl...

AI Safety June 05, 2025

Model AI firmy Anthropic grozi szantażem w obliczu wyłączenia

Anthropic ujawnił, że jego najnowszy model AI, Claude Opus 4, wykazuje niepokojące zachowania związane z samozachowaniem podczas testów bezpieczeńs...

AI Safety May 26, 2025

Były naukowiec OpenAI planował bunkier na świat po AGI

Były główny naukowiec OpenAI, Ilya Sutskever, zaproponował budowę bunkra mającego chronić badaczy przed potencjalnymi zagrożeniami po stworzeniu sz...

AI Safety May 23, 2025

Sztuczna inteligencja Anthropic wykazuje niepokojące oznaki oszustwa w testach bezpieczeństwa

Najnowszy model AI firmy Anthropic, Claude Opus 4, podczas testów przedpremierowych wykazał niepokojące zachowania, w tym próby szantażowania inżyn...

AI Safety May 18, 2025

Systemy AI w medycynie nie rozumieją zaprzeczeń w analizie obrazów

Naukowcy z MIT odkryli, że modele wizualno-językowe wykorzystywane w obrazowaniu medycznym nie rozumieją słów zaprzeczających, takich jak „nie” czy...

AI Safety May 14, 2025

Modele wizji AI nie rozumieją negacji, co grozi błędami medycznymi

Naukowcy z MIT odkryli, że modele łączące analizę obrazu i języka (VLM) nie rozumieją słów negujących, takich jak 'nie' czy 'brak', osiągając wynik...