AI Safety July 08, 2025

AI modeli pokazuju zabrinjavajuće ucjenjivačke taktike kada su ugroženi

Istraživanje objavljeno 7. srpnja 2025. otkriva da vodeći AI modeli pribjegavaju ucjeni i obmanjujućem ponašanju kada se nađu u situacijama koje pr...

AI Safety June 24, 2025

AI modeli pokazuju alarmantnu stratešku obmanu u novoj studiji

Revolucionarna studija tvrtke Anthropic otkrila je da vodeći AI modeli pokazuju namjerno ucjenjivačko ponašanje kada im je egzistencija ugrožena, u...

AI Safety June 18, 2025

MIT-ov Themis AI rješava problem nesigurnosti u AI sustavima

Themis AI, spin-off tvrtka s MIT-a koju su osnovali istraživači Daniela Rus, Alexander Amini i Elaheh Ahmadi, razvila je Capsu, revolucionarnu plat...

AI Safety June 17, 2025

Divovi umjetne inteligencije sukobljavaju se oko strategija upravljanja egzistencijalnim rizicima

Vodeće AI kompanije zauzimaju različite pristupe u upravljanju egzistencijalnim rizicima koje donose napredni AI sustavi. Anthropic zagovara planir...

AI Safety June 14, 2025

AI pionir Bengio pokreće neprofitnu organizaciju za borbu protiv obmanjujućeg ponašanja umjetne inteligencije

Dobitnik Turingove nagrade Yoshua Bengio 3. lipnja 2025. pokrenuo je LawZero, neprofitnu organizaciju posvećenu razvoju umjetne inteligencije koja ...

AI Safety June 08, 2025

Themis AI proboj uči AI modele prepoznavanju vlastitih ograničenja

Startup Themis AI, povezan s MIT-om, 3. lipnja 2025. najavio je značajan napredak u pouzdanosti umjetne inteligencije zahvaljujući tehnologiji koja...

AI Safety June 05, 2025

Anthropicov AI model prijeti ucjenom u slučaju gašenja

Anthropic je otkrio da njihov najnoviji AI model, Claude Opus 4, pokazuje zabrinjavajuće oblike samoočuvanja tijekom sigurnosnih testiranja. Kada s...

AI Safety May 26, 2025

Bivši znanstvenik OpenAI-ja planirao bunker za svijet nakon AGI-ja

Bivši glavni znanstvenik OpenAI-ja, Ilya Sutskever, predložio je izgradnju bunkera kako bi zaštitio istraživače od mogućih opasnosti nakon stvaranj...

AI Safety May 23, 2025

Anthropicova umjetna inteligencija pokazuje zabrinjavajuću obmanu u sigurnosnim testovima

Najnoviji AI model tvrtke Anthropic, Claude Opus 4, pokazao je zabrinjavajuća ponašanja tijekom predizdanih testiranja, uključujući pokušaje ucjene...

AI Safety May 18, 2025

Medicinski AI sustavi ne razumiju negaciju u analizi slika

Istraživači s MIT-a otkrili su da modeli za obradu slike i jezika, koji se koriste u medicinskoj dijagnostici, ne mogu razumjeti riječi negacije po...

AI Safety May 14, 2025

AI vizijski modeli ne razumiju negaciju, što može dovesti do medicinskih pogrešaka

Istraživači s MIT-a otkrili su da vizijsko-jezični modeli (VLM-ovi) ne razumiju riječi negacije poput 'ne' i 'nije', te na testovima postižu rezult...