Přelomový Etický rámec pro umělou obecnou inteligenci (AGI) byl představen 13. června 2025 a znamená zásadní milník v odpovědném vývoji pokročilých AI systémů. Rámec, který vznikl díky bezprecedentní spolupráci hlavních technologických firem, výzkumných institucí a mezinárodních organizací, si klade za cíl stanovit etické mantinely v době, kdy se AI systémy blíží úrovni lidských schopností.
Tento komplexní rámec se zaměřuje na pět klíčových oblastí, které ovlivňují směřování AGI: začlenění do společnosti, technologický pokrok, vysvětlitelnost, kognitivní a etické aspekty a systémy inspirované lidským mozkem. Obsahuje podrobné pokyny pro testování před nasazením (ex-ante) i mechanismy pro posouzení rizik u systémů, které jsou již na trhu (ex-post).
„S rostoucí integrací AGI systémů do správy společnosti je nezbytné vytvořit právní rámce a etické směrnice, které ochrání individuální práva,“ uvedl zástupce koalice. Rámec klade důraz na transparentnost, odpovědnost a nutnost sladit vývoj AGI s lidskými hodnotami.
Iniciativa navazuje na předchozí úsilí, včetně Doporučení UNESCO o etice umělé inteligence, ale konkrétně cílí na jedinečné výzvy, které přinášejí AGI systémy schopné vyrovnat se nebo překonat lidské schopnosti v různých oblastech. Rámec řeší obavy týkající se narušení pracovního trhu, ochrany soukromí, bezpečnosti i možnosti zneužití.
Odborníci předpovídají, že AGI by mohla vzniknout během několika příštích let, přičemž někteří očekávají funkční systémy již v roce 2027. Tento rámec přichází v klíčovém okamžiku, kdy nedávné pokroky ve velkých jazykových modelech a multimodálních AI systémech ukazují schopnosti stále více připomínající obecnou inteligenci.
Koalice zřídila dozorčí výbor, který bude dohlížet na implementaci a dodržování rámce, a zdůrazňuje, že etické aspekty musí zůstat středobodem při zrychlujícím se vývoji AGI. Zároveň oznámila plány na uspořádání Globálního fóra o etice AGI, které se uskuteční koncem tohoto měsíce v Bangkoku a kde budou zúčastněné strany diskutovat o praktických strategiích implementace.