Jak generativní AI technologie v roce 2025 nadále zažívají raketový vzestup, do popředí veřejné debaty vystupují tři hlavní obavy: jistota zaměstnání, ochrana soukromí a kybernetická bezpečnost.
Z hlediska zaměstnanosti přinášejí nedávné výzkumy smíšený obrázek. Studie společnosti McKinsey naznačuje, že do roku 2030 by činnosti tvořící až 30 % současných pracovních hodin v americké ekonomice mohly být automatizovány – tento trend urychluje právě generativní AI. Největší riziko nahrazení hrozí administrativním, zákaznickým a gastronomickým profesím. Na druhou stranu, v rozporu s katastrofickými předpověďmi, nedávná dánská studie zkoumající 11 povolání u 25 000 pracovníků zjistila, že nástroje jako ChatGPT zatím mají na mzdy a zaměstnanost jen minimální dopad; uživatelé uvádějí průměrnou úsporu času pouze 2,8 % pracovních hodin.
Obavy o soukromí zesílily s tím, jak generativní AI systémy zpracovávají obrovské objemy osobních údajů. Bezpečnostní experti IBM varují, že tyto systémy si mohou neúmyslně zapamatovat a reprodukovat citlivé informace z trénovacích dat, což odborníci označují jako „únik modelu“. Podle studie Cisco Data Privacy Benchmark 2024 již 79 % firem získává z generativní AI významné přínosy, avšak pouze polovina uživatelů se vyhýbá zadávání osobních či důvěrných údajů do těchto nástrojů, což vytváří značná rizika pro ochranu soukromí.
Bezpečnostní zranitelnosti představují třetí hlavní oblast obav. Vládní analýzy předpovídají, že do roku 2025 generativní AI spíše zesílí stávající bezpečnostní rizika než vytvoří zcela nová, avšak dramaticky zvýší rychlost a rozsah hrozeb. Britská vláda nedávno varovala, že generativní AI umožňuje rychlejší a účinnější kybernetické útoky prostřednictvím cíleného phishingu a replikace malwaru. Schopnost AI generovat přesvědčivé deepfaky a syntetická média navíc ohrožuje důvěru veřejnosti v informační zdroje.
S tím, jak organizace spěchají se zaváděním generativní AI, odborníci doporučují implementovat robustní rámce správy dat, včetně minimalizace dat, šifrování, řízení přístupu a pravidelných bezpečnostních auditů. Bez odpovídajících opatření může technologie, která slibuje bezprecedentní nárůst produktivity, zároveň vystavit jednotlivce i organizace významným rizikům.
Podle predikce společnosti Gartner bude generativní AI do roku 2025 tvořit 10 % všech vytvořených dat (oproti méně než 1 % dnes), což zvyšuje naléhavost řešení těchto problémů na dosud nevídanou úroveň.