I takt med att generativ AI fortsätter sin kometartade framfart under 2025 har tre stora orosmoln seglat upp i den offentliga debatten: jobbsäkerhet, integritetsskydd och cybersäkerhetsrisker.
På arbetsmarknaden ger ny forskning en blandad bild. En studie från McKinsey pekar på att aktiviteter som motsvarar upp till 30 % av de timmar som idag arbetas i den amerikanska ekonomin kan automatiseras till 2030 – en utveckling som påskyndas av generativ AI. Kontorsstöd, kundservice och restaurangbranschen är de yrkesgrupper som löper störst risk att ersättas. Dock visar en färsk dansk studie av 11 yrken och 25 000 anställda att generativa AI-verktyg som ChatGPT hittills haft minimal påverkan på löner och sysselsättning, där användare rapporterar en genomsnittlig tidsbesparing på endast 2,8 % av arbetstiden.
Integritetsfrågorna har förvärrats i takt med att generativ AI hanterar enorma mängder persondata. Säkerhetsexperter på IBM varnar för att dessa system oavsiktligt kan memorera och återskapa känslig information från sitt träningsdata, vilket experter kallar för 'modell-läckage'. Enligt Ciscos Data Privacy Benchmark 2024 drar redan 79 % av företag stor nytta av generativ AI, men bara hälften av användarna undviker att mata in personliga eller konfidentiella uppgifter i dessa verktyg – något som skapar betydande integritetsrisker.
Säkerhetsbrister utgör den tredje stora oron. Myndighetsbedömningar förutspår att generativ AI till 2025 sannolikt kommer att förstärka befintliga säkerhetsrisker snarare än skapa helt nya, men att hoten kommer att öka dramatiskt i både hastighet och omfattning. Den brittiska regeringen har nyligen varnat för att generativ AI möjliggör snabbare och mer effektiva cyberintrång genom skräddarsydda phishing-metoder och kopiering av skadlig kod. Dessutom hotar AI:s förmåga att skapa övertygande deepfakes och syntetiska medier att underminera allmänhetens förtroende för informationskällor.
När organisationer snabbt implementerar generativ AI rekommenderar experter att införa robusta ramverk för datastyrning, inklusive dataminimering, kryptering, åtkomstkontroller och regelbundna säkerhetsgranskningar. Utan tillräckliga skyddsåtgärder riskerar tekniken, som utlovar enastående produktivitetsvinster, att samtidigt utsätta individer och organisationer för betydande risker.
Med Gartners prognos att generativ AI kommer att stå för 10 % av all producerad data till 2025 (upp från mindre än 1 % idag) har behovet av att hantera dessa utmaningar aldrig varit större.