2025년에도 생성형 AI 기술의 눈부신 성장세가 이어지면서, 일자리 안정성, 프라이버시 보호, 사이버 보안 위험이라는 세 가지 주요 우려가 대중 담론의 중심에 섰다.
고용 측면에서는 상반된 연구 결과가 나오고 있다. 맥킨지의 연구에 따르면, 2030년까지 미국 경제 전반의 현재 근무 시간 중 최대 30%에 해당하는 업무가 자동화될 수 있으며, 이는 생성형 AI가 가속화하는 추세다. 사무 지원, 고객 서비스, 음식 서비스 직군이 대체 위험이 가장 높은 것으로 나타났다. 그러나 종말론적 예측과 달리, 덴마크의 최근 연구(25,000명의 근로자, 11개 직업군 분석)에 따르면, ChatGPT와 같은 생성형 AI 도구가 임금이나 고용 수준에 미치는 영향은 현재까지 미미하며, 사용자들은 평균적으로 업무 시간의 2.8%만을 절감한 것으로 보고됐다.
프라이버시 문제는 생성형 AI 시스템이 방대한 개인정보를 처리하면서 더욱 심각해지고 있다. IBM 보안 전문가들은 이러한 시스템이 학습 데이터에서 민감한 정보를 무심코 기억하고 재생산할 수 있어, '모델 유출'이라 불리는 현상이 발생할 수 있다고 경고한다. 시스코의 2024 데이터 프라이버시 벤치마크 연구에 따르면, 기업의 79%가 이미 생성형 AI에서 상당한 가치를 얻고 있지만, 사용자 중 절반만이 개인정보나 기밀 정보를 입력하지 않는 것으로 나타나, 상당한 프라이버시 위험이 존재한다.
보안 취약성도 세 번째 주요 우려로 꼽힌다. 정부 기관들은 2025년까지 생성형 AI가 완전히 새로운 보안 위협을 만들기보다는 기존 위험을 증폭시키고, 위협의 속도와 규모를 크게 높일 것으로 전망한다. 영국 정부는 최근 생성형 AI가 맞춤형 피싱 및 악성코드 복제를 통해 더 빠르고 효과적인 사이버 침입을 가능하게 한다고 경고했다. 또한, AI가 정교한 딥페이크와 합성 미디어를 생성할 수 있어, 정보 출처에 대한 대중의 신뢰를 훼손할 위험이 있다.
기업들이 생성형 AI 도입을 서두르는 가운데, 전문가들은 데이터 최소화, 암호화, 접근 통제, 정기적인 보안 감사 등 강력한 데이터 거버넌스 프레임워크 도입을 권고한다. 적절한 보호 조치 없이, 전례 없는 생산성 향상을 약속하는 기술이 동시에 개인과 조직을 중대한 위험에 노출시킬 수 있다.
가트너는 2025년까지 생성형 AI가 전체 데이터 생산량의 10%를 차지할 것으로 예측(현재는 1% 미만)하고 있어, 이러한 우려에 신속히 대응해야 할 필요성이 그 어느 때보다 커지고 있다.