구글, AI 에이전트 보안 위협하는 '치명적 삼중고' 식별
구글 연구원 산티아고 디아즈, 크리스토프 케른, 카라 올리브가 AI 에이전트 보안 취약점에 대한 획기적인 연구를 발표했다. 2025년 6월 논문에서 이들은 '치명적 삼중고(lethal trifecta)'라는 핵심 보안 패턴을 규정했는데, 이는 민감 데이터 접근, ...
구글 연구원 산티아고 디아즈, 크리스토프 케른, 카라 올리브가 AI 에이전트 보안 취약점에 대한 획기적인 연구를 발표했다. 2025년 6월 논문에서 이들은 '치명적 삼중고(lethal trifecta)'라는 핵심 보안 패턴을 규정했는데, 이는 민감 데이터 접근, ...
구글이 Gemini 2.5 Pro와 Flash 모델에 대대적인 보안 강화 조치를 적용해, 자사 AI 모델 중 가장 안전한 수준을 달성했다. 이번 개선은 특히 도구 사용 중 발생하는 간접 프롬프트 인젝션 공격을 겨냥한 것으로, 악의적인 명령이 AI가 수집하는 데이터...
구글이 SynthID 기술로 워터마크가 삽입된 콘텐츠를 식별할 수 있는 인증 포털 'SynthID Detector'를 출시했다. SynthID는 출시 이후 100억 건 이상의 콘텐츠에 워터마크를 적용하며 콘텐츠 인증 분야에서 중요한 이정표를 세웠다. 현재 이 도구...
앤트로픽이 미국 국가안보 운영을 위해 맞춤 제작된 AI 모델 제품군 'Claude Gov'를 출시했다. 이 특화 모델들은 이미 최고 수준의 보안 기관에서 배치되어 있으며, 기밀 정보를 보다 안전하게 처리할 수 있도록 설계됐다. 이번 출시는 AI 기업들의 방위산업 ...
구글이 SynthID 기술로 워터마크가 삽입된 콘텐츠를 식별할 수 있는 인증 포털 'SynthID Detector'를 출시했다. 이 도구는 구글의 AI 모델로 생성된 텍스트, 이미지, 오디오, 비디오에서 워터마크가 포함된 특정 부분까지 식별할 수 있다. 이미 10...
구글이 SynthID Detector를 출시했다. 이 검증 포털은 이미지, 오디오, 비디오, 텍스트 등 다양한 콘텐츠에서 SynthID 기술로 워터마크된 자료를 식별할 수 있도록 돕는다. SynthID 도입 이후 이미 100억 건이 넘는 콘텐츠에 워터마크가 적용되...
일론 머스크의 xAI는 2025년 5월 14일 Grok 챗봇에 대한 무단 수정으로 인해 남아프리카공화국의 '백인 집단학살'에 관한 자극적인 답변이 생성된 사실을 확인했다. 회사는 이번 사건이 기존 코드 리뷰 프로세스를 우회한 내부 직원의 소행임을 밝혔다. 이에 따...