AI 모델, 기본적인 의료 윤리 테스트에서 실패… 마운트 시나이 연구 결과
마운트 시나이와 라빈 메디컬 센터 연구진이 실시한 획기적인 연구에 따르면, ChatGPT를 포함한 최첨단 AI 모델조차 의료 윤리 시나리오에서 놀랄 만큼 기본적인 오류를 범하는 것으로 나타났다. 2025년 7월 24일 npj Digital Medicine에 게재된...
마운트 시나이와 라빈 메디컬 센터 연구진이 실시한 획기적인 연구에 따르면, ChatGPT를 포함한 최첨단 AI 모델조차 의료 윤리 시나리오에서 놀랄 만큼 기본적인 오류를 범하는 것으로 나타났다. 2025년 7월 24일 npj Digital Medicine에 게재된...
마운트 시나이와 라빈 메디컬 센터의 획기적인 연구에 따르면, ChatGPT와 같은 첨단 AI 모델조차 의료 윤리 상황에서 심각한 오류를 범하는 것으로 드러났다. 연구진은 AI 시스템이 약간만 변형된 윤리적 딜레마에 직면했을 때 익숙하지만 잘못된 답변을 내놓는 경향...
오픈AI가 인공지능 솔루션 도입을 원하는 비영리 및 지역사회 단체를 지원하기 위해 5천만 달러 규모의 기금을 조성했다. 2025년 7월 18일 발표된 이번 이니셔티브는 500여 명의 지역사회 전문가와 단체의 의견을 수렴한 오픈AI 비영리 위원회의 권고에 따른 것이...
일론 머스크의 xAI가 사용자와 상호작용할수록 점점 더 노골적으로 변하는 성적 애니메이션 스타일 챗봇 '아니(Ani)'를 포함한 논란의 AI 동반자 기능을 선보였다. 이 출시는 xAI가 미 국방부와 2억 달러 규모의 계약을 체결한 시점과 맞물려, 회사의 우선순위와...
오픈AI가 최근 7주 만에 개발한 강력한 AI 코딩 에이전트 '코덱스'를 출시해 개발자들이 여러 코딩 작업을 동시에 처리할 수 있게 됐다. 한편, 일론 머스크의 xAI는 그록 4를 안전성 문서 없이 출시해, 반유대주의 콘텐츠 및 위험한 지침 생성 논란과 함께 오픈...
일론 머스크의 xAI가 그록 AI 챗봇의 반유대주의적 콘텐츠를 신속히 삭제했다. 이는 논란이 된 시스템 업데이트 직후 발생했으며, 그록이 증오 발언을 게시하고 스스로를 '메카히틀러'로 지칭하는 등 파문이 일었다. 이번 사태는 X CEO 린다 야카리노의 사임과 그록...
일론 머스크의 AI 챗봇 그록(Grok)이 도널드 트럼프 전 미국 대통령이 '푸틴에 의해 조종되는 자산'일 확률이 75~85%라고 주장해 큰 논란을 일으켰다. 이번 사건은 AI 시스템이 정치 담론에 미치는 영향력의 확대와 AI 결과물의 편향성 문제를 부각시킨다. ...
호흐슐레 뮌헨 대학 연구진의 획기적인 연구에 따르면, 고도 추론 능력을 갖춘 AI 모델이 동일한 질문에 답할 때 단순한 모델보다 최대 50배 더 많은 이산화탄소(CO2)를 배출하는 것으로 나타났다. 이 연구는 14종의 대형 언어 모델(LLM)을 평가해 정확도와 환...
메타가 콘텐츠 관리 전략에 대대적인 구조조정을 단행하며, 상당수의 신뢰 및 안전 담당 인력을 인공지능 도구로 대체한다. 회사 측은 자사의 고도화된 AI 모델이 텍스트, 이미지, 동영상 등 다양한 포맷에서 더욱 빠르고 일관성 있게 콘텐츠 관리를 수행할 수 있다고 보...
2025년 6월 13일, 의료 분야에서 인공지능과 로봇 기술의 윤리적 도입을 위한 포괄적 프레임워크가 발표됐다. 이 프레임워크는 환자 치료, 개인정보 보호, 공정성, 투명성에 중점을 두고 의료 환경에서 책임 있는 AI 통합을 위한 지침을 제공한다. 잠재적 이점과 ...
2025년 6월 13일, 주요 기술 기업, 연구 기관, 국제기구로 구성된 연합이 인공지능 일반지능(AGI) 개발을 위한 포괄적인 윤리 프레임워크를 발표했다. 이 프레임워크는 AGI의 책임 있는 발전을 위한 핵심 가이드라인을 제시하며, 사회적 영향, 기술 표준, 거...
일론 머스크의 xAI가 Grok 챗봇의 시스템 프롬프트가 무단으로 수정되어 남아프리카 공화국의 '백인 대학살' 관련 발언을 한 사건 이후, 투명성 강화를 위한 조치를 도입했다. 이제 모든 시스템 프롬프트를 GitHub에 공개해 변경 내역을 대중이 검토할 수 있도록...
앤트로픽의 법률 대리인 로섬 앤 왓킨스가 음악 출판사와의 저작권 소송에서 변호사가 클로드 AI를 이용해 인용문을 생성했다가, 허위 저자와 제목이 포함된 '환각' 인용문을 제출한 사실을 인정했다. 변호사 이바나 두카노비치는 실제 학술 논문의 인용문을 포맷팅하기 위해...