AI 인프라에 중대한 변화가 일고 있다. 오픈AI가 챗GPT 및 기타 AI 제품의 구동을 위해 구글의 특화 칩인 텐서 프로세싱 유닛(TPU)을 임대 사용하기 시작했다고 복수의 소식통이 전했다.
이는 오픈AI가 AI 작업에 엔비디아 이외의 칩을 본격적으로 도입한 첫 사례다. 그동안 오픈AI는 AI 칩 시장을 장악한 엔비디아의 GPU를 세계 최대 규모로 구매해왔다. 오픈AI는 구글 클라우드를 통해 접근하는 TPU가 AI 모델이 예측이나 의사결정을 내리는 추론 연산 비용을 낮추는 데 도움이 될 것으로 기대하고 있다.
이번 파트너십은 오픈AI가 컴퓨팅 인프라를 다각화하는 전략의 일환이다. 올해 초, 오픈AI의 최대 투자자이자 주요 클라우드 제공업체인 마이크로소프트는 독점적 협력 체계를 완화하고, 신규 클라우드 컴퓨팅 수요에 대해 '우선 협상권'만을 갖는 방식으로 전환했다. 이에 따라 오픈AI는 구글과의 이번 협력 등 추가 파트너십을 추진할 수 있게 됐다.
구글 입장에서는 오픈AI를 고객으로 확보함으로써 자사 AI 기술을 클라우드 사업 성장에 성공적으로 활용하고 있음을 보여준다. 구글의 TPU는 원래 내부용으로 제한됐으나, 특정 AI 작업에서 GPU 대비 에너지 효율성과 비용 효율성 등에서 강점을 보인다.
다만 협력에는 한계도 있다. 보도에 따르면 구글은 자사의 가장 강력한 TPU를 오픈AI에 임대하지 않고 있어, 두 AI 경쟁사 간의 경계가 유지되고 있다. 이러한 선별적 접근은 경쟁과 협력이 공존하는 AI 업계의 복잡한 역학을 드러낸다.
이번 계약은 AI 연산 자원을 둘러싼 치열한 경쟁 속에서 체결됐다. 주요 IT 기업들은 특화 하드웨어에 수십억 달러를 투자하고 있다. 구글의 최신 TPU 세대인 '트릴리움'은 이전 버전 대비 성능이 크게 향상됐으며, 첨단 AI 모델의 막대한 연산 수요를 감당할 수 있도록 설계됐다.