AI 비용 효율 최고는 앤트로픽...비결은 이중 하이퍼스케일러, 오픈AI는 엔비디아 칩만 써

aimatters

2026.03.09 14:17:39

조회 35 추천 0 댓글 0

프런티어 AI(Frontier AI) 경쟁에서 모델 성능만큼이나 '칩 조달 전략'이 승패를 가르는 핵심 변수로 부상하고 있다. 앤트로픽(Anthropic)이 구축한 다중 가속기 아키텍처(multi-accelerator architecture)가 오픈AI(OpenAI), 마이크로소프트(Microsoft)와의 구조적 격차를 벌리고 있다는 분석이 나왔다.

데이터 그래비티(Data Gravity)에 따르면, 앤트로픽은 현재 프런티어 AI 연구소 가운데 가장 다변화되고 비용 효율이 높은 컴퓨팅 아키텍처를 보유하고 있다. 오픈AI가 엔비디아(NVIDIA) 의존에서 벗어나지 못하고 있고 마이크로소프트의 자체 칩 개발 프로그램이 수년째 지연되는 상황에서, 앤트로픽은 단위 경제성과 협상력 모두에서 구조적 우위를 갖추고 있다는 평가다. 다만 이 분석은 컴퓨팅 우위가 모델 우위를 대체하는 것이 아니라 증폭시킨다는 전제를 명확히 하고 있다. 경쟁사 모델이 월등히 뛰어나다면 고객은 높은 토큰(token) 비용을 감수한다는 것이다.

앤트로픽의 컴퓨팅 전략 핵심은 이중 하이퍼스케일러(dual-hyperscaler) 구조다. 아마존(Amazon)은 2025년 10월 인디애나주에 110억 달러를 투자해 AI 전용 컴퓨팅 캠퍼스 '프로젝트 레이니어(Project Rainier)'를 개소했으며, 앤트로픽이 주요 입주사로 클로드(Claude) 훈련에 활용하고 있다. 이 클러스터는 AWS의 자체 AI 가속기 트레이니엄2(Trainium2)로 운영되며, 지속 워크로드 기준 엔비디아 H100 대비 약 절반 수준의 비용으로 구동된다. 실제 커밋 비용은 칩당 시간당 약 0.50달러로, H100의 커밋·예약 계약 요금인 시간당 2~5달러와 비교했을 때 상당한 절감 효과다. 앤트로픽은 특정 훈련 실행에서 GPU 구성 대비 50%의 비용 절감과 처리량 향상을 보고했다. 아마존의 앤트로픽 총 투자액은 현재 80억 달러에 달한다.

구글(Google)과의 협약도 규모 면에서 주목할 만하다. 2025년 10월 앤트로픽은 구글 클라우드(Google Cloud)를 통해 TPUv7 아이언우드(TPUv7 Ironwood) 칩 100만 개를 활용하기로 하는 총 520억 달러 규모의 계약을 체결했다. 40만 개는 브로드컴(Broadcom)에서 약 100억 달러에 직접 구매하고, 나머지 60만 개는 구글 클라우드 플랫폼(GCP)을 통해 임대하는 구조다. TPUv7은 이전 세대 대비 시스템 레벨 토큰당 가격이 50% 개선됐으며, GPU 대비 동등 FP8 처리량 기준 전력 소비가 60~65% 낮다. 앤트로픽은 직접 구매한 TPU 클러스터를 수용할 데이터센터 건립을 위해 영국 기반 운영사 플루이드스택(Fluidstack)과 파트너십을 맺고 텍사스와 뉴욕에 시설을 구축 중이며, 2026년 중 순차적으로 가동될 예정이다.

앤트로픽은 구글 TPU, AWS 트레이니엄2, 엔비디아 GPU 세 가지 가속기를 병행 운용한다. 이 포트폴리오 접근법은 비용 차익거래(cost arbitrage), 공급 이중화, 협상력 확보라는 세 가지 이점을 만들어낸다. 최적화 워크로드 기준 TPU와 트레이니엄2의 혼합 요율은 순수 엔비디아 스택 대비 30~60% 저렴하다. 또 한쪽 공급업체에 병목이 생겨도 훈련이 중단되지 않는다. 협상력 측면에서는 엔비디아를 실제로 대체할 수 있는 옵션이 존재한다는 사실 자체가 가격 협상에서 유리하게 작용한다. 분석에 따르면 구글 TPU를 실제 운용하지 않는 오픈AI조차 TPU의 존재만으로 엔비디아 칩 협상에서 약 30%를 절감했을 것으로 추정된다.

반면 오픈AI의 생산 컴퓨팅 시스템은 엔비디아 GPU로만 구성돼 있다. 블룸버그(Bloomberg)는 오픈AI의 분기별 엔비디아 칩 지출을 약 18억 달러로 추산했다. 오픈AI와 브로드컴은 2025년 10월 10기가와트(GW) 규모를 목표로 하는 커스텀 AI 가속기 공동 개발을 발표했지만, 양산은 2026년 하반기에야 시작되며 실질적인 대규모 배포는 2027년 이후다. 오픈AI의 추론(inference) 경제성은 최소 2026년까지 엔비디아 구조에 종속된다. 한편 엔비디아와 오픈AI가 2024년 9월 발표한 최대 1,000억 달러 규모의 투자 의향서는 2026년 3월 현재 최종 계약이 체결되지 않은 상태다. 엔비디아 최고재무책임자(CFO) 콜레트 크레스(Colette Kress)는 해당 1,000억 달러 투자가 "애초에 약속이 아니었다"고 밝혔으며, 협상은 사실상 동결된 것으로 전해진다.

마이크로소프트의 자체 칩 메이아(Maia) 프로그램은 전략과 실행 사이의 괴리를 보여주는 사례로 지목됐다. 2023년 11월 발표된 메이아 100(Maia 100)은 생성형 AI 추론에 활용되지 못한 채 내부 생산성 워크로드에만 머물렀다. 2026년 1월 발표된 메이아 200(Maia 200)은 TSMC 3나노미터(nm) 공정 기반의 보다 진지한 설계지만, 초기 로드맵보다 2년 이상 지연돼 2026년 초 두 곳의 데이터센터에서 제한적 배포에 들어갔다. 마이크로소프트는 내부 칩 프로그램이 실질적인 성과를 내지 못하는 동안 2024년 한 해에만 엔비디아 AI 칩에 310억 달러를 지출했다.

데이터 그래비티에 따르면, 앤트로픽의 구글 TPU 및 AWS 트레이니엄 전반에 걸친 총 커밋 컴퓨팅은 2기가와트를 초과한다. 기가와트 규모 클러스터 기준 TPU와 트레이니엄을 혼합한 블렌디드 비용 우위는 비교 가능한 처리량에서 매월 약 10억~20억 달러, 연간으로는 120억~240억 달러의 구조적 비용 절감에 해당한다. 2026년 추론 비용이 전체 컴퓨팅 지출의 3분의 2를 차지할 것으로 전망되는 만큼, 토큰당 비용이 곧 모든 API 기반 AI 비즈니스의 단위 경제성을 결정하게 된다.

이미지 출처: 이디오그램 생성

인기 기사

고정닉 0

원본 첨부파일 1

AI-매터스-기사-썸네일_엔비디아에-올인한-오픈AI.jpg

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	등만 봐도 설레이는 문짝남 스타는?	운영자	26/04/13	-	-
2404	샘 알트만 자택에 화염병 투척… "말의 힘 과소평가했다, AI 공포가 폭력으로"	aimatters	11:00	1	0
2403	"인간 채용 멈춰라"… HumanX 덮친 AI 일자리 공포, 포천 500 CEO들 집단 패닉	aimatters	11:00	1	0
2402	애플 AI 수석 지아난드레아, 8년 만에 조용한 퇴장… 시리 실패가 부른 교체	aimatters	11:00	1	0
2401	AI 선구자 인튜이트, '새스포칼립스' 최대 피해주 전락… AI 역설	aimatters	11:00	1	0
2400	HumanX 컨퍼런스서 '클로드 열풍'… 앤트로픽, 기업 고객 1,000개사 돌파	aimatters	11:00	1	0
2399	애플, AI 스마트 글래스 4가지 디자인 시험 제작 중… 2027년 출시 목표	aimatters	11:00	1	0
2398	AI가 고양이만 보는 이유, 그리고 리모컨까지 보게 만드는 법	aimatters	11:00	1	0
2397	63%가 예측한 초개인화 시대, 아태지역 고객 경험이 바뀐다	aimatters	11:00	1	0
2396	스마트폰 사진 몇 장으로 나를 복제한다, 메타의 3D 아바타 기술	aimatters	11:00	1	0
2395	[에이-아이랑] 한 우물의 시대가 끝났다	aimatters	04.10	32	0
2394	[AI와 인간 사이] 앤트로픽의 하네스 유출은 코딩의 패러다임을 바꾸고 있다	aimatters	04.10	42	0
2393	"인프라는 우리가 맡는다"…앤트로픽, AI 에이전트 대규모 배포 솔루션과 비용 절감 전략 동시 공개	aimatters	04.10	31	0
2392	LG AI연구원, 최초 오픈웨이트 비전 언어 모델 'EXAONE 4.5' 공개	aimatters	04.10	17	0
2391	오픈AI, 코덱스 헤비 유저 위한 월 100달러 챗GPT 프로 요금제 신설 [1]	aimatters	04.10	1152	1
2390	퀄컴, MassRobotics 합류… AI 로봇 스타트업 생태계 지원 나서	aimatters	04.10	13	0
2389	엑솔(Exol), 소프트뱅크와 심보틱 지원 받아 AI 로봇 물류 서비스 미국 전역 확대	aimatters	04.10	13	0
2388	갤럽 조사: Z세대의 AI 분노·불신 심화… 활용률 정체 속 비판적 시각 급증	aimatters	04.10	24	0
2387	오픈AI, 사이버보안 특화 AI 모델 '아드바크' 출시 초읽기… 제한적 파트너 공개 예정	aimatters	04.10	14	0
2386	'클로드노믹스': 메타 직원 8만 5천 명이 AI 토큰 사용량을 두고 경쟁한 사연	aimatters	04.10	22	0
2385	앤트로픽, '클로드 매니지드 에이전츠' 공개 베타 출시… 코워크도 기업용으로 정식 전환	aimatters	04.10	14	0
2384	플로리다 법무장관, 총기 난사 사건 연루 의혹 제기하며 오픈AI 전격 수사	aimatters	04.10	13	0
2383	같은 복도를 10번 헤맨 AI, 스스로 깨닫고 멈췄다	aimatters	04.10	24	0
2382	AI 최대 수혜자 오픈AI가 스스로 규제를 설계하겠다고 나선 이유	aimatters	04.10	14	0
2381	앤트로픽의 새 모델이 27년 묵은 AI 문제를 풀었다	aimatters	04.10	30	0
2380	게임 속 7명의 캐릭터를 동시에 조종하는 AI가 등장했다 [2]	aimatters	04.09	1107	1
2379	AI 시대, 뒤처지는 기업들의 공통점은 ‘이것’	aimatters	04.09	31	0
2378	젠스파크, 'AI 워크스페이스 4.0' 공개… 워드·엑셀·파워포인트 안에서 AI가 직접 문서 작성	aimatters	04.09	30	0
2377	팀장이 AI를 외면하면 56조원을 써도 무용지물이다	aimatters	04.09	24	0
2376	오픈AI, AI 안전 연구 지원 '세이프티 펠로십' 발표… 외부 연구자에 주당 약 583만 원 지원	aimatters	04.09	18	0
2375	클로드 AI, 이틀 연속 서비스 중단… 수백만 사용자 접속 장애	aimatters	04.09	19	0
2374	오픈AI, 엔터프라이즈 AI '다음 단계' 선언… 박스·노션 앱 업데이트·코덱스 종량제 도입	aimatters	04.09	27	0
2373	AI 시대, 어떤 직업이 가장 위험한가… '사무직 절반 사라질 것'이라는 경고 현실로	aimatters	04.09	24	0
2372	기술업계, 2026년 1분기 8만 명 감원… 감원의 절반이 'AI 자동화' 때문?	aimatters	04.09	16	0
2371	AI 문서화 도구 '스크라이브'가 상세한 기록을 작성하며 의료비 상승 주범으로 지목됐다	aimatters	04.09	16	0
2370	엔비디아, 로봇공학 주간 맞아 '피지컬 AI' 혁신 사례 공개… 태양광 로봇·자율 설치 주목	aimatters	04.09	22	0
2369	오픈AI, AI 기술 악용 아동 착취 막는 '아동 안전 청사진' 발표	aimatters	04.09	17	0
2368	앤트로픽, 기업용 'AI 에이전트 관리 서비스' 공식 출시… 인프라 부담 없이 에이전트 배포	aimatters	04.09	27	0
2367	인텔, 머스크의 250억 달러 테라팹 AI 칩 메가팩토리 프로젝트 합류	aimatters	04.08	24	0
2366	오픈AI·앤트로픽·구글, 중국 AI 모델 무단 복제 차단 공동전선 구축 [11]	aimatters	04.08	1171	6
2365	앤트로픽, 최강 AI 모델 '미토스' 프리뷰 공개…'프로젝트 글래스윙' 사이버보안 이니셔티브 출범	aimatters	04.08	34	0
2364	오픈AI IPO 내홍…CFO '2026년 상장 준비 안 됐다', CEO와 갈등 심화	aimatters	04.08	16	0
2363	중국 스피릿 AI, 레이쥔·마윈 계열 펀드 공동 투자로 30일 만에 4.2억 달러 연속 조달	aimatters	04.08	23	0
2362	오픈AI, AI 시대 경제 전환 위한 20가지 정책 제안…로봇세·주4일 근무제·공공 부 기금	aimatters	04.08	18	0
2361	헤르메우스, 무인 극초음속 전투기 개발 3.5억 달러 유치…유니콘 기업 등극	aimatters	04.08	22	0
2360	메타, AI 모델 일부 폐쇄형 전환 검토…오픈소스 AI 전략에 균열 생기나	aimatters	04.08	24	0
2359	앤트로픽, 연매출 300억 달러 돌파…오픈AI 추월하며 AI 업계 매출 1위 등극	aimatters	04.08	30	0
2358	2D 이미지로 3D 모델 만드는 AI, 데이터 부족 문제를 이렇게 풀었다	aimatters	04.08	44	0
2357	AI 모델 하나로는 부족하다, 질문마다 '최적 모델'이 따로 있다	aimatters	04.08	29	0
2356	AI가 수학 문제는 풀면서 "그래서 어떻게 됐어?"는 모른다	aimatters	04.08	50	0
2355	AI 데이터센터 지역사회 반대 운동 전국 확산... 전기요금·환경 우려 고조	aimatters	04.07	64	0