(모건스텐리의 보고서에 제 뷰를 섞어 재조합한 글 입니다.)

2025년 12월 1일 공개된 모건스탠리의 아시아 테크 탐방 리포트는 글로벌 반도체 및 AI 인프라 시장을 바라보는 시각에 중대한 변곡점을 제시했다. 지난 1년간 시장을 지배했던 일각의 'AI 거품론'이나 '반도체 겨울론'은 더 이상 유효하지 않음이 확인되었다. 엔비디아 CEO 젠슨 황과의 3일간의 논 딜 로드쇼와 주요 공급망 점검을 통해 확인된 핵심 메시지는, 현재 우리가 겪고 있는 변화가 단순한 기술적 유행이 아닌, 산업 전반의 생산성 함수를 재정의하는 '컴퓨팅 붐'의 초기 단계라는 사실이다.

특히 생성형 AI 시장은 이제 기술적 가능성을 탐색하는 '플랫폼 전환' 단계를 지나, 기업과 소비자가 실제 효율성과 생산성을 높이기 위해 기술을 대거 도입하는 '대량 수요' 단계로 진입했다. 모건스탠리가 주최한 TMT 컨퍼런스에서 언급된 바와 같이, 2023년부터 2027년 사이 AI 관련 지출은 약 3조 달러에 달할 것으로 추산되며, 이 중 생성형 AI가 차지하는 비중은 2027년까지 36%로 급증할 전망이다.

엔비디아 경영진이 강조한 장기적 자신감의 근거는 AI 모델의 진화 방향성에 있다. 과거의 AI 모델이 방대한 데이터를 학습하는 데 주력했다면, 차세대 모델은 추론 단계에서 복잡한 문제를 해결하기 위해 "오랜 시간 생각"하는 능력을 갖추게 된다. 이러한 변화는 반도체 수요의 질적, 양적 팽창을 의미한다. 단순한 질의응답이 아닌, 물리학 시뮬레이션, 신약 개발을 위한 단백질 구조 분석, 반도체 포토공정 마스크 설계 등 고난도 작업을 수행하기 위해 에이전트 기반의 AI가 도입되고 있다. 이는 추론 과정에서 기하급수적으로 늘어나는 연산 자원을 필요로 한다.

사용자의 개입 없이 자율적으로 다,,단계 작업을 수행하는 에이전트 AI는 일회성 연산이 아닌 연속적인 연산 흐름을 유발한다. 모건스탠리는 이를 두고 "추론 스케일링이 기하급수적으로 증가하는 단계"라고 정의했다. 결과적으로, AI 붐은 학습용 칩 수요가 정점을 찍고 하락하는 사이클이 아니라, 추론용 인프라가 그 자리를 대체하고 확장하며 지속되는 '영원한 컴퓨팅 붐'으로 전개될 가능성이 높다. 이는 인텔이 과거 PC와 서버 CPU 시장을 장악했던 것처럼, 엔비디아가 GPU를 통해 범용 컴퓨팅 시스템의 표준을 재정립하고 있음을 시사한다.

엔비디아는 현재 주력 제품인 '블랙웰' 아키텍처의 성공에 안주하지 않고, 2026년 양산을 목표로 차세대 '루빈' 아키텍처를 준비 중이다. 루빈은 단순한 성능 향상을 넘어, 데이터센터의 물리적 한계를 돌파하기 위한 엔비디아의 야심이 집약된 플랫폼이다. 루빈 아키텍처의 핵심은 성능 밀도의 극대화다. 루빈은 FP4 연산 기준 50 페타플롭스의 성능을 제공하여 블랙웰 대비 2.5배 향상된 성능을 목표로 하며, 2027년 출시될 '루빈 울트라'는 이를 다시 두 배인 100 페타플롭스로 끌어올릴 예정이다. 이는 무어의 법칙이 둔화된 상황에서도 아키텍처 혁신을 통해 연산 성능을 매년 두 배 이상 성장시키겠다는 '황의 법칙'이 여전히 유효함을 증명한다.

엔비디아의 전략은 칩 단위에서 랙 단위로 이동하고 있다. 미래의 GPU는 개별 부품이 아니라, 수천 개의 칩이 거대한 하나의 칩처럼 작동하는 '데이터센터 스케일'의 통합 시스템이다. 이 비전을 실현하기 위해 엔비디아는 2027년 '카이버' 랙 아키텍처 기반의 NVL576 시스템을 도입할 예정이다. 이 시스템은 단일 랙에 576개의 GPU 다이를 집적하며, 전력 소비량은 무려 600kW에 달할 것으로 예상된다. 현재 데이터센터의 평균 랙당 전력 수용량이 10~20kW 수준임을 감안할 때, 600kW는 기존 공랭식 시스템으로는 감당이 불가능한 수치다. 이는 액체 냉각, 전력 배전 유닛, 그리고 데이터센터 바닥 하중 설계까지 전면적인 인프라 교체를 강제한다.

루빈 GPU와 짝을 이루는 새로운 '베라' CPU는 데이터 처리의 병목을 해소하고, 전체 시스템의 전력 효율성을 최적화하는 역할을 수행한다. 이러한 '랙 스케일' 전략은 엔비디아의 경제적 해자를 더욱 깊게 만든다. 경쟁사들이 GPU 칩 성능을 따라잡는다 해도, 수백 개의 랙을 연결하고 냉각하며 소프트웨어로 제어하는 '시스템 엔지니어링' 능력까지 복제하기는 어렵기 때문이다.

2024년 하반기 시장을 강타했던 '반도체 겨울론'은 기우에 불과했다. 모건스탠리는 2025년 9월 보고서를 통해 "메모리 슈퍼사이클"의 도래를 공식화하며, AI 주도의 수요가 전체 반도체 시장을 견인할 것임을 천명했다. 현재 메모리 시장의 가장 큰 특징은 투자 불균형에 따른 구조적 공급 부족이다. 지난 5년간 메모리 제조사들의 웨이퍼 팹 장비 투자는 전체의 절반 수준에서 3분의 1 수준으로 감소했다. 그나마 집행되는 투자는 수익성이 높은 HBM과 선단 공정 로직 반도체에 집중되고 있다.

HBM은 동일 용량의 일반 DDR5 D램 대비 웨이퍼 면적을 3배 이상 소모한다. 제조사들이 한정된 클린룸 공간에서 HBM 생산을 늘릴수록, 일반 DDR5와 LPDDR5, 그리고 낸드 플래시의 생산 능력은 급격히 줄어든다. 이로 인해 시장에는 이미 '타이트한' 공급 상황이 발생하고 있다. SK하이닉스의 DDR5 재고는 약 2주 분량으로 사실상 "생산 즉시 출하"되는 수준이며, 낸드 재고 역시 4~5주 수준의 정상 범위로 복귀했다. 이는 AI 서버뿐만 아니라 일반 서버 및 PC 시장의 수요가 회복될 경우, 심각한 가격 상승을 유발할 수 있는 뇌관이다.

HBM 시장은 2026년 HBM4 도입과 함께 새로운 국면을 맞이한다. HBM4는 메모리 적층의 베이스 다이를 기존 메모리 공정이 아닌 파운드리 로직 공정으로 제조하여, 연산 기능을 메모리에 내재화하는 혁신을 포함한다. SK하이닉스는 2024년 3분기 HBM '완판'을 기록하며 영업이익이 62% 급증하는 등 압도적인 시장 지배력을 과시하고 있다. 오픈AI 등 빅테크 기업들이 SK하이닉스와 직접적인 파트너십을 체결하려는 움직임은 동사의 기술적 우위가 단순한 부품 공급사를 넘어 전략적 파트너의 지위로 격상되었음을 의미한다. 마이크론은 HBM3E 시장 진입에 이어 HBM4에서도 공격적인 로드맵을 제시하고 있다. 경영진은 2025년 3분기까지 HBM 시장 점유율을 전체 D램 시장 점유율 수준으로 끌어올리겠다고 공언했으며, 이미 HBM 매출이 연간 80억 달러 런레이트를 달성했다.

모건스탠리는 2024년 4분기 D램 평균판매단가가 전 분기 대비 9% 상승할 것으로 전망했다. 엔비디아 루빈 플랫폼과 같은 차세대 AI 가속기는 LPDDR5 등 저전력 메모리 수요를 폭발적으로 증가시킬 것이며, 기업용 SSD 주문량 또한 2026년 인도분까지 쇄도하고 있다. 이는 삼성전자와 같이 HBM 비중이 상대적으로 낮은 기업에게도 실적 턴어라운드의 강력한 기회를 제공한다.

AI 성능의 핵심 병목은 더 이상 개별 GPU의 연산 속도가 아니라, 수만 개의 GPU가 데이터를 주고받는 '통신 속도'에 있다. 이로 인해 인터커넥트 기술 기업들이 반도체 시장의 새로운 주역으로 부상하고 있다. 데이터센터 내 연결은 크게 서버 간 연결인 '스케일 아웃'과, 서버 내 GPU 간 연결인 '스케일 업'으로 나뉜다. 최근 주목받는 기업 아스테라 랩스는 이 두 영역, 특히 스케일 업 분야에서 독보적인 입지를 구축하고 있다.

아스테라 랩스의 'Scorpio X' 시리즈는 GPU 간 데이터 전송을 최적화하는 스위치 칩이다. 특히 엔비디아의 독점적인 NVLink 생태계 외부에서, AWS나 구글 등이 자체 칩 클러스터를 구축할 때 필수적인 PCIe 6.0 기반의 연결 솔루션을 제공한다. 아스테라 랩스는 최근 엔비디아와의 협력을 통해 NVLink 생태계에도 자사의 솔루션을 공급하기 시작했다. 이는 폐쇄적인 엔비디아 시스템과 개방형 표준 모두에서 수익을 창출할 수 있는 양손잡이 전략이 성공하고 있음을 보여준다. 또한 신호 전송 속도가 빨라질수록 신호 감쇠 현상이 심해져, 신호를 증폭하고 정제하는 '리타이머' 칩의 필요성이 커진다. 아스테라 랩스의 Aries 리타이머는 엔비디아 블랙웰 플랫폼 및 HGX 시스템에 대거 채택되고 있다.

엔비디아는 NVLink라는 독자 표준을 통해 자사 GPU끼리의 초고속 연결을 지원하며 고객을 락인한다. 이에 맞서 AMD, 인텔, 브로드컴 등은 개방형 표준인 UALink를 추진하고 있다. 하지만 아스테라 랩스의 사례에서 보듯, 시장은 양자택일보다는 하이브리드 형태로 진화하고 있다. 즉, 하이퍼스케일러들은 엔비디아 GPU 클러스터와 자체 ASIC 클러스터를 동시에 운용하며, 두 생태계 모두에 연결성 솔루션을 공급하는 기업의 가치는 지속적으로 상승할 것이다.

인텔은 1.8나노급 공정인 '18A'를 통해 파운드리 시장의 주도권을 되찾으려 하고 있다. 18A 공정의 핵심은 전력 배선을 웨이퍼 뒷면에 배치하는 '후면 전력 공급' 기술이다. 이 기술은 전면 배선의 혼잡도를 줄이고 신호 무결성을 개선하여 셀 밀도를 높일 수 있는 획기적인 기술이다. 인텔과 IMEC은 후면 전력 공급 기술 도입만으로 20~30%의 면적 감소 효과가 있다고 주장한다. 그러나 인텔 18A 공정의 결함 밀도는 0.4 def/cm² 수준으로 알려져 있으며, 이는 대형 AI 칩 양산에는 여전히 리스크가 있는 수치라는 분석이 제기된다. 특히 브로드컴 등 잠재 고객사의 테스트 결과가 기대에 미치지 못했다는 루머는 인텔 파운드리 사업의 신뢰성에 타격을 주었다. 인텔의 고전은 역설적으로 TSMC의 3nm 및 향후 2nm 공정의 가치를 더욱 높여준다. 엔비디아 루빈 칩이 TSMC 3nm를 선택한 것은 성능과 수율 면에서 대안이 없음을 재확인시켜 준다.

서버 CPU 시장에서 AMD의 약진은 이제 거스를 수 없는 대세가 되었다. AMD는 최신 '투린' 프로세서를 앞세워 서버 시장 매출 점유율 40%에 육박하는 기록적인 성과를 거두고 있다. 인텔이 '그래나이트 래피즈'로 반격을 시도하고 있으나, 코어 수와 전력 효율성 면에서 AMD와의 격차를 완전히 좁히지는 못한 것으로 분석된다. 특히 클라우드 사업자들의 선호도가 이미 AMD로 기운 상황에서 인텔의 점유율 회복은 쉽지 않을 전망이다.

엔비디아 GPU 부족과 고비용 구조를 탈피하기 위해 클라우드 서비스 제공사들의 자체 칩 개발이 가속화되고 있다. 아마존은 '트레이니움 3'를 2026년부터 본격 양산할 계획이며, 연간 출하량은 80만~100만 개에 달할 것으로 추산된다. 이러한 ASIC 시장의 성장은 칩 설계를 돕는 디자인하우스와 연결성 IP를 제공하는 기업에게는 엔비디아 GPU 시장 못지않은 거대한 기회 요인이다.

모건스탠리 리포트와 업계의 로드맵을 종합할 때, AI 인프라 시장은 2027년까지 강력한 성장세를 유지할 것이다. '플랫폼 구축' 단계에서 '애플리케이션 확산 및 추론 폭증' 단계로 넘어가는 과정에서 하드웨어 수요는 둔화되는 것이 아니라, 더 고도화되고 다양화될 것이다. 따라서 반도체 및 AI 인프라 섹터에 대한 '비중 확대' 의견은 여전히 유효하다.

루빈 아키텍처 출시와 랙 스케일 판매로 인해 엔비디아는 평균판매단가와 매출 규모가 동시에 상승할 것이다. AI 에이전트 시대의 도래는 엔비디아의 경제적 해자를 더욱 강화한다. 단기적인 밸류에이션 부담보다는 2027년까지의 장기 성장 로드맵에 주목해야 하며, 이는 '롱 씽킹' AI의 최대 수혜주가 될 것이다. 메모리 시장에서 HBM 공급 부족은 상수이며, 레거시 메모리의 가격 상승이 이익 성장을 가속화할 것이다. 기술적 리더십을 보유한 SK하이닉스는 프리미엄을 정당화할 것이며, 삼성전자는 HBM3E 공급 가시화 및 레거시 메모리 턴어라운드 시점에서 강력한 주가 반등이 예상된다. 삼성전자의 현재 PBR 1배 수준 밸류에이션은 하방 경직성을 제공한다.

GPU 개수보다 스위치와 케이블, 리타이머의 개수가 더 빠르게 늘어나는 구간이다. 또한 600kW 랙 도입에 따른 액체 냉각 및 전력 설비 관련 기업들의 수혜가 예상된다. 아스테라 랩스와 같이 엔비디아와 ASIC 생태계 모두에 발을 걸친 '인프라의 픽앤샤블' 기업에 대한 비중 확대가 필요하다. 다만 대만 해협의 긴장은 TSMC 의존도가 높은 현재 AI 공급망의 최대 아킬레스건이며, 인텔 18A의 성공 여부는 시장 판도를 흔들 수 있는 변수다.

우리는 지금 '컴퓨팅의 황금기' 초입에 서 있다. 엔비디아의 루빈 아키텍처는 데이터센터를 거대한 하나의 칩으로 변모시키고 있으며, SK하이닉스가 주도하는 메모리 시장은 HBM과 레거시 제품의 동반 상승이라는 전례 없는 호황을 맞이할 준비를 마쳤다. AI가 '학습'을 넘어 스스로 '생각'하고 '행동'하는 단계로 진화함에 따라, 이를 뒷받침할 인프라 투자는 선택이 아닌 생존의 문제가 되었다. 투자자들은 단순한 칩 제조사를 넘어, 랙 스케일 아키텍처를 완성하는 플랫폼 기업, 차세대 공정과 패키징의 핵심 공급자, 그리고 거대 클러스터의 혈관을 책임지는 연결성 솔루션 기업으로 시야를 넓혀야 한다. 지금은 다가올 슈퍼사이클에 대비해 포트폴리오를 적극적으로 재편해야 할 시점이다.