엔비디아 넘어설 기업 나오나…AI 반도체 전쟁 격화

이코노미 인사이트 _ Economy insight
경제의 속살

수정 2024-04-06 13:30

펼침



엔비디아는 인공지능(AI) 시대에 적합한 그래픽처리장치(GPU) 반도체의 최강자로 ‘3세대 반도체’ 전쟁을 주도하고 있다. 미국 캘리포니아주 샌타클래라에 있는 엔비디아 본사. REUTERS 엔비디아 제공

▶이코노미 인사이트 구독하기 http://www.economyinsight.co.kr/com/com-spk4.html
반도체는 전세계에서 가장 중요한 산업이라 해도 과언이 아니다. 우리가 매일 들고 다니는 스마트폰을 비롯해 전자제품에는 반드시 반도체가 들어간다. 특히 국가의 존망이 달린 무기체계, 우주항공 분야에도 필수적이다. 처음 미국에서 반도체가 만들어졌을 때 가장 우선적으로 사용했던 곳은 국방 분야였다. 포탄의 궤도를 잘 계산할 수 있는 국가가 전쟁의 승자가 됐다. 반도체는 사실상 전쟁 무기였다.
오랜 평화의 시기를 지나 미-중 무역분쟁, 러시아-우크라이나 전쟁, 이스라엘-하마스 전쟁 등 전세계가 다시 갈등 국면으로 들어섰다. 평화의 시기에는 돈만 있으면 반도체를 구할 수 있었다. 하지만 세계적 갈등을 거치면서 언제든 반도체 공급망이 막힐 수 있음을 염두에 둘 수밖에 없게 됐다.

광고

광고

반도체 3세대 전환 전쟁

이 와중에 반도체산업에서는 3세대 전환을 위한 전쟁이 벌어지고 있다. 1세대는 미국에서 시작해 인텔이 주도한 고성능 반도체의 시대였다. 2세대는 애플이 주도하고 반도체설계 기업 에이알엠(Arm)을 기반으로 한 저전력 반도체의 시대다. 3세대 전환은 엔비디아가 주도하는 인공지능(A) 반도체의 시대다.
인텔은 마이크로프로세서를 발명해 모든 사람이 컴퓨터를 사용할 수 있도록 만든 기업이다. 인텔의 공동창업자 고든 무어는 ‘마이크로 칩의 성능은 18~24개월마다 두 배씩 증가한다’는 ‘무어의 법칙’으로 반도체 성능의 고도화를 설명했다. 인텔이 만든 것은 컴퓨터의 지배자라 할 수 있는 중앙처리장치(CPU)다. CPU는 컴퓨터를 구성하는 모든 부품의 명령을 내리는 두뇌다. 모든 컴퓨터에는 인텔의 CPU가 설치돼 있거나 최소한 인텔이 만든 명령어체계(ISA)를 활용한다. 인텔 생태계에서 벗어나면 다른 하드웨어, 소프트웨어와 호환되지 않는다. 놀라운 성능과 탄탄한 생태계를 만든 인텔의 아성은 영원히 무너지지 않을 것으로 보였다.

광고

모바일 기기의 등장은 새로운 반도체의 시대를 열었다. 영국의 반도체 설계 회사 Arm은 인텔과 다른 명령어체계(RISC)로 전력 사용량이 적은 반도체를 만들었다. 1993년 애플이 처음으로 만든 모바일 기기 ‘뉴턴 메시지 패드’에는 Arm의 설계로 만든 반도체가 들어갔다. 하지만 사람들이 편리하게 사용하기에는 기술적 한계가 있었다. 이후에도 Arm 기반의 저전력 반도체는 꾸준히 만들어졌지만 전기선이 연결된 개인용 컴퓨터에서 저전력 반도체는 그냥 성능이 떨어지는 반도체일 뿐이었다.
2007년 애플이 아이폰을 출시하면서 전세계는 모바일 시대로 접어든다. 아이폰에 탑재된 반도체는 Arm의 설계도를 기반으로 삼성전자가 만들었다. Arm은 반도체 설계 업체(팹리스)라고 불린다. 직접 반도체를 만들지 않고 설계도만 만든다. Arm의 설계도로 삼성전자, 퀄컴, 애플 등은 자사가 사용할 용도에 적합하게 수정해서 반도체를 만든다.

광고

전세계 모든 사람의 손에 모바일 전화가 쥐어지고 모든 기기에 반도체가 탑재되는데도, 1세대의 최강자였던 인텔은 명함조차 내밀지 못했다. 인텔의 반도체는 성능은 뛰어나지만 전력 사용량이 많았다. 모바일폰은 작은 배터리에 전력 공급을 의존하므로 전력 효율성이 매우 중요하다. 인텔도 뒤늦게 저전력 반도체를 만들어 공급했지만 2세대 강자들은 인텔의 자리를 허용하지 않았다.
저전력 반도체로의 전환은 모바일에서 시작됐지만 여기서 그치지 않고 인텔의 영역인 개인용 컴퓨터, 클라우드 서버로도 진격하고 있다. 애플은 Arm을 기반으로 자체 개발한 반도체를 모바일폰뿐 아니라 개인용 컴퓨터에도 탑재했다. 아마존도 Arm을 기반으로 자체 개발한 반도체를 자체 클라우드 서버에 탑재했다.

빠른 계산 중요한 AI 반도체

3세대 반도체인 AI 반도체는 연산방식 자체가 다르다. CPU는 복잡한 계산을 잘하는 반도체다. CPU 옆에는 복잡한 연산은 잘 못하지만 단순한 연산은 매우 빠르게 할 수 있는 그래픽처리장치(GPU) 반도체가 있다. AI는 곱셈(행렬곱)을 엄청나게 많이 해야 한다. 복잡하진 않지만 연산해야 할 데이터양이 엄청 많기에 빠른 속도가 필수적이다. 복잡한 연산을 잘하는 CPU보다는 단순한 연산을 빨리하는 GPU가 AI 시대에는 잘 맞는 반도체다. AI가 대세로 되기 전부터 AI 연구자들은 그래픽카드인 GPU를 AI 연산에 사용했고, 그래픽카드 분야의 최강자인 엔비디아의 GPU를 주로 사용했다.
엔비디아는 AI 연구자들이 GPU를 기반으로 편리하게 프로그램을 짤 수 있도록 ‘쿠다’’라는 플랫폼을 만들어 제공했다. 사람들이 포토숍을 사용해 편리하게 사진을 편집하는 것처럼, AI 연구자들은 쿠다를 사용해 AI 프로그램을 쉽게 짤 수 있다. 쿠다는 엔비디아 GPU에서 작동한다. 사람들은 쿠다를 활용해 AI 프로그램을 만들었고, 그 프로그램을 구동하려면 엔비디아 GPU를 사용해야 하는 것이다. 이런 과정을 통해 엔비디아 GPU에서 작동하는 AI 라이브러리가 차곡차곡 쌓였다. 이제 쿠다 생태계에서 벗어나려면 홀로 모든 라이브러리를 구축해야 하는 지경이 됐다. 엔비디아가 전세계 AI 반도체 시장의 90%를 점유하는 비결이다.

광고



2023년 12월19일 서울에서 열린 ‘인공지능 반도체 미래기술 콘퍼런스’에서 관계자들이 네이버클라우드와 삼성전자가 협업해 개발한 AI 반도체 솔루션의 설계 검증 시연을 하고 있다. 연합뉴스

쿠다 생태계를 벗어나기도 어렵지만 하드웨어 성능 자체도 엔비디아가 압도적이다. AI 반도체는 다양한 연산을 수행해야 하는 이전 세대 반도체와 달리 단순한 연산을 빠른 속도로, 그리고 대규모로 해야 한다. 1750억 개 파라미터(매개변수. 사람의 말을 이해하고 답할 수 있도록 연결해주는 변수로, 외부로부터 투입되는 데이터의 양을 나타냄)를 가진 지피티-3(GPT-3)를 예로 들어보자. 파라미터당 2바이트 정도 되기 때문에 1750억 개 파라미터면 350기가바이트(GB)의 용량에 해당한다. AI가 단어 하나를 생성하려면 1750억개의 파라미터를 모두 훑어봐야 한다. 한 단어를 만들려면 350기가바이트의 데이터를 처리해야 한다는 의미다.
속도를 내는 데 가장 큰 장애물은 연산속도가 아니라 데이터 전송속도다. GPU는 이미 충분히 빠르다. GPU가 빠르게 연산하려면 메모리에서 데이터를 불러와야 한다. 데이터 전송속도가 느리면 GPU가 아무리 빨라도 놀고 있어야 한다. 엔비디아는 GPU 바로 옆에 메모리 반도체를 탑처럼 쌓고 메모리 탑에 1024개의 데이터 이동 통로를 뚫은 고대역폭메모리(HBM)를 붙였다. 이런 방식으로 초당 3.35테라바이트(엔비디아의 ‘H100’ GPU 기준)의 속도를 구현했다. 오로지 속도를 높이는 데만 최적화해 여러 반도체를 통합한 구성이다. 이 엄청난 고속반도체를 만드는 것도, 그 엄청난 속도를 제어하는 것도 엔비디아가 가진 독보적인 기술이다.
엔비디아의 AI 반도체 생태계가 매우 훌륭하지만 한계는 있다. 너무 비싸고, 전기를 많이 쓴다. AI 반도체는 고성능 연산기에 메모리 반도체를 12층으로 쌓아 만든 값비싼 HBM을 쓰기 때문에 가격이 비싸다. 또한 엔비디아가 사실상 독점한 상황이어서 비싼 값을 불러도 사용자는 울며 겨자 먹기로 사야 한다. 엔비디아와 경쟁할 만한 업체가 등장하면 어느 정도는 가격이 내려갈 수 있다.

너무 비싸고 전기도 많이 써

전기를 많이 쓴다는 것은 피하기 어려운 단점이다. AI는 워낙 연산량이 많아 어떤 방식으로 하든 전기를 많이 쓸 수밖에 없다. AMD(MI300), 인텔(가우디3) 등 전통적인 반도체회사들은 엔비디아보다 싸고 효율적인 AI 반도체를 개발해 경쟁에 나섰다. 마이크로소프트, 아마존 등 클라우드 서버를 운영하는 업체들도 자체적으로 AI 반도체를 개발해 자사 플랫폼에 탑재하겠다는 계획이 있다. 실제로 엔비디아 반도체를 뛰어넘는 성능을 보여줄지는 지켜봐야 한다.
거대한 AI 모델을 줄이는 경량화도 대안으로 꼽힌다. 거대언어모델(LLM)에 준하는 정확도를 가지면서 규모가 작은 모델(sLLM)의 연구가 활발하게 이뤄지고 있다. 규모가 작은 모델에 최적화된 반도체를 만들면 틈새시장을 공략할 수 있다. 이들은 주로 ‘추론(실행) 반도체’에 집중한다. 수천억 개의 파라미터값을 정하는 학습은 규모를 줄이기가 힘들다. 하지만 AI 서비스를 제공하는 추론은 파라미터값이 고정됐기에 규모를 줄일 여지가 있다. 현재는 학습, 추론 모두 엔비디아 반도체를 사용한다. 네이버와 삼성전자는 AI 데이터를 압축해 데이터 전송량을 줄이는 방식으로 AI 연산을 수행하는 반도체를 공동개발하고 있다.
아직은 누가 엔비디아의 아성을 공략할 수 있을지, 흠집이라도 낼 수 있을지 가늠되지 않는다. 하지만 전세계 내로라하는 테크기업들이 모두 뛰어드는 시장에서 영원히 경쟁자가 나오지 않을 거라고 장담할 수도 없다.
권순우 <삼프로TV> 취재팀장 soon@3protv.com

권력에 타협하지 않는 언론,
한겨레 후원회원이 되어주세요

후원하기후원제소개

이 기사 어떻게 생각하시나요?

좋아요0

슬퍼요1

화나요0

감동했어요0

응원해요0

댓글

한겨레 사설 중에서

왜 ‘정권 심판론’이 모든 이슈를 압도하는지 그 이유를 총선 결과와 상관없이 원점에서 깊이 성찰해야 할 것이다.

[사설] 사상 최고 사전투표율, 투표 참여만이 바꿀 수 있다



뉴스룸 PICK



‘대파 늪’ 빠진 윤 대통령, 이젠 ‘대파 밭’도 갈아엎나

[단독] “조국혁신당 기호라서”…MBC ‘복면가왕 9주년’ 결방



‘파묘’ 속 은어는 생생하게 죽었다…흙서 펄떡이다 맨손에



광고

# 22대 총선구독

한동훈, 충청권 돌며 “민심 안 듣는 200명으로 채워지면 독재”



“동료 시민”을 적이라 부르는 정치 [세상읽기]



가난한 자들의 선거운동 [한겨레 프리즘]



# 의대 정원 확대구독

의료계 강경론 득세…‘의사 증원 원점 재논의’만 되풀이



의협 비대위 “정부, 진정성 보이려면 ‘2천명 배정’ 멈춰야”



의대 8일부터 곳곳 개강…‘유급 마지노선’ 의대생 돌아올까



# 치솟는 물가