서울대, AI 반도체 포럼 개최…“핵심 화두는 전력 효율성”

IT동아 · 2024.12.04 09:58:02

[IT동아 김예지 기자] 서울대학교가 12월 3일 글로벌공학교육센터에서 ‘인공지능(AI) 반도체 개발 동향과 도전 과제’를 주제로 제2회 ‘SAISF(SNU AI Semiconductor Forum) 2024’을 개최했다. 올해 2회를 맞는 이 포럼은 서울대학교 AI 반도체 대학원이 그간 성과를 공유하고, 반도체 대기업 및 스타트업의 기술 개발 동향을 공유하는 장이다.

임의철 SK하이닉스 펠로우 / 출처=IT동아

AI 반도체 개발 동향 및 미래 전략을 주제로 ▲김정욱 딥엑스 부사장 ▲백준호 퓨리오사AI 대표 ▲임의철 SK하이닉스 펠로우 ▲정무경 ㈜디노티시아 대표 ▲이진원 하이퍼엑셀 CTO ▲손교민 삼성전자 마스터가 발표했다. 이어 AI 반도체 연구 개발(R&D) 동향으로 ▲안정호 서울대 융합과학기술대학원 교수 ▲전동석 서울대 융합과학기술대학원 교수 ▲이진호 서울대 전기정보공학부 교수가 발표했다.

행사장 내 마련된 반도체 분야 11개사 부스 / 출처=IT동아

이날 서울대는 행사장에 반도체 분야 11개사 부스 전시를 비롯해 시스템반도체 14개사 채용박람회 및 기업설명회를 진행했다. 주요 기업으로는 ▲라온피플 ▲모빌린트 ▲바움디자인시스템즈 ▲반암 주식회사 ▲보스반도체 ▲수퍼게이트 ▲스카이칩스 ▲아날로그AI ▲주식회사 아이디어스 ▲오픈엣지테크놀로지 ▲텔레칩스 ▲퓨리오사AI ▲디노티시아 ▲하이퍼엑셀 ▲잇다반도체 등이 참여했다.

세미나에 앞서 서울대 AI 반도체 대학원은 딥엑스와 개발 중인 AI 반도체의 객관적·정량적 평가를 위한 성능 시험(벤치마크) 플랫폼을 소개했다. 이는 온디바이스 AI(엣지 AI)에 필수적인 항목을 더해 AI 반도체의 실제 사용 환경 평가를 목표한다. 서울대는 “AI 반도체 업체들과 협력해 제품을 인증함으로써 ‘엠엘퍼프(MLPerf)’ 등 글로벌 AI 반도체 벤치마크보다 신뢰성을 확보해 국내 산업 표준화 경쟁력을 확보하겠다”는 목표를 밝혔다.

이어 AI 반도체 대기업 및 스타트업들의 발표가 진행됐다. 각 기업이 다룬 주제는 다르나, 모두 성능 및 비용 대비 칩 전력 효율성 확보 전략으로 귀결된다. 점차 거대언어모델(LLM)을 비롯해 AI 추론 영역으로 관심사가 옮겨가는 가운데, AI 반도체 업계의 도전 과제는 반도체 성능을 높이면서도 그래픽처리장치(GPU)의 한계점으로 꼽히는 높은 비용 및 전력 소모량을 해결하는 것이다.

백준호 퓨리오사AI 대표 / 출처=IT동아

이날 국내 AI 반도체 팹리스 딥엑스는 엣지, 퓨리오사AI는 서버 AI 반도체에 초점을 맞췄다. 딥엑스는 고성능, 저전력, 저비용 임베디드 AI 솔루션 ‘DX-M1’과 ‘DX-M2’를 소개하며, 각 역할에 맞는 칩들의 통합적인 활용을 강조했다. 그래서 딥엑스는 엔비디아 GPU를 대체하기보다는 역할을 분담하는 데 의미를 둔다. 김정욱 딥엑스 부사장은 “딥엑스는 기존의 클라우드에서 처리하던 LLM에서 엣지 단으로 옮겨온 소형언어모델(SLM)을 처리하는 솔루션을 만든다”며, “DX-M1은 AI 비전 전용, DX-M2는 SLM 전용으로, 사용자는 칩을 결합해 하이브리드 솔루션으로 활용할 수 있다”고 설명했다.

또한 김정욱 부사장은 “삼성전자 5나노 공정으로 양산되는 DX-M1은 25 TOPS(초당 25조 회 연산) 컴퓨팅 성능의 신경망처리장치(NPU)로, 엔비디아 대비 실효 성능이 5.4배가 좋다”며, “내년 FPGA 데모로 공개될 차세대 DX-M2 칩은 엔비디아 젯슨 나노보다 정확도가 높으면서 비용은 20배 절감할 수 있다”고 설명했다. DX-M1은 지난 10월 ‘버터 벤치마크’ 실험에서 ‘Yolo5s’ 모델을 초당 30번 추론하는 작업에도 타사가 60℃를 넘었던 것에 비해 35.5℃를 유지해 안정적인 성능을 선보인 바 있다. 또한 딥엑스는 LG유플러스의 익시(ixi) 모델을 DX-M2로 구동하는 협업을 진행 중에 있다.

퓨리오사AI는 지난 8월 공개한 2세대 반도체 레니게이드(RNGD)를 소개하고, AI 반도체의 추론 영역에서의 효율을 강조했다. 백준호 퓨리오사AI 대표는 “AI 에이전트의 증가를 비롯해 추론 영역은 더욱 늘어나며, 퓨리오사AI는 비용 및 전력을 절감하는 지속가능한 컴퓨팅 칩 개발에 주력한다”고 말했다. 이러한 기조에서 탄생한 레니게이드는 열설계 전력(TDP)이 150~200W로, 기존 데이터센터 인프라에서 충분히 동작 가능한 수준을 만족한다. 엔비디아 L40S와 비슷한 성능이면서도 대비 최대 60% 이상 전력 효율이 높다. 또한 H100 PCI 버전 성능과 견주어도 40~50%에 준하며, 고대역폭 메모리(HBM)3를 탑재해 성능을 대폭 높였다.

이날 백준호 대표는 소프트웨어 스택의 중요성도 강조했다. 그는 “AI 추론에서의 효율은 하드웨어뿐만 아니라 전체적인 소프트웨어와 알고리즘도 관여한다. 따라서 유연성 및 호환성을 기반으로 전체 성능을 잃지 않도록 하드웨어를 설계하는 것이 중요하다”고 주장했다. 이를 위해 퓨리오사AI는 파이토치 2.0을 시작으로 소프트웨어 스택을 제공할 계획이다.

이진원 하이퍼엑셀 CTO / 출처=IT동아

하이퍼엑셀은 LLM 전용 추론 반도체 ‘언어 처리 장치(LPU)’를 소개했다. 이진원 하이퍼엑셀 CTO는 “하이퍼엑셀은 생성형 AI 도입을 원하는 일반 기업들이 활용할 수 있도록 LLM 특화 저비용 고성능 칩을 추구한다”고 설명했다. LPU는 GPU와 달리 LLM 연산 처리 과정에서 메모리 대역폭의 효율을 극대화한 점이 특징이다. 이를 위해 HBM보다 메모리 대역폭이 작지만 대신 용량이 크다는 장점이 있는 LPDDR 메모리를 활용했다. 이로써 데이터 전송 속도를 높이고, 전력 효율을 꾀한다.

이 회사는 올해 1월 설립 이후 만 1년이 되지 않은 시점에 서버 제품 ‘오리온’을 출시했다. 이진원 CTO는 “LPU 8개를 탑재한 오리온은 AMD와의 협업해 공식 검증을 통과하고, 국내 최초로 생성형 AI 라마 3를 구동한 이력이 있다”며, “서버 제품 이전 설계자산(IP) 검증을 위한 실리콘 프로토타입 칩이 삼성 4 나노 공정으로 패키징 되어 올해 안에 나올 예정”이라고 덧붙였다.

한편, 이날 삼성전자와 SK하이닉스는 AI가 요구하는 차세대 메모리 반도체 HBM에 대한 전략을 발표했다. 두 회사는 메모리 내부에서 데이터를 처리하는 ‘PIM(Processing-In-Memory)’ 기술을 활용한다. 먼저 임의철 SK하이닉스 펠로우는 GDDR6 기반 AiM(액셀러레이터 인 메모리) 아키텍처로 설계된 ‘AiMX’을 소개했다. AiMX는 프로세싱 유닛의 속도를 가속하는 FPGA 칩으로, GDDR6에 PIM 기술을 적용해 데이터 이동을 최소화했다. AiMX은 LLM에서 입력에 대한 답변을 생성하는 단계인 제너레이션 스테이지(Generation Stage)에서 발생하는 메모리 병목 현상을 해결한다. 임의철 펠로우는 “서버, 엣지 LLM 모두 결국 메모리 대역폭과 전력 효율 문제에 직면하고 있으며, PIM은 양쪽 모두 해결할 수 있는 방법”이라고 말했다.

손교민 삼성전자 마스터도 “PIM 기술은 데이터 이동을 줄이는 동시에 내부 메모리 대역폭을 최대로 활용해 성능을 높이는 데 초점이 맞춰져 있다”고 말했다. 그는 “고객이 기존 시스템을 변경하지 않고도 LPDDR-PIM 기술을 도입할 수 있도록 지원한다”며, “HBM에 PIM을 적용했을 때 기존 D램의 인터페이스 등을 유지하면서도 지연속도를 줄이고, 전력도 더 커지지 않았다”고 말했다. 또한 앞으로 “LPDDR을 활용한 PIM은 온디바이스AI에서 유리해 스마트폰, 노트북, 엣지 서버 등으로 활용처가 넓어지고 있다”며, “LPDDR은-PIM을 개발할 때, D램 안에 PIM 기능을 넣어 전체 시스템에서 효율성을 확보할 수 있는지 유효성을 따지는 것이 중요해지고 있다”고 말했다.

IT동아 김예지 기자 (yj@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	결혼 잘 해서 신분 상승한 것 같은 스타는?	운영자	25/05/26	-	-
5191	네이버클라우드, 무료로 쓸 수 있는 상업용 생성 AI 모델 공개 [7]	IT동아	04.24	5892	5
5190	[KESIA 프리팁스] 슈가디 베이커리 “저당ㆍ저탄 식음료로 모두에게 먹는 즐거움을 주고 싶어요”	IT동아	04.23	202	0
5189	“디지털 시대, 미래 금융 보안 길잡이 될 것” 금융보안원 창립 10주년 세미나 개최	IT동아	04.23	199	0
5188	F5, 앱 전송부터 보안 아우르는 ADC 3.0 플랫폼 공개	IT동아	04.23	260	0
5187	[주간스타트업동향] 롯데벤처스, 한국 유망 스타트업 미국 진출 지원 外	IT동아	04.23	258	0
5186	[스타트업 리뷰] 찾아가는 자동차 검사 예약 픽업 서비스로 번거로움 줄인다	IT동아	04.23	171	0
5185	TI, 자율주행차 성능 높이는 칩 제품군 대거 발표	IT동아	04.23	149	0
5184	[ICT이노베이션스퀘어확산사업] 버블클라우드 “개인화 온보딩 빌더 ‘스텝바이’, 초기 고객 이탈 막는다”	IT동아	04.23	156	0
5183	[시승기] PHEV 효율에 스파이더 개방감 더한 슈퍼카…‘페라리 296 GTS’ [1]	IT동아	04.22	2182	1
5182	눈높이 높아진 AI 사용자들에겐 2% 부족한 '애플 인텔리전스' [10]	IT동아	04.22	6075	1
5181	“게임 기반 SW교육, 확산 넘어 수업 혁신으로” ATC·넥슨코리아·넥슨재단, 헬로메이플 선도연구회 발대식 개최	IT동아	04.21	211	0
5180	[뉴스줌인] 영사기 없는 영화관 시대? LG전자, 메가박스에 시네마 LED 공급	IT동아	04.21	786	2
5179	자신에게 맞는 중고차 고를 땐 이렇게! [이럴땐 이렇게!]	IT동아	04.21	677	0
5178	[주간투자동향] 리얼월드, 210억 원 규모 시드 투자 유치 外	IT동아	04.21	278	0
5177	[생성 AI 길라잡이] '인공지능으로 더 멋진 문서를 만든다' 캔바 비주얼 스위트 2.0	IT동아	04.18	290	0
5176	모양이 비슷한 도로표지판 의미 살펴보니	IT동아	04.18	7550	2
5175	[리뷰] 게이밍 노트북∙태블릿이 하나로, 에이수스 ROG 플로우 Z13(GZ302)	IT동아	04.18	285	0
5174	[IT하는법] 스마트폰 속의 민증, '모바일 신분증' 만드는 법	IT동아	04.18	315	0
5173	[KESIA 프리팁스] 레졸루션, 'AI 기반 PCB 비전 검사'로 제조혁신 돕는다	IT동아	04.18	263	0
5172	[크립토퀵서치] 미국 관세 정책에 가상자산 시장이 요동치는 이유는?	IT동아	04.18	249	0
5171	“청년 창업 허브 넘어 메카로 성장시킬 것” 손문규 강동구 청년해냄센터 센터장	IT동아	04.18	244	0
5170	SBA·한국문화예술위원회, 예술·기술 융복합 및 산업 거점 활성화에 맞손	IT동아	04.18	242	0
5169	SBA 서울창업허브 “초격차 개방형 혁신, 스타트업 세계화”	IT동아	04.18	253	0
5168	이용자 편의성 강화하는 가상자산 거래소	IT동아	04.17	259	0
5167	[월간자동차] 25년 3월, 신차 등록 증가세…기아 쏘렌토 5개월 연속 판매 1위	IT동아	04.17	5408	0
5166	“인공지능으로 창작 방식 재정의할 것” 로버트 카왈스키 캔바 제품 총괄	IT동아	04.17	241	0
5165	[서평] 인생 선배가 전하는 현실적인 조언과 격려 - [동 트기 전 새벽이 가장 어둡다]	IT동아	04.17	237	0
5164	AI 벤치마크, 온전히 신뢰할 수 있을까	IT동아	04.16	268	0
5163	[주간스타트업동향] 넥스트페이먼츠, 모네리스와 파트너십 체결 外	IT동아	04.16	303	0
5162	김성훈 업스테이지 대표, "워크 인텔리전스로 일하는 방법, 새로운 방향 만들겠다"	IT동아	04.16	267	0
5161	55인치 실내 디스플레이·에어 라이드 서스펜션 탑재…‘더 뉴 에스컬레이드’ 출시	IT동아	04.16	472	0
5160	[IT애정남] 지원 종료 앞둔 윈도 10, 계속 써도 되나요? [1]	IT동아	04.16	2632	1
5159	미국 반도체ㆍIT 기기 관세 면제? 분류만 바뀔 뿐, 달라진 것은 없었다	IT동아	04.16	271	0
5158	[ETF/퇴직연금 Q&A] 퇴직연금으로 투자할 수 없는 ETF	IT동아	04.16	5118	0
5157	“가상자산 산업, 명확한 업 구분과 그에 따른 합리적인 규제 필요”	IT동아	04.16	225	0
5156	코헤시티 “백업 솔루션 넘어 AI 데이터 분석 기업으로 도약”	IT동아	04.16	224	0
5155	월드, ‘프리 플래그십’ 팝업 오픈···오브·월드ID 체험 기회 제공	IT동아	04.15	229	0
5154	[자동차와 法] 첨단 교통단속 기술의 빛과 그림자	IT동아	04.15	229	0
5153	[기고] AI와 미래 산업기술 - 1. AI 시대를 맞는 전통 산업 엔지니어의 '뉴 마이웨이'	IT동아	04.15	701	0
5152	재부팅ㆍ소프트웨어 종료 불편함 없이 PC 1대로 여럿이 쓰고 싶다면 이렇게! [이럴땐 이렇게!]	IT동아	04.14	267	0
5151	경량 스포츠카 제조사 ‘로터스’ 77년 역사 장식한 슈퍼카 살펴보니 [5]	IT동아	04.14	2802	1
5150	[뉴스줌인] 카톡에 사진/문서 올려 프린터 출력, '엡손 프린톡' 이모저모	IT동아	04.14	242	0
5149	[투자를IT다] 2025년 4월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	04.14	227	0
5148	[기고] 인테리어와 IT기술의 융합 - '잇테리어'의 시대	IT동아	04.14	5282	1
5147	퓨리오사AI 찾은 이재명 전 당대표, "AI 현장에서 새로운 희망이 보인다"	IT동아	04.14	225	0
5146	[생성 AI 길라잡이] 해커인 척 LLM 취약점 찾아낸다, AI 레드팀 [1]	IT동아	04.11	7920	0
5145	[리뷰] 눈까지 즐거운 야외용 블루투스 스피커, 브리츠 BZ-MG9	IT동아	04.11	335	0
5144	[KESIA 프리팁스] 바이브에이아이 “SaaS 기반 개인화 AI 서비스로 글로벌 공략”	IT동아	04.11	320	0
5143	[생활 속 IT] 동네 전문가, 카카오맵으로 찾는다	IT동아	04.11	275	0
5142	[민원제로] 1. "제가 그 유명한 진상 민원인입니다만...!"	IT동아	04.11	268	0
뉴스	‘옥씨부인전’ 최정우, 갑작스런 별세…향년 68세	디시트렌드	05.28

갤러리 검색

최근 방문

즐겨찾기

즐겨찾기 갤러리

IT동아 갤러리

머리말∙꼬리말

머리말∙꼬리말

색상 설정

갤러리 정보

스포일러 경고 설정

제목에서 경고

본문에서 경고

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

서울대, AI 반도체 포럼 개최…“핵심 화두는 전력 효율성”

▶ 퓨리오사AI, 日 AI 엑스포서 2세대 반도체 선봬··· '다각적 판로 개척에 집중'▶ 세계 최고 권위 반도체 학회 'ISSCC' 두 달 앞으로··· '韓 반도체 산업 입지는?'▶ 삼성전자, 실속형 스마트폰 '갤럭시 A16 LTE' 29일 출시

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

실시간 베스트

뉴스

디시미디어

디시이슈

개념글[천국보다 아름다운(드라마)]

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘