엔비디아, 'NIM 마이크로서비스'에서 딥시크-R1 프리뷰 제공

indinews

2025.02.04 20:00:06

조회 448 추천 0 댓글 1

엔비디아(NVIDIA)가 중국 AI 스타트업 딥시크(DeepSeaq)에서 개발한 오픈 모델 '딥시크-R1'을 자사 NIM 마이크로서비스 플랫폼에서 프리뷰로 제공한다고 발표했다.

MoE 구조로 더 방대한 학습

온라인커뮤니티

엔비디아는 3일(현지시간) 공식 블로그를 통해 "딥시크-R1을 기반으로 생성형 AI 애플리케이션 개발자들이 안정적이면서도 확장 가능한 추론을 구현할 수 있게 됐다"고 밝혔다. 특히 단일 엔비디아 HGX H200 시스템에서 초당 최대 3872개의 토큰을 전송할 수 있다고 강조해, 고성능 AI 추론 처리 능력을 보여줬다.

딥시크-R1은 최신 추론 기능을 갖춘 오픈 모델로, 질문에 대한 단순 답변 대신 여러 차례 '사고 과정을 반복'해 최적의 답을 도출하는 '에이전틱(Agetic) AI'에 적합하다는 게 엔비디아 측의 평가다.

딥시크-R1은 여러 전문가 모델(Expert Model)을 조합하는 MoE(Mixture of Experts) 구조로 만들어졌다. 기존 공개 모델에 비해 10배 많은 6710억 개의 파라미터, 최대 12만8000개 토큰을 입력받을 수 있는 거대한 컨텍스트 길이를 특징으로 한다.

이러한 대형 모델에서 실시간 추론과 높은 품질의 응답을 동시에 구현하기 위해서는 추론 과정 자체가 늘어나는 만큼(여러 번의 사고 패스), 더욱 대규모 컴퓨팅 환경이 요구된다. 엔비디아가 NVLink 기반의 H200 GPU 클러스터와 NIM 마이크로서비스 최적화를 결합해 이 문제를 해결했다고 설명하는 이유다.

딥시크-R1으로 에이전트 개발 안전·확장성 두 마리 토끼 잡는다

엔비디아는 "NIM 마이크로서비스에 딥시크-R1을 프리뷰로 공개함으로써 개발자들이 에이전틱 AI 솔루션을 빠르고 쉽게 구축할 것"이라고 기대감을 드러냈다.

기존 모델들이 단일 엔드투엔드 답변을 도출하는 데 집중했다면, 딥시크-R1은 문제를 여러 번 사고해 최상의 결과에 도달하는 방식을 채택했다는 점에서, 논리적 추론과 수학, 코딩, 언어 처리 등에 강점을 보이는 모델로 꼽힌다.

한편, 엔비디아 NIM 마이크로서비스 자체가 생성형 AI 애플리케이션에 안전성과 정확성을 높여주는 플랫폼인 만큼, 딥시크-R1과 함께 '가속 추론 + 리스크 최소화'를 동시에 노릴 수 있다는 것이 장점이다.

엔비디아 측은 "향후 더 많은 오픈 모델들을 NIM에 연결해, AI 산업 전반의 추론 효율을 끌어올릴 것"이라며 "에이전틱 AI가 요구하는 방대한 스케일을 이끌 인프라가 가속 컴퓨팅"이라고 재차 강조했다.

▶ 아데산야, 7년 만에 파이트 나이트 복귀… "타이틀 없이도 전투 본능"▶ 안혜경, 연극 '월드다방'으로 무대 복귀 소식 전했다 ▶ 이마보프, 2R TKO로 아데산야 격파… "미들급 대권 경쟁 합류"▶ "치료 골든타임 놓쳐 안타까워"서희원, 폐렴 아닌 '패혈증' 사인 밝혀졌다 ▶ "포미닛 출신"허가윤, 발리에서 전한 근했다

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	등만 봐도 설레이는 문짝남 스타는?	운영자	26/04/13	-	-
6364	'발목 골절' 엄지원, 긴급 수술 후 촬영장 복귀... "이제 두 발로 걷습니다"	indinews	04.16	7	0
6363	팝핀현준, '암 전단계' 위 선종으로 긴급 입원	indinews	04.16	9	0
6362	김동완, 이수지 '교사 풍자' 논란 가세... "교육자 울타리 무너지면 아이들만 피해"	indinews	04.16	9	0
6361	'시청률 퀸' 문채원, 6월의 신부 된다… 비연예인 연인과 백년가약 발표	indinews	04.15	49	0
6360	서동주, 계류유산 후 첫 심경 고백 "생각보다 견딜만해... 곧 다음 사이클 준비" [22]	indinews	04.15	2951	3
6359	이휘재 복귀, 캐나다서 들려온 '인성 논란' 재점화 [100]	indinews	04.14	7477	65
6358	유재석 없는 백상? 제62회 후보 발표에, 패싱 논란에 팬들 '분노' [61]	indinews	04.14	3076	12
6357	"슬픔도 함께 "이효리 부친상, 핑클 완전체 빈소 집결	indinews	04.14	136	1
6356	신봉선, 11kg 감량 후 리즈 갱신 3년 동안 유지 비결 공개 [1]	indinews	04.14	178	0
6355	이진호 살린 '골든타임'의 기적... 신고자는 슈퍼주니어 출신 강인이었다	indinews	04.14	127	0
6354	지예은·바타 열애 공식 인정, '충주지씨' 지석진이 직접 공개한 성지 영상 화제	indinews	04.14	154	0
6353	곽튜브 '산후조리원 협찬' 논란, 권익위 김영란법 위반 여부 조사 착수	indinews	04.14	110	4
6352	"11살 차이"케이♥과즙세연, 8개월째 열애 중… "예쁘게 사랑하겠다"	indinews	04.14	180	0
6351	카를로스 울버그, UFC 라이트헤비급 새 왕좌 등극… 프로하스카에 충격 KO승	indinews	04.13	43	0
6350	14년 결혼 생활 종지부 이범수, 텅 빈 저택서 '고독한 일상' 공개... 시청자 반응은 '냉담'	indinews	04.13	156	0
6349	뉴진스 해린·혜인, 덴마크 코펜하겐서 포착… 카메라 든 모습에 '컴백 임박?' [54]	indinews	04.13	5950	16
6348	아이유·변우석 '연기력 논란' 확산… 기대작 '21세기 대군부인'의 예사롭지 않은 출발	indinews	04.13	187	7
6347	서유리 "손 떨리고 마음 무너져"... 검찰 제출용 악플 확인 중 참담한 심경 [1]	indinews	04.13	159	0
6346	방탄소년단 '아리랑', 빌보드 200 3주 연속 1위... K팝 역사상 최초의 대기록	indinews	04.13	71	0
6345	"하루 2천만 원 번다" 안성재 '모수 홍콩' 경이로운 매출 [1]	indinews	04.13	131	0
6344	지예은♥바타 열애 인정... 94년생 동갑내기 '교회 커플' 탄생	indinews	04.13	183	0
6343	'나는 솔로' 18기 영수·영숙, 부부 됐다... 깜짝 결혼 발표	indinews	04.12	109	0
6342	옥주현, 190억 '한남더힐' 매입…BTS 진 제치고 역대 최고가 경신	indinews	04.12	129	0
6341	트와이스 모모, 미국 투어 중 '긴급 발치' 투혼…"공연 위해 치아 포기했다" [4]	indinews	04.12	158	0
6340	살인적 '사커킥' 가하고도 불구속? 姑김창민 감독 사망 사건 주범 신상 공개 [48]	indinews	04.12	3768	24
6339	이효리, 오늘(12일) 부친상 비보…남편 이상순과 슬픔 속 빈소 지켜	indinews	04.12	94	0
6338	배우 경수진, 장기 연애 고백…"7년 만나고 끝내 깨달은 것" [2]	indinews	04.11	274	0
6337	아이유·변우석 '21세기 대군부인', 첫방 시청률 7.8% 폭발…안방극장 압도 [68]	indinews	04.11	3434	16
6336	충주맨 김선태, 100만 골드버튼 거머쥐었다…수익 30% 사회 환원 선언 [3]	indinews	04.11	229	1
6335	빅뱅, 미국 코첼라 무대서 신곡 최초 공개…20주년 월드투어 포문 [45]	indinews	04.11	2733	24
6334	개그맨 이진호, 뇌출혈로 중환자실행…보험료 체납에 병원비 '폭탄' [2]	indinews	04.11	237	0
6333	"그거 성형 후 사진인데?" 김지민, 성형 전 사진 외모 비하 악플러들에게 일침 [1]	indinews	04.10	359	0
6332	"50억 날렸다" 홈런왕 양준혁, 사업 실패로 전 재산 탕진 고백 [92]	indinews	04.10	5663	10
6331	"지각 납부 아니다" 차은우 130억 세금 미스터리, 전문가가 밝힌 반전 실체	indinews	04.10	150	0
6330	"사실 자퇴하고 싶지 않았다" 천재 소년 백강현, 과학고 자퇴 학폭 피해 고백 [188]	indinews	04.10	9393	34
6329	"신중하지 못했다" 곽튜브, 조리원 협찬 논란에 3000만 원 기부	indinews	04.10	192	0
6328	'도박·음주운전 논란' 이진호, 갑작스러운 뇌출혈로 중환자실행… 현재 상태는? [1]	indinews	04.09	240	0
6327	"집유 중 시속 182km 만취 질주" 남태현, 오늘 1심 선고… 실형 피하기 어려울까 [54]	indinews	04.09	4579	35
6326	"성실 장병들 박탈감 크다" 차은우 130억 완납 사과에도 식지 않는 '보직 적정성' 논란 [1]	indinews	04.09	254	3
6325	UFC 옥타곤 달구는 '스털링 vs 잘랄' 확정, 4월 26일 라스베이거스 격돌	indinews	04.08	97	0
6324	'구독자 150만' 김선태의 파급력, 여수 섬 박람회 예산 논란에 불 지폈다 [102]	indinews	04.08	8385	54
6323	유재석이 돌아온다, 6년 만에 부활한 '해피투게더', 이번엔 '음악'으로 승부수 [4]	indinews	04.08	315	1
6322	62만 유튜버 제파, 사망 5일 전 남긴 글 재조명 "평균 수명 50세... 난 벌써 절반" [1]	indinews	04.08	554	0
6321	"밥 대신 '이것' 먹었더니..." 강소라, 20kg 감량 후 요요 없는 진짜 비결	indinews	04.08	203	0
6320	"가식적인 웃음은 없다" 구준엽 처제 서희제, 방송 복귀 현장서 욕설 무슨일? [1]	indinews	04.08	281	1
6319	개그우먼 김지선 가슴 수술 고백, "수술실에서 의사가 기도까지 했다"	indinews	04.08	317	0
6318	"불편했다면 미안"방탄소년단 정국,월드투어 앞두고 심야 라이브 논란 결국 사과 [14]	indinews	04.08	1808	2
6317	가수 김장훈, 기내 흡연 논란 언급 "정신 나간 상태에서 벌인 일" [1]	indinews	04.08	283	1
6316	슈퍼주니어 려욱, 팬 추락 사고에 직접 병문안... "끝까지 책임지겠다" [1]	indinews	04.07	224	0
6315	"지금 갱년기 앓는 중" 이서진, 데뷔 27년차 안타까운 근황 전했다 [13]	indinews	04.07	3985	3