300여명의 AI 관계자들이 참석한 이번 컨퍼런스에는 딥엑스, 노타AI, 케이투스, 슈퍼마이크로, 텐AI, 바스트데이터 등 국내외 AI 기업들이 참여해 기술과 제품을 선보였다. 또 각 사의 제품과 기술로 어떻게 AI를 구현할 수 있는지 발표가 이어졌다.

행사 종료 후 주요 관계자들이 기념촬영을 하고 있다.

대원씨티에스 엔터프라이즈 부문 김광정 대표는 환영사를 통해 “기업들에 저장되어 있는 데이터들은 가공되기 전의 다이아몬드 원석과 같다. 이것을 새로운 밸류로 만들어 줄 수 있는 것이 바로 AI이고 사람과 사물 사이의 관계를 이어줄 수 있는 것이 넥서스”라면서 “NPU, GPU, TPU, DPU 등 다양한 형태의 프로세싱 유닛(XPU)을 사용할 수 있는 하나의 플랫폼이 다이아 넥서스 플랫폼이고 이를 구현할 수 있도록 인프라에서부터 온디바이스AI까지 제공한다는 게 대원씨티에스의 목표”라고 말했다.

대원씨티에스는 엣지용 AI 반도체 기업 딥엑스와의 협력을 통해 엣지 AI까지 확장된 인프라를 제공하고 있다. 딥엑스 박영섭 전략마케팅 이사는 “자율주행차를 비롯해서 초개인화, 데이터 보안, ESG, TCO 절감 등에서 온디바이스 AI가 매우 중요해졌다”면서 “딥엑스의 미션은 모든 기기에 필요한 AI칩을 만드는 것이고 대원씨티에스와 함께 다양한 솔루션을 만들어 나가겠다”고 전했다. 

노타AI는 온디바이스 AI 개발을 하기 위한 자동화 플랫폼 넷츠프레소와 노타ITS, 노타DMS 솔루션을 제공하고 있는데 NPU 기반의 지능형 알고리즘을 대원씨티에스와 협력 중이다. 노타AI 양석열 이사는 “온디바이스 AI를 개발하기 위한 모델 학습, 경량화, 프레임워크 변환, 벤치마크 등을 하나로 할 수 있는 통합 개발 플랫폼을 제공할 것”이라고 밝혔다.

케이투스 김준 부장은 엔드투엔드 AI 솔루션을 소개하면서 “인프라의 포트폴리오를 통해 엣지단에서 데이터센터까지 AI 플랫폼을 제공하고 있다”고 말했다. 케이투스는 GPU 리소스 스케줄링과 오케스트레이션을 지원해 인스턴스의 분할과 컴퓨팅 리소스의 활용률 극대화를 돕는 솔루션인 모투스AI를 제공하고 있으며 엣지AI와 NPU가 부각되는 상황에 딥엑스 및 노타AI와의 협업을 진행하고 있다.

슈퍼마이크로 김세진 필드애플리케이션엔지니어(FAE)는 3가지 방식의 데이터센터 쿨링시스템을 소개하면서 “GPU 성능이 업그레이드될수록 전력 소비량은 증가할 수밖에 없는데 리퀴드 쿨링 방식이 가장 많이 판매되고 있고 엔비디아, 인텔, AMD 등 다양한 GPU의 납품이 가능하다”고 전했다.

AI 인프라 기업 텐의 오세진 대표는 “AI를 구현하기 위해서는 인력과 데이터, 인프라가 필요한데 인프라는 비용과 직결되어 해결하기 쉽지 않고 인프라 자원의 효율화가 가장 필수 요소”라고 진단하면서 “효율적인 AI 인프라 구성 및 사용을 위한 도구를 통합적으로 제공함은 물론 모델 학습을 위해 GPU 자원 가동률을 최대화하고 모델 운영을 위해 GPU 사용을 최소화하면서도 비용을 절감하고 운영 품질을 확보할 수 있는 솔루션을 제공하겠다”고 말했다.

지난 5월 바스트데이터와도 총판 계약을 체결한 대원씨티에스는 바스트데이터와의 협업도 강조했다. 대원씨티에스 고영준 팀장은 “AI 핵심 인프라 중 데이터 스토리지는 매우 중요한데 상호 연결되면서 자원을 자유롭게 분산할 수 있는 새로운 패러다임으로 하이퍼스케일 AI 환경이 대두된다”면서 “바스트데이터가 인프라 확장의 유연성, 고성능 컴퓨팅, 데이터 관리와 보안 등을 지원해준다”고 강조했다.

마지막으로 무대에 오른 대원씨티에스 김성태 상무는 이번에 처음으로 개최된 다이아 넥서스 서밋이 AI 비즈니스를 해나가는 데 있어 자신감을 보여주는 자리이고 각 협력사 간 연결성이 매우 중요함을 거듭 강조했다. 이어진 케이투스 GPU 서버와 Gemini 등을 이용한 데모에서는 대원씨티에스에서 구축하고 있는 Hybrid, Public 및 Private sLLM 사례를 통해 환각 현상 제거와 사내 CRM 데이터를 이용한 sLLM 구축 실체를 시연했다.

“학습과 추론, 데이터센터와 엣지, 소프트웨어 서비스, 하드웨어 구축 등을 위해 연결성은 매우 중요하다”면서 “협력사와의 광범위한 연결성을 통해 End-to-End AI 인프라 솔루션을 모두 구축해줄 수 있는 유일한 기업”이라고 밝혔다.

 
<ansonny@reviewtimes.co.kr>
<저작권자 ⓒ리뷰타임스, 무단전재 및 재배포 금지〉

review_times