디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

AI 프로젝트의 80%는 실패, '렛서'가 제시하는 구축·운영의 비책은?

IT동아갤로그로 이동합니다. 2025.08.08 15:48:25
조회 8215 추천 1 댓글 3
[IT동아 남시현 기자] 딜로이트 AI 인스티튜트가 매 분기 발간하는 ‘생성형 AI 현황(State of Generative AI)’에 따르면 생성형 AI의 발전 속도는 매우 빠르지만 조직 변화의 속도는 제한적임을 보여준다. AI를 통한 투자수익률은 고무적인 반면 규제와 위험 부담은 커지고 있으며, 에이전트 AI가 등장하고 있지만 여전히 기업들의 AI 도입은 속도를 내지 못하는 것으로 나타났다.

전체 응답 기업 중 74%는 투자수익률(ROI)가 기대치를 충족하거나 초과 달성하고 있다고 답했지만, 51.8%는 ROI 달성에 12개월 이상 걸리는 것으로 나타났다. 응답 기업 대다수는 20개 이하의 실험 또는 개념증명(PoC)을 추진 중이지만, 다음 단계로 나아가는 비중은 30% 정도에 불과했다. 도입에 12개월 이상 소요되는 사례도 목적에 따라 55%에서 최대 70%에 달했다.

AI 도입이 어려운 이유는 개발 환경이나 인력 부족, 신뢰성 및 법적 윤리적 문제, 데이터 확보의 어려움 등으로 제시됐고, 76%의 경영진은 가치 투자가 확보될 때까지 최소 12개월 이상은 기다릴 것이라고 응답했다.


랜드 연구소는 지난해 ‘AI 프로젝트의 80%는 실패한다’는 내용의 보고서를 발표했다 / 출처=제미나이 이미지 생성



그렇다보니 현장의 도입 속도는 여전히 더디다. AI 기업들은 새로운 기술이 도입된 최신 AI 모델을 내놓고 있지만, 이를 활용하는 기업들이 발전 속도를 따라가지 못하고 있다. 사용자 목표를 자율적으로 판단하고 달성하는 AI 에이전트 등이 등장하고 있지만 아직도 LLM 도입조차 고민하는 기업들이 있을 정도다.

즉 현장에서는 디지털 전환이 확실한 소수의 경우를 제외하고는 AI 에이전트는 커녕 챗봇 조차도 제대로 운용하기 어려운 게 현실이다. AI 도입의 필요성을 느끼는 기업, 이를 가공해서 도입을 돕는 기업은 많지만 이를 지속적으로 운영하고 관리하며, 추세에 맞춰 AI를 발전시켜나가는 것이 더 중요한 과제로 떠오르고 있다.

AI 도입률 높다는데, 현장에서는 글쎄··· 이유는?


미국 랜드연구소가 발간한 ‘인공지능 실패의 근본 원인’ 보고서에 따르면 AI 프로젝트 중 80%는 실패하며, 이는 AI를 활용하지 않은 일반 프로젝트 폐기율의 두 배에 달한다. 유독 AI 프로젝트의 실패율이 높은 원인으로는 ▲ 이해관계자들이 AI를 활용해 해결할 문제를 오인하거나 제대로 전달하지 못해 잘못된 모델이 생성되는 경우 ▲AI 모델을 훈련시키기에 적절한 데이터를 확보하지 못함 ▲AI 프로젝트가 실제 문제 해결보다 최신 기술 활용에만 집중하는 경우 ▲인프라 부족 ▲AI가 해결하기에 너무 복잡하고 어려운 문제 제시를 이유로 꼽았다.


일본 어린이 가정청은 지난 2021년부터 23년까지 10억 엔(약 93억 원)을 들여 ‘아이의 일시보호 필요성을 판단하는 AI’를 개발했지만, 5000여 건에 불과한 학습 데이터와 60%에 달하는 판단 오류로 인해 도입이 중단됐다 / 출처=일본 어린이 가정청



운영이 복잡해 유지관리가 어렵다는 점도 AI 프로젝트의 도입 가능성을 저해하는 요인이다. 유지관리의 어려움은 총 세 가지 항목으로 정리할 수 있다. 첫째, 서로 다른 AI들을 통합 운영하기가 어렵다. 각 AI는 입출력 형식, 동작 방식, 인프라가 다르다. AI를 다양하게 도입했을 때 이를 하나의 시스템처럼 유연하게 운영하고 각각의 환경에 대응하게 만드는 게 어렵다.

두 번째는 기술 변화 속도가 빠르고 관리할 지점이 많다. AI 개발 환경에서는 여러 상용 AI들을 조합해서 쓰는 경우가 많다. 여기에 맞는 공급사, API, 비용 정책, 모델별 특성 등 짚어야 할 부분이 많다. 마지막은 내외부 환경 변화에 대한 반응성이다. AI가 학습한 데이터는 시간이 지나면 낡는다. AI의 데이터는 계속 유지보수 및 업데이트가 필요하고, 그렇지 않으면 옛 정보를 계속 활용할 뿐이다. 기업 내부의 조직이나 업무 절차를 고도화하는 것처럼 최신 데이터 등을 주기적으로 반영해야 한다.

AI 프로젝트는 비즈니스 관점 보다는 학술적 시각으로 접근하는 게 맞다. 하지만 정책 결정자나 현장에서 필요로 하는 기능은 비즈니스적 관점이고, AI 개발팀은 이를 학술적 관점으로 접근하는 경우가 많다. AI 프로젝트를 개발하는 것도, 운용하는 것도 모두 난관일 수 밖에 없는 이유다.

‘반짝이는 물건 증후군’ 딛고 AI의 지속가능성 추구해야


랜드연구소 보고서에 응답한 AI 개발자들은 경영진이 AI를 ‘반짝이는 물건 증후군’으로 접근할 수 있음을 지적했다. 반짝이는 물건 증후군은 사람들이 새롭게 유행하는 아이디어에 집중하다가 새로운 게 등장하면 기존 아이디어를 포기하고 새 것에 몰두하는 상황을 말한다. AI가 산업 현장에서 생명력을 얻으려면 기술적 유행에 그치지 않고 지속가능한 AI로 발전시켜야 하며, 이를 위한 장기적인 관리 체계를 구축해야 한다.


세일즈포스는 고객관리관계(CRM) 자체에만 그치지 않고 클라우드, AI, 보안 등으로 생태계를 거듭 확장해 CRM의 지속가능성을 높이고 있다 / 출처=세일즈포스



세일즈포스의 사례가 대표적이다. 세일즈포스는 1999년 업계 최초로 업무용 서비스를 웹으로 제공했으며, 업계에서는 이를 최초의 서비스형 소프트웨어(SaaS)로 본다. 세일즈포스가 30여 년 가까이 고객관계관리(CRM) 업계를 선도할 수 있었던 것은 연 3회 이상의 대규모 업데이트를 통해 서비스를 최신화하고, 시장의 흐름에 따라 CRM은 물론 영업 자동화나 서비스 관리, 마케팅 자동화, 분석 도구, 전자상거래 지원 등으로 서비스를 추가하고 관리한 덕분이다.

앱익스체인지로 서비스 지원과 연동성을 확보한 점, 데이터 클라우드로 AI를 지원한 점도 세일즈포스의 장점이다. 최근에는 시장과 기업이 원한다는 판단 아래 AI CRM 기반 AI 에이전트 '에이전트 포스'까지 도입했다. 이처럼 요구에 맞춰 발전을 거듭하는 점이 세일즈포스의 시장 선도 비결이다.

AI 프로젝트의 지속 가능성을 확보하려면 세일즈포스와 유사한 방식으로 접근할 필요가 있다. 시장의 요구에 맞춰 모델의 데이터를 꾸준히 추가하고 관리하며 미세 조정한다. AI 자체도 꾸준히 변경하고, 바뀐 논리에 맞도록 새로운 운영 정책과 환경을 만든다. 운용 중인 AI의 모니터링과 관리도 철저해야 한다. 즉, 개발 시점부터 운용 과정까지 모두 고려해야 AI 프로젝트의 생존력을 확보한다.

AI 문제에 집중하는 전문 조직도 등장, 어떻게 접근하나?



렛서는 AI 운용에 필요한 교육, 도입 과정 및 개발, 향후 운영까지의 과정 전반을 지원하는 맞춤형 AI 비즈니스 설루션 제공 스타트업이다 / 출처=렛서



AI 도입 설계부터 운용 과정이 복잡한 만큼, 최근 국내에는 이를 전문적으로 지원하는 그룹도 등장하고 있다. 대표적인 사례가 ‘렛서(Letsur)’다. 렛서는 AI 활용 교육에서부터 도입과 기획, 개발 지원은 물론 구축과 운영 전 과정을 지원하는 맞춤형 AI 비즈니스 설루션 스타트업이다. 렛서는 AI 기획 단계부터 참여해 복잡하고 모호한 기업의 AI 요구사항을 전문가 관점으로 구체화한다. AI가 일회성 구축이 아닌 지속가능하게 운영될 수 있도록 AI 운영 플랫폼 스테이엑스(Staix)로 계속 관리한다.


스테이엑스를 활용해 사용자가 손쉽게 AI를 관리하고 활용할 수 있다 / 출처=렛서



스테이엑스는 AI 도입 이후 운영안정성을 담보하는 운영관리 플랫폼이다. AI 운영을 위한 맞춤형 관리 환경을 제공하고, 최신 AI 모듈을 빠르게 적용한다. 보안 및 내부 관리 체계 확보, AI 성능 모니터링 및 최적화 등도 포함된다. 스테이엑스의 핵심 철학은 ‘복잡성의 내재화’다. 기업은 비즈니스 가치를 창출하며, 업무를 혁신하고, 이외의 복잡한 AI의 기술적 이슈까지 모두 파악할 필요는 없다. 이를 위해 렛서가 AI를 구축하고 스테이엑스로 서비스를 운용, 관리하며 사용자 편의를 돕는다.

운영 측면에서도 사용 규모를 가변하는 오토스케일링, 서버 부하를 분산 처리하는 로드밸런싱 등을 통해 AI 서비스가 중단되지 않도록 지원한다. 또한 기업 정책이나 개인정보보호 등 규제 사안을 준수하는 가드레일 기능, 새로운 AI 기술을 안전하게 시범 도입하기 위한 실험 환경 구축 등의 기능으로 안전하고 지속 가능한 AI를 제공한다. 이처럼 시장에서는 AI를 구축하고 마는 게 아닌 장기적 활용과 지속적 업데이트까지 돕는 방안이 자리 잡고 있다.

AI 유지보수 및 관리 플랫폼, AI 개발의 다음 단계 보여줘


아직 국내에서는 렛서처럼 AI 구축부터 유지보수까지 전 과정을 플랫폼으로 관리하는 기업은 드물다. 하지만 IT 업계는 분야를 막론하고 전문적으로 유지보수만 담당하는 기업들이 존재하므로, 그 필요성은 확고하다. 일본의 아베자(ABEJA)는 기계학습 기반 데이터 분석 및 활용·관리 플랫폼을 서비스 중이며, 미국에서도 도미노 데이터 랩(Domino Data Lab), 웨이츠 앤 바이아시스(Weights & Biases) 같은 기업들이 MLOps(기계학습 운영) 플랫폼을 바탕으로 AI 구축 및 유지관리까지 제공하기 시작 했다.


AI는 구축하는 것만으로 끝나지 않는다. 데이터를 업데이트하고 꾸준히 동작을 관리해야 한다 / 출처=제미나이 이미지 생성



AI는 여전히 극복하기 어려운 기술적 한계가 있으며, 모든 프로세스를 자동화할 수 있는 만능 설루션은 아니다. AI로 구축할 수 있는 기획과 이를 활용하기 위한 효율적인 데이터, 그리고 정확한 운용과 꾸준한 고도화가 이뤄져야 비로소 가치를 발휘한다. 이를 위한 전문 인력을 유지하고 데이터를 지속적으로 관리하는 것은 일반 기업에게는 쉽지 않은 일이다.

이를 체계적으로 수행하기 위한 시장의 목소리가 있었기에 렛서와 같은 기업들이 등장했고, 이미 클라우드 업계에서는 CSP(클라우드 서비스 제공자) 기업이 서버를 대신 관리하는 것과 같은 이치다. 이런 이유로 가까운 시일 내에 렛서와 같은 AI 관리 전문 기업들이 확산될 것으로 전망 된다.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [스타트업-ing] 바이버 “전문가 보증으로 신뢰 높인 명품 시계거래 플랫폼”▶ [투자를IT다] 2025년 8월 1주차 IT기업 주요 소식과 시장 전망▶ SKT 에이닷 4.0으로 보는 최근 AI 업계의 추구 방향은?



추천 비추천

1

고정닉 0

2

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 존재만으로도 웃음주는 최고의 '웃수저' 스타는? 운영자 25/08/25 - -
5767 국토·건축 데이터 융합 잠재력 보여준 데이터 혁신 경진대회 IT동아갤로그로 이동합니다. 08.29 64 0
5766 제이디솔루션 “청력보조 스피커 하룬제, 난청자에게 듣는 즐거움 줄 것” IT동아갤로그로 이동합니다. 08.29 75 0
5765 카카오톡 이모티콘 키보드 추천 기능 꼭 필요할까 [3] IT동아갤로그로 이동합니다. 08.29 7979 3
5764 까미노사이더리 “양구 파치 사과로 지역과 사람을 잇습니다” [농업이 IT(잇)다] IT동아갤로그로 이동합니다. 08.29 76 0
5763 [스타트업-ing] 세컨드팀 “AI면접관으로 기업 채용 프로세스 개선” IT동아갤로그로 이동합니다. 08.29 68 0
5762 [퀀텀 스타트업] 10/완. 양자 전쟁시대, 한국의 생존전략은...? IT동아갤로그로 이동합니다. 08.29 101 0
5761 시그마케이 “AI 기반 컴퓨터비전 기술로 중대재해·침수 막는다” [서울과기대 x 글로벌 뉴스] [1] IT동아갤로그로 이동합니다. 08.29 2221 0
5760 건축 조감도에 생성AI 접목한 '플랜바이테크놀로지스' [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 08.28 105 0
5759 [투자를IT다] 2025년 8월 4주차 IT기업 주요 소식과 시장 전망 IT동아갤로그로 이동합니다. 08.28 150 0
5758 아틀로 "감정 나누는 AI 친구 호평, 다음 단계는 로봇 친구” [동국대 캠퍼스타운 2025] [1] IT동아갤로그로 이동합니다. 08.28 6098 2
5757 플리토, '초개인화' 실시간 통역으로 AI·데이터 시장 모두 잡는다 IT동아갤로그로 이동합니다. 08.28 89 0
5756 파마로보틱스 “주사제 자동 조제 로봇으로 병원 업무 환경 혁신할 것” [SBA x IT동아] IT동아갤로그로 이동합니다. 08.28 81 0
5755 이노디테크, 닥터덴트AI 시뮬레이션 서비스 출시···3분 만에 치아교정 계획 완성 IT동아갤로그로 이동합니다. 08.28 78 0
5754 서울미디어페어 케데헌 배리어프리 '누구나 차별 없이 미디어 즐기도록' IT동아갤로그로 이동합니다. 08.28 92 0
5753 포플러플래닛 “맞춤형 AI 언어 교육, 최적의 학습 경로 제시할 것” [동국대 캠퍼스타운 2025] IT동아갤로그로 이동합니다. 08.28 93 0
5752 SGA솔루션즈 “국산 보안, 제로 트러스트 통합 전략으로 승부” IT동아갤로그로 이동합니다. 08.28 84 0
5751 신사유람단 "이옷=AI 스타일리스트, 맞춤형 패션 서비스 제공" [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 08.27 120 0
5750 ‘소형차 전용도로’ 달릴 수 있는 차량 살펴보니 IT동아갤로그로 이동합니다. 08.27 118 0
5749 [주간스타트업동향] 칼렛바이오, 2025 공공구매제품 구매상담회 참가 外 IT동아갤로그로 이동합니다. 08.27 109 0
5748 그룹웨어 시장, 코로나 팬데믹 이어 주 4일제로 더 힘 받나? IT동아갤로그로 이동합니다. 08.27 6178 0
5747 동주, "숨겨진 원석같은 웹툰 작가들, 스피노프로 엮겠다" [SBA x IT동아] IT동아갤로그로 이동합니다. 08.27 108 0
5746 퀀팃 “AI 기반 투자 솔루션으로 국내외 핀테크 시장 공략” [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 08.27 187 0
5745 LG유플러스 “AI로 IPTV 품질 개선…사전에 고장 잡아낸다” IT동아갤로그로 이동합니다. 08.26 162 0
5744 미국 정부가 인텔 최대 주주로...세계 반도체 시장 추이는? IT동아갤로그로 이동합니다. 08.26 214 0
5743 '언리얼 페스트'서 접한 창작 혁신··· 그 중심에 HP 워크스테이션 있었다 IT동아갤로그로 이동합니다. 08.26 142 0
5742 [자동차와 法] 알아두면 유용한 자동차 관련 지원제도 IT동아갤로그로 이동합니다. 08.26 6151 0
5741 [스타트업을 위한 회계·세무] 스타트업 투자 유치 방식, RCPS·CB IT동아갤로그로 이동합니다. 08.26 138 0
5740 가전 플랫폼 전략 살펴보니...삼성은 '확산', LG는 '콘텐츠' IT동아갤로그로 이동합니다. 08.25 233 0
5739 [주간투자동향] 업스테이지, 620억 원 규모 시리즈 B 브릿지 투자 유치 外 IT동아갤로그로 이동합니다. 08.25 228 0
5738 홍관희 LG유플러스 CISO “보안, 투자 규모보다 중요한 건 실행력” [1] IT동아갤로그로 이동합니다. 08.25 2717 0
5737 [투자를IT다] 2025년 8월 3주차 IT기업 주요 소식과 시장 전망 IT동아갤로그로 이동합니다. 08.22 8120 0
5736 [IT's 가성비] 직구 말고 정품도 살만하다? 레노버 아이디어 탭 11 [1] IT동아갤로그로 이동합니다. 08.22 748 0
5735 [서울과기대 x 글로벌 뉴스] 메이크웍스 “중소 건설사 위한 웹캐드 ‘CAD뷰’, 스마트 건설 디지털전환 이끌 것” IT동아갤로그로 이동합니다. 08.22 282 0
5734 [서울과기대 x 글로벌 뉴스] 딥핑소스 “AI 데이터 익명화 기술로 매장 운영 효율 강화” IT동아갤로그로 이동합니다. 08.22 281 0
5733 [동국대 캠퍼스타운 2025] 레저스포츠 진입장벽을 기술로 낮춘 ‘레저디’ IT동아갤로그로 이동합니다. 08.22 269 0
5732 "7년 만에 개선" 카카오톡, 삭제 기능 업데이트…모바일·PC 버전 모두 적용 [11] IT동아갤로그로 이동합니다. 08.22 10565 0
5731 [스타트업-ing] 에임비랩 "고객 피드백 반영한 혁신으로 축산업 디지털 전환 이끌 것" IT동아갤로그로 이동합니다. 08.21 313 0
5730 [서울과기대 x 글로벌 뉴스] "전략적인 해외 진출 가능" 지미션, AX 혁신 솔루션으로 주목 IT동아갤로그로 이동합니다. 08.21 283 0
5729 V6 PHEV 스페셜 모델 ‘페라리 296 스페치알레’ 출시…’880마력 성능 발휘’ IT동아갤로그로 이동합니다. 08.21 287 0
5728 드리미, 스스로 물걸레 골라 쓰는 로봇청소기로 '눈길' IT동아갤로그로 이동합니다. 08.21 307 0
5727 리벨리온·레드햇, 국내 첫 vLLM 밋업 개최··· "AI 위한 공동의 협력에 기여" IT동아갤로그로 이동합니다. 08.21 267 0
5726 ‘온-디바이스’ 인공지능 강조한 구글 픽셀 10, 스마트 기기 경쟁 구도 바꿀까? IT동아갤로그로 이동합니다. 08.21 335 0
5725 [동국대 캠퍼스타운 2025] 키라앤컴퍼니 “금융 초보자를 위한 머니케어 설루션 될 것” IT동아갤로그로 이동합니다. 08.21 250 0
5724 [IT 신상공개] 구글 픽셀 10 프로 폴드, 경쟁 폴더블 스마트폰 대비 매력은? [7] IT동아갤로그로 이동합니다. 08.21 7869 1
5723 예스24 사태로 보는 랜섬웨어 감염 시 몸값 주면 안 되는 이유 IT동아갤로그로 이동합니다. 08.21 263 0
5722 이노디테크, 닥터덴트AI로 국산 AI반도체 상용화 실증 나선다 IT동아갤로그로 이동합니다. 08.21 232 0
5721 글로벌 가전 브랜드 ‘모바’, 한국에서도 사용한다 IT동아갤로그로 이동합니다. 08.20 265 0
5720 [르포] 서울 한복판에서 체험하는 항공기 1등석...'에미레이트 항공 트래블스토어' IT동아갤로그로 이동합니다. 08.20 265 0
5719 [서울과기대 x 글로벌 뉴스] 윤회주식회사 “디지털 제품 여권(DPP) 솔루션 ‘CARE ID’, 옷의 삶을 기록합니다” IT동아갤로그로 이동합니다. 08.20 253 0
5718 [ETF Q&A] 레버리지 ETF는 어떻게 활용하면 좋을까요? IT동아갤로그로 이동합니다. 08.20 8546 0
뉴스 싸이, 수면제 대리 수령 논란... 소속사 "명백한 과오" 디시트렌드 08.29
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2