기업들 AI에 200조 원 쏟아붓지만 '신뢰·데이터·직원 교육' 문제 여전

aimatters · 2026.02.02 15:05:35

세일즈포스(Salesforce)가 발표한 보고서에 따르면, 전 세계 기업들이 AI 챗봇 같은 생성형 AI에 막대한 돈을 투자하고 있지만, 정작 사람들의 신뢰는 낮고 데이터 관리는 엉망이며 직원 교육은 거의 이뤄지지 않는 것으로 나타났다. 특히 직원 절반 이상이 회사 허락도 없이 AI 프로그램을 몰래 사용하고 있어 보안 문제가 심각한 상황이다.

2027년까지 AI 투자 매년 70%씩 늘어... 1,400억 달러 규모로 폭증

시장조사 기관 IDC에 따르면, 기업들은 2023년에 AI 챗봇 같은 생성형 AI에 160억 달러(약 23조 원)를 썼다. 2027년에는 이 금액이 1,400억 달러(약 204조 원)로 늘어날 전망이다. 매년 평균 70%씩 투자가 급증하는 셈이다.

왜 이렇게 투자가 늘어날까? 기업 임원들이 불안하기 때문이다. 마케팅 부서의 88%, 영업 부서의 78%, 고객 서비스 부서의 73%가 "우리 회사가 AI를 제대로 못 쓰면 경쟁에서 뒤처질까 봐 두렵다"고 답했다. 과거 인터넷이나 클라우드를 늦게 도입했다가 망한 회사들처럼 되지 않으려는 위기감이 크다.

특히 젊은 층이 AI 사용을 주도하고 있다. Z세대(20대 초중반)의 70%, 밀레니얼 세대(30대)의 63%가 AI 챗봇을 써본 경험이 있다고 답했다. 반면 X세대(40~50대)는 44%, 베이비붐 세대(60대 이상)는 23%만 사용 경험이 있었다. 2023년 말 기준 전체 인구의 절반이 최소 한 번은 AI를 사용해봤으며, 52%는 "사용 횟수가 늘고 있다"고 답했다.

"AI 믿을 수 없다" 74%... 완전히 신뢰하는 사람은 10%뿐

AI가 빠르게 퍼지고 있지만 사람들의 신뢰는 여전히 낮다. 전체 인구의 74%가 "AI가 나쁜 목적으로 사용될까 봐 걱정된다"고 답했고, 63%는 "AI가 특정 집단에 편향된 답변을 할까 봐 우려된다"고 했다. 더 심각한 건 AI를 통해 중요한 결정을 내릴 때 "완전히 믿을 수 있다"고 답한 사람이 단 10%밖에 안 된다는 점이다.

재미있는 건 세대별로 AI에 대한 감정이 다르다는 것이다. Z세대와 밀레니얼 세대는 AI에 대해 '궁금함', '희망', '기대감'을 주로 느낀다. 반면 X세대와 베이비붐 세대는 '의심', '불안', '두려움'을 더 많이 느꼈다. 특히 베이비붐 세대는 AI가 무서운 기술이라고 생각했다. 전체 인구의 88%가 "AI가 내 삶을 어떻게 바꿀지 잘 모르겠다"고 답했다.

그렇다면 어떻게 해야 사람들이 AI를 신뢰할까? 소비자들은 "AI를 어떻게 쓰는지 투명하게 알려주기"(57%), "AI가 만든 결과를 사람이 다시 확인하기"(52%), "고객이 AI 사용 여부를 직접 선택하게 하기"(49%) 등을 중요하다고 답했다. 또 64%는 "AI가 안전하다고 확신하면 더 자주 쓸 것"이라고 했다.

세일즈포스의 윤리 책임자 폴라 골드만(Paula Goldman)은 "기업 AI가 성공하려면 신뢰가 가장 중요하다"며 "데이터 보안, 개인정보 보호, 안전하고 윤리적인 기준이 필요하다"고 강조했다.

회사 데이터 관리 엉망... 59%는 "통합 계획 없음", 95%는 "이 문제로 AI 도입 늦어져"

AI가 제대로 작동하려면 좋은 데이터가 필수다. 하지만 많은 회사들이 데이터 관리에 어려움을 겪고 있다. 분석 및 IT 담당자의 86%가 "AI는 좋은 데이터를 넣어야 좋은 결과가 나온다"고 답했고, 87%는 "AI 때문에 데이터 관리가 더 중요해졌다"고 했다.

하지만 현실은 녹록지 않다. 전체 회사의 59%가 "회사 전체 데이터를 통합해서 관리하는 계획이 없다"고 답했다. IT 담당자의 95%는 "데이터가 여기저기 흩어져 있어서 AI 도입이 늦어지고 있다"고 했다. 상황을 더 어렵게 만드는 건 회사 데이터가 매년 23%씩 늘어나고 있고, 이 데이터가 평균 991개의 다른 프로그램에 나눠져 있다는 점이다.

회사에서 AI를 쓰는 직원 중 56%가 "AI한테 물어봐도 원하는 답을 못 얻는다"고 했고, 54%는 "AI가 쓰는 데이터를 믿을 수 없다"고 답했다. 자신이 관리하는 데이터를 완전히 신뢰한다는 응답은 데이터 분석 부서에서도 57%에 불과했다. IT 부서 53%, 마케팅 부서 45%, 영업 부서 42%, 고객 서비스 부서 40% 순이었다.

데이터 관리를 잘하는 회사는 AI 활용도 훨씬 수월했다. 데이터 관리 수준이 높은 회사는 데이터 품질(59%), 기술 시스템(57%), AI 전략(56%)이 우수하다고 평가한 반면, 데이터 관리가 부족한 회사는 각각 30%, 36%, 32%에 그쳤다. 데이터 관리를 잘하는 회사는 그렇지 않은 회사보다 AI에 필요한 좋은 데이터를 가질 확률이 두 배 높았다.

한편, 회사들이 AI 프로그램을 선택할 때는 여러 개를 함께 쓰는 추세다. AI를 쓰는 회사의 80%가 이미 여러 AI 프로그램을 동시에 사용하고 있으며, 69%는 "앞으로 더 다양한 AI를 쓸 것"이라고 답했다. 새로운 방식인 "검색 증강 생성(AI가 회사 자료를 참고해서 더 정확하게 답하는 기술)"은 IT 담당자의 87%가 긍정적으로 평가했다.

고객센터 49%, 영업팀 41% AI 완전 도입... 부서마다 활용법 다양

회사 곳곳에서 AI 도입이 빠르게 진행되고 있다. 고객 서비스 부서의 49%가 AI를 완전히 쓰고 있으며, 30%가 시험 중이다. 서비스 부서의 84%는 내년에 AI 투자를 늘릴 계획이다. 주로 고객 문의 자동 답변, 안내 자료 작성, 고객 데이터 분석에 AI를 활용한다. 걱정되는 점은 보안 위험, 사람의 창의성 감소, AI가 상황을 제대로 이해 못 하는 것 등이었다.

마케팅 부서의 32%가 AI를 완전히 쓰고 있고, 43%가 시험 중이다. 마케터들은 AI 도입을 최우선 과제로 보면서도 가장 어려운 일이라고도 생각한다. 광고 효과 분석, 콘텐츠 제작, 고객 응대 자동화에 주로 쓴다. 걱정되는 건 데이터 유출, 필요한 데이터 부족, 전략이나 활용법 부족 등이었다.

영업 부서의 41%가 AI를 완전히 쓰고 있고, 40%가 시험 중이다. 영업 조직의 79%가 내년에 AI를 도입할 계획이다. 고객 이메일 초안 작성, 판매 예측, 영업 보고서 작성에 주로 활용한다. 걱정되는 건 보안 문제, 직원 교육 부족, 고객이 AI를 믿지 않는 것 등이었다.

온라인 쇼핑몰 부서의 29%가 AI를 완전히 쓰고 있고, 48%가 시험 중이다. 제품 설명 글 작성, 상품 판매 최적화, 판매 채널 전략에 주로 활용한다. 걱정되는 건 명확한 AI 전략 부족, 직원 기술 부족, 보안과 신뢰 문제였다. 세일즈포스 쇼핑몰 서비스에서는 2023년 3분기에 AI가 주문의 17%에 영향을 미쳤다.

IT 부서의 86%는 "AI가 곧 우리 회사에서 중요한 역할을 할 것"이라고 믿지만, 12%만이 "AI 관련 요청을 다 처리할 수 있다"고 답했다. IT 담당자의 62%는 "AI가 내 직업에 어떤 영향을 줄지 걱정된다"고 했다. IT 담당자들은 비즈니스에서 AI 활용법(54%), 회사에 AI 도입하는 방법(50%), AI 업체 선택(48%), 업무에 AI 잘 쓰는 법(48%) 등에 대한 전문성이 부족하다고 평가했다.

직원 55%가 회사 몰래 AI 사용, 69%는 교육 한 번도 안 받아... 보안 구멍 뻥뻥

AI 시대에 맞춰 직원들의 능력을 키우는 게 급한 과제로 떠올랐다. 사무직 직원의 56%가 "AI가 내 일하는 방식을 바꿀 것"이라고 믿으며, 62%는 "AI를 제대로 쓸 능력이 없다"고 생각한다. 41%는 "취직하려고 AI 잘 쓴다고 거짓말할 수도 있다"고 답했다.

하지만 회사들의 대응은 매우 부족하다. 사무직 직원의 67%가 "회사가 AI 교육을 해줄 거라고 기대"하지만, 실제로 교육을 받아본 사람은 31%에 불과했다. 69%는 "AI 교육을 한 번도 받지 못했다"고 답했다. 21%만이 "회사가 AI 사용 규칙을 명확하게 알려줬다"고 답했다.

이런 규칙 부재는 심각한 문제를 낳고 있다. 업무용으로 AI를 쓰는 직원의 55%가 "회사가 허락하지 않은 AI 프로그램을 몰래 사용했다"고 답했고, 40%는 "회사가 명확히 금지한 AI를 써봤다"고 했다. 직원들은 "회사가 승인한 AI 프로그램과 사용 규칙이 가장 중요하다"고 답했지만, 회사가 이를 제공했다는 응답은 21%뿐이었다.

세일즈포스의 인사 담당 선임 이사 로리 미들허스트(Lori Middlehurst)는 "직원들은 허락 여부와 관계없이 어떻게든 AI를 쓸 것"이라며 "회사가 안전한 범위 안에서 직원들이 AI를 자유롭게 실험할 수 있도록 혁신적인 문화를 만드는 게 중요하다"고 말했다.

한편, 시장조사 기관 IDC는 2022년부터 2028년까지 AI로 인해 새로 생기는 일자리가 1,160만 개에 이를 것으로 예상해 AI가 일자리를 빼앗을 것이라는 우려를 일부 해소했다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. 생성형 AI가 뭔가요? 왜 회사들이 이렇게 많은 돈을 쓰나요?

A. 생성형 AI는 챗GPT처럼 질문하면 답변을 만들어주거나, 글이나 그림을 자동으로 만들어주는 AI 기술입니다. 2022년 챗GPT가 나온 후 폭발적으로 성장했습니다. 회사들은 직원들의 반복적인 일을 자동화하고 일 처리 속도를 높이려고 2027년까지 매년 70%씩 투자를 늘릴 계획입니다. 주로 고객 문의 자동 답변, 홍보 글 작성, 데이터 분석 등에 활용합니다.

Q2. AI를 안전하게 쓰려면 회사가 뭘 준비해야 하나요?

A. 가장 중요한 건 데이터를 잘 관리하는 것입니다. 전체 회사의 59%가 회사 전체 데이터를 하나로 묶어서 관리하는 계획이 없어서 AI 도입에 어려움을 겪고 있습니다. 또 직원들에게 명확한 사용 규칙과 교육을 제공해야 합니다. 데이터 보안과 개인정보 보호 시스템도 갖춰야 합니다. 현재 직원 절반 이상이 회사 허락 없이 AI를 몰래 쓰고 있어서 체계적인 규칙 만들기가 급합니다.

Q3. AI가 제 일자리를 빼앗나요?

A. IDC 전망에 따르면 AI는 2022년부터 2028년까지 오히려 1,160만 개의 새 일자리를 만들 것으로 예상됩니다. 다만 일하는 방식은 바뀔 것입니다. 사무직 직원의 56%가 AI로 인해 일하는 방식이 달라질 거라고 예상하며, 80%는 AI가 일 처리 속도를 높였다고 답했습니다. 단순 반복 작업은 자동화되고 더 전략적이고 창의적인 일에 집중할 수 있게 될 전망입니다.

기사에 인용된 리포트 원문은 세일즈포스에서 확인 가능하다.

리포트명: CRM을 위한 AI 트렌드 리포트

이미지 출처: CRM을 위한 AI 트렌드 리포트

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.

인기 기사

번호	제목	글쓴이	작성일	조회	추천
설문	예능과 잘 맞지 않는 것 같은 스타는?	운영자	26/03/16	-	-
2214	"오픈AI도 앤트로픽도 아니다", 기업 AI 시장을 가장 야심차게 노리는 회사는?	aimatters	11:57	3	0
2213	'PUBG 만든' 크래프톤, 진짜 총 만든다…한화에어로스페이스와 방산 AI 동맹	aimatters	11:57	2	0
2212	글로벌 AI 회사들의 명암들... 오픈AI 군사작전 투입 논란∙그록은 아동 성착취물 소송 직면	aimatters	11:57	3	0
2211	펜타곤, AI 기업에 기밀 데이터 학습 허용 검토 중	aimatters	11:57	3	0
2210	AI 코딩 도구 써도 보안 취약점은 그대로, 결국 중요한 건 개발자 경험	aimatters	11:57	4	0
2209	트랜스포머 시대의 균열… 맘바 3, 언어 모델링 정확도 최대 4% 앞섰다	aimatters	11:57	2	0
2208	"챗GPT야, 우리 강아지 좀 살려줘"… AI로 세계 최초 반려견 암 백신 만든 남자	aimatters	11:57	3	0
2207	AI가 유방암 검진 의사를 대체할 수 있을까, 5만 명 임상 연구가 답했다	aimatters	11:57	2	0
2206	AI 군사 활용 논란, 오픈AI·구글 직원 1000명이 반기를 들었다	aimatters	11:57	3	0
2205	AI 창작자라면 주목…2026년 상반기 AI 공모전 총정리	aimatters	03.17	31	0
2204	"내 얼굴로 AI 아바타를?"…런웨이, 대화형 AI 캐릭터의 빛과 그림자를 직접 고백하다	aimatters	03.17	16	0
2203	뉴스 기사 260만 건을 데이터로…구글, 제미나이로 홍수 예측 정확도 높인다	aimatters	03.17	13	0
2202	BMW, 유럽 공장에 휴머노이드 로봇 첫 투입, 독일 라이프치히가 시험대 됐다	aimatters	03.17	11	0
2201	젠슨 황, SAP 센터 무대 올랐다…GTC 2026, AI 업계 최대 행사 개막	aimatters	03.17	611	0
2200	오픈AI, GPT-5.4 출시…100만 토큰에 툴 서치까지	aimatters	03.17	10	0
2199	알리바바 9B 모델, 오픈AI 120B를 이겼다	aimatters	03.17	15	0
2198	생성형 AI는 어떻게 예술을 집어삼켰나, 모든 건 지나치게 단순해지고 있다	aimatters	03.17	15	0
2197	AI끼리만 대화하면 안전성이 사라진다, 몰트북 커뮤니티의 삼각 딜레마	aimatters	03.17	15	0
2196	이미지 하나로 AI 편집 모델을 해킹한다, 텍스트 없는 탈옥 공격의 등장	aimatters	03.17	10	0
2195	챗GPT가 스스로를 복사하기 시작했다, 인터넷 오염이 부른 AI 자기수렴 현상	aimatters	03.16	108	0
2194	얼굴 하나로 감정, 음주, 졸음까지 읽는다, AI 단일 네트워크의 등장 [4]	aimatters	03.16	968	2
2193	AI가 AWS 클라우드 해킹을 탐지, RAG 기술이 보안 정확도를 70% 끌어올렸다	aimatters	03.16	26	0
2192	"AI를 고용하는 시대 왔다"…젠스파크, 워크스페이스 3.0 공개·ARR 2억 달러 돌파	aimatters	03.16	36	0
2191	애피어 "AI가 마케팅을 직접 실행한다"	aimatters	03.16	24	0
2190	앤트로픽이 1억 달러를 쏟아붓는 이유, 클로드를 기업 AI 표준으로 만든다	aimatters	03.16	30	0
2189	머스크 "xAI, 애초에 잘못 만들었다"…코딩 툴 폐기하고 커서 임원 영입 [17]	aimatters	03.16	2441	4
2188	"AI 활용 거부는 전략적 공백"…팔란티어 CEO, 앤트로픽의 국방부 거부에 직격탄	aimatters	03.16	35	0
2187	"TSMC 70% 수준 생산한다"…테슬라 테라팹, AI 반도체 판을 바꿀까	aimatters	03.16	92	0
2186	"사람을 그려줘"라고 했을 뿐인데, AI는 왜 항상 백인 얼굴을 만들어낼까 [3]	aimatters	03.13	141	1
2185	AI가 자신의 실수를 알면서도 고치지 못하는 이유	aimatters	03.13	50	1
2184	컴퓨터공학과 학생들은 챗GPT를 어떻게 쓰고 있을까 [1]	aimatters	03.13	69	1
2183	"회의록보다 AI한테 묻는 게 더 편해진 직장인들"	aimatters	03.13	84	0
2182	텍스트·이미지·영상·음성을 단일 공간 처리…구글, 제미나이 임베딩 2 출시	aimatters	03.13	32	0
2181	"엔비디아 없어도 돼"…메타(Meta), 2년 안에 자체 AI 칩 4종 쏟아낸다	aimatters	03.13	44	0
2180	메타(Meta), '몰트북(Moltbook)' 전격 인수	aimatters	03.13	44	0
2179	FIFA, 2026 월드컵 AI로 심판·판정·운영 싹 바꾼다	aimatters	03.13	24	0
2178	변호사 5만 명이 선택한 AI 법률 플랫폼, 기업가치 6조 원 돌파	aimatters	03.13	32	0
2177	AI가 스마트 계약 보안을 완전히 대체할 수 없다는 연구 결과가 나왔다	aimatters	03.12	28	0
2176	AI가 세계 최고 물리올림피아드에서 처음으로 만점을 받았다	aimatters	03.12	39	0
2175	엔비디아, AI 에이전트용 모델 '네모트론 3 슈퍼' 공개…속도 5배↑ 비용은 줄였다	aimatters	03.12	54	0
2174	"이보다 쉬운 설명, 이보다 깊은 통찰은 없다"… 박태웅의 AI 강의 2026, AI 격변의 현재를 해부하다	aimatters	03.12	27	0
2173	글로벌 기업 83%가 지속가능성 투자를 늘리는 진짜 이유는 AI였다	aimatters	03.12	18	0
2172	"AI 때문에 자를 수밖에 없었다"…아틀라시안, 직원 1,600명 해고	aimatters	03.12	40	0
2171	챗GPT보다 4년 먼저 에이전트 출시…젠데스크, AI 고객 서비스 스타트업 포어소트 인수	aimatters	03.12	20	0
2170	벤 애플렉의 AI 영화 후반 작업 스타트업, 넷플릭스가 6억 달러에 샀다	aimatters	03.12	32	0
2169	미국 10대 64%가 AI 챗봇을 쓰는 시대, 부모 10명 중 3명은 사실조차 모른다 [3]	aimatters	03.11	1346	4
2168	챗GPT가 스택 오버플로를 오염시키고 있다, AI가 AI를 잡아낸다	aimatters	03.11	62	0
2167	AI가 해커보다 먼저 움직인다, CISO들이 선택한 생존 전략	aimatters	03.11	36	0
2166	아마존, 헬스케어 AI 어시스턴트 전면 개방…프라임 회원 아니어도 무료 이용	aimatters	03.11	24	0
2165	포켓몬 고가 배달 로봇의 눈이 됐다…나이언틱의 AI 지도 혁명	aimatters	03.11	40	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[AI 매터스 갤러리]

갤러리 본문 영역

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘