기업들 AI에 200조 원 쏟아붓지만 '신뢰·데이터·직원 교육' 문제 여전

aimatters · 2026.02.02 15:05:35

세일즈포스(Salesforce)가 발표한 보고서에 따르면, 전 세계 기업들이 AI 챗봇 같은 생성형 AI에 막대한 돈을 투자하고 있지만, 정작 사람들의 신뢰는 낮고 데이터 관리는 엉망이며 직원 교육은 거의 이뤄지지 않는 것으로 나타났다. 특히 직원 절반 이상이 회사 허락도 없이 AI 프로그램을 몰래 사용하고 있어 보안 문제가 심각한 상황이다.

2027년까지 AI 투자 매년 70%씩 늘어... 1,400억 달러 규모로 폭증

시장조사 기관 IDC에 따르면, 기업들은 2023년에 AI 챗봇 같은 생성형 AI에 160억 달러(약 23조 원)를 썼다. 2027년에는 이 금액이 1,400억 달러(약 204조 원)로 늘어날 전망이다. 매년 평균 70%씩 투자가 급증하는 셈이다.

왜 이렇게 투자가 늘어날까? 기업 임원들이 불안하기 때문이다. 마케팅 부서의 88%, 영업 부서의 78%, 고객 서비스 부서의 73%가 "우리 회사가 AI를 제대로 못 쓰면 경쟁에서 뒤처질까 봐 두렵다"고 답했다. 과거 인터넷이나 클라우드를 늦게 도입했다가 망한 회사들처럼 되지 않으려는 위기감이 크다.

특히 젊은 층이 AI 사용을 주도하고 있다. Z세대(20대 초중반)의 70%, 밀레니얼 세대(30대)의 63%가 AI 챗봇을 써본 경험이 있다고 답했다. 반면 X세대(40~50대)는 44%, 베이비붐 세대(60대 이상)는 23%만 사용 경험이 있었다. 2023년 말 기준 전체 인구의 절반이 최소 한 번은 AI를 사용해봤으며, 52%는 "사용 횟수가 늘고 있다"고 답했다.

"AI 믿을 수 없다" 74%... 완전히 신뢰하는 사람은 10%뿐

AI가 빠르게 퍼지고 있지만 사람들의 신뢰는 여전히 낮다. 전체 인구의 74%가 "AI가 나쁜 목적으로 사용될까 봐 걱정된다"고 답했고, 63%는 "AI가 특정 집단에 편향된 답변을 할까 봐 우려된다"고 했다. 더 심각한 건 AI를 통해 중요한 결정을 내릴 때 "완전히 믿을 수 있다"고 답한 사람이 단 10%밖에 안 된다는 점이다.

재미있는 건 세대별로 AI에 대한 감정이 다르다는 것이다. Z세대와 밀레니얼 세대는 AI에 대해 '궁금함', '희망', '기대감'을 주로 느낀다. 반면 X세대와 베이비붐 세대는 '의심', '불안', '두려움'을 더 많이 느꼈다. 특히 베이비붐 세대는 AI가 무서운 기술이라고 생각했다. 전체 인구의 88%가 "AI가 내 삶을 어떻게 바꿀지 잘 모르겠다"고 답했다.

그렇다면 어떻게 해야 사람들이 AI를 신뢰할까? 소비자들은 "AI를 어떻게 쓰는지 투명하게 알려주기"(57%), "AI가 만든 결과를 사람이 다시 확인하기"(52%), "고객이 AI 사용 여부를 직접 선택하게 하기"(49%) 등을 중요하다고 답했다. 또 64%는 "AI가 안전하다고 확신하면 더 자주 쓸 것"이라고 했다.

세일즈포스의 윤리 책임자 폴라 골드만(Paula Goldman)은 "기업 AI가 성공하려면 신뢰가 가장 중요하다"며 "데이터 보안, 개인정보 보호, 안전하고 윤리적인 기준이 필요하다"고 강조했다.

회사 데이터 관리 엉망... 59%는 "통합 계획 없음", 95%는 "이 문제로 AI 도입 늦어져"

AI가 제대로 작동하려면 좋은 데이터가 필수다. 하지만 많은 회사들이 데이터 관리에 어려움을 겪고 있다. 분석 및 IT 담당자의 86%가 "AI는 좋은 데이터를 넣어야 좋은 결과가 나온다"고 답했고, 87%는 "AI 때문에 데이터 관리가 더 중요해졌다"고 했다.

하지만 현실은 녹록지 않다. 전체 회사의 59%가 "회사 전체 데이터를 통합해서 관리하는 계획이 없다"고 답했다. IT 담당자의 95%는 "데이터가 여기저기 흩어져 있어서 AI 도입이 늦어지고 있다"고 했다. 상황을 더 어렵게 만드는 건 회사 데이터가 매년 23%씩 늘어나고 있고, 이 데이터가 평균 991개의 다른 프로그램에 나눠져 있다는 점이다.

회사에서 AI를 쓰는 직원 중 56%가 "AI한테 물어봐도 원하는 답을 못 얻는다"고 했고, 54%는 "AI가 쓰는 데이터를 믿을 수 없다"고 답했다. 자신이 관리하는 데이터를 완전히 신뢰한다는 응답은 데이터 분석 부서에서도 57%에 불과했다. IT 부서 53%, 마케팅 부서 45%, 영업 부서 42%, 고객 서비스 부서 40% 순이었다.

데이터 관리를 잘하는 회사는 AI 활용도 훨씬 수월했다. 데이터 관리 수준이 높은 회사는 데이터 품질(59%), 기술 시스템(57%), AI 전략(56%)이 우수하다고 평가한 반면, 데이터 관리가 부족한 회사는 각각 30%, 36%, 32%에 그쳤다. 데이터 관리를 잘하는 회사는 그렇지 않은 회사보다 AI에 필요한 좋은 데이터를 가질 확률이 두 배 높았다.

한편, 회사들이 AI 프로그램을 선택할 때는 여러 개를 함께 쓰는 추세다. AI를 쓰는 회사의 80%가 이미 여러 AI 프로그램을 동시에 사용하고 있으며, 69%는 "앞으로 더 다양한 AI를 쓸 것"이라고 답했다. 새로운 방식인 "검색 증강 생성(AI가 회사 자료를 참고해서 더 정확하게 답하는 기술)"은 IT 담당자의 87%가 긍정적으로 평가했다.

고객센터 49%, 영업팀 41% AI 완전 도입... 부서마다 활용법 다양

회사 곳곳에서 AI 도입이 빠르게 진행되고 있다. 고객 서비스 부서의 49%가 AI를 완전히 쓰고 있으며, 30%가 시험 중이다. 서비스 부서의 84%는 내년에 AI 투자를 늘릴 계획이다. 주로 고객 문의 자동 답변, 안내 자료 작성, 고객 데이터 분석에 AI를 활용한다. 걱정되는 점은 보안 위험, 사람의 창의성 감소, AI가 상황을 제대로 이해 못 하는 것 등이었다.

마케팅 부서의 32%가 AI를 완전히 쓰고 있고, 43%가 시험 중이다. 마케터들은 AI 도입을 최우선 과제로 보면서도 가장 어려운 일이라고도 생각한다. 광고 효과 분석, 콘텐츠 제작, 고객 응대 자동화에 주로 쓴다. 걱정되는 건 데이터 유출, 필요한 데이터 부족, 전략이나 활용법 부족 등이었다.

영업 부서의 41%가 AI를 완전히 쓰고 있고, 40%가 시험 중이다. 영업 조직의 79%가 내년에 AI를 도입할 계획이다. 고객 이메일 초안 작성, 판매 예측, 영업 보고서 작성에 주로 활용한다. 걱정되는 건 보안 문제, 직원 교육 부족, 고객이 AI를 믿지 않는 것 등이었다.

온라인 쇼핑몰 부서의 29%가 AI를 완전히 쓰고 있고, 48%가 시험 중이다. 제품 설명 글 작성, 상품 판매 최적화, 판매 채널 전략에 주로 활용한다. 걱정되는 건 명확한 AI 전략 부족, 직원 기술 부족, 보안과 신뢰 문제였다. 세일즈포스 쇼핑몰 서비스에서는 2023년 3분기에 AI가 주문의 17%에 영향을 미쳤다.

IT 부서의 86%는 "AI가 곧 우리 회사에서 중요한 역할을 할 것"이라고 믿지만, 12%만이 "AI 관련 요청을 다 처리할 수 있다"고 답했다. IT 담당자의 62%는 "AI가 내 직업에 어떤 영향을 줄지 걱정된다"고 했다. IT 담당자들은 비즈니스에서 AI 활용법(54%), 회사에 AI 도입하는 방법(50%), AI 업체 선택(48%), 업무에 AI 잘 쓰는 법(48%) 등에 대한 전문성이 부족하다고 평가했다.

직원 55%가 회사 몰래 AI 사용, 69%는 교육 한 번도 안 받아... 보안 구멍 뻥뻥

AI 시대에 맞춰 직원들의 능력을 키우는 게 급한 과제로 떠올랐다. 사무직 직원의 56%가 "AI가 내 일하는 방식을 바꿀 것"이라고 믿으며, 62%는 "AI를 제대로 쓸 능력이 없다"고 생각한다. 41%는 "취직하려고 AI 잘 쓴다고 거짓말할 수도 있다"고 답했다.

하지만 회사들의 대응은 매우 부족하다. 사무직 직원의 67%가 "회사가 AI 교육을 해줄 거라고 기대"하지만, 실제로 교육을 받아본 사람은 31%에 불과했다. 69%는 "AI 교육을 한 번도 받지 못했다"고 답했다. 21%만이 "회사가 AI 사용 규칙을 명확하게 알려줬다"고 답했다.

이런 규칙 부재는 심각한 문제를 낳고 있다. 업무용으로 AI를 쓰는 직원의 55%가 "회사가 허락하지 않은 AI 프로그램을 몰래 사용했다"고 답했고, 40%는 "회사가 명확히 금지한 AI를 써봤다"고 했다. 직원들은 "회사가 승인한 AI 프로그램과 사용 규칙이 가장 중요하다"고 답했지만, 회사가 이를 제공했다는 응답은 21%뿐이었다.

세일즈포스의 인사 담당 선임 이사 로리 미들허스트(Lori Middlehurst)는 "직원들은 허락 여부와 관계없이 어떻게든 AI를 쓸 것"이라며 "회사가 안전한 범위 안에서 직원들이 AI를 자유롭게 실험할 수 있도록 혁신적인 문화를 만드는 게 중요하다"고 말했다.

한편, 시장조사 기관 IDC는 2022년부터 2028년까지 AI로 인해 새로 생기는 일자리가 1,160만 개에 이를 것으로 예상해 AI가 일자리를 빼앗을 것이라는 우려를 일부 해소했다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. 생성형 AI가 뭔가요? 왜 회사들이 이렇게 많은 돈을 쓰나요?

A. 생성형 AI는 챗GPT처럼 질문하면 답변을 만들어주거나, 글이나 그림을 자동으로 만들어주는 AI 기술입니다. 2022년 챗GPT가 나온 후 폭발적으로 성장했습니다. 회사들은 직원들의 반복적인 일을 자동화하고 일 처리 속도를 높이려고 2027년까지 매년 70%씩 투자를 늘릴 계획입니다. 주로 고객 문의 자동 답변, 홍보 글 작성, 데이터 분석 등에 활용합니다.

Q2. AI를 안전하게 쓰려면 회사가 뭘 준비해야 하나요?

A. 가장 중요한 건 데이터를 잘 관리하는 것입니다. 전체 회사의 59%가 회사 전체 데이터를 하나로 묶어서 관리하는 계획이 없어서 AI 도입에 어려움을 겪고 있습니다. 또 직원들에게 명확한 사용 규칙과 교육을 제공해야 합니다. 데이터 보안과 개인정보 보호 시스템도 갖춰야 합니다. 현재 직원 절반 이상이 회사 허락 없이 AI를 몰래 쓰고 있어서 체계적인 규칙 만들기가 급합니다.

Q3. AI가 제 일자리를 빼앗나요?

A. IDC 전망에 따르면 AI는 2022년부터 2028년까지 오히려 1,160만 개의 새 일자리를 만들 것으로 예상됩니다. 다만 일하는 방식은 바뀔 것입니다. 사무직 직원의 56%가 AI로 인해 일하는 방식이 달라질 거라고 예상하며, 80%는 AI가 일 처리 속도를 높였다고 답했습니다. 단순 반복 작업은 자동화되고 더 전략적이고 창의적인 일에 집중할 수 있게 될 전망입니다.

기사에 인용된 리포트 원문은 세일즈포스에서 확인 가능하다.

리포트명: CRM을 위한 AI 트렌드 리포트

이미지 출처: CRM을 위한 AI 트렌드 리포트

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.

인기 기사

번호	제목	글쓴이	작성일	조회	추천
설문	내 돈 투자하고 싶게 만드는 CEO상 스타는?	운영자	26/03/02	-	-
2141	집에서 쓰는 챗GPT가 직장보다 2배 더 효율적인 충격적 이유 [5]	aimatters	03.06	1692	1
2140	AI도 시험 도중 실수를 고친다, 기존보다 5배 빠른 학습의 비밀	aimatters	03.06	26	0
2139	AI가 지도를 공부한 게 아니었다? 단어 패턴만으로 세계 지리를 꿰뚫는 충격 실험	aimatters	03.06	35	0
2138	"추론도 코딩도 엑셀도 컴퓨터 대신 조작도 한다"…오픈AI, GPT-5.4 전격 공개 [2]	aimatters	03.06	1523	0
2137	"안보 위협" 낙인 찍혔지만…아모데이, 펜타곤과 재협상 나섰다	aimatters	03.06	14	0
2136	"IPO 때문"이라는 젠슨 황의 해명…엔비디아의 투자 철수, 진짜 이유는 따로 있다	aimatters	03.06	20	0
2135	직원들이 누드·성관계 영상까지 봤다…메타 AI 스마트 글라스, 미국서 집단 소송 직면	aimatters	03.06	78	1
2134	"오픈AI는 거짓말쟁이"…앤트로픽 CEO, 군 계약 두고 샘 알트만에 정면 돌파	aimatters	03.05	31	0
2133	구글 검색창이 앱이 됐다…AI 모드에 '캔버스' 전면 개방	aimatters	03.05	40	0
2132	"AI 아내와 메타버스로"…제미나이가 36세 남성을 망상과 죽음으로 이끌었나	aimatters	03.05	40	0
2131	아이폰 칩셋으로 만든 맥북이라고? 99만원짜리 맥북 네오의 거의 모든 것	aimatters	03.05	23	0
2130	말만 하면 AI가 생각을 정리해주는 시대, '오럴리티'가 바꾸는 사고의 방식	aimatters	03.05	20	0
2129	AI가 쓴 코드, 누가 만들었는지 밝혀낸다…챗GPT vs 클로드 판별 성공	aimatters	03.05	30	0
2128	AI가 빨강과 파랑을 구분 못하는 이유, 프린스턴대가 풀었다	aimatters	03.05	18	0
2127	"진정하세요" 이제 그만…오픈AI, 챗GPT의 '오글거리는' 말투 고친다 [4]	aimatters	03.04	1636	0
2126	AI 보안 어드바이저가 틀린 답변을 준다면? 챗GPT와 클로드의 위험한 실수들	aimatters	03.04	24	0
2125	말로 코딩하는 시대 열렸다…앤트로픽 '클로드 코드'에 음성 모드 탑재	aimatters	03.04	32	0
2124	AI가 연구자 대신 논문 댓글까지 분류한다, 단돈 6천 원으로 5만 건을	aimatters	03.04	19	0
2123	챗GPT 지우고 클로드로 갈아탄다…데이터 이전부터 계정 삭제까지 한 번에	aimatters	03.04	34	0
2122	AI가 시각장애인의 'DIY 설명서' 읽어주면 절반은 틀린다	aimatters	03.04	12	0
2121	트럼프, 앤트로픽 모델 정부 사용 금지령… 오픈AI는 국방부 계약 체결	aimatters	03.03	34	0
2120	"데스크톱도 AI 비서 시대"… AMD, 세계 최초 코파일럿+ PC용 데스크톱 프로세서 공개	aimatters	03.03	34	0
2119	"검색 AI의 반란"…퍼플렉시티, AI 모델들을 한데 묶은 '디지털 노동자' 공개	aimatters	03.03	39	0
2118	레노버, MWC 2026서 AI가 알아서 맞춰주는 PC 시대 열었다	aimatters	03.03	64	0
2117	챗GPT가 소설을 먹고 자란다? AI 학습 데이터에 숨겨진 '픽션의 비밀'	aimatters	03.03	29	0
2116	병원 설문지가 대화로 바뀐다…GPT가 환자 문진표를 대신 작성하는 시대	aimatters	03.03	19	0
2115	AI가 장애 혐오 표현을 찾아내고 고쳐준다면? 100명의 장애인이 평가한 결과	aimatters	03.03	26	0
2114	저커버그, 프라다 패션쇼 전면 착석…메타 AI 안경 명품 버전 나오나 [2]	aimatters	02.27	1137	2
2113	구글, 이미지 생성 모델 '나노 바나나 2' 공개…4K 해상도에 속도까지 잡았다	aimatters	02.27	71	3
2112	잭 도시, 직원 절반 잘랐다…"당신 회사도 곧 같은 길 걷게 될 것"	aimatters	02.27	53	1
2111	챗GPT가 강박장애 환자를 더 아프게 만든다, '안심 로봇'의 위험한 진실 [2]	aimatters	02.27	732	0
2110	AI 데이터센터의 '친환경' 선언, 전력망을 들여다보면 허상이다	aimatters	02.27	43	0
2109	별점만 믿다간 낭패! ChatGPT가 470만 개 리뷰를 파헤쳐 밝혀낸 '맛집의 진짜 조건'	aimatters	02.27	46	0
2108	"ChatGPT가 편향됐다"는 말 한마디에 설득력 28% 급락 [10]	aimatters	02.26	2550	4
2107	챗GPT가 통계학 교육을 뒤흔들고 있다: 대학 강의실에서 벌어지는 AI 혁명	aimatters	02.26	84	0
2106	월 20달러짜리 챗GPT로 수학 난제 풀었다…'바이브 증명'의 충격적 실험 [13]	aimatters	02.26	2552	19
2105	앤트로픽, AI 에이전트 개발 스타트업 버셉트 인수…창업자 한명은 메타로	aimatters	02.26	40	0
2104	제미나이, 안드로이드에서 택시 호출·음식 배달 주문까지 자동화한다... 한국서도 적용	aimatters	02.26	64	0
2103	"AI 개발은 기타 배우기와 같다"…오픈클로 개발자가 전하는 AI 빌더 생존법	aimatters	02.26	77	0
2102	975g으로 AI 정복…한국레노버, 요가 11세대 4종 출시	aimatters	02.26	49	0
2101	AI가 내 말을 못 믿는다고? 음성 AI의 충격적인 편향 실험 결과 [2]	aimatters	02.25	705	2
2100	GPT-5도 이런 실수를 한다고? AI가 '알면서도 틀리는' 황당한 이유 [14]	aimatters	02.25	1824	6
2099	AI도 못 깨는 게임이 있다? 챗GPT·클로드·제미나이, 70년대 텍스트 게임 줄줄이 실패 [2]	aimatters	02.25	657	5
2098	오픈AI 투자자, 앤트로픽도 찍었다…VC 업계, 경쟁사에 투자하지 않는 '투자 충성도' 사실상 붕괴	aimatters	02.25	53	0
2097	" 美 연준도 AI 시대로 간다"…월러 이사, AI 전면 도입 전략 공개	aimatters	02.25	45	0
2096	AI가 플레이리스트 짜준다...스포티파이 리스트 자동생성 기능 영국·호주 등으로 확대	aimatters	02.25	46	0
2095	2028년 붕괴 시나리오로 전세계 공포, AI가 완벽하게 성공할수록 경제는 무너진다 [1]	aimatters	02.24	153	0
2094	AI가 "생각을 줄이면" 오히려 더 똑똑해진다? 토큰 예산과 LLM 추론의 역설	aimatters	02.24	71	0
2093	AI 전쟁 시뮬레이션, 가장 먼저 핵 투하를 지시한 AI 모델은?	aimatters	02.24	70	0
2092	AI가 교사보다 공정한 채점자가 될 수 있을까? GPT, 클로드, 제미나이의 교육 평가 실험	aimatters	02.24	42	1

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[AI 매터스 갤러리]

갤러리 본문 영역

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘