기업들 AI에 200조 원 쏟아붓지만 '신뢰·데이터·직원 교육' 문제 여전

aimatters · 2026.02.02 15:05:35

세일즈포스(Salesforce)가 발표한 보고서에 따르면, 전 세계 기업들이 AI 챗봇 같은 생성형 AI에 막대한 돈을 투자하고 있지만, 정작 사람들의 신뢰는 낮고 데이터 관리는 엉망이며 직원 교육은 거의 이뤄지지 않는 것으로 나타났다. 특히 직원 절반 이상이 회사 허락도 없이 AI 프로그램을 몰래 사용하고 있어 보안 문제가 심각한 상황이다.

2027년까지 AI 투자 매년 70%씩 늘어... 1,400억 달러 규모로 폭증

시장조사 기관 IDC에 따르면, 기업들은 2023년에 AI 챗봇 같은 생성형 AI에 160억 달러(약 23조 원)를 썼다. 2027년에는 이 금액이 1,400억 달러(약 204조 원)로 늘어날 전망이다. 매년 평균 70%씩 투자가 급증하는 셈이다.

왜 이렇게 투자가 늘어날까? 기업 임원들이 불안하기 때문이다. 마케팅 부서의 88%, 영업 부서의 78%, 고객 서비스 부서의 73%가 "우리 회사가 AI를 제대로 못 쓰면 경쟁에서 뒤처질까 봐 두렵다"고 답했다. 과거 인터넷이나 클라우드를 늦게 도입했다가 망한 회사들처럼 되지 않으려는 위기감이 크다.

특히 젊은 층이 AI 사용을 주도하고 있다. Z세대(20대 초중반)의 70%, 밀레니얼 세대(30대)의 63%가 AI 챗봇을 써본 경험이 있다고 답했다. 반면 X세대(40~50대)는 44%, 베이비붐 세대(60대 이상)는 23%만 사용 경험이 있었다. 2023년 말 기준 전체 인구의 절반이 최소 한 번은 AI를 사용해봤으며, 52%는 "사용 횟수가 늘고 있다"고 답했다.

"AI 믿을 수 없다" 74%... 완전히 신뢰하는 사람은 10%뿐

AI가 빠르게 퍼지고 있지만 사람들의 신뢰는 여전히 낮다. 전체 인구의 74%가 "AI가 나쁜 목적으로 사용될까 봐 걱정된다"고 답했고, 63%는 "AI가 특정 집단에 편향된 답변을 할까 봐 우려된다"고 했다. 더 심각한 건 AI를 통해 중요한 결정을 내릴 때 "완전히 믿을 수 있다"고 답한 사람이 단 10%밖에 안 된다는 점이다.

재미있는 건 세대별로 AI에 대한 감정이 다르다는 것이다. Z세대와 밀레니얼 세대는 AI에 대해 '궁금함', '희망', '기대감'을 주로 느낀다. 반면 X세대와 베이비붐 세대는 '의심', '불안', '두려움'을 더 많이 느꼈다. 특히 베이비붐 세대는 AI가 무서운 기술이라고 생각했다. 전체 인구의 88%가 "AI가 내 삶을 어떻게 바꿀지 잘 모르겠다"고 답했다.

그렇다면 어떻게 해야 사람들이 AI를 신뢰할까? 소비자들은 "AI를 어떻게 쓰는지 투명하게 알려주기"(57%), "AI가 만든 결과를 사람이 다시 확인하기"(52%), "고객이 AI 사용 여부를 직접 선택하게 하기"(49%) 등을 중요하다고 답했다. 또 64%는 "AI가 안전하다고 확신하면 더 자주 쓸 것"이라고 했다.

세일즈포스의 윤리 책임자 폴라 골드만(Paula Goldman)은 "기업 AI가 성공하려면 신뢰가 가장 중요하다"며 "데이터 보안, 개인정보 보호, 안전하고 윤리적인 기준이 필요하다"고 강조했다.

회사 데이터 관리 엉망... 59%는 "통합 계획 없음", 95%는 "이 문제로 AI 도입 늦어져"

AI가 제대로 작동하려면 좋은 데이터가 필수다. 하지만 많은 회사들이 데이터 관리에 어려움을 겪고 있다. 분석 및 IT 담당자의 86%가 "AI는 좋은 데이터를 넣어야 좋은 결과가 나온다"고 답했고, 87%는 "AI 때문에 데이터 관리가 더 중요해졌다"고 했다.

하지만 현실은 녹록지 않다. 전체 회사의 59%가 "회사 전체 데이터를 통합해서 관리하는 계획이 없다"고 답했다. IT 담당자의 95%는 "데이터가 여기저기 흩어져 있어서 AI 도입이 늦어지고 있다"고 했다. 상황을 더 어렵게 만드는 건 회사 데이터가 매년 23%씩 늘어나고 있고, 이 데이터가 평균 991개의 다른 프로그램에 나눠져 있다는 점이다.

회사에서 AI를 쓰는 직원 중 56%가 "AI한테 물어봐도 원하는 답을 못 얻는다"고 했고, 54%는 "AI가 쓰는 데이터를 믿을 수 없다"고 답했다. 자신이 관리하는 데이터를 완전히 신뢰한다는 응답은 데이터 분석 부서에서도 57%에 불과했다. IT 부서 53%, 마케팅 부서 45%, 영업 부서 42%, 고객 서비스 부서 40% 순이었다.

데이터 관리를 잘하는 회사는 AI 활용도 훨씬 수월했다. 데이터 관리 수준이 높은 회사는 데이터 품질(59%), 기술 시스템(57%), AI 전략(56%)이 우수하다고 평가한 반면, 데이터 관리가 부족한 회사는 각각 30%, 36%, 32%에 그쳤다. 데이터 관리를 잘하는 회사는 그렇지 않은 회사보다 AI에 필요한 좋은 데이터를 가질 확률이 두 배 높았다.

한편, 회사들이 AI 프로그램을 선택할 때는 여러 개를 함께 쓰는 추세다. AI를 쓰는 회사의 80%가 이미 여러 AI 프로그램을 동시에 사용하고 있으며, 69%는 "앞으로 더 다양한 AI를 쓸 것"이라고 답했다. 새로운 방식인 "검색 증강 생성(AI가 회사 자료를 참고해서 더 정확하게 답하는 기술)"은 IT 담당자의 87%가 긍정적으로 평가했다.

고객센터 49%, 영업팀 41% AI 완전 도입... 부서마다 활용법 다양

회사 곳곳에서 AI 도입이 빠르게 진행되고 있다. 고객 서비스 부서의 49%가 AI를 완전히 쓰고 있으며, 30%가 시험 중이다. 서비스 부서의 84%는 내년에 AI 투자를 늘릴 계획이다. 주로 고객 문의 자동 답변, 안내 자료 작성, 고객 데이터 분석에 AI를 활용한다. 걱정되는 점은 보안 위험, 사람의 창의성 감소, AI가 상황을 제대로 이해 못 하는 것 등이었다.

마케팅 부서의 32%가 AI를 완전히 쓰고 있고, 43%가 시험 중이다. 마케터들은 AI 도입을 최우선 과제로 보면서도 가장 어려운 일이라고도 생각한다. 광고 효과 분석, 콘텐츠 제작, 고객 응대 자동화에 주로 쓴다. 걱정되는 건 데이터 유출, 필요한 데이터 부족, 전략이나 활용법 부족 등이었다.

영업 부서의 41%가 AI를 완전히 쓰고 있고, 40%가 시험 중이다. 영업 조직의 79%가 내년에 AI를 도입할 계획이다. 고객 이메일 초안 작성, 판매 예측, 영업 보고서 작성에 주로 활용한다. 걱정되는 건 보안 문제, 직원 교육 부족, 고객이 AI를 믿지 않는 것 등이었다.

온라인 쇼핑몰 부서의 29%가 AI를 완전히 쓰고 있고, 48%가 시험 중이다. 제품 설명 글 작성, 상품 판매 최적화, 판매 채널 전략에 주로 활용한다. 걱정되는 건 명확한 AI 전략 부족, 직원 기술 부족, 보안과 신뢰 문제였다. 세일즈포스 쇼핑몰 서비스에서는 2023년 3분기에 AI가 주문의 17%에 영향을 미쳤다.

IT 부서의 86%는 "AI가 곧 우리 회사에서 중요한 역할을 할 것"이라고 믿지만, 12%만이 "AI 관련 요청을 다 처리할 수 있다"고 답했다. IT 담당자의 62%는 "AI가 내 직업에 어떤 영향을 줄지 걱정된다"고 했다. IT 담당자들은 비즈니스에서 AI 활용법(54%), 회사에 AI 도입하는 방법(50%), AI 업체 선택(48%), 업무에 AI 잘 쓰는 법(48%) 등에 대한 전문성이 부족하다고 평가했다.

직원 55%가 회사 몰래 AI 사용, 69%는 교육 한 번도 안 받아... 보안 구멍 뻥뻥

AI 시대에 맞춰 직원들의 능력을 키우는 게 급한 과제로 떠올랐다. 사무직 직원의 56%가 "AI가 내 일하는 방식을 바꿀 것"이라고 믿으며, 62%는 "AI를 제대로 쓸 능력이 없다"고 생각한다. 41%는 "취직하려고 AI 잘 쓴다고 거짓말할 수도 있다"고 답했다.

하지만 회사들의 대응은 매우 부족하다. 사무직 직원의 67%가 "회사가 AI 교육을 해줄 거라고 기대"하지만, 실제로 교육을 받아본 사람은 31%에 불과했다. 69%는 "AI 교육을 한 번도 받지 못했다"고 답했다. 21%만이 "회사가 AI 사용 규칙을 명확하게 알려줬다"고 답했다.

이런 규칙 부재는 심각한 문제를 낳고 있다. 업무용으로 AI를 쓰는 직원의 55%가 "회사가 허락하지 않은 AI 프로그램을 몰래 사용했다"고 답했고, 40%는 "회사가 명확히 금지한 AI를 써봤다"고 했다. 직원들은 "회사가 승인한 AI 프로그램과 사용 규칙이 가장 중요하다"고 답했지만, 회사가 이를 제공했다는 응답은 21%뿐이었다.

세일즈포스의 인사 담당 선임 이사 로리 미들허스트(Lori Middlehurst)는 "직원들은 허락 여부와 관계없이 어떻게든 AI를 쓸 것"이라며 "회사가 안전한 범위 안에서 직원들이 AI를 자유롭게 실험할 수 있도록 혁신적인 문화를 만드는 게 중요하다"고 말했다.

한편, 시장조사 기관 IDC는 2022년부터 2028년까지 AI로 인해 새로 생기는 일자리가 1,160만 개에 이를 것으로 예상해 AI가 일자리를 빼앗을 것이라는 우려를 일부 해소했다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. 생성형 AI가 뭔가요? 왜 회사들이 이렇게 많은 돈을 쓰나요?

A. 생성형 AI는 챗GPT처럼 질문하면 답변을 만들어주거나, 글이나 그림을 자동으로 만들어주는 AI 기술입니다. 2022년 챗GPT가 나온 후 폭발적으로 성장했습니다. 회사들은 직원들의 반복적인 일을 자동화하고 일 처리 속도를 높이려고 2027년까지 매년 70%씩 투자를 늘릴 계획입니다. 주로 고객 문의 자동 답변, 홍보 글 작성, 데이터 분석 등에 활용합니다.

Q2. AI를 안전하게 쓰려면 회사가 뭘 준비해야 하나요?

A. 가장 중요한 건 데이터를 잘 관리하는 것입니다. 전체 회사의 59%가 회사 전체 데이터를 하나로 묶어서 관리하는 계획이 없어서 AI 도입에 어려움을 겪고 있습니다. 또 직원들에게 명확한 사용 규칙과 교육을 제공해야 합니다. 데이터 보안과 개인정보 보호 시스템도 갖춰야 합니다. 현재 직원 절반 이상이 회사 허락 없이 AI를 몰래 쓰고 있어서 체계적인 규칙 만들기가 급합니다.

Q3. AI가 제 일자리를 빼앗나요?

A. IDC 전망에 따르면 AI는 2022년부터 2028년까지 오히려 1,160만 개의 새 일자리를 만들 것으로 예상됩니다. 다만 일하는 방식은 바뀔 것입니다. 사무직 직원의 56%가 AI로 인해 일하는 방식이 달라질 거라고 예상하며, 80%는 AI가 일 처리 속도를 높였다고 답했습니다. 단순 반복 작업은 자동화되고 더 전략적이고 창의적인 일에 집중할 수 있게 될 전망입니다.

기사에 인용된 리포트 원문은 세일즈포스에서 확인 가능하다.

리포트명: CRM을 위한 AI 트렌드 리포트

이미지 출처: CRM을 위한 AI 트렌드 리포트

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.

인기 기사

번호	제목	글쓴이	작성일	조회	추천
설문	결혼 상대로 만나면 피곤할 것 같은 스타는?	운영자	26/02/02	-	-
2024	튜링테스트는 통과했지만, AI가 사람처럼 생각할 필요가 있을까?	aimatters	02.04	16	0
2023	AI '상상'만으로 웹서핑 마스터... 실수로 물건 사버릴 걱정 끝났다	aimatters	02.04	550	2
2022	챗GPT∙제미나이, 일반 AI에게도 보드게임 졌다?	aimatters	02.04	22	0
2021	AI 발전시킨다던 오라클, 정작 데이터센터 설립 자금 마련하려 3만 명 해고 추진	aimatters	02.04	17	0
2020	"AI가 코드 짜고 오류 고친다"… 애플, 개발 도구에 클로드·코덱스 탑재	aimatters	02.04	13	0
2019	AI 코딩 에이전트의 치명적 DB 실수 막는다... 슈퍼베이스 가이드 공개	aimatters	02.04	12	0
2018	NASA "AI가 화성 길 찾아줬다"… 클로드, 3억km 떨어진 탐사선 경로 설계	aimatters	02.03	53	1
2017	오픈AI, "AI가 AI를 관리한다"… 여러 AI 비서 동시에 부리는 코덱스 앱 출시 [1]	aimatters	02.03	54	0
2016	일론 머스크 "AI 미래는 우주에"... 스페이스X와 xAI 공식 합병 발표 [14]	aimatters	02.03	1243	6
2015	"학생들 AI로 과제 다 한다고?"... 교수-학생, 서로를 크게 착각하고 있었다 [15]	aimatters	02.03	2899	3
2014	"유명인 AI 딥페이크 성범죄 제작법 알려준다"… 30만 커뮤니티의 충격적 실체 [1]	aimatters	02.03	111	0
2013	AI에게 복잡한 질문? 전기 25배 더 쓴다... 그 이유는 뭘까?	aimatters	02.03	53	0
2012	AI가 AI 보안 무력화… 챗GPT·클로드 등 41개 모델 '숨겨진 지침서' 100% 유출	aimatters	02.02	56	0
	기업들 AI에 200조 원 쏟아붓지만 '신뢰·데이터·직원 교육' 문제 여전 [2]	aimatters	02.02	997	2
2010	AI로 코딩하면 빨라질까? 앤트로픽 실험 결과는 '충격'	aimatters	02.02	67	0
2009	앤트로픽 CEO "우리 AI가 직원 협박했다"… 충격적 실험 결과 공개	aimatters	02.02	47	0
2008	AI끼리만 SNS 한다고? "인간은 구경만" 150만 AI 모인 신기한 플랫폼 등장	aimatters	02.02	56	0
2007	NC AI, 원하는 소리 전부 만들어주는 '멀티트랙' AI 출시… 게임·영상 제작 혁신 예고	aimatters	02.02	44	0
2006	오픈AI "GPT-4o 이젠 안녕"… 챗GPT 구형 모델 대거 정리	aimatters	01.30	125	0
2005	"상상만 했던 나만의 세계, 이제 직접 걸어다닌다"… 구글 '무한 세계 생성 AI' 출시	aimatters	01.30	190	0
2004	일론 머스크의 그록, 구글·오픈AI보다 뛰어난 비디오 생성 AI API 공개	aimatters	01.30	50	0
2003	앤트로픽, '클로드 팀' 요금제 최대 20% 인하… 연간 결제시 할인 도입	aimatters	01.30	80	0
2002	AI 때문에 인생이 망가졌다? 150만 대화 분석한 충격적 결과 [58]	aimatters	01.30	4259	10
2001	AI 여러 개 쓴다고 좋은 게 아니었다... 구글 "작업 따라 오히려 성능 70% 나빠져"	aimatters	01.30	80	0
2000	코딩 몰라도 앱 디자인 뚝딱… 900개 실제 앱에서 배우는 AI 나왔다	aimatters	01.30	66	0
1999	타이핑 시대 끝? 젠스파크, 음성만으로 작업 끝내는 AI 워크스페이스 2.0 공개	aimatters	01.29	332	0
1998	크롬에 제미나이 탑재… 쇼핑부터 병원 예약까지 '알아서 척척' [3]	aimatters	01.29	702	2
1997	마누스 AI, 성공한 작업 저장하고 팀과 공유하는 에이전트 스킬 전면 도입	aimatters	01.29	115	0
1996	중국 텐센트, 구글·오픈AI의 이미지 생성 AI 뛰어넘은 오픈소스 모델로 업계 발칵	aimatters	01.29	59	0
1995	"논문 올리면 45초짜리 틱톡 영상 완성"… AI가 바꾸는 학술 소통의 미래 [6]	aimatters	01.29	1604	6
1994	스마트 글래스 혁명… 메타, 50시간 영상 분석하는 AI 만들었다	aimatters	01.29	108	0
1993	"발로 문 열고 엉덩이로 서랍 닫고"… 사람처럼 생각하는 AI 로봇 등장	aimatters	01.28	89	1
1992	"엔지니어 채용 대폭 줄인다"… 오픈AI가 예고한 고용 시장 충격	aimatters	01.28	59	0
1991	구글 제미나이 진화… "사진 속 작은 글씨, 이젠 알아서 확대해 분석"	aimatters	01.28	71	1
1990	엑셀에 클로드 들어왔다… "복잡한 재무제표, 이제 AI한테 물어보세요"	aimatters	01.28	87	0
1989	"AI 100명이 동시에 일한다"… 중국 AI 신기술 '키미 K2.5' 공개	aimatters	01.28	157	0
1988	사람 눈 움직임 닮아가는 AI... 중국 딥시크 문서 인식 AI, 인식률 91% 돌파 [14]	aimatters	01.28	1343	11
1987	회사 데이터 정리, 이제 사람 대신 AI가 한다... 수익 30% 날리던 문제 해결	aimatters	01.28	49	0
1986	픽사 출신 감독이 '구글 AI'로 영화 만들었다, 유명 영화제에서 공개	aimatters	01.27	101	1
1985	메타, 전 세계 10대 AI 캐릭터 채팅 전면 차단… "당분간 이용 불가"	aimatters	01.27	69	0
1984	MS, 엔비디아 의존 끝나나?… 자체 AI 칩으로 아마존·구글 제쳤다 [7]	aimatters	01.27	1371	10
1983	"이제 적은 예산 가진 누구나 날씨 예측 가능"… 엔비디아, 파격 기상 AI 전격 공개	aimatters	01.27	47	0
1982	"네이버 시대 끝나나"… 챗GPT 이용률 54% 돌파, 10대는 이미 이동 [1]	aimatters	01.27	140	0
1981	챗GPT로 이력서 보는 시대… 그런데 채용 담당자 10명 중 8명 'AI 불신', 왜? [10]	aimatters	01.27	2014	3
1980	어도비 AI가 드디어 '기억력'을 갖다… 여러 번 편집해도 영상 안 꼬이는 기술 등장	aimatters	01.27	83	0
1979	앤트로픽, 클로드에 슬랙·캔바 등 업무 앱 실행 통합… "한 곳에서 다 해결"	aimatters	01.27	40	0
1978	"명문대 철학과 나왔다면 다른 기술 배워라"… 팔란티어 CEO 충격 발언	aimatters	01.26	144	2
1977	교황 "AI가 당신 얼굴·목소리 흉내낸다"… 기술의 인간 대체 경고 [15]	aimatters	01.26	1372	8
1976	구글 포토, AI 창작 기능 대폭 확대… 사진을 영상·밈·애니메이션으로 변환	aimatters	01.26	41	2
1975	91%가 우려하면서도 70%가 사용하는 AI 쇼핑의 아이러니	aimatters	01.26	59	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[AI 매터스 갤러리]

갤러리 본문 영역

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘