2025년 사이버 보안 위협…“양날의 검이 된 생성형 AI”

IT동아 갤러리

자동 짤방 이미지

이미지가 없습니다.

자동 짤방으로 사용할 이미지를 등록해 주세요.

1/3

훌쩍훌쩍 흙수저갤 이모저모 개념글 몇 개만 가져옴 작성자 : 묘냥이

2025년 사이버 보안 위협…“양날의 검이 된 생성형 AI”

IT동아

2025.01.03 21:14:18

조회 10370 추천 7 댓글 15

[IT동아 김예지 기자] 기술의 발전은 우리 삶을 편하게 해주지만, 동시에 새로운 문제를 가져온다. 생성형 인공지능(AI)은 등장 이후 급속도로 발전하며 전 산업에 걸쳐 적용됐으나, 이를 악용한 사례도 우후죽순 늘어나고 있다.

과학기술정보통신부(이하 과기정통부)와 한국인터넷진흥원(KISA)은 ‘2025년 사이버 위협 전망’에서 올해를 해커의 AI 활용이 본격화되는 해로 꼽았다. 이 리포트는 안랩, 지니언스, 이글루코퍼레이션, SK쉴더스, 구글, 마이크로소프트 등 국내외 정보보안 전문가와 함께 작성됐다. 지난해 사이버 위협 사례를 돌아보고, 올해 예측되는 위협에 대한 선제적 예방을 강조한다.

과기정통부가 2025년 사이버 위협 전망을 발표했다 / 출처=셔터스톡

사이버 사기 증가…소프트웨어 공격 심화

과기정통부는 2024년 주요 사이버 위협 피해 사례로 ▲사이버 사기(스팸, 스미싱, 금융 사기, QR코드 사기 등) ▲소프트웨어 공급망 공격 ▲금품요구 악성 프로그램(랜섬웨어) 공격기법 고도화 등을 제시했다. SK쉴더스가 발표한 자료에 따르면, 제조업과 공공 분야 보안 사고가 각각 18%로 가장 높은 비중을 차지했다. 각각 15%를 기록한 금융, 교육 분야와 IT, 의료, 도소 유통 분야가 뒤를 이었다.

우선 지난해 전 국민을 대상으로, 티몬·위메프 사태 환불 미끼 문자 등 사회적 이슈를 이용한 금융 결제 사기가 대폭 증가했다. 청첩장, 부고 등의 일상 문자 형식을 악용한 스팸 및 스미싱 문자도 기승을 부렸다. 이에 정부는 지난해 11월 스팸 방지 종합대책을 발표한 바 있다.

2024년 주요 보안 이슈 타임라인 / 출처=SK쉴더스

디지털 전환이 가속화됨에 따라 소프트웨어 공급망 공격도 심화됐다. 악성코드는 오픈소스 플랫폼, 패키지 매니저 등 다양한 소프트웨어를 통해 취약점에 파고들었으며, 다수의 사용자를 노리는 공격이 발생했다. 또한 협력사, 서드파티를 통한 공격이 불거지며, 공급망 전체 보안이 핵심으로 떠올랐다.

한편, 지난해 7월 크라우드스트라이크(CrowdStrike)는 보안 소프트웨어 업데이트 중 발생한 오류로 세계 윈도우 시스템에서 블루스크린(BSOD)을 초래했다. 외부 공격은 아닌 것으로 드러났으나, 기업 소프트웨어 관리의 중요성과 단일 벤더의 위험성을 일깨운 사례다.

랜섬웨어도 여전히 골칫거리다. 지난해 상반기에만 평균 20억원의 피해액을 냈을 정도다. 랜섬웨어 기법은 진화되고 피해 규모도 날로 커지고 있다. 예컨대, 보안 솔루션 탐지 회피를 위해 정상 시스템 및 도구로 위장하는 방식이다. 공격 표적은 내부 시스템에 그치지 않고, 하이퍼바이저(물리적 하드웨어를 논리적으로 가상화하는 소프트웨어) 환경으로 확대되고 있다.

올해 생성형 AI 기반 사이버 위협이 증가할 것으로 전망된다 / 출처=과기정통부

2025년 AI 기술 활용한 공격 본격화

과기정통부는 2025년 주요 사이버 위협으로 ▲생성형 AI 활용 본격 ▲디지털 융복합 체계 사이버 위협 증가 ▲국제 환경 변화에 따른 사이버 위협 증가 가능성 ▲디도스 공격 증가 예상 등을 전망했다.

주목할만한 부분은 AI다. 생성형 AI는 양날의 검으로 떠올랐다. 올해는 생성형 AI를 비롯한 다양한 AI 기술이 산업 전반에 확산되는 가운데, 이를 활용한 사이버 공격이 한층 더 고도화될 것으로 전망된다. 보안 전문가들은 “현시점에서 AI를 활용한 직접적인 공격은 어렵지만, 피싱 메일 작성, 악성 스크립트 제작, 취약점 탐색 등 해킹의 보조 수단으로 활발히 쓰인다”고 말했다.

딥페이크를 악용한 공격은 진입장벽이 낮다는 문제가 존재한다 / 출처=셔터스톡

지난해 크게 이슈로 떠오른 딥페이크 및 딥보이스 기술을 악용한 범죄가 대표적이다. 딥페이크 기술을 활용해 만든 성 착취물을 유포하고, 피해자에게 금전적 협박을 하는 디지털 성범죄가 확산됐다. 딥페이크는 해커뿐만 아니라 전문적인 지식이 없는 일반인조차 쉽게 AI 도구에 접근 및 활용할 수 있다. 본인 인증, 로그인 등에서 활용되는 안면 인식 기술이 고도화된 딥페이크로 우회가 가능하다는 점은 심각한 문제를 초래한다.

특히 안랩은 올해 AI 기반 사회공학 기법 활용이 증가할 것이라 내다봤다. 사회공학 기법이란 시스템 취약점보다 사람 또는 집단의 심리, 언어, 문화를 공략하는 공격 기법을 뜻한다. 안랩은 “AI를 이용해 타겟을 파악해 신뢰하는 인물로 사칭해 딥페이크 영상을 만들고, 내부 인력으로부터 민감 데이터를 유출하거나, 비즈니스 이메일을 침해하는 공격이 증가할 것”이라고 말했다.

이렇듯 생성형 AI를 활용한 사이버 공격의 진입장벽이 낮아지고 있다. 오픈AI의 챗GPT를 필두로 편의성을 제공하는 거대언어모델(LLM)이 늘어나는 반면, 악성 LLM 사례도 늘고 있다. 목적 자체가 불법적인 사기GPT(FruadGPT), 악성코드 생성하는 웜GPT(WormGPT) 등 사이버 범죄에 특화된 악성 AI 모형이 다크웹(기존 웹 브라우저와 검색 엔진으로 액세스할 수 없는 웹)에서 유통되고 있다.

보안 전문가들은 “생성형 AI를 이미 도입했거나, 도입을 앞둔 기업은 기술 도입 단계에서부터 데이터 보안을 내재화해야 한다. 생성형 AI가 사용되는 전 단계를 포괄하는 상시 모니터링 체계를 구축해 지속 점검하는 것이 중요하다”고 강조했다. 예컨대, AI 기반 보안 솔루션, 제로트러스트 보안 등의 채택이다. 정부는 AI 사이버 공격에 대한 선제 대응이 필수다. AI 오남용을 방지하기 위한 종합 법적 대응책을 마련하고, 딥페이크 등 신기술 악용 사례에 대한 엄격한 규제를 마련해야 한다.

IT동아 김예지 기자 (yj@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [투자를IT다] 2025년 1월 1주차 IT기업 주요 소식과 주가 흐름 ▶ [생성 AI 길라잡이] 키워드로 쉽게 음악 만들어주는 포자랩스 ‘라이브(LAIVE)’▶ [SBA 글로벌] 알지티 “국산 자율주행 서빙 로봇으로 전 세계 달리겠다”

고정닉 2

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 며느리, 사위로 만나면 부담스러울 것 같은 스타는?	운영자	26/03/09	-	-
6733	프로덕트테크 “플라스틱 폭탄 된 부직포 필터…친환경 금속 필터로 순환 경제 실현”	IT동아	11:03	6	0
6732	[투자를IT다] 2026년 3월 1주차 IT기업 주요 소식과 시장 전망	IT동아	03.09	14	0
6731	갤 S26 나왔는데…'콘서트 필수폰'은 아직도 S23 울트라?	IT동아	03.09	26	0
6730	10년 전 알파고와 겨뤘던 이세돌, 인공지능과 손잡은 이유	IT동아	03.09	23	0
6729	웬디미디어, 국내 최초 멀티 에이전트 AI 라이브 방송으로 갤럭시26 사전판매 73억 기록	IT동아	03.09	21	0
6728	에어비앤비 “올해 목표는 지역 여행 활성화”…제주서 꺼낸 해법은 ‘공간·콘텐츠·사람’	IT동아	03.09	7	0
6727	에이블캠퍼스 최혜린 총괄 "AI 도입, 개발 엔지니어의 고차원 교육이 내재화에 큰 역할"	IT동아	03.09	14	0
6726	[주간투자동향] 사운드리퍼블리카, 시리즈A 브릿지 후속 투자 유치 外	IT동아	03.09	30	0
6725	디지털 전략에 진심인 IBK 기업은행, '두레이(Dooray!)'로 협업문화 가속	IT동아	03.09	18	0
6724	기술은 현실을 반영해야 한다: 다양한 경험이 만드는 기술 혁신 [세계 여성의 날] [5]	IT동아	03.08	428	0
6723	[리뷰] 4K 240Hz에 QD-OLED? 타협 없는 게이밍 모니터, ‘레노버 리전 프로 32UD-10’	IT동아	03.06	41	0
6722	[AI 써봄] “누구라도 몇 초 만에 아티스트가 된다” 구글 나노 바나나 2	IT동아	03.06	36	0
6721	"자동차, 이제 홈쇼핑으로 사세요", 권용국 차봇모빌리티 부문장	IT동아	03.06	34	0
6720	[스타트업-ing] "스마트폰 하나로 전문 코칭까지" 키넥스, 스포츠 훈련 더 가깝게 돕는다	IT동아	03.06	32	0
6719	"무료로 3분 만에 분석" 반려식물 추천 서비스, 직접 써보니	IT동아	03.06	30	0
6718	AI의 무기화 시작한 美 정부, 'LLM'은 어떻게 알고리즘 전쟁의 종심이 됐나 [11]	IT동아	03.06	1197	3
6717	넥스트챌린지, "2026 구글플레이 협업 '창구 프로그램' 참여 기업을 찾습니다"	IT동아	03.06	23	0
6716	[리뷰] 실용성 더한 오픈형 이어폰, 소니 링크버즈 클립	IT동아	03.06	273	0
6715	[황성진의 '고대 사상가, AI를 만나다'] 아리스토텔레스가 보면, 요즘 AI 활용은 전부 '반쪽짜리'	IT동아	03.06	28	0
6714	[IT신상공개] “최대 3cm 카펫 청소”…직배수 AS 강화한 로보락 ‘S10 MaxV Ultra’	IT동아	03.05	30	0
6713	[스타트업-ing] 모빌리티랩 "군집자율비행 드론으로 농업·재난·국방 현장 무인화"	IT동아	03.05	27	0
6712	“프리미엄 내려놓고 99만 원” 애플, 중저가 노트북 맥북 네오 공개 [20]	IT동아	03.05	1691	1
6711	파네시아, SKT AI DC·오픈칩 등 국내외 전략적 협업 통해 글로벌 시장에 '발돋움'	IT동아	03.05	78	0
6710	키보드ㆍ마우스ㆍ헤드폰 속 2.4GHz 무선ㆍ블루투스 기술의 차이점은?	IT동아	03.04	31	0
6709	[주간보안동향] 보안의 양날의 검 에이전틱 AI…보안 구멍 된 오픈클로 外	IT동아	03.04	33	0
6708	“전세버스 예약 전 이것부터 확인하세요”…운수회사 안전정보 조회 방법	IT동아	03.04	27	0
6707	[주간스타트업동향] 마키나락스, 코스닥 상장 예비심사 통과 外	IT동아	03.04	58	0
6706	앤커코리아, 한국 시장 본격 공략···배터리·녹음기·로봇청소기 공개	IT동아	03.04	35	0
6705	디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장	IT동아	03.04	32	0
6704	K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다	IT동아	03.04	39	0
6703	[위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외	IT동아	03.03	61	0
6702	[투자를IT다] 2026년 2월 4주차 IT기업 주요 소식과 시장 전망	IT동아	03.03	30	0
6701	[뉴스줌인] 사양 올리고 가격은 그대로… '가성비' 정조준한 아이폰 17e	IT동아	03.03	79	0
6700	[신차공개] 캐딜락 2026 더 뉴 에스컬레이드·벤츠 EQE 350+ SUV 출시	IT동아	03.03	42	0
6699	[정석희의 기후 에너지 인사이트] 5. 기후테크, ‘본질’로 승부하라	IT동아	03.03	29	1
6698	[주간투자동향] 보스반도체, 870억 원 규모 시리즈A 투자 유치 外	IT동아	03.03	27	0
6697	MWC 2026, 이통3사 AI 전면전 막 올랐다	IT동아	03.03	551	1
6696	[리뷰] ‘꽉 찬 육각형’ 크리에이터 노트북, 에이수스 프로아트 PX13(HN7306)	IT동아	02.28	54	0
6695	설치도, 복잡한 인프라도 필요 없다… 웹 브라우저 하나로 확대되는 ‘AI·코딩 교육’ [4]	IT동아	02.27	1788	3
6694	대전창조경제혁신센터, 수도권 VC-지역 스타트업 잇는 '지역 순회 벤처투자 설명회' 개최	IT동아	02.27	41	0
6693	와이앤아처, AC+VC+PE 통합한 '와인앤아처그룹' 출범... 창업 전주기 투자 모델 가동	IT동아	02.27	46	0
6692	[스타트업-ing] 저스트핀 CTO "2인 체제로 블루미 출시···현실감 있는 대화에 집중"	IT동아	02.27	47	0
6691	말 한 마디로 만드는 나만의 곡, 구글 음악 생성 AI ‘리리아 3’ 써보니	IT동아	02.27	59	0
6690	'HP 3D 프린터 한 대로 드론 연 2만 대 생산'··· UAV 제조 최선단에 있는 HP	IT동아	02.27	53	0
6689	파네시아 정명수 대표 "UA·NV링크 아우르는 인터커넥트 주권 확보할 것"	IT동아	02.27	45	0
6688	[스타트업-ing] 타이디비 “소상공인·스타트업 위한 AI 올인원 브랜딩 솔루션, 요비"	IT동아	02.27	48	0
6687	[황성진의 '고대 사상가, AI를 만나다'] 마키아벨리가 AI를 쓴다면 가장 먼저 잘라냈을 변명 세 가지	IT동아	02.27	51	0
6686	[정훈구의 인터'스페이스'] 136명이 성수동에 도착하는 방법	IT동아	02.27	373	3
6685	스테이블코인·거래소 지분 규제 “시장 안정과 무관, 재검토 필요”	IT동아	02.27	54	0
6684	갤럭시 S26 시리즈, '스펙' 보다 'AI 경험' 더 앞세웠다	IT동아	02.26	271	0