해커들, AI로 만든 가짜 보안 취약점 보고서 남발… 업계 비상

aimatters

2025.07.25 18:12:32

조회 9019 추천 3 댓글 4

인공지능(AI)이 만들어낸 저품질 콘텐츠가 사이버보안 업계를 위협하고 있다. AI가 실제로 존재하지 않는 보안 취약점을 만들어내고 이를 그럴듯한 보고서로 포장해 제출하는 사례가 급증하고 있기 때문이다. '버그 바운티'는 기업들이 자사 소프트웨어나 웹사이트의 보안 허점을 찾아내는 해커들에게 돈을 주는 제도다. 그런데 최근 이 제도를 악용해 AI로 가짜 보안 문제를 만들어 보고하는 사람들이 늘고 있다.

테크크런치가 24일(현지 시간) 보도한 내용에 따르면, 지난 몇 년간 AI가 만든 가짜 콘텐츠는 웹사이트, SNS, 언론사는 물론 실제 행사까지 오염시켜 왔다. 이제 보안업계도 이 문제에 휘말리게 됐다. AI 보안 도구를 만드는 회사 런시빌의 창립자 블라드 이오네스쿠는 "사람들이 그럴듯하고 전문적으로 보이는 보고서를 받고 있다. 그런데 자세히 살펴보면 '어라, 이 보안 문제가 어디 있지?'라는 생각이 든다"고 말했다.

이오네스쿠는 "결국 AI가 지어낸 얘기였던 것으로 드러난다. 기술적인 내용이 모두 AI가 만들어낸 거짓말이었다"고 설명했다. 그는 AI 챗봇이 도움이 되는 답변을 하도록 만들어졌기 때문에 이런 문제가 생긴다고 지적했다. 그는 "보고서를 달라고 하면 보고서를 만들어준다. 그러면 사람들이 이를 복사해서 버그 바운티 사이트에 올리고, 이로 인해 사이트와 기업들이 가짜 보고서에 파묻히게 된다"며 "금처럼 보이지만 실제로는 쓰레기인 것들을 너무 많이 받게 되는 게 문제"라고 말했다.

실제로 지난 1년간 이런 일들이 벌어졌다. 보안 전문가 해리 신토넨은 유명한 오픈소스 프로젝트 '컬'이 가짜 보고서를 받았다고 폭로했다. 신토넨은 SNS에 "공격자가 크게 실수했다. 컬은 멀리서도 AI가 만든 가짜를 알아챌 수 있다"고 썼다. 비영리단체 지원 플랫폼 오픈 컬렉티브의 벤자민 피우플도 자신들의 메일함이 "AI가 만든 쓰레기로 넘쳐난다"고 토로했다. 깃허브에서 보안 프로젝트를 관리하는 한 개발자는 "거의 모든 보고서가 AI가 만든 가짜"라며 올해 초 버그 바운티를 아예 중단했다.

해커들과 기업들 사이에서 중개 역할을 하는 주요 버그 바운티 회사들도 AI가 만든 가짜 보고서가 급증하고 있다고 밝혔다. 업계 1위 업체 해커원의 미키엘 프린스는 테크크런치에 "우리도 AI가 만든 가짜 콘텐츠를 봤다"며 "실제처럼 보이지만 AI가 만든 것이고 실제로는 아무 문제가 없는 가짜 취약점들이 늘고 있다. 이런 쓸모없는 제출물들이 보안 프로그램의 효율성을 떨어뜨리고 있다"고 말했다.

또 다른 업체 버그크라우드의 창립자 케이시 엘리스는 AI를 써서 버그를 찾고 보고서를 작성해 제출하는 사람들이 분명히 있다고 말했다. 그는 전체 제출물이 주당 500건씩 늘고 있다고 밝혔다. 엘리스는 "AI가 대부분의 보고서 작성에 쓰이고 있지만, 아직 저품질 가짜 보고서가 크게 늘지는 않았다. 앞으로는 더 심해질 것 같지만 지금은 괜찮다"고 말했다.

자체적으로 버그 바운티를 운영하는 구글, 메타, 마이크로소프트, 모질라 등 대기업들의 상황도 확인해봤다. 파이어폭스 브라우저를 만드는 모질라의 다미아노 드몬테 대변인은 "AI가 만든 것으로 보이는 가짜나 저품질 버그 보고서가 크게 늘지는 않았다"며, 월 5~6건 정도만 거짓 보고서로 판정해 거부하고 있다고 말했다. AI에 큰 투자를 한 마이크로소프트와 메타는 답변을 거부했고, 구글은 답변하지 않았다.

이오네스쿠는 늘어나는 AI 가짜 보고서 문제를 해결하려면 최소한 1차 검토를 하고 정확성을 확인할 수 있는 AI 시스템에 계속 투자해야 한다고 말했다. 실제로 화요일 해커원은 사람과 AI를 함께 사용하는 새로운 검토 시스템을 출시했다. 이 시스템은 AI로 먼저 쓸모없는 보고서를 걸러내고 중복을 찾아낸 뒤, 사람이 직접 확인해 진짜 문제만 골라낸다. 해커들이 점점 더 AI를 쓰고 기업들도 AI로 보고서를 걸러내게 되면서, 결국 어느 쪽 AI가 이길지 지켜봐야 할 상황이다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: 이디오그램 생성

인기 기사

고정닉 0

원본 첨부파일 1

AI-Matters-기사-썸네일-fake-report.jpg

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 돈 투자하고 싶게 만드는 CEO상 스타는?	운영자	26/03/02	-	-
2114	저커버그, 프라다 패션쇼 전면 착석…메타 AI 안경 명품 버전 나오나 [2]	aimatters	02.27	1106	2
2113	구글, 이미지 생성 모델 '나노 바나나 2' 공개…4K 해상도에 속도까지 잡았다	aimatters	02.27	56	3
2112	잭 도시, 직원 절반 잘랐다…"당신 회사도 곧 같은 길 걷게 될 것"	aimatters	02.27	46	1
2111	챗GPT가 강박장애 환자를 더 아프게 만든다, '안심 로봇'의 위험한 진실 [2]	aimatters	02.27	705	0
2110	AI 데이터센터의 '친환경' 선언, 전력망을 들여다보면 허상이다	aimatters	02.27	38	0
2109	별점만 믿다간 낭패! ChatGPT가 470만 개 리뷰를 파헤쳐 밝혀낸 '맛집의 진짜 조건'	aimatters	02.27	39	0
2108	"ChatGPT가 편향됐다"는 말 한마디에 설득력 28% 급락 [10]	aimatters	02.26	2483	4
2107	챗GPT가 통계학 교육을 뒤흔들고 있다: 대학 강의실에서 벌어지는 AI 혁명	aimatters	02.26	73	0
2106	월 20달러짜리 챗GPT로 수학 난제 풀었다…'바이브 증명'의 충격적 실험 [13]	aimatters	02.26	2503	19
2105	앤트로픽, AI 에이전트 개발 스타트업 버셉트 인수…창업자 한명은 메타로	aimatters	02.26	33	0
2104	제미나이, 안드로이드에서 택시 호출·음식 배달 주문까지 자동화한다... 한국서도 적용	aimatters	02.26	57	0
2103	"AI 개발은 기타 배우기와 같다"…오픈클로 개발자가 전하는 AI 빌더 생존법	aimatters	02.26	70	0
2102	975g으로 AI 정복…한국레노버, 요가 11세대 4종 출시	aimatters	02.26	43	0
2101	AI가 내 말을 못 믿는다고? 음성 AI의 충격적인 편향 실험 결과 [2]	aimatters	02.25	680	2
2100	GPT-5도 이런 실수를 한다고? AI가 '알면서도 틀리는' 황당한 이유 [14]	aimatters	02.25	1790	6
2099	AI도 못 깨는 게임이 있다? 챗GPT·클로드·제미나이, 70년대 텍스트 게임 줄줄이 실패 [2]	aimatters	02.25	631	5
2098	오픈AI 투자자, 앤트로픽도 찍었다…VC 업계, 경쟁사에 투자하지 않는 '투자 충성도' 사실상 붕괴	aimatters	02.25	49	0
2097	" 美 연준도 AI 시대로 간다"…월러 이사, AI 전면 도입 전략 공개	aimatters	02.25	41	0
2096	AI가 플레이리스트 짜준다...스포티파이 리스트 자동생성 기능 영국·호주 등으로 확대	aimatters	02.25	38	0
2095	2028년 붕괴 시나리오로 전세계 공포, AI가 완벽하게 성공할수록 경제는 무너진다 [1]	aimatters	02.24	128	0
2094	AI가 "생각을 줄이면" 오히려 더 똑똑해진다? 토큰 예산과 LLM 추론의 역설	aimatters	02.24	65	0
2093	AI 전쟁 시뮬레이션, 가장 먼저 핵 투하를 지시한 AI 모델은?	aimatters	02.24	61	0
2092	AI가 교사보다 공정한 채점자가 될 수 있을까? GPT, 클로드, 제미나이의 교육 평가 실험	aimatters	02.24	38	1
2091	앤트로픽 "중국 AI 3사, 가짜 계정 2만4천 개로 클로드 기술 훔쳐갔다"	aimatters	02.24	72	0
2090	"하루 한 시간이면 AI를 직접 활용하라. 주변의 99%보다 앞서갈 수 있다"…AI 스타트업 CEO의 경고	aimatters	02.24	67	0
2089	오픈AI, 스마트 스피커·안경·조명까지…AI 하드웨어 제국 꿈꾼다	aimatters	02.24	63	0
2088	다쏘시스템, AI 전문가 '버추얼 동반자' 공개…인간과 AI의 산업 협업 시대 열린다	aimatters	02.24	42	0
2087	AI 안전장치도 '세탁'된다? 제미나이·클로드도 뚫렸다	aimatters	02.23	46	0
2086	AI가 사각형을 인식할 수 있을까? 클로드·챗GPT·제미나이 '공간 인식' 충격 실험	aimatters	02.23	41	0
2085	AI 로봇이 나를 설득한다? 챗GPT가 물리치료 거부 환자를 설득하는 방법	aimatters	02.23	37	0
2084	[신간] 난치병·빚에서 탈출한 30대 파이어족의 <버릴수록 부자 되는 미니멀리즘 재테크>	aimatters	02.23	48	0
2083	한 질문에 AI 4개가 토론한다…xAI, '그록 4.20' 공개	aimatters	02.23	38	1
2082	AI가 인간을 고용하는 시대 열렸다…"클로드(Claude)가 내 상사라면 이상적일 것"	aimatters	02.23	49	0
2081	"광고 대행사는 이제 필요 없다 우리에게 바로 광고해"…오픈AI 임원의 도발적 선언	aimatters	02.23	95	0
2080	"일기 쓰기 귀찮다고요?" AI가 대신 물어봐 주는 일기 앱 '블루닙' 출시	aimatters	02.23	43	0
2079	AI 코미디언이 인간보다 더 웃기다고? ‘기계다움’이 유머의 새 무기가 된다 [14]	aimatters	02.20	1541	2
2078	AI는 이제 '알아서 척척'… 2026년, 당신의 직장과 일상을 바꿀 AI의 민낯	aimatters	02.20	68	0
2077	AI는 영어만 편애한다, 전 세계 6,003개 언어 중 AI가 외면하는 언어들의 현실	aimatters	02.20	80	0
2076	구글, 제미나이 3.1 Pro 출시…추론 성능 전작 대비 2배 이상 향상	aimatters	02.20	89	0
2075	구글(Google) 제미나이(Gemini) 앱, AI 음악 생성 기능 품었다…"텍스트 한 줄이나 폰 앨범 동영상으로 30초 트랙을”	aimatters	02.20	1176	0
2074	"돈은 관심 없다"…오픈클로 개발자, 저커버그 제안 거절하고 알트만 택한 이유	aimatters	02.20	90	0
2073	오픈AI, 기업가치 850조 원 넘긴다…역대급 145조 원 투자 유치 임박	aimatters	02.20	50	0
2072	챗GPT에게 숙제 맡겼다가 낭패 본 고등학생들의 고백 [3]	aimatters	02.19	1425	3
2071	인터넷 없이도 폭주하는 AI, 스마트폰 속 챗봇이 돌변하는 지점 예측	aimatters	02.19	81	0
2070	엄마들이 육아 고민을 SNS 대신 AI에게 털어놓는 이유	aimatters	02.19	87	0
2069	챗GPT 프로, '90% 할인'… 카카오 선물하기 깜짝 특가	aimatters	02.19	171	0
2068	오픈AI, 초당 1,000토큰 생성하는 초고속 코딩 모델 'GPT-5.3-Codex-Spark' 공개	aimatters	02.19	87	0
2067	"AI 비서가 하루종일 일한다"… 오픈AI, 장시간 작동 AI 만드는 법 공개	aimatters	02.19	94	0
2066	구글 AI 모델 불법 복제 시도 10만 건 돌파… 북한·중국 해커, 피싱에 본격 활용 [7]	aimatters	02.19	2324	8
2065	구글 딥마인드의 제미나이, 수학·물리학 난제 해결하며 AI 연구 협력자로 진화	aimatters	02.19	72	0