디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

“증명사진 위조 여부 판별” 생성 AI 딥페이크 탐지 서비스 샌즈랩 ‘페이크체크 2.0’

IT동아갤로그로 이동합니다. 2025.05.30 17:35:15
조회 4688 추천 3 댓글 1
[IT동아 김예지 기자] 인공지능(AI) 기술은 우리의 삶을 풍요롭게 만들었지만, 그 이면에 존재하는 그림자는 더욱 깊어지고 있다. 지난해 국내 사이버 침해사고 피해 건수는 1887건으로, 2023년 1277건 대비 약 48%가 증가했다.


딥페이크는 AI를 활용해 특정 인물의 얼굴과 목소리를 합성해 마치 실제처럼 보이거나 들리게 조작한 이미지, 동영상을 만드는 기술을 의미한다 / 출처=셔터스톡



최근 해커들은 AI를 활용해 개인정보를 탈취하고, 금전 피해를 입히기 위해 다양하고 교묘한 수법을 확산하고 있다. 그중에서도 ‘딥페이크(deepfake)’는 단순히 기술적인 호기심을 넘어 사회의 심각한 위협으로 부상했다. 이는 심층 기계 학습(딥러닝) 기술과 가짜(Fake)의 합성어로, AI를 활용해 특정 인물의 얼굴과 목소리를 합성해 마치 실제처럼 보이거나 들리게 조작한 이미지, 동영상을 만드는 기술을 의미한다.

딥페이크 기술은 다양한 콘텐츠 제작에 활용된다는 이점이 있다. 하지만 동시에 정치적 혼란을 야기하는 가짜 뉴스 유포, 사생활 침해, 성범죄의 도구, 피싱 수법으로 악용된다는 문제를 안고 있다. AI 서비스를 활용해 누구나 쉽게 딥페이크 콘텐츠를 생성할 수 있게 되면서 악의적인 목적으로 활용하는 사례가 급속도로 증가했다. 그러나 고도화된 기술을 기반으로 제작된 딥페이크 이미지 및 동영상은 진위 여부를 파악하기 힘들다는 점에서 심각한 문제로 대두되고 있다.

샌즈랩 ‘페이크체크 2.0’ 탐지 성능 고도화


AI 보안 기술기업 샌즈랩(sandslab)은 진화하는 딥페이크로 인한 사회 문제를 해결하기 위해 이미지 특화 멀티 엔진 기반 딥페이크 탐지 서비스 ‘페이크체크(fakecheck)’를 개발했다. 이 서비스는 사용자가 웹사이트에 접속해 딥페이크가 의심되는 이미지를 올리면, 멀티스캐닝 기반 탐지로 몇 초 안에 결과를 도출해 판별 결과를 알려준다.


페이크체크는 PC/모바일 환경에서 웹사이트에 접속한 누구나 회원가입 등 절차 없이 무료로 사용 가능하다 / 출처=샌즈랩



페이크체크는 PC/모바일 환경에서 웹사이트에 접속한 누구나 회원가입 등 절차 없이 무료로 사용 가능하다. 샌즈랩은 지난해 9월 출시 후 2025년 2월 기준 약 20만 건의 딥페이크 분석 요청을 수행했으며, 약 6000건을 탐지했다고 밝혔다.

샌즈랩은 지난 5월 16일 페이크체크 2.0 업데이트를 완료했다. 최근 자주 발견되는 패턴을 반영해 딥페이크 사진을 더욱 정교하게 구별해내도록 기능을 개선했다. 샌즈랩은 “AI 탐지 모델 수를 늘리고, 공개 데이터셋과 명시적 동의하에 수집한 얼굴 이미지를 학습시켰다”고 말했다. 이로써 한국 중·장년층 대상 이미지에 대한 탐지 정확도가 향상됐다고 덧붙였다.

또한 페이스 스왑(Face Swap) 기술로 기존 얼굴을 위·변조한 이미지뿐 아니라 챗GPT와 같은 생성 AI가 만들어 낸 가상 인물 이미지까지 구분할 수 있도록 각각의 모델을 고도화해 탐지율을 높였다. 페이스 스왑은 얼굴을 바꾸는 기술로, 한 사람의 얼굴을 다른 사람의 얼굴로 자연스럽게 교체한 사진을 말한다. 샌즈랩은 “웹상의 실제 정상 이미지 100장과 GPT-4o를 통해 생성한 딥페이크 이미지 200장을 대상으로 한 자체 테스트에서 99.33%의 정확도를 달성했다”고 말했다.

샌즈랩 ‘페이크체크’, 회원가입 없이 무료 사용 가능



페이크체크 공식 웹사이트에 접속하면, 화면 가운데 이미지 업로드 버튼을 확인할 수 있다 / 출처=IT동아



직접 페이크체크 서비스를 사용해보며 특징을 살펴봤다. 페이크체크 공식 웹사이트에 접속하면, 화면 가운데 이미지 업로드 버튼을 확인할 수 있다. 홈페이지는 한국어 또는 영어를 지원한다. 버튼을 클릭해 딥페이크가 의심되는 png, jp(e)g 확장자의 이미지를 업로드한다. 이때 이미지의 크기는 최대 2MB까지 허용된다.

‘정보 수집 규정을 확인하였습니다’를 체크하고, ‘분석 요청’ 버튼을 클릭하면 몇 초 후 위조 진위 여부를 분석해 판별 결과를 알려준다. 참고로, 페이크체크는 범죄 예방 목적의 서비스인 만큼 동물이나 사물의 딥페이크는 판별하지 않는다.


페이크체크는 사진에 대한 4가지 일반 딥페이크 탐지 결과 및 생성형 AI 딥페이크 탐지 결과를 제공한다 / 출처=IT동아



예시로 도산 안창호 선생의 실제 사진과 챗GPT 4o로 만든 딥페이크 사진을 활용했다. 상단에는 ▲사진의 최초 수집일 ▲파일명 ▲파일 유형 ▲파일 크기가 표시된다. 페이크체크는 이미지에 대한 4가지 일반 딥페이크 탐지 결과 및 생성형 AI 딥페이크 탐지 결과를 제공한다. 육안으로 구분하기 어려운 딥페이크 이미지에 특화된 다양한 AI 모델의 판별 결과를 제공하는 것.

페이크체크는 ▲얼굴 탐지 및 추출을 통한 얼굴 영역 집중 ▲딥페이크 사진 확률 산출을 통한 AI 기반 형상 해석 ▲딥페이크 판별 결과 및 해석 등 3단계를 거친다. 사용자는 왼쪽에 표시된 4개 모델과 오른쪽 모델이 제공하는 결과를 통합해 딥페이크 이미지를 판별하면 된다. 생성 AI로 만든 사진이기 때문에 왼쪽 모델에서는 탐지되지 않았지만, 오른쪽 모델에서는 딥페이크 사진일 확률이 99.80%로 기록돼 딥페이크 탐지가 완료됐다.

페이크체크의 AI 모델은 사진에서 주로 눈과 코 주변에서 강한 이상 패턴을 발견한 것으로 보인다. 특히 왼쪽 눈 부분을 중점적으로 한 분석이 판별에 영향을 줬다. 이처럼 결과 화면에 나타난 영역 표시를 통해 AI 모델이 딥페이크로 사진을 판별한 이유를 파악할 수 있다. 한편 샌즈랩은 내년 초 3.0 업데이트를 적용해 거대언어모델(LLM) 기반 자연어 설명 기능을 추가해 사용자들의 이해를 도울 예정이다.


왼쪽 모델에서 딥페이크 판별 기준 50% 이상일 경우 딥페이크로 판별한다 / 출처=IT동아



만약 생성 AI로 만들어진 이미지가 아닌 페이스 스왑 이미지일 경우, 오른쪽 모델은 정상으로 탐지할 수도 있다. 그러나 왼쪽 모델에서 딥페이크 판별 기준 50% 이상일 경우 딥페이크로 판별한다. 정상(원본) 이미지를 넣었을 경우 왼쪽 모델 중 하나의 모델에서 딥페이크라는 결과를 제시하더라도, 과반수를 넘지 않아 최종적으로는 정상 이미지로 확인할 수 있다.

기술 개발 완료·최적화 진행…지속 업데이트 예정


페이크체크는 증명사진 위조 위부를 판별하고, 위조 지폐·위조 여권 등을 분류하는 데 활용될 것으로 기대된다. 샌즈랩은 페이크체크가 딥페이크 판별 결과를 즉시 제공하는 데 강점이 있다고 봤다. 김기홍 샌즈랩 대표는 “악성코드 해킹, 딥페이크 등으로 발생한 피해자들을 보호하기 위한 진위 확인 과정에서 골든타임을 놓치고 보호 효과를 상실할 수 있기 때문에 AI로 빠르게 해결해야 한다”며, “페이크체크가 딥페이크 콘텐츠를 즉시 탐지함으로써 수백 명의 대응 인력을 동원해 2, 3차 검증으로 판별하던 일을 10분의 1 수준으로 대폭 줄일 수 있을 것”이라고 전망했다.


페이크체크는 증명사진 위조 위부를 판별하고, 위조 지폐·위조 여권 등을 분류할 수 있을 것으로기대된다 / 출처=셔터스톡



샌즈랩은 사용자 의견 수렴을 통해 클라우드 최적화를 바탕으로 지속 업데이트를 제공할 예정이다. 특히 샌즈랩은 페이크체크 2.0를 통해 딥페이크 영상 탐지 기능도 곧 선보일 계획이다. 샌즈랩은 “기술 개발은 이미 마쳤으나, 무료 서비스 제공을 유지하기 위해 최적화를 진행 중”이며, “유료화를 하지 않는 범위 내에서 파일 길이, 용량 등의 세부 사항을 조율 중에 있다”고 밝혔다.

또한 샌즈랩은 미디어·공공 기관과 협력을 확대하고, 일부 AI 모델에 대한 오픈소스를 공개해 커뮤니티를 통한 데이터 확장을 꾀한다. 이를 통해 2027년 페이크체크를 글로벌 딥페이크 플랫폼으로 진화시켜 서비스를 다각화한다는 목표다.

한편, 샌즈랩은 AI 보안 특화 기술 역량을 바탕으로 차세대 사이버 보안 체계 구축을 선도하고 있다. 페이크체크뿐만 아니라 AI 기술을 활용한 신뢰할 수 있는 보안 서비스 및 솔루션을 지속 개발할 계획이다. 주요 서비스에는 ▲AI·빅테이터 기반 위협 인텔리전스 서비스 ‘CTX’ ▲AI 기반 네트워크 위협 탐지 및 대응 솔루션 ‘MNX’ 등이 있다.

IT동아 김예지 기자 (yj@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 구글 I/O 2025는 '거대한 변곡점'··· AI 활용해 전략적 우위 유지할 것▶ [생성 AI 길라잡이] 영상에 오디오까지 인공지능이 알아서 다 해주는 구글 플로우▶ 구글플레이 창구 7기 100개사 선정…올해 AI 혁신 이끌 스타트업은?



추천 비추천

3

고정닉 0

6

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 공개연애가 득보다 실인 것 같은 스타는? 운영자 25/10/06 - -
5934 [시승기] 전기차 시장의 새로운 복병…’BYD 아토 3’ [9] IT동아갤로그로 이동합니다. 10.03 3101 0
5933 [투자를IT다] 2025년 10월 1주차 IT기업 주요 소식과 시장 전망 IT동아갤로그로 이동합니다. 10.03 131 0
5932 수명 다한 윈도10, 1년 더 쓸 수 있다? IT동아갤로그로 이동합니다. 10.03 121 0
5931 "마법같은 50g 웨어러블 액션캠" DJI 오즈모 나노, 초보자에 적합할까 IT동아갤로그로 이동합니다. 10.02 296 0
5930 코넥스트 “계열 내 최고 신약 CNT201로 글로벌 제약기업 도약” [혁신스타트업 in 홍릉] IT동아갤로그로 이동합니다. 10.02 171 0
5929 화면 보며 일하는 국산 AI '셀토', 성능 검증 본격화 IT동아갤로그로 이동합니다. 10.02 167 0
5928 서울과기대 창업지원단 “글로벌 역량강화 프로그램으로 스타트업 실질 지원” IT동아갤로그로 이동합니다. 10.02 153 0
5927 규제 개선에 기술 더하니 ‘AI 공무원’ 시대 눈앞 [9] IT동아갤로그로 이동합니다. 10.02 6970 3
5926 [스타트업-ing] 장호원 저스트핀 대표 "진정성 있는 AI 친구 블루미 시대 열 것" IT동아갤로그로 이동합니다. 10.02 195 0
5925 [주간스타트업동향] 위플로, 가트너 '신흥 기술' 보고서 유일 한국 기업 등재 外 IT동아갤로그로 이동합니다. 10.01 190 0
5924 킬사글로벌, AI 기술 스타트업 '노타'의 동남아 시장 진출 견인 IT동아갤로그로 이동합니다. 10.01 189 0
5923 GM “차량 스스로 차선 바꾸고 속도 조절 돕는 ‘슈퍼크루즈’ 연내 도입” [6] IT동아갤로그로 이동합니다. 10.01 6863 0
5922 세라크래프트 “치과 데이터 연결하는 디지털 허브, 덴탈 헬스케어 미들웨어” [혁신스타트업 in 홍릉] IT동아갤로그로 이동합니다. 10.01 183 0
5921 “로봇을 이해하고 체험하는 공간” 2025 서울AI로봇쇼 IT동아갤로그로 이동합니다. 10.01 171 0
5920 차세대 농산업 벤처창업 지원 플랫폼 ‘그린바이오 벤처캠퍼스’ 개막 IT동아갤로그로 이동합니다. 10.01 172 0
5919 “스테이블코인, 금융·기업에 새로운 기회 제공” IT동아갤로그로 이동합니다. 10.01 199 0
5918 [스타트업-ing] 라프디 “SaaS 링크디, 어필리에이트 마케팅 전도사로” IT동아갤로그로 이동합니다. 10.01 167 0
5917 이통3사, 아이폰 RCS 메시지 도입…무엇이 달라질까? [3] IT동아갤로그로 이동합니다. 09.30 2969 0
5916 국내 도입 임박 ‘슈퍼크루즈’ 기술로 모빌리티 혁신 앞당기는 ‘GM’ IT동아갤로그로 이동합니다. 09.30 200 0
5915 [위클리AI] 마이크로소프트, 오픈AI 이어 앤트로픽 최신 모델까지 적용 외 IT동아갤로그로 이동합니다. 09.30 203 0
5914 [스케일업] 안심하이 [2] 강병민 개발자 “돌봄 서비스 개선 위해 STT·AI·보안 기술 개발” IT동아갤로그로 이동합니다. 09.30 186 0
5913 서울글로벌센터, 서울 거주 외국인의 정착과 성장 목표로 새출발 IT동아갤로그로 이동합니다. 09.30 183 0
5912 제주창조경제혁신센터 “지역·혁신 산업의 스타트업 아일랜드로” [지역 창업생태계 리포트] IT동아갤로그로 이동합니다. 09.30 186 0
5911 주식회사 퐁 "뭉클AI로 사람의 감정에 더 다가섭니다"[SBA x IT동아] IT동아갤로그로 이동합니다. 09.30 245 0
5910 [IT신상공개] 디자인·음질 강화, B&O·오디오테크니카 무선 이어폰 IT동아갤로그로 이동합니다. 09.30 178 0
5909 마야크루 "데이터와 AI로 K-브랜드의 틱톡 글로벌 항해를 자동화하다" [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 09.29 213 0
5908 [투자를IT다] 2025년 9월 4주차 IT기업 주요 소식과 시장 전망 IT동아갤로그로 이동합니다. 09.29 207 0
5907 딥세일즈 “AI 영업사원 셀리, 중소기업 수출 나침반으로” [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 09.29 204 0
5906 [신차공개] 현대차 '2026 쏘나타 디 엣지'·BYD '양왕 U9 Xtreme' 출시 [6] IT동아갤로그로 이동합니다. 09.29 2979 0
5905 에이치쓰리솔루션 "AI 붐에 뜨는 수랭 시장, 우리 기술로 선도" [서울과기대 초창패 2025] IT동아갤로그로 이동합니다. 09.29 229 1
5904 시대의영웅 "전 직원을 'AI 고수'로 만드는 비밀병기 여기에" [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 09.29 183 0
5903 ‘당신의 유튜버를 응원하세요!’ 인급동 대신 돌아온 유튜브 하이프(HYPE) [3] IT동아갤로그로 이동합니다. 09.29 6941 1
5902 디다노니아 “렉시오로 온ㆍ오프라인 보드 게임 르네상스 꿈꾼다” [SBA x IT동아] IT동아갤로그로 이동합니다. 09.26 342 0
5901 배민서 카카오톡 교환권 사용해보니…브랜드 5곳만 제한적인 편의성 IT동아갤로그로 이동합니다. 09.26 9403 0
5900 제이디솔루션, 더 라이프 스타일 박람회에 ‘하룬제’ 선보이며 시니어 시장 공략 나선다 IT동아갤로그로 이동합니다. 09.26 326 0
5899 SBA, SPP 국제콘텐츠마켓 2025 개최··· 'K-컬쳐 확산의 마중물' [1] IT동아갤로그로 이동합니다. 09.26 382 0
5898 [스케일업] 넥톤 [2] "유링파워는 DX와 AI의 길잡이” IT동아갤로그로 이동합니다. 09.26 320 0
5897 루미나엑스 "탄소 나노 튜브 냉음극 엑스선 튜브로 진단 혁신할 것" [혁신스타트업 in 홍릉] IT동아갤로그로 이동합니다. 09.26 310 0
5896 어떤 공간이든 스마트하게 바꾸는 ‘마이스맥스’ [서울과기대 초창패 2025] IT동아갤로그로 이동합니다. 09.26 302 1
5895 [스케일업] 퍼슬리 [2] “위염인데 닭가슴살 먹어도 될까?” AI 의료 챗봇 퍼슬리 써보니 IT동아갤로그로 이동합니다. 09.26 5821 1
5894 인천창조경제혁신센터 “신산업 육성·세계 스타트업 허브로 발전” [지역 창업생태계 리포트] IT동아갤로그로 이동합니다. 09.26 284 0
5893 “과학으로 미래를 조각하다” 3M이 대한민국 차세대 인재를 육성하는 방법 IT동아갤로그로 이동합니다. 09.25 324 0
5892 수이, 기술력 덕에 활용 사례 증가···티오더와도 제휴 IT동아갤로그로 이동합니다. 09.25 320 0
5891 래블업 신정규 대표 "앞으로의 10년, 조합 가능한 AI·계량 가능한 AI 시대 열겠다" IT동아갤로그로 이동합니다. 09.25 298 0
5890 충남콘텐츠진흥원 "콘텐츠 기업 디지털하츠 연수, 창작자 세계화 돕는다" IT동아갤로그로 이동합니다. 09.25 300 0
5889 ‘스마트 양식장 관리 솔루션’로 이상고온 대응 돕는 ‘하마랩’ [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 09.25 282 0
5888 민천홍 미니탭 동북아지역 본부장 “품질 4.0 시대, 50년 분석 노하우에 AI 더해 통합 플랫폼으로” IT동아갤로그로 이동합니다. 09.25 2321 1
5887 [주간스타트업동향] 칼렛스토어, 종이 100% 단열재 '클라이머라이너' 국내 출시 外 IT동아갤로그로 이동합니다. 09.24 387 0
5886 손쉽고 간편하게 세금계산서 발행 돕는 ‘볼타코퍼레이션’ [서울과기대 x 글로벌 뉴스] IT동아갤로그로 이동합니다. 09.24 304 0
5885 [스타트업을 위한 회계·세무] 기업가치 평가 방법, DCF·멀티플 IT동아갤로그로 이동합니다. 09.24 301 0
뉴스 “많이 아쉽지만 멈추게 됐다”…박성광, 안타까운 소식 전했다 디시트렌드 10.04
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2