가짜 목소리·영상 ‘딥페이크’ 잡을 인공지능 기술 속속 등장

IT동아

2022.06.08 14:28:24

조회 1069 추천 3 댓글 3

[IT동아 차주경 기자] 사람의 목소리나 얼굴을 교묘하게 변조, 편집한 딥페이크(DeepFake)가 가짜 뉴스와 음란 콘텐츠를 만드는 데 악용되면서 사회 문제로 떠올랐다. 인공지능을 더해 만든 딥페이크는 진짜인지 가짜인지 구분하기 어려울 정도로 정교하다. 이에 인공지능 기술 기업과 학계는 딥페이크를 적발할 기술을 속속 선보인다.

미국 마이크로소프트는 2020년 ‘MS 비디오 인증기’를 선보였다. 이 기술은 딥페이크로 의심되는 사진이나 동영상을 인공지능 분석해 조작이나 가공 여부를 판별 후 확률로 표시한다. 화면 속 피사체와 배경의 그림자, 색깔의 미세한 변화는 물론 피사체간 경계면의 화소의 변화까지 검사해 조작이나 가공됐는지 알아내는 원리다.

딥 페이크를 구분하는 MS 비디오 인증기. 출처 = 마이크로소프트

아무리 정교한 딥페이크 기술이라 해도, 초당 수십 장씩 이어지는 동영상의 화면 속 피사체, 배경을 하나하나 자연스럽게 조작 가공하기는 어렵다. 이 과정에서 그림자나 색깔이 한순간 어색하게 바뀌거나 화소가 부자연스럽게 모이는 등 문제가 생긴다. MS 비디오 인증기는 이런 화면 속 어색한 부분을 감지해 딥페이크 여부를 판별한다.

최근 일본과 스페인, 폴란드의 연구진은 인물 동영상의 딥페이크 여부를 판별하는 ‘인공지능 거짓말 발견’ 기술의 공동 연구 결과를 발표했다. 이 기술은 동영상의 화면뿐 아니라 사람의 목소리의 딥페이크 조작 여부도 알아낸다.

이 기술은 먼저 인물 동영상에 원본임을 보증하는 정보를 숨겨놓는다. 동영상을 조작 가공하면 이 정보가 사라지므로, 정보 검사 만으로 딥페이크 적용 여부를 손쉽게 판별 가능하다. 이어 이 기술은 동영상 속 사람의 입술 모양과 움직임을 특정 성분으로 추출하고, 이 성분과 목소리를 대조 검증한다. 입술은 자음을 말하는 모양인데 실제 목소리는 모음이라면, 입술이 완전히 닫혀 있는데 목소리가 나온다면 딥페이크로 조작 가공됐을 가능성이 크다.

인공지능 거짓말 발견 기술을 쓰면 사람의 목소리를 조작 가공해 진짜 인물 동영상에 덧씌운, 혹은 반대로 진짜 사람의 목소리를 조작 가공한 인물 동영상에 덧씌운 딥페이크를 적발 가능하다. 연구진은 정치인, 연예인 등 사회 영향력을 가진 사람들의 딥페이크가 악용되는 것을 막으려 인공지능 거짓말 발견 기술을 연구 개발했다고 밝혔다.

세계 인공지능 관련 기술 기업들도 속속 딥페이크를 판별할 소프트웨어와 하드웨어 기술을 선보이며 힘을 싣는다.

어도비 CAI 발표 현장. 출처 = 어도비

콘텐츠 소프트웨어 제조사 어도비, 마이크로소프트는 동영상 편집 이력을 암호화로 보관하는 소프트웨어를 함께 개발한다고 밝혔다. 편집 이력을 보존하는것 만으로도 가공과 조작 여부를 한결 손쉽게 확인 가능하다. 앞서 어도비는 세계 콘텐츠 기업과 함께 콘텐츠 위조와 변조, 가짜 뉴스 제작과 전파를 막을 기구 ‘CAI(Content Authenticity Initiative, 콘텐츠 자격 증명)’를 결성해 운영 중이다.

컴퓨터 기술 설계사 엔비디아도 최근 언어 처리 능력을 강화한 인공지능 가속 칩을 선보였다. 이 가속 칩을 쓰면 딥페이크 목소리를 실시간으로 구분 가능할 만큼 인공지능 음성 분석 효율과 정확도 모두 좋아지는 것으로 알려졌다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI, 반도체 등 전문인재 부족 심화..."외국인 유학생 국내 정착 도와야"▶ 위기 맞은 구독 서비스…'게임 구독'에도 회의론 슬금 ▶ 지방선거 D-1…주요 후보별 IT 공약 살펴보니

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
1351	[리뷰] 자동 축 잠금에 1.8인치 OLED가 핵심, DJI 로닌 RS 3 프로	IT동아	22.06.21	84	0
1350	[IT하는법] 아이폰 메모 앱, 윈도에서 이용하는 방법은? [1]	IT동아	22.06.21	434	0
1349	광주정보문화산업진흥원 탁용석 원장, “사람이 중심인 허브를 꿈꿉니다”	IT동아	22.06.21	110	1
1348	센서, 드론에 자동차까지…소니, 모빌리티 사업 전개에 속도 [1]	IT동아	22.06.21	1446	4
1347	스마트팜 기술 1세대에 머물러 있는데...R&D 예산은 오히려 줄어	IT동아	22.06.20	104	0
1346	[IT애정남] 지원 끝난 IE 11, 실행되는데 그냥 써도 되나요? [5]	IT동아	22.06.20	2176	4
1345	부품 공급난·러 침공 직격, 유럽 스마트폰 출하량 10년만에 최저	IT동아	22.06.20	1516	1
1344	동국대 캠퍼스사업단 전병훈 단장, “지역을 넘어 지방, 세계로 확대할 수 있는 허브를 생각합니다”	IT동아	22.06.20	101	0
1343	[주간투자동향] 한화, UAM 기술 기업 오버에어에 1,500억 원 규모 투자	IT동아	22.06.20	89	0
1342	서울랜드 “홈페이지 서버 가비아 클라우드로 전환, 온라인 서비스 강화에 큰 힘”	IT동아	22.06.17	140	0
1341	[농업이 IT(잇)다] 농산물 주문 통합처리 플랫폼 개발 기업 ‘에이임팩트’	IT동아	22.06.17	87	0
1340	아는 만큼 보이는 협업 툴··· 업무 효율은 물론 조직 문화 개선에도 '특효' [1]	IT동아	22.06.17	142	0
1339	[스타트업人] 손 닿는 곳 모두 푸르게, 퍼밋 스마트팜 유지 보수 관리자 이야기	IT동아	22.06.17	83	0
1338	휘발윳값 2100원대 돌파…경제성에 방점 찍은 '초소형전기차' 주목 [8]	IT동아	22.06.17	1991	1
1337	인텔, 첫 데스크톱 그래픽 카드 공개··· 'GPU 시장 달굴까' [19]	IT동아	22.06.17	3785	7
1336	[리뷰] 에코백스 vs 로보락, 최고사양 로봇청소기, 얼마나 좋길래?	IT동아	22.06.16	108	0
1335	"다정함은 사람을 건강하게 한다"... AI챗봇은 코로나 블루를 치유할 수 있을까?	IT동아	22.06.16	135	0
1334	[리뷰] '호라이즌' 시리즈 팬을 위한 게임 저장고, 씨게이트 게임 드라이브 호라이즌 에디션	IT동아	22.06.16	92	0
1333	[IT신상공개] VR게임은 움직이면서 즐겨야 한다, 피코의 네오3 링크	IT동아	22.06.16	112	0
1332	[모빌리티 인사이트] 자동차 회사가 인공위성을 쏘고 있다?	IT동아	22.06.16	88	0
1331	렌털 서비스에 정부 지원까지 시작··· 확산하는 '디지털 사이니지'	IT동아	22.06.16	122	1
1330	스마트 상점 기술, 소상공인 구인·운영난 해결사로 발돋움	IT동아	22.06.16	396	1
1329	"디지털플랫폼이 야기하는 갈등 합리적 규제로 풀어야...이 시대에 말이나 마차 탈 수는 없어"	IT동아	22.06.16	106	0
1328	레드햇 “RHEL9로 어디서나 일관된 하이브리드 클라우드 관리 가능” [1]	IT동아	22.06.15	116	0
1327	"현장근로자 업무에도 디지털전환 필요"... 팀뷰어 산업용 AR로 국내 시장 진출	IT동아	22.06.15	133	0
1326	"넷플릭스 하루에 600원"…구독 서비스 '역린' 건드렸다 [43]	IT동아	22.06.15	5360	12
1325	친환경 비즈니스, 정부에서 스타트업까지 ‘공감’ 넘어 ‘공생’의 단계로	IT동아	22.06.15	91	0
1324	[혁신스타트업 in 홍릉] 재인알앤피 “한약·의학 장점 모은 천연물 항암제, 효능으로 증명”	IT동아	22.06.15	78	0
1323	[IT강의실] 저시력자, 노안, 색맹을 위한 '윈도우 화면 모드'	IT동아	22.06.15	132	0
1322	중고급 개발자 품귀현상.. 슈퍼코더 "원격근무하는 해외개발자로 해결하세요" [21]	IT동아	22.06.14	3536	1
1321	'5nm 공정으로 주도권 회복한다'··· AMD, 젠4 아키텍처 세부 정보 공개	IT동아	22.06.14	149	0
1320	[성공의 키, 인스타그램 마케팅] 3부 - 노출도를 높이는 태그 200% 활용법 [2]	IT동아	22.06.14	1058	1
1319	정부 “2025년까지 드론 7대 강국 도약” 선언	IT동아	22.06.14	157	0
1318	[IT애정남] iOS 베타 버전, 설치해도 될까요?	IT동아	22.06.14	535	0
1317	15일 개막 P&I 2022, 광학 기기 전시에서 사진 문화 행사로	IT동아	22.06.14	99	0
1316	[리뷰] 집 전등을 스마트하게 업그레이드, 텐플 스마트 벽부형 스위치	IT동아	22.06.13	116	0
1315	'게임 구독 생태계' 완성한 MS, 무심한 표현 하나에 담긴 의미	IT동아	22.06.13	227	0
1314	前 정부혁신전략추진단 전충훈 과장, “국민의 목소리를 정책으로 만들었습니다”	IT동아	22.06.13	86	0
1313	[주간투자동향] 콘랩컴퍼니, 60억 원 규모의 시리즈A 투자 유치	IT동아	22.06.13	86	0
1312	반도체 품귀에 화물연대 파업…업친 데 덮친 자동차, 가전 업계	IT동아	22.06.13	90	0
1311	구글이 클라우드로 '100조' 자리 원주율 계산한 방법은 [16]	IT동아	22.06.13	2850	10
1310	초고령사회 임박 韓…”시니어 기술창업 지원으로 경제 활력 높여야” [47]	IT동아	22.06.10	3879	1
1309	[스타트업人] “미술품 가치를 ‘데이터’로 분석합니다” 테사 에셋의 아트 애널리스트 이야기	IT동아	22.06.10	112	0
1308	[리뷰] 크리에이터 눈높이에 맞춘 노트북, 에이수스 젠북 X14 OLED	IT동아	22.06.10	180	0
1307	임박한 휴가철…협업툴 ‘노션’으로 여행 계획 세워볼까 [1]	IT동아	22.06.10	424	1
1306	[IT하는법] '세로 본능' 일깨우는 피벗 기능…단축키로 빠르게 화면 회전하려면?	IT동아	22.06.10	122	0
1305	콘진원 "콘텐츠 스텝업으로 K콘텐츠 세계화를 위한 디지털 역량 높인다”	IT동아	22.06.10	97	0
1304	LG 클로이 서빙로봇 도입한 화성휴게소, “휴게소 명물 될 것”	IT동아	22.06.10	831	0
1303	[스케일업] 부엔까미노 (3) 팀장클럽 “소비자 곁에서 재미와 정보 주는 금융 도우미”	IT동아	22.06.10	87	0
1302	현대重 1호 사내벤처가 올린 성과…자율운항 대양횡단 성공	IT동아	22.06.09	121	0