가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’

IT동아

2023.05.25 19:26:34

조회 2091 추천 1 댓글 11

[IT동아 정연호 기자] 명령어(프롬프트)를 입력하면 글과 사진 등 콘텐츠를 만드는 인공지능(이하 AI)이 세계 곳곳에서 인기다. 동시에 AI 콘텐츠로 만든 가짜뉴스를 우려하는 목소리도 커졌다. 실제로 최근에는 AI로 만든 정교한 가짜뉴스가 부쩍 늘었다. 이에 업계는 AI로 제작한 콘텐츠를 감별하는 기술들을 개발하지만, 완성도를 더 높여야 한다는 분석이 나온다.

글, 사진, 영상을 만드는 AI 기술은 빠른 속도로 발전한다. 이제 오픈AI의 챗GPT는 사람이 쓴 것 같은 글을 작성한다. 사진 제작 AI인 미드저니(Midjourney)의 결과물을 실제 사진으로 착각하는 사람도 있다. 비디오 제작 AI 기업 런웨이의 ‘젠-2’가 만든 영상은 아직 해상도가 낮고 피사체 움직임도 어색하다. 하지만, 글, 사진을 만드는 AI처럼 기술이 빠르게 발전할 것이라는 전망이 나온다.

이러한 AI 기술은 다양한 콘텐츠를 만들 때 진입 장벽을 낮춘다는 장점이 있지만, 단점도 있다. AI를 악용해 정교한 가짜뉴스를 만드는 것이 쉬워졌다. 실제로 AI로 만든 가짜뉴스들이 사회관계망서비스(SNS)에 범람하는 중이다.

지난 22일(현지시각) 트위터에 미국 펜타곤(국방부 청사)의 화재 사진이 올라왔다. AI로 제작한 가짜 사진으로 만든 가짜 뉴스였다. 러시아의 해외 선전매체인 RT와 유명 경제뉴스 계정들이 이 사진을 공유했다. 많은 사람들이 펜타곤 화재를 실제 상황으로 받아들였다.

트위터에 올라온 펜타곤 화재 사진, 출처=WhaleChart

이에 펜타곤 주변을 관할하는 버지니아주 알링턴카운티의 소방당국은 공식 트위터 계정에서 “펜타곤 근처에서 발생한 화재는 없다.”라고 밝혔다.

AI 전문가들은 이러한 가짜뉴스의 진위를 판별하려면 우선 디지털 포렌식(디지털 정보를 분석해 범죄 단서를 찾는 수사 기법)이 필요하다고 말한다. 글, 사진, 영상 속 조작의 흔적을 발견해야 한다는 것이다.

디지털 포렌식 전문가들은 펜타곤 화재 사진에도 AI가 만든 사진의 특성이 나타난다고 말한다. 사진을 살펴보면 어색한 부분이 보이는 것이다. 해니 파리드 버클리 캘리포니아대 교수는 AP통신에 “사진 속 울타리는 불규칙하게 배열됐고, 건물의 창문도 실제 펜타곤 건물의 창문과 다르다.”라고 말했다.

문제는 디지털 포렌식에 능한 사람이 많지 않다는 점이다. 게다가 AI 기술이 발전하면서, 가짜뉴스를 구별하는 것이 어려워졌다. 가짜뉴스의 폐해를 걱정하는 목소리가 나오는 이유다. 특정 집단이 AI로 만든 가짜뉴스로 선거를 포함한 중요한 행사에 조작을 가할 우려가 크다.

이러한 불안을 해소하기 위해서, 업계는 AI로 만든 콘텐츠를 감별하는 기술을 개발하고 있다. 콘텐츠를 AI와 사람 중 누가 만들었는지 알려주는 기술이다. 주로 사람과 AI의 콘텐츠가 어떻게 다른지 학습한 AI를 활용한다.

오픈AI는 챗GPT 감지기인 ‘클래시파이어’를 내놨다. 글을 입력하면, AI가 작성했을 가능성이 얼마나 되는지 알려준다. 다만, 아직 정확도가 낮다. 오픈AI 자체 테스트에 따르면, 클래시파이어는 AI가 쓴 글 가운데 26%만 ‘AI가 작성했을 가능성이 있다.’로 판단했다.

오픈AI의 클래시파이어, 출처=IT동아

AI로 제작한 그림과 영상을 감별하는 기술도 있다. 미국의 AI기업 옵틱은 AI가 만든 사진인지를 판별해 주는 사이트(aiornot)를 공개했다. 역시 정확도는 높지 않다. AI로 만든 도널드 트럼프 전 미국 대통령의 사진을 ‘AI가 아닌 사람이 제작했다’라고 판단했다.

옵틱의 aiornot사이트, 출처=IT동아

미국의 AI 기업 딥미디어는 영상을 분석해 화면, 음성에 조작이 있는지를 확인한다. 인텔도 가짜 영상을 탐지하는 ‘페이크캐쳐’를 개발했다. 영상 속 사람이 실제 사람이라는 ‘증거’, 예컨대 얼굴의 혈류가 진짜인지 확인하는 것이다.

이처럼 다양한 AI 감별 기술이 나왔지만, 대부분 정확도는 높지 않다. 이에 일부 AI 기업들은 정확도를 높일 방법으로 콘텐츠에 워터마크(기업의 상표를 숨겨두는 기술)를 삽입하는 기술을 개발한다. 워터마크는 사진과 영상 콘텐츠에만 대입 가능한 한계가 있지만, 그럼에도 지금 단계에서의 AI의 악용 사례를 줄이는 데에는 도움이 될 것이라는 분석이 나온다.

스타트업 프렌들리AI의 창업자인 전병곤 서울대학교 컴퓨터공학부 교수는 “특정 AI 기업의 기술로 콘텐츠를 만들었다는 워터마크를 넣는 것이 대안이다. 텍스트도 문장에 패턴을 넣는 식으로 워터마크를 넣는다. 이를 기본으로 AI로 만든 콘텐츠를 감별하는 기술의 정확도를 높일 수 있다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI에 진심인 MS, 윈도에도 AI 비서 '코파일럿' 탑재 ▶ 구글, 인공지능으로 장애인 접근성 높인다 ▶ 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야”

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	끝까지 다 본 걸 후회하게 만든 용두사미 드라마는?	운영자	25/07/07	-	-
5529	각기 다른 꿈 품은 청년 30명 태우고 출발한 “청년괴짜 인생버스 시즌 2”	IT동아	07.09	78	0
5528	[생활 속 IT] 여름철 해수욕장 실시간 안전 가이드 ‘안전해(海)’ 앱	IT동아	07.09	74	0
5527	알아두면 유용한 자동차 버튼 속 기능 살펴보니	IT동아	07.09	596	1
5526	[주간스타트업동향] 펀진, 2025 방위산업 부품·소재 장비대전 참가 外	IT동아	07.09	66	0
5525	[ETF Q&A] 고배당주 ETF에는 어떤 종류가 있나요?	IT동아	07.09	717	0
5524	[IT하는법] 스마트폰 벨소리, 원하는 음악으로 바꾸는 법 [1]	IT동아	07.09	884	2
5523	“예약부터 굿즈 가격까지” 네이버 검색으로 팝업스토어 정보 ‘한눈에’	IT동아	07.09	68	0
5522	[스타트업-ing] 픽플리 “성실 이용자 확보로 데이터 품질 향상”	IT동아	07.08	133	0
5521	[뉴스줌인] 화면 터치하며 즐기는 프로젝터, 삼성 ‘더 프리미어 5’ 이모저모	IT동아	07.08	176	0
5520	걷거나 퀴즈 풀면 6만 원 준다…기후행동 기회소득 앱 활용법	IT동아	07.08	128	0
5519	결혼자금 빌미로 가상자산 투자 유도 ‘로맨스 스캠’ 주의 [2]	IT동아	07.08	7697	1
5518	[신차공개] ‘BMW 뉴 iX' 사전예약 실시·’페라리 아말피' 출시 [4]	IT동아	07.08	8407	1
5517	서울경제진흥원 “韓 초격차 스타트업·日 기업 개방형 혁신 교두보 마련”	IT동아	07.07	170	0
5516	“판매 글·가격 자동으로” 당근마켓 AI 어떤 편의 주나 [2]	IT동아	07.07	2669	0
5515	에이수스 젠북 팝업존 '젠세이션', 4000명 이상 방문하며 성료 [6]	IT동아	07.07	6284	0
5514	SKT, “7월 15일부터 해지 위약금 환급”…예상 위약금 조회하려면? [1]	IT동아	07.07	6833	3
5513	금융기관에 제공한 개인 정보 확인·관리하려면 이렇게 [이럴땐 이렇게!]	IT동아	07.07	2336	0
5512	[생성 AI 길라잡이] 인공지능이 작성한 표절 논문 찾아내는 무하유 카피킬러 ‘GPT 킬러’	IT동아	07.04	360	0
5511	승용차 70배 탄소 배출 ‘대형 트럭’…친환경 전환 대책은 부실	IT동아	07.04	8213	0
5510	[투자를IT다] 2025년 7월 1주차 IT기업 주요 소식과 시장 전망	IT동아	07.04	298	0
5509	[IT’s 가성비] 아직도 살만한 스테디셀러, LG 32UN650K 4K 모니터	IT동아	07.04	347	0
5508	[리뷰] 디지털 시대 눈 건강을 위한 투자, 벤큐 스크린바 헤일로 2	IT동아	07.04	290	0
5507	[IT신상공개] 성능·음질·편의성 개선, 소니 WH-1000XM6	IT동아	07.04	280	0
5506	SaaS 기반 협업 툴 NHN두레이의 첫 인상, ‘두레이온보딩팀’을 만나다 [3]	IT동아	07.04	7739	0
5505	“야근 걱정 끝” 폴라리스 오피스, AI 기반 NOVA로 활용도 높였다 [3]	IT동아	07.04	2506	1
5504	[농업이IT(잇)다] 백로앙금 “당도 낮춘 팥 디저트로 소비자 입맛 사로잡는다”	IT동아	07.04	235	0
5503	지하철역·공원서 책 대출·반납…스마트 도서관, 더 편하고 가까워진다	IT동아	07.03	269	0
5502	[IT애정남] 구형 노트북에 신형 SSD, 달아도 되나요?	IT동아	07.03	256	0
5501	데이터이쿠 “노코드 AI 플랫폼, 누구나 AI 에이전트 개발 지원”	IT동아	07.03	248	0
5500	[시승기] 안정적인 승차감과 넓은 실내, 전비 효율 두루 갖춘 '아이오닉 9'	IT동아	07.03	243	0
5499	[IT애정남] 유튜브에서 ‘구간 반복’하려면?	IT동아	07.03	244	0
5498	[스타트업-ing] 뉴머스 “뇌혈관막 여는 집중초음파로 뇌질환 치료 돕는다”	IT동아	07.03	225	0
5497	‘AI 자율 네트워크’ 강조하는 노키아, 韓 6G 인프라 투자 기회 엿본다	IT동아	07.03	239	0
5496	“식당·영화·신조어 핵심 정보만 요약” 네이버 AI 브리핑, 사용자 편의성 높일까 [1]	IT동아	07.03	2597	0
5495	GM·LG엔솔 “LFP보다 효율 뛰어난 LMR 배터리로 승부수 띄울 것”	IT동아	07.02	261	0
5494	[주간스타트업동향] 펫나우, '경기도 반려견 비문등록 시범사업' 통해 기술 과시 外	IT동아	07.02	247	0
5493	산불·쓰나미·지진 등 재난 인명 피해, 첨단 음향 기술로 줄인다 [3]	IT동아	07.02	6079	0
5492	플리토와 협력 나선 퓨리오사AI, AI 반도체는 왜 언어 데이터가 필요할까?	IT동아	07.02	242	0
5491	인천창조경제혁신센터, 중국 청두 솽촹센터와 국내 스타트업 중국 진출 돕는다	IT동아	07.02	226	0
5490	세컨드팀, "슈퍼코더, AI가 면접관이 되는 시대 연다”	IT동아	07.02	233	0
5489	인천공항 빠르게 출국하려면? 스마트패스, ‘이제 은행 앱에서 등록 가능’	IT동아	07.02	282	0
5488	게임 그래픽 처리 위한 인공지능 기술 진화는 ‘현재진행형’	IT동아	07.01	277	0
5487	[뉴스줌인] LG전자가 집까지 판다? ‘스마트코티지’ 이모저모 [3]	IT동아	07.01	2794	3
5486	KRDS 준수해야 하는 공공 웹, AI 기반 검증 기술에도 ‘주목’	IT동아	07.01	256	0
5485	[자동차와 法] 휴가철 교통사고, 법과 보험으로 미리 대비하기	IT동아	07.01	240	0
5484	반려견·묘 있다면 알아야 할 동물등록 방법…7월부터 집중 단속	IT동아	07.01	245	0
5483	메이커스페이스 야간 교육 가보니··· '참여율 3배, 직장인 예비창업자도 OK'	IT동아	07.01	238	0
5482	[IT하는 법] 지도 서비스에서 실시간 CCTV 보는 법 [1]	IT동아	07.01	6483	0
5481	새 갤럭시 Z 폴드 공개 예정, 폴더블 디스플레이 소재 산업 훈풍 불까?	IT동아	07.01	310	0
5480	LG유플러스 익시오 안티딥보이스, 온디바이스로 얻는 장점은?	IT동아	06.30	349	0
뉴스	김소연, '수요일 밤에' 홀린 매혹적 비주얼! 넘치는 끼 장착한 '아리아리요'	디시트렌드	14:00