디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’

IT동아갤로그로 이동합니다. 2023.05.25 19:26:34
조회 1911 추천 1 댓글 11
[IT동아 정연호 기자] 명령어(프롬프트)를 입력하면 글과 사진 등 콘텐츠를 만드는 인공지능(이하 AI)이 세계 곳곳에서 인기다. 동시에 AI 콘텐츠로 만든 가짜뉴스를 우려하는 목소리도 커졌다. 실제로 최근에는 AI로 만든 정교한 가짜뉴스가 부쩍 늘었다. 이에 업계는 AI로 제작한 콘텐츠를 감별하는 기술들을 개발하지만, 완성도를 더 높여야 한다는 분석이 나온다.

글, 사진, 영상을 만드는 AI 기술은 빠른 속도로 발전한다. 이제 오픈AI의 챗GPT는 사람이 쓴 것 같은 글을 작성한다. 사진 제작 AI인 미드저니(Midjourney)의 결과물을 실제 사진으로 착각하는 사람도 있다. 비디오 제작 AI 기업 런웨이의 ‘젠-2’가 만든 영상은 아직 해상도가 낮고 피사체 움직임도 어색하다. 하지만, 글, 사진을 만드는 AI처럼 기술이 빠르게 발전할 것이라는 전망이 나온다.

이러한 AI 기술은 다양한 콘텐츠를 만들 때 진입 장벽을 낮춘다는 장점이 있지만, 단점도 있다. AI를 악용해 정교한 가짜뉴스를 만드는 것이 쉬워졌다. 실제로 AI로 만든 가짜뉴스들이 사회관계망서비스(SNS)에 범람하는 중이다.

지난 22일(현지시각) 트위터에 미국 펜타곤(국방부 청사)의 화재 사진이 올라왔다. AI로 제작한 가짜 사진으로 만든 가짜 뉴스였다. 러시아의 해외 선전매체인 RT와 유명 경제뉴스 계정들이 이 사진을 공유했다. 많은 사람들이 펜타곤 화재를 실제 상황으로 받아들였다.


트위터에 올라온 펜타곤 화재 사진, 출처=WhaleChart



이에 펜타곤 주변을 관할하는 버지니아주 알링턴카운티의 소방당국은 공식 트위터 계정에서 “펜타곤 근처에서 발생한 화재는 없다.”라고 밝혔다.

AI 전문가들은 이러한 가짜뉴스의 진위를 판별하려면 우선 디지털 포렌식(디지털 정보를 분석해 범죄 단서를 찾는 수사 기법)이 필요하다고 말한다. 글, 사진, 영상 속 조작의 흔적을 발견해야 한다는 것이다.

디지털 포렌식 전문가들은 펜타곤 화재 사진에도 AI가 만든 사진의 특성이 나타난다고 말한다. 사진을 살펴보면 어색한 부분이 보이는 것이다. 해니 파리드 버클리 캘리포니아대 교수는 AP통신에 “사진 속 울타리는 불규칙하게 배열됐고, 건물의 창문도 실제 펜타곤 건물의 창문과 다르다.”라고 말했다.

문제는 디지털 포렌식에 능한 사람이 많지 않다는 점이다. 게다가 AI 기술이 발전하면서, 가짜뉴스를 구별하는 것이 어려워졌다. 가짜뉴스의 폐해를 걱정하는 목소리가 나오는 이유다. 특정 집단이 AI로 만든 가짜뉴스로 선거를 포함한 중요한 행사에 조작을 가할 우려가 크다.

이러한 불안을 해소하기 위해서, 업계는 AI로 만든 콘텐츠를 감별하는 기술을 개발하고 있다. 콘텐츠를 AI와 사람 중 누가 만들었는지 알려주는 기술이다. 주로 사람과 AI의 콘텐츠가 어떻게 다른지 학습한 AI를 활용한다.

오픈AI는 챗GPT 감지기인 ‘클래시파이어’를 내놨다. 글을 입력하면, AI가 작성했을 가능성이 얼마나 되는지 알려준다. 다만, 아직 정확도가 낮다. 오픈AI 자체 테스트에 따르면, 클래시파이어는 AI가 쓴 글 가운데 26%만 ‘AI가 작성했을 가능성이 있다.’로 판단했다.


오픈AI의 클래시파이어, 출처=IT동아



AI로 제작한 그림과 영상을 감별하는 기술도 있다. 미국의 AI기업 옵틱은 AI가 만든 사진인지를 판별해 주는 사이트(aiornot)를 공개했다. 역시 정확도는 높지 않다. AI로 만든 도널드 트럼프 전 미국 대통령의 사진을 ‘AI가 아닌 사람이 제작했다’라고 판단했다.


옵틱의 aiornot사이트, 출처=IT동아



미국의 AI 기업 딥미디어는 영상을 분석해 화면, 음성에 조작이 있는지를 확인한다. 인텔도 가짜 영상을 탐지하는 ‘페이크캐쳐’를 개발했다. 영상 속 사람이 실제 사람이라는 ‘증거’, 예컨대 얼굴의 혈류가 진짜인지 확인하는 것이다.

이처럼 다양한 AI 감별 기술이 나왔지만, 대부분 정확도는 높지 않다. 이에 일부 AI 기업들은 정확도를 높일 방법으로 콘텐츠에 워터마크(기업의 상표를 숨겨두는 기술)를 삽입하는 기술을 개발한다. 워터마크는 사진과 영상 콘텐츠에만 대입 가능한 한계가 있지만, 그럼에도 지금 단계에서의 AI의 악용 사례를 줄이는 데에는 도움이 될 것이라는 분석이 나온다.

스타트업 프렌들리AI의 창업자인 전병곤 서울대학교 컴퓨터공학부 교수는 “특정 AI 기업의 기술로 콘텐츠를 만들었다는 워터마크를 넣는 것이 대안이다. 텍스트도 문장에 패턴을 넣는 식으로 워터마크를 넣는다. 이를 기본으로 AI로 만든 콘텐츠를 감별하는 기술의 정확도를 높일 수 있다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ AI에 진심인 MS, 윈도에도 AI 비서 '코파일럿' 탑재▶ 구글, 인공지능으로 장애인 접근성 높인다▶ 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야”



추천 비추천

1

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 sns에 가장 미쳐사는 것 같은 스타는? 운영자 23/09/18 - -
3002 창립 50주년 마크레빈슨 '하이파이 오디오 시장 개척한 브랜드' IT동아갤로그로 이동합니다. 09.22 10 0
3001 AI법, “고위험 영역 조정하고 저작권침해 면책해줘야” IT동아갤로그로 이동합니다. 09.22 7 0
3000 유용한 생성형 AI, 어떤 것들이 있나? IT동아갤로그로 이동합니다. 09.22 11 0
2999 [르포] '반 세기 걸친 혁신의 역사 한 눈에···' 인텔 본사 박물관 가보니 IT동아갤로그로 이동합니다. 09.22 9 0
2998 [스케일업] 반프 [2] 패스파인더넷 “대표는 내부 구성원에게 솔직해야 합니다” IT동아갤로그로 이동합니다. 09.22 7 0
2997 [농업이 IT(잇)다] 제로나인메트리얼 “삶의 질 높일 LED·PBM 선도화” IT동아갤로그로 이동합니다. 09.22 228 0
2996 [스타트업人] 디지포레 이현진 책임 “메타버스 속 콘텐츠를 개발하고 있습니다” IT동아갤로그로 이동합니다. 09.21 41 0
2995 탄소중립의 핵심 ‘탄소포집’, 무르익는 글로벌 시장[K비즈니스 가이드] IT동아갤로그로 이동합니다. 09.21 11 0
2994 스페이스앤빈, 전자파와 방사선을 막아내는 ‘스쿠텀’ [스타트업in과기대] IT동아갤로그로 이동합니다. 09.21 363 3
2993 "퓨리오사AI의 개발 철학, 핵심은 하드웨어·소프트웨어의 유기적 결합입니다" [1] IT동아갤로그로 이동합니다. 09.21 368 0
2992 케어포유 "반려동물이 편히 쉴 수 있는 공간, 케어펫 뮤트" [동국대학교 캠퍼스타운] IT동아갤로그로 이동합니다. 09.21 14 0
2991 [IT하는법] 어르신들도 안심? 전화 통화와 대중교통 안내를 원터치로! IT동아갤로그로 이동합니다. 09.20 325 0
2990 [스타트업리뷰] 초지향 스피커 시대 열 제이디솔루션 ‘브릭’ IT동아갤로그로 이동합니다. 09.20 17 0
2989 [IT신상공개] 필름 카메라 FM2 감성 잇는 미러리스 '니콘 ZF' [9] IT동아갤로그로 이동합니다. 09.20 874 3
2988 인텔, 2024년 20A 넘어 18A까지 도전··· '반도체 주도권 미국으로' [5] IT동아갤로그로 이동합니다. 09.20 1530 3
2987 웍스앤피플 “K팝 댄스 업계의 ‘배민’ 꿈꾼다” [동국대학교 캠퍼스타운] IT동아갤로그로 이동합니다. 09.19 34 0
2986 ESG 간편시작, 칼렛바이오 스텝포넷제로 EL606 택배봉투[스타트업리뷰] IT동아갤로그로 이동합니다. 09.19 22 0
2985 AMD·엔비디아도 밀고있는 반도체 기술, '칩렛'이란? [4] IT동아갤로그로 이동합니다. 09.19 1170 10
2984 [IT애정남] 간편하게 동영상 자르고 붙이는 방법 알려주세요 [1] IT동아갤로그로 이동합니다. 09.19 423 1
2983 서울과기대 창업지원단 “제조 창업 도전자에게 우리의 경험과 노하우를 전달합니다” IT동아갤로그로 이동합니다. 09.18 38 0
2982 [스케일업] 위닝아이 [2] 서울대기술지주 “글로벌 진출, 혼자 아닌 협업으로 풀어라“ IT동아갤로그로 이동합니다. 09.18 28 0
2981 [IT신상공개] 35mm 센서·L 마운트 무장한 ‘블랙매직 시네마 카메라 6K’ [1] IT동아갤로그로 이동합니다. 09.18 369 0
2980 [주간투자동향] 이그니스, 348억 원 규모의 시리즈B 투자 유치 IT동아갤로그로 이동합니다. 09.18 56 0
2979 개정된 개인정보보호법… 어떤 내용이 담겼나? IT동아갤로그로 이동합니다. 09.15 51 0
2978 팀프레시 새벽시장 “음식점을 위한, 싸고 편리한 식자재 주문 서비스입니다” IT동아갤로그로 이동합니다. 09.15 48 0
2977 [농업이 IT(잇)다] 주식회사빙고 “주문형 신선식품 냉동 창고를 집 앞에” IT동아갤로그로 이동합니다. 09.15 39 0
2976 [자동차 디자人] 브랜드 미래를 그리다…BMW i 디자인 총괄 ‘카이 랭어’ IT동아갤로그로 이동합니다. 09.15 40 0
2975 [스타트업-ing] 티온랩테라퓨틱스 “지속성·표적성 약물 전달체로 환자 삶의 질 높인다” [1] IT동아갤로그로 이동합니다. 09.15 1337 0
2974 초등컴퓨팅교사협회 “게임도 교실에서 하면 교육이 됩니다” IT동아갤로그로 이동합니다. 09.14 61 0
2973 [리뷰] 크리에이터 위한 고성능 노트북, 에이수스 젠북 프로 14 OLED IT동아갤로그로 이동합니다. 09.14 108 0
2972 어도비 파이어플라이 정식 공개··· 크레딧 도입하고 서비스 확장 노려 [4] IT동아갤로그로 이동합니다. 09.14 837 0
2971 [스타트업人] 건설 근로자 위한 웍스메이트 '기능인등급제 서비스 기획자' 이야기 IT동아갤로그로 이동합니다. 09.14 42 0
2970 [뉴스줌인] 차세대 인터페이스 '썬더볼트5' 발표, 뭐가 달라졌을까? IT동아갤로그로 이동합니다. 09.13 48 0
2969 세계 5위 창업도시 도약을 위한 자리 ‘트라이 에브리싱 2023’ IT동아갤로그로 이동합니다. 09.13 87 0
2968 [IT신상공개] 1억 화소·8K 영상 중형 카메라 ‘후지필름 GFX100 II’ [5] IT동아갤로그로 이동합니다. 09.13 1952 5
2967 [스케일업] 옐토 [4] 최동석 작가 “이모티콘 캐릭터, 메시지 담아 도전 거듭” IT동아갤로그로 이동합니다. 09.13 39 0
2966 애플, 아이폰 15·15 프로 시리즈 공개··· '티타늄, C타입 통할까?' [2] IT동아갤로그로 이동합니다. 09.13 306 4
2965 이디씨 “드론 활용한 산불확산방지 솔루션, ESG까지 더했다” [스타트업in과기대] IT동아갤로그로 이동합니다. 09.12 41 0
2964 [IT신상공개] 생동감 넘치는 조명 효과, JBL 펄스 5 IT동아갤로그로 이동합니다. 09.12 44 0
2963 [스케일업] 1인치 [1] “단골가게는, 손님과 사장님을 연결하는 플랫폼입니다” IT동아갤로그로 이동합니다. 09.12 48 1
2962 [리뷰] 지능형 조명의 감성적 예시, 다이슨 솔라사이클 모프 IT동아갤로그로 이동합니다. 09.12 126 0
2961 [농업+IT=스마트팜] 8. 연재를 마치며 IT동아갤로그로 이동합니다. 09.12 41 0
2960 [메타버스에 올라타자] 6. 메타버스 기반의 협업 IT동아갤로그로 이동합니다. 09.12 42 0
2959 캠터 “캠핑 비용 부담 줄이는 캠핑용품 대여 플랫폼” [동국대학교 캠퍼스타운] [7] IT동아갤로그로 이동합니다. 09.12 1179 0
2958 [IT애정남] 같은 듯 다른 소니 A7M4 ·A7C2, 어떤 게 낫나요? IT동아갤로그로 이동합니다. 09.11 57 1
2957 PC 화면 글자가 너무 작다면 이렇게![이럴땐 이렇게!] [18] IT동아갤로그로 이동합니다. 09.11 3139 5
2956 [IT신상공개] 프리미엄 즉석 카메라 시대 열 ‘폴라로이드 I-2’ IT동아갤로그로 이동합니다. 09.11 50 0
2955 F&B 마케팅의 현재와 미래 논한 ‘AMC 2023’ 성료 IT동아갤로그로 이동합니다. 09.08 393 0
2954 세계적인 디지털 아티스트 작품 한 자리에 ‘더 게이트웨이: 코리아’ IT동아갤로그로 이동합니다. 09.08 166 0
2953 [스케일업] 챕터서울 [4] 킬사코리아 “해외 법인, 매출·시장 분석·현지화 고려” IT동아갤로그로 이동합니다. 09.08 44 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2

힛(HIT)NEW

그때 그 힛

1/3