"AI가 만든 건지 밝혀라" 딥페이크 원천 봉쇄 위한 과기부 지침 공개, AI 영화사는 허용

AI 매터스 갤러리

자동 짤방 이미지

이미지가 없습니다.

자동 짤방으로 사용할 이미지를 등록해 주세요.

1/3

쯔양 건강 걱정해주는 36년 전통 수타 중국집 사장님 ㅋㅋㅋㅋㅋ 많이 안 먹었는데 어제 늦게 자서 너무 졸려서 그만 먹음 작성자 : ㅇㅇ

"AI가 만든 건지 밝혀라" 딥페이크 원천 봉쇄 위한 과기부 지침 공개, AI 영화사는 허용

aimatters

2026.01.22 15:31:42

조회 2310 추천 15 댓글 28

22일(현지 시각)부터 AI 기업들이 이미지, 영상, 텍스트 등을 생성해 제공할 때 'AI가 만들었다'는 표시를 의무적으로 해야 한다. 특히 실제와 구분하기 어려운 딥페이크(Deepfake) 같은 가상 생성물은 사람이 명확히 알아볼 수 있게 표시해야 한다. 한국 정부가 AI 투명성 규제에 본격 나선 것이다.

과학기술정보통신부는 22일「인공지능 투명성 확보 안내 지침」을 공개했다. 이는 같은 날 전면 시행되는 AI 기본법의 투명성 확보 의무를 구체적으로 어떻게 지킬지 정한 것이다. 한국 이용자를 대상으로 서비스하는 구글, 오픈AI 같은 해외 기업도 예외 없이 따라야 한다.

과학기술정보통신부에 따르면 그동안 업계에서는 공개된 법률과 시행령만으로는 투명성 확보 의무의 구체적인 적용 기준을 명확하게 파악하기 어렵다는 우려가 제기되어 왔다. 이에 지난해 9월 가이드라인 초안을 공개한 후 업계 의견을 수렴해 실제 현장에서 운영 중인 AI 제품과 서비스 유형을 바탕으로 이행 기준을 마련했다.

규제 대상은 AI 제품이나 서비스를 이용자에게 직접 제공하는 'AI 사업자'다. 국내 사업자는 물론 국내 이용자를 대상으로 서비스하는 해외 사업자도 포함된다. 반면 AI를 단순히 업무나 창작의 도구로 활용하는 일반 이용자는 의무 대상이 아니다. 예를 들어 영상 생성 AI를 이용해 영화를 제작하고 배급하는 제작사는 AI를 업무에 활용한 것이므로 규제 대상이 아니다.

투명성 확보 의무는 크게 두 가지다.

첫째, AI 사업자는 생성형 AI 기반으로 운용된다는 사실을 미리 알려야 한다. 서비스 이용약관이나 계약서에 명시하거나, 앱 구동 화면에 안내해야 한다. 오프라인 서비스는 이용자가 쉽게 볼 수 있는 곳에 안내문을 게시해야 한다.

둘째, AI 생성물이 생성형 AI로 만들어졌다는 사실을 표시해야 한다. 이는 AI 생성물이 서비스 환경 내에서만 이용되는 경우와 외부로 반출되는 경우를 구분해 기준을 정했다.

서비스 내에서만 제공될 때는 비교적 유연하게 표시할 수 있다. 챗봇 같은 대화형 서비스는 이용 전 안내나 화면 내 로고 표출로 충분하다. 게임이나 메타버스는 로그인 시 안내하거나 캐릭터에 AI임을 표시하는 방식도 허용된다.

하지만 AI 생성 결과물을 다운로드하거나 공유 등으로 외부로 반출할 때는 더 확실한 표시가 필요하다. 이미지나 영상에는 워터마크(Watermark)를, 음성 파일에는 안내 멘트를 넣는 등 사람이 직접 눈으로 보거나 귀로 들을 수 있는 방식으로 표시하거나, 'AI가 생성했습니다'라는 안내를 먼저 보여준 후 파일 속성에 메타데이터(Metadata) 같은 숨겨진 정보를 넣는 방식도 가능하다.

특히 실제와 구분하기 어려운 가상의 생성물, 즉 딥페이크 같은 경우는 이용자의 혼란을 막기 위해 반드시 사람이 명확하게 인식할 수 있는 방법으로 표시해야 한다. 메타데이터처럼 기계만 읽을 수 있는 방식은 허용되지 않는다.

과학기술정보통신부는 "AI 생성물에 워터마크를 적용하는 것은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 국제적인 추세"라고 설명했다.

다만 현장의 준비 부족 우려를 감안해 최소 1년 이상 계도기간을 운영한다. 이 기간에는 사실조사나 과태료 부과가 유예된다. 과학기술정보통신부는 계도 기간 동안 기업들이 겪는 어려움을 듣고, 앞으로 새로 나올 서비스와 기술 변화에 맞춰 가이드라인을 계속 업데이트할 계획이다.

이번 가이드라인은 AI 신뢰 확보라는 입법 취지와 기업 부담 완화를 균형 있게 고려했다. 사회적 우려가 큰 딥페이크 생성물에 대해서는 명확한 표시를 의무화하면서도, 서비스 환경 내에서만 제공되는 경우에는 유연한 표시를 허용해 기업들이 서비스의 편의성과 사용성을 저해하는 과도한 조치를 하지 않도록 했다.

해당 자세한 가이드라인은 과학기술정보통신부에서 확인 가능하다.

이미지 출처: 이디오그램 생성

인기 기사

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	취미 부자여서 결혼 못 할 것 같은 스타는?	운영자	26/01/19	-	-
1971	사람처럼 세상을 보는 AI 나왔다… 구글 로봇과 AR 혁신 예고	aimatters	15:23	6	0
1970	"챗GPT 잘 쓰는 사람 vs 못 쓰는 사람, 실력 차이가 7배… 당신은 어디에?"	aimatters	15:23	9	0
1969	애플도 AI 핀 시장 도전… 제미나이 탑재하고 2027년 출격 가능할까?	aimatters	15:23	3	0
1968	"하나의 서버로 8억 명 감당… 오픈AI가 밝힌 챗GPT 무중단 비결"	aimatters	15:23	5	0
1967	AI에 돈만 붓는다고 되는 게 아니다"... MS CEO가 본 진짜 문제는 ‘대기업 구조 그 자체’ [1]	aimatters	15:23	208	2
1966	스칼렛 요한 슨 외 700명, AI 기업에 선전포고 “훔치기는 혁신 아니다" [1]	aimatters	15:23	355	4
1965	"14년 뒤 로봇이 사람보다 많아진다"… 일론 머스크, 충격 예언	aimatters	15:23	12	0
1964	[1월 22일 AI 뉴스 브리핑] HP, AI 최적화 게이밍 브랜드 '하이퍼엑스'로 통합 외	aimatters	01.22	22	0
1963	오픈AI, 구글 번역에 도전장… '챗GPT 번역' 서비스 출시	aimatters	01.22	34	0
1962	구글 제미나이, SAT 무료 모의고사 출시… 저소득층 학생도 돈 걱정 없이 공부한다	aimatters	01.22	30	0
	"AI가 만든 건지 밝혀라" 딥페이크 원천 봉쇄 위한 과기부 지침 공개, AI 영화사는 허용 [28]	aimatters	01.22	2310	15
1960	증상 설명해주고 약 제조∙병원 예약까지... 아마존, 24시간 건강 어시스턴트 앱 출시	aimatters	01.22	21	0
1959	실험실에선 천재, 현실에선 바보… AI 성능 80% 급락의 진실, 해결책은?	aimatters	01.22	49	0
1958	"2030년 기업의 79%가 AI로 수익 창출하지만, 24%만 수익원을 안다"	aimatters	01.22	34	0
1957	구글 연구진이 찾은 AI 활용법, '이것만 하면 성능 대폭 향상'	aimatters	01.22	30	0
1956	챗GPT, '나이 감별' 시작... 너 몇 살이야? 묻지 않고 알아내는 이유 [1]	aimatters	01.21	91	0
1955	앤트로픽 CEO, "중국 AI는 경쟁자 아니야"… 실제 경쟁자 따로 있어	aimatters	01.21	48	0
1954	앤트로픽, 교사용 무료 AI 제공... 4일만에 신청자 폭주, 뭐가 다를까	aimatters	01.21	34	0
1953	우리 아이 90%가 매일 쓰는 챗GPT, OECD 보고서 "AI로 공부하면 바보 된다" [14]	aimatters	01.21	2054	4
1952	"이건 사람한테 물어봐야겠다"… AI가 스스로 한계 인정하는 법 배웠다	aimatters	01.21	37	0
1951	AI 에이전트 작업은 완료하되 비용은 658배 폭증시키는 은밀한 공격 등장	aimatters	01.21	33	0
1950	엔비디아, AI 학습을 위해 '불법인 줄 알면서' 최대 사이트서 불법 복제물 의도적 접근 [33]	aimatters	01.21	2452	15
1949	"AI 도입 고민?"… IBM, 자사가 쓰던 생산성 50% 올린 AI 시스템 공개	aimatters	01.20	1210	1
1948	"내 사진이 쬬르디로 변신"… 카카오톡 AI 캐릭터 생성 프로모션 화제	aimatters	01.20	75	0
1947	"2분만에 나를 복제"... AI 아바타가 투자자 질문에 실시간 답변	aimatters	01.20	45	0
1946	대학 연구팀이 만든 AI 채점 방식 바꿨더니 GPT-5 이겼다... 의료 분야 세계 1등 달성 [2]	aimatters	01.20	1524	6
1945	"하야오 보고 있나" 93% 정확도로 사람 움직임 재현하는 AI 등장... 게임·영화 제작 혁명 예고	aimatters	01.20	47	0
1944	딥시크 AI 뜯어보니 다른 버전이 사람처럼 토론하고 있었다... 구글 연구진 "소름" [1]	aimatters	01.20	78	0
1943	이제 챗GPT도 광고 봐야 한다… 오픈AI, 수익화 본격 시동	aimatters	01.19	55	0
1942	"무료의 10배 쓴다"... 월 1만원대 '챗GPT Go', 전세계 출시 [15]	aimatters	01.19	2918	4
1941	퍼플렉시티, 월스트리트 공략 나섰다... '기관투자자용 AI 리서치' 서비스 출시	aimatters	01.19	44	0
1940	속도는 36배, 화질은 그대로… 엔비디아 AI 영상 생성 기술 'TMD' 공개	aimatters	01.19	60	0
1939	오픈AI, 18개월 안에 파산할 수도… “MS나 아마존에 인수될 가능성 커”	aimatters	01.19	116	2
1938	수천만원 드는 AI 성능 평가... 이제 몇백만원으로 해결 가능하다	aimatters	01.19	34	0
1937	챗GPT, 3년 만에 연매출 10배 폭증... 오픈AI CFO "전례 없는 성장"	aimatters	01.19	44	0
1936	생각만으로 챗GPT 쓰는 날 올까… 오픈AI, 뇌와 AI 연결하는 '머지 랩스'에 투자 [2]	aimatters	01.16	1090	1
1935	AI가 만든 광고, 젊은 세대는 싫어한다...기업만 모르는 현실 [37]	aimatters	01.16	2815	8
1934	“AI 시대, 생각하는 일 자체가 자동화될 것… 몸 쓰는 일도 5년 내 자동화”	aimatters	01.16	84	0
1933	일론 머스크, 그록 AI의 성인 이미지 편집 기능 완전 중단	aimatters	01.16	320	0
1932	비즈스프링, AI 플랫폼 유입 트렌드 공개… “AI, 고객 유입의 시작점으로 부상”	aimatters	01.16	32	0
1931	“한국, 클로드 사용량 세계 5위"... 앤트로픽, AI 경제 영향 보고서 공개	aimatters	01.16	79	0
1930	구글 번역 AI 공개, 사진 속 글자까지 번역… 55개 언어 성능 대폭 향상	aimatters	01.16	77	1
1929	[1월 16일 AI 뉴스 브리핑] 티젠소프트, AI 기반 두피·피부 분석 진단 시스템 특허 출원	aimatters	01.16	25	0
1928	카이스트, 우울증 진단하는 AI 시스템 개발… 최대 66% 정확도 [12]	aimatters	01.15	744	1
1927	AI 성적표는 90점, 실제 사용하면 60점"... 토론토대 교수가 밝힌 AI의 함정 [11]	aimatters	01.15	2187	6
1926	알리바바, 스스로 암기·삭제하는 AI 개발... 기존보다 성능 49% 향상 [1]	aimatters	01.15	111	0
1925	앤트로픽, 클로드 코드 무단 사용 전면 차단... "정액제 무제한 시대 끝"	aimatters	01.15	55	0
1924	"챗GPT 답변 기다리는 시간 끝났다"... 오픈AI, 초고속 칩 업체와 손잡았다 [12]	aimatters	01.15	1993	0
1923	애피어, 드림에이지 MMORPG ‘아키텍트’ 론칭 캠페인서 평균 ROAS 140% 달성	aimatters	01.15	32	0
1922	"내 사진·메일 다 뒤져서 답 찾아줘"… 제미나이, 진짜 개인 비서 됐다	aimatters	01.15	90	0