"AI가 만든 건지 밝혀라" 딥페이크 원천 봉쇄 위한 과기부 지침 공개, AI 영화사는 허용

AI 매터스 갤러리

자동 짤방 이미지

이미지가 없습니다.

자동 짤방으로 사용할 이미지를 등록해 주세요.

1/3

사건반장에 나온 진짜 충격적인 LA 비행기내 폭행사건 사람 얼굴 문거부터 정상이 아닌거같은데;; 작성자 : ㅇㅇ

"AI가 만든 건지 밝혀라" 딥페이크 원천 봉쇄 위한 과기부 지침 공개, AI 영화사는 허용

aimatters

2026.01.22 15:31:42

조회 2549 추천 15 댓글 28

22일(현지 시각)부터 AI 기업들이 이미지, 영상, 텍스트 등을 생성해 제공할 때 'AI가 만들었다'는 표시를 의무적으로 해야 한다. 특히 실제와 구분하기 어려운 딥페이크(Deepfake) 같은 가상 생성물은 사람이 명확히 알아볼 수 있게 표시해야 한다. 한국 정부가 AI 투명성 규제에 본격 나선 것이다.

과학기술정보통신부는 22일「인공지능 투명성 확보 안내 지침」을 공개했다. 이는 같은 날 전면 시행되는 AI 기본법의 투명성 확보 의무를 구체적으로 어떻게 지킬지 정한 것이다. 한국 이용자를 대상으로 서비스하는 구글, 오픈AI 같은 해외 기업도 예외 없이 따라야 한다.

과학기술정보통신부에 따르면 그동안 업계에서는 공개된 법률과 시행령만으로는 투명성 확보 의무의 구체적인 적용 기준을 명확하게 파악하기 어렵다는 우려가 제기되어 왔다. 이에 지난해 9월 가이드라인 초안을 공개한 후 업계 의견을 수렴해 실제 현장에서 운영 중인 AI 제품과 서비스 유형을 바탕으로 이행 기준을 마련했다.

규제 대상은 AI 제품이나 서비스를 이용자에게 직접 제공하는 'AI 사업자'다. 국내 사업자는 물론 국내 이용자를 대상으로 서비스하는 해외 사업자도 포함된다. 반면 AI를 단순히 업무나 창작의 도구로 활용하는 일반 이용자는 의무 대상이 아니다. 예를 들어 영상 생성 AI를 이용해 영화를 제작하고 배급하는 제작사는 AI를 업무에 활용한 것이므로 규제 대상이 아니다.

투명성 확보 의무는 크게 두 가지다.

첫째, AI 사업자는 생성형 AI 기반으로 운용된다는 사실을 미리 알려야 한다. 서비스 이용약관이나 계약서에 명시하거나, 앱 구동 화면에 안내해야 한다. 오프라인 서비스는 이용자가 쉽게 볼 수 있는 곳에 안내문을 게시해야 한다.

둘째, AI 생성물이 생성형 AI로 만들어졌다는 사실을 표시해야 한다. 이는 AI 생성물이 서비스 환경 내에서만 이용되는 경우와 외부로 반출되는 경우를 구분해 기준을 정했다.

서비스 내에서만 제공될 때는 비교적 유연하게 표시할 수 있다. 챗봇 같은 대화형 서비스는 이용 전 안내나 화면 내 로고 표출로 충분하다. 게임이나 메타버스는 로그인 시 안내하거나 캐릭터에 AI임을 표시하는 방식도 허용된다.

하지만 AI 생성 결과물을 다운로드하거나 공유 등으로 외부로 반출할 때는 더 확실한 표시가 필요하다. 이미지나 영상에는 워터마크(Watermark)를, 음성 파일에는 안내 멘트를 넣는 등 사람이 직접 눈으로 보거나 귀로 들을 수 있는 방식으로 표시하거나, 'AI가 생성했습니다'라는 안내를 먼저 보여준 후 파일 속성에 메타데이터(Metadata) 같은 숨겨진 정보를 넣는 방식도 가능하다.

특히 실제와 구분하기 어려운 가상의 생성물, 즉 딥페이크 같은 경우는 이용자의 혼란을 막기 위해 반드시 사람이 명확하게 인식할 수 있는 방법으로 표시해야 한다. 메타데이터처럼 기계만 읽을 수 있는 방식은 허용되지 않는다.

과학기술정보통신부는 "AI 생성물에 워터마크를 적용하는 것은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 국제적인 추세"라고 설명했다.

다만 현장의 준비 부족 우려를 감안해 최소 1년 이상 계도기간을 운영한다. 이 기간에는 사실조사나 과태료 부과가 유예된다. 과학기술정보통신부는 계도 기간 동안 기업들이 겪는 어려움을 듣고, 앞으로 새로 나올 서비스와 기술 변화에 맞춰 가이드라인을 계속 업데이트할 계획이다.

이번 가이드라인은 AI 신뢰 확보라는 입법 취지와 기업 부담 완화를 균형 있게 고려했다. 사회적 우려가 큰 딥페이크 생성물에 대해서는 명확한 표시를 의무화하면서도, 서비스 환경 내에서만 제공되는 경우에는 유연한 표시를 허용해 기업들이 서비스의 편의성과 사용성을 저해하는 과도한 조치를 하지 않도록 했다.

해당 자세한 가이드라인은 과학기술정보통신부에서 확인 가능하다.

이미지 출처: 이디오그램 생성

인기 기사

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 돈 투자하고 싶게 만드는 CEO상 스타는?	운영자	26/03/02	-	-
2127	"진정하세요" 이제 그만…오픈AI, 챗GPT의 '오글거리는' 말투 고친다 [1]	aimatters	14:09	490	0
2126	AI 보안 어드바이저가 틀린 답변을 준다면? 챗GPT와 클로드의 위험한 실수들	aimatters	14:09	7	0
2125	말로 코딩하는 시대 열렸다…앤트로픽 '클로드 코드'에 음성 모드 탑재	aimatters	14:09	9	0
2124	AI가 연구자 대신 논문 댓글까지 분류한다, 단돈 6천 원으로 5만 건을	aimatters	14:09	6	0
2123	챗GPT 지우고 클로드로 갈아탄다…데이터 이전부터 계정 삭제까지 한 번에	aimatters	14:09	10	0
2122	AI가 시각장애인의 'DIY 설명서' 읽어주면 절반은 틀린다	aimatters	14:08	6	0
2121	트럼프, 앤트로픽 모델 정부 사용 금지령… 오픈AI는 국방부 계약 체결	aimatters	03.03	12	0
2120	"데스크톱도 AI 비서 시대"… AMD, 세계 최초 코파일럿+ PC용 데스크톱 프로세서 공개	aimatters	03.03	13	0
2119	"검색 AI의 반란"…퍼플렉시티, AI 모델들을 한데 묶은 '디지털 노동자' 공개	aimatters	03.03	12	0
2118	레노버, MWC 2026서 AI가 알아서 맞춰주는 PC 시대 열었다	aimatters	03.03	25	0
2117	챗GPT가 소설을 먹고 자란다? AI 학습 데이터에 숨겨진 '픽션의 비밀'	aimatters	03.03	12	0
2116	병원 설문지가 대화로 바뀐다…GPT가 환자 문진표를 대신 작성하는 시대	aimatters	03.03	8	0
2115	AI가 장애 혐오 표현을 찾아내고 고쳐준다면? 100명의 장애인이 평가한 결과	aimatters	03.03	7	0
2114	저커버그, 프라다 패션쇼 전면 착석…메타 AI 안경 명품 버전 나오나 [2]	aimatters	02.27	1119	2
2113	구글, 이미지 생성 모델 '나노 바나나 2' 공개…4K 해상도에 속도까지 잡았다	aimatters	02.27	63	3
2112	잭 도시, 직원 절반 잘랐다…"당신 회사도 곧 같은 길 걷게 될 것"	aimatters	02.27	48	1
2111	챗GPT가 강박장애 환자를 더 아프게 만든다, '안심 로봇'의 위험한 진실 [2]	aimatters	02.27	714	0
2110	AI 데이터센터의 '친환경' 선언, 전력망을 들여다보면 허상이다	aimatters	02.27	41	0
2109	별점만 믿다간 낭패! ChatGPT가 470만 개 리뷰를 파헤쳐 밝혀낸 '맛집의 진짜 조건'	aimatters	02.27	44	0
2108	"ChatGPT가 편향됐다"는 말 한마디에 설득력 28% 급락 [10]	aimatters	02.26	2508	4
2107	챗GPT가 통계학 교육을 뒤흔들고 있다: 대학 강의실에서 벌어지는 AI 혁명	aimatters	02.26	76	0
2106	월 20달러짜리 챗GPT로 수학 난제 풀었다…'바이브 증명'의 충격적 실험 [13]	aimatters	02.26	2517	19
2105	앤트로픽, AI 에이전트 개발 스타트업 버셉트 인수…창업자 한명은 메타로	aimatters	02.26	37	0
2104	제미나이, 안드로이드에서 택시 호출·음식 배달 주문까지 자동화한다... 한국서도 적용	aimatters	02.26	64	0
2103	"AI 개발은 기타 배우기와 같다"…오픈클로 개발자가 전하는 AI 빌더 생존법	aimatters	02.26	74	0
2102	975g으로 AI 정복…한국레노버, 요가 11세대 4종 출시	aimatters	02.26	47	0
2101	AI가 내 말을 못 믿는다고? 음성 AI의 충격적인 편향 실험 결과 [2]	aimatters	02.25	691	2
2100	GPT-5도 이런 실수를 한다고? AI가 '알면서도 틀리는' 황당한 이유 [14]	aimatters	02.25	1801	6
2099	AI도 못 깨는 게임이 있다? 챗GPT·클로드·제미나이, 70년대 텍스트 게임 줄줄이 실패 [2]	aimatters	02.25	641	5
2098	오픈AI 투자자, 앤트로픽도 찍었다…VC 업계, 경쟁사에 투자하지 않는 '투자 충성도' 사실상 붕괴	aimatters	02.25	53	0
2097	" 美 연준도 AI 시대로 간다"…월러 이사, AI 전면 도입 전략 공개	aimatters	02.25	44	0
2096	AI가 플레이리스트 짜준다...스포티파이 리스트 자동생성 기능 영국·호주 등으로 확대	aimatters	02.25	42	0
2095	2028년 붕괴 시나리오로 전세계 공포, AI가 완벽하게 성공할수록 경제는 무너진다 [1]	aimatters	02.24	137	0
2094	AI가 "생각을 줄이면" 오히려 더 똑똑해진다? 토큰 예산과 LLM 추론의 역설	aimatters	02.24	68	0
2093	AI 전쟁 시뮬레이션, 가장 먼저 핵 투하를 지시한 AI 모델은?	aimatters	02.24	66	0
2092	AI가 교사보다 공정한 채점자가 될 수 있을까? GPT, 클로드, 제미나이의 교육 평가 실험	aimatters	02.24	41	1
2091	앤트로픽 "중국 AI 3사, 가짜 계정 2만4천 개로 클로드 기술 훔쳐갔다"	aimatters	02.24	73	0
2090	"하루 한 시간이면 AI를 직접 활용하라. 주변의 99%보다 앞서갈 수 있다"…AI 스타트업 CEO의 경고	aimatters	02.24	69	0
2089	오픈AI, 스마트 스피커·안경·조명까지…AI 하드웨어 제국 꿈꾼다	aimatters	02.24	63	0
2088	다쏘시스템, AI 전문가 '버추얼 동반자' 공개…인간과 AI의 산업 협업 시대 열린다	aimatters	02.24	43	0
2087	AI 안전장치도 '세탁'된다? 제미나이·클로드도 뚫렸다	aimatters	02.23	47	0
2086	AI가 사각형을 인식할 수 있을까? 클로드·챗GPT·제미나이 '공간 인식' 충격 실험	aimatters	02.23	44	0
2085	AI 로봇이 나를 설득한다? 챗GPT가 물리치료 거부 환자를 설득하는 방법	aimatters	02.23	41	0
2084	[신간] 난치병·빚에서 탈출한 30대 파이어족의 <버릴수록 부자 되는 미니멀리즘 재테크>	aimatters	02.23	51	0
2083	한 질문에 AI 4개가 토론한다…xAI, '그록 4.20' 공개	aimatters	02.23	41	1
2082	AI가 인간을 고용하는 시대 열렸다…"클로드(Claude)가 내 상사라면 이상적일 것"	aimatters	02.23	52	0
2081	"광고 대행사는 이제 필요 없다 우리에게 바로 광고해"…오픈AI 임원의 도발적 선언	aimatters	02.23	99	0
2080	"일기 쓰기 귀찮다고요?" AI가 대신 물어봐 주는 일기 앱 '블루닙' 출시	aimatters	02.23	45	0
2079	AI 코미디언이 인간보다 더 웃기다고? ‘기계다움’이 유머의 새 무기가 된다 [14]	aimatters	02.20	1547	2
2078	AI는 이제 '알아서 척척'… 2026년, 당신의 직장과 일상을 바꿀 AI의 민낯	aimatters	02.20	70	0