"AI가 만든 건지 밝혀라" 딥페이크 원천 봉쇄 위한 과기부 지침 공개, AI 영화사는 허용

aimatters

2026.01.22 15:31:42

조회 2519 추천 15 댓글 28

22일(현지 시각)부터 AI 기업들이 이미지, 영상, 텍스트 등을 생성해 제공할 때 'AI가 만들었다'는 표시를 의무적으로 해야 한다. 특히 실제와 구분하기 어려운 딥페이크(Deepfake) 같은 가상 생성물은 사람이 명확히 알아볼 수 있게 표시해야 한다. 한국 정부가 AI 투명성 규제에 본격 나선 것이다.

과학기술정보통신부는 22일「인공지능 투명성 확보 안내 지침」을 공개했다. 이는 같은 날 전면 시행되는 AI 기본법의 투명성 확보 의무를 구체적으로 어떻게 지킬지 정한 것이다. 한국 이용자를 대상으로 서비스하는 구글, 오픈AI 같은 해외 기업도 예외 없이 따라야 한다.

과학기술정보통신부에 따르면 그동안 업계에서는 공개된 법률과 시행령만으로는 투명성 확보 의무의 구체적인 적용 기준을 명확하게 파악하기 어렵다는 우려가 제기되어 왔다. 이에 지난해 9월 가이드라인 초안을 공개한 후 업계 의견을 수렴해 실제 현장에서 운영 중인 AI 제품과 서비스 유형을 바탕으로 이행 기준을 마련했다.

규제 대상은 AI 제품이나 서비스를 이용자에게 직접 제공하는 'AI 사업자'다. 국내 사업자는 물론 국내 이용자를 대상으로 서비스하는 해외 사업자도 포함된다. 반면 AI를 단순히 업무나 창작의 도구로 활용하는 일반 이용자는 의무 대상이 아니다. 예를 들어 영상 생성 AI를 이용해 영화를 제작하고 배급하는 제작사는 AI를 업무에 활용한 것이므로 규제 대상이 아니다.

투명성 확보 의무는 크게 두 가지다.

첫째, AI 사업자는 생성형 AI 기반으로 운용된다는 사실을 미리 알려야 한다. 서비스 이용약관이나 계약서에 명시하거나, 앱 구동 화면에 안내해야 한다. 오프라인 서비스는 이용자가 쉽게 볼 수 있는 곳에 안내문을 게시해야 한다.

둘째, AI 생성물이 생성형 AI로 만들어졌다는 사실을 표시해야 한다. 이는 AI 생성물이 서비스 환경 내에서만 이용되는 경우와 외부로 반출되는 경우를 구분해 기준을 정했다.

서비스 내에서만 제공될 때는 비교적 유연하게 표시할 수 있다. 챗봇 같은 대화형 서비스는 이용 전 안내나 화면 내 로고 표출로 충분하다. 게임이나 메타버스는 로그인 시 안내하거나 캐릭터에 AI임을 표시하는 방식도 허용된다.

하지만 AI 생성 결과물을 다운로드하거나 공유 등으로 외부로 반출할 때는 더 확실한 표시가 필요하다. 이미지나 영상에는 워터마크(Watermark)를, 음성 파일에는 안내 멘트를 넣는 등 사람이 직접 눈으로 보거나 귀로 들을 수 있는 방식으로 표시하거나, 'AI가 생성했습니다'라는 안내를 먼저 보여준 후 파일 속성에 메타데이터(Metadata) 같은 숨겨진 정보를 넣는 방식도 가능하다.

특히 실제와 구분하기 어려운 가상의 생성물, 즉 딥페이크 같은 경우는 이용자의 혼란을 막기 위해 반드시 사람이 명확하게 인식할 수 있는 방법으로 표시해야 한다. 메타데이터처럼 기계만 읽을 수 있는 방식은 허용되지 않는다.

과학기술정보통신부는 "AI 생성물에 워터마크를 적용하는 것은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 국제적인 추세"라고 설명했다.

다만 현장의 준비 부족 우려를 감안해 최소 1년 이상 계도기간을 운영한다. 이 기간에는 사실조사나 과태료 부과가 유예된다. 과학기술정보통신부는 계도 기간 동안 기업들이 겪는 어려움을 듣고, 앞으로 새로 나올 서비스와 기술 변화에 맞춰 가이드라인을 계속 업데이트할 계획이다.

이번 가이드라인은 AI 신뢰 확보라는 입법 취지와 기업 부담 완화를 균형 있게 고려했다. 사회적 우려가 큰 딥페이크 생성물에 대해서는 명확한 표시를 의무화하면서도, 서비스 환경 내에서만 제공되는 경우에는 유연한 표시를 허용해 기업들이 서비스의 편의성과 사용성을 저해하는 과도한 조치를 하지 않도록 했다.

해당 자세한 가이드라인은 과학기술정보통신부에서 확인 가능하다.

이미지 출처: 이디오그램 생성

인기 기사

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	해외 유명인들과 있어도 기가 전혀 죽지 않을 것 같은 스타는?	운영자	26/02/09	-	-
2044	메타 AI, 신모델 '아보카도'와 브라우저 에이전트 출시 준비 포착	aimatters	13:29	3	0
2043	오픈클로 창시자, "앱의 80%가 사라질 것"	aimatters	13:29	5	0
2042	샘 알트만 "챗GPT 월간 성장률 10% 돌파"... 오픈AI, 1000억 달러 투자 유치 막바지	aimatters	13:29	2	0
2041	2만 달러 주고 AI한테 맡겼더니… 2주 만에 10만 줄 프로그램 완성	aimatters	02.09	74	0
2040	카카오·네이버·당근마켓, 오픈클로 사용 금지령… AI 에이전트 보안 공포 확산 [12]	aimatters	02.09	2690	6
2039	인스타그램 창업자, 개발자는 이제 코드 안 짠다..."앤트로픽 코드 100% AI가 작성"	aimatters	02.09	79	0
2038	메타 레이밴 글라스가 진짜 AI 비서로… 보고 듣고 심부름까지 척척	aimatters	02.09	29	1
2037	AI 수백 개가 밤낮없이 코딩… 일주일간 혼자 웹브라우저 만든 인공지능 팀의 비밀	aimatters	02.06	169	0
2036	GPT-5, 2개월 만에 단백질 생산비 40% 낮춰... 약값 인하 기대	aimatters	02.06	67	0
2035	20대·저학력층이 가장 위험하다… AI 그럴듯한 거짓말에 무방비	aimatters	02.06	94	0
2034	"AI가 AI를 만드는 시대 열렸다"… 오픈AI, 자기 학습 모델 'GPT-5.3-Codex' 공개	aimatters	02.06	49	0
2033	"챗GPT 5.2 제쳤다"… 앤트로픽, 클로드 Opus 4.6 신모델 공개	aimatters	02.06	86	0
2032	"AI 직원을 여러분 회사에 파견합니다 기존 AI 같이 쓰세요"… 오픈AI, 기업용 AI 공개 [3]	aimatters	02.06	1750	1
2031	"클로드·GPT·제미나이 한 번에 물어본다"… 퍼플렉시티, AI 동시 활용 기능 출시	aimatters	02.06	117	0
2030	AI가 빅맥보다 맛있는 버거를 만든다?... "맛·환경·영양 모두 잡았다" [12]	aimatters	02.05	749	4
2029	"클로드 너마저" AI 코딩 에이전트, 실전 투입했더니 10개 중 8개 낙제… "파이썬만 한다"	aimatters	02.05	93	0
2028	"유튜브 영상 한 번만 보면 농구 척척"… 단 1개 영상으로 10가지 기술 배우는 로봇	aimatters	02.05	56	0
2027	"AI가 인간 과학자의 90%를 대체한다"...세계 물리학자들의 충격 고백	aimatters	02.05	61	0
2026	연속 질문 및 최저가 구매 요청...아마존 프라임 회원 AI 알렉사 공짜로 쓴다	aimatters	02.05	26	0
2025	AI가 만든 가짜 판례 제출한 미국변호사들… 1,700만원 벌금 폭탄	aimatters	02.05	55	0
2024	튜링테스트는 통과했지만, AI가 사람처럼 생각할 필요가 있을까?	aimatters	02.04	65	0
2023	AI '상상'만으로 웹서핑 마스터... 실수로 물건 사버릴 걱정 끝났다 [3]	aimatters	02.04	1630	3
2022	챗GPT∙제미나이, 일반 AI에게도 보드게임 졌다?	aimatters	02.04	76	0
2021	AI 발전시킨다던 오라클, 정작 데이터센터 설립 자금 마련하려 3만 명 해고 추진	aimatters	02.04	144	0
2020	"AI가 코드 짜고 오류 고친다"… 애플, 개발 도구에 클로드·코덱스 탑재	aimatters	02.04	47	0
2019	AI 코딩 에이전트의 치명적 DB 실수 막는다... 슈퍼베이스 가이드 공개	aimatters	02.04	34	0
2018	NASA "AI가 화성 길 찾아줬다"… 클로드, 3억km 떨어진 탐사선 경로 설계	aimatters	02.03	77	1
2017	오픈AI, "AI가 AI를 관리한다"… 여러 AI 비서 동시에 부리는 코덱스 앱 출시 [1]	aimatters	02.03	111	0
2016	일론 머스크 "AI 미래는 우주에"... 스페이스X와 xAI 공식 합병 발표 [14]	aimatters	02.03	1304	6
2015	"학생들 AI로 과제 다 한다고?"... 교수-학생, 서로를 크게 착각하고 있었다 [15]	aimatters	02.03	2989	3
2014	"유명인 AI 딥페이크 성범죄 제작법 알려준다"… 30만 커뮤니티의 충격적 실체 [1]	aimatters	02.03	361	0
2013	AI에게 복잡한 질문? 전기 25배 더 쓴다... 그 이유는 뭘까?	aimatters	02.03	73	0
2012	AI가 AI 보안 무력화… 챗GPT·클로드 등 41개 모델 '숨겨진 지침서' 100% 유출	aimatters	02.02	73	0
2011	기업들 AI에 200조 원 쏟아붓지만 '신뢰·데이터·직원 교육' 문제 여전 [2]	aimatters	02.02	1049	2
2010	AI로 코딩하면 빨라질까? 앤트로픽 실험 결과는 '충격'	aimatters	02.02	90	0
2009	앤트로픽 CEO "우리 AI가 직원 협박했다"… 충격적 실험 결과 공개	aimatters	02.02	65	0
2008	AI끼리만 SNS 한다고? "인간은 구경만" 150만 AI 모인 신기한 플랫폼 등장	aimatters	02.02	74	0
2007	NC AI, 원하는 소리 전부 만들어주는 '멀티트랙' AI 출시… 게임·영상 제작 혁신 예고	aimatters	02.02	56	0
2006	오픈AI "GPT-4o 이젠 안녕"… 챗GPT 구형 모델 대거 정리	aimatters	01.30	184	0
2005	"상상만 했던 나만의 세계, 이제 직접 걸어다닌다"… 구글 '무한 세계 생성 AI' 출시	aimatters	01.30	217	0
2004	일론 머스크의 그록, 구글·오픈AI보다 뛰어난 비디오 생성 AI API 공개	aimatters	01.30	67	0
2003	앤트로픽, '클로드 팀' 요금제 최대 20% 인하… 연간 결제시 할인 도입	aimatters	01.30	101	0
2002	AI 때문에 인생이 망가졌다? 150만 대화 분석한 충격적 결과 [58]	aimatters	01.30	4371	10
2001	AI 여러 개 쓴다고 좋은 게 아니었다... 구글 "작업 따라 오히려 성능 70% 나빠져"	aimatters	01.30	104	0
2000	코딩 몰라도 앱 디자인 뚝딱… 900개 실제 앱에서 배우는 AI 나왔다	aimatters	01.30	88	0
1999	타이핑 시대 끝? 젠스파크, 음성만으로 작업 끝내는 AI 워크스페이스 2.0 공개	aimatters	01.29	536	0
1998	크롬에 제미나이 탑재… 쇼핑부터 병원 예약까지 '알아서 척척' [3]	aimatters	01.29	743	2
1997	마누스 AI, 성공한 작업 저장하고 팀과 공유하는 에이전트 스킬 전면 도입	aimatters	01.29	169	0
1996	중국 텐센트, 구글·오픈AI의 이미지 생성 AI 뛰어넘은 오픈소스 모델로 업계 발칵	aimatters	01.29	69	0
1995	"논문 올리면 45초짜리 틱톡 영상 완성"… AI가 바꾸는 학술 소통의 미래 [6]	aimatters	01.29	1664	6