[AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제

IT동아 갤러리

1/3

난 성격이 안좋아도 미인이 다이스키다 작성자 : 카갤러

[AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제

IT동아

2024.11.29 10:57:27

조회 172 추천 0 댓글 0

인공지능(AI) 기술의 급속한 발전으로 우리의 일상과 산업 전반에 큰 변화가 일어나고 있다. 본 기고에서는 AI로 인해 변화할 미래와 이에 대비하는 우리의 자세에 대해 다각도로 살펴보고자 한다.

AI 창작 콘텐츠, 보호받을 수 있을까? https://it.donga.com/106071/

기존 저작물은 AI 학습에 어디까지 활용할 수 있을까? https://it.donga.com/106146/

AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제 https://it.donga.com/106218/

[IT동아]

지난 5월 개봉한 할리우드 영화 ‘스턴트맨’은 AI 딥페이크 기술의 양면성을 명확하게 보여준다. 영화에서 AI 기술은 대역 배우 얼굴을 스타 배우 얼굴로 자연스럽게 바꿔 위험한 액션이나 젊은 시절 모습을 완벽하게 구현하는데 기여한다. 반면 범죄에 악용되어 제3자에게 살인 누명을 씌우는데 활용되기도 한다.

AI 딥페이크 기술의 악용 사례는 현실에서도 어렵지 않게 찾을 수 있다. 유명 연예인 얼굴을 성착취물에 합성해 무단으로 배포하거나, 가족의 목소리를 제작해 보이스피싱에 이용하기도 한다. 정치인 선거에 가짜 뉴스를 양산하는 사례도 있다.

딥페이크 영상에 대한 경고 메시지. 생성형 AI 서비스 달리로 제작 / 출처=옥다혜 변호사

AI 딥페이크 콘텐츠가 야기할 수 있는 법적 문제는 크게 세 가지로 나눌 수 있다. 물론 AI 창작 콘텐츠나 AI 창작 콘텐츠 관련 문제를 직접적으로 규제하는 법률은 없으나 기존 법률로도 상당 부분 위법성을 가늠할 수 있다.

첫째 동의 없는 인격 도용이다. AI 기술로 유명인의 목소리, 얼굴 등을 학습해 그들의 사진, 영상을 제작 및 배포했다면 초상권, 퍼블리시티권 침해가 될 수 있다.

둘째 허위 정보 생산과 유통의 문제다. AI 기술로 실제와 구분하기 어려운 가짜 이미지나 영상을 만들어 배포하는 경우 정보통신망법상 허위 사실 적시 명예훼손에 해당할 수 있다. 또한 AI 기술로 성착취물 영상을 제작했다면, 성폭력처벌법 허위 영상물 등의 반포에 해당할 수 있다.

셋째 윤리적 편향과 차별의 재생산이다. AI 기술은 학습 데이터에 포함된 편견을 그대로 반영하거나 증폭시킬 수 있다. 예를 들어 특정 성별이나 인종에 대한 고정관념을 담은 이미지를 무분별하게 생성하거나, 편향된 서사를 담은 텍스트를 만들어낼 수 있다. 이 부분은 아직 법적 규제가 명시되지 않은 영역이다.

출처=셔터스톡

이러한 문제에 대해 세계 각국은 어떻게 대응하고 있을까? 유럽연합(EU)은 ‘AI법(AI Act)’을 통해 AI 창작 콘텐츠에 AI 기술로 제작한 사실을 반드시 표시하도록 규정하고 있다. 중국은 지난해 ‘딥페이크 관리 규정’을 제정해 AI 창작 콘텐츠의 제작 및 유통을 엄격히 관리하고 있다. 미국은 법적 규제보다 자율 규제에 방점을 두고 있다. 구글, 메타 등 주요 AI 기업은 ‘AI 생성 콘텐츠 원칙’을 발표하고, AI 워터마크 기술 도입, 콘텐츠 검증 시스템 구축 등을 자발적으로 추진하고 있다.

우리나라도 AI 창작 콘텐츠에 대한 법적 규제 도입을 추진하고 있다. 정부는 AI 창작 콘텐츠의 식별 표시 의무화, 퍼블리시티권 보호 강화, 허위 정보 유통 방지 등을 위한 구체적인 법적 기준 마련을 위해 법 제정 및 가이드라인 발표를 진행할 것이라고 밝혔다. 기술적 해결 방안 도입도 준비하고 있다. 한국정보통신기술협회(TTA)는 올 연말을 목표로 AI 워터마크 적용 가이드라인을 발표할 예정이다.

AI 창작 콘텐츠는 새로운 표현과 혁신의 도구가 될 수 있지만, 동시에 심각한 법적, 윤리적 문제를 야기할 수 있다. 이에 이러한 문제를 예방할 방법과 향후 도입할 규제의 적합성에 대해 함께 고민해야 한다. 앞서 언급한 정부의 법 제정 및 가이드라인 발표, 기술적 해결 방안의 도입과 함께 출처 추적 기술, 콘텐츠 진위 판별 시스템 등 다양한 기술적 보호 조치의 도입 및 의무화 방안을 검토해야 한다. 또한 윤리 가이드라인 수립과 교육도 간과하지 말아야 한다. 창작자와 이용자 모두 준수해야 할 윤리적 원칙을 수립하고, 이에 대한 인식을 높여야 한다.

글 / 옥다혜 법무법인 미션 변호사

법무법인 미션 공공거버넌스팀 소속으로, 새로운 산업의 등장에 따라 새로운 제도를 입법 및 설계하도록 정부, 공공기관 등에 자문하고 있다. 경기콘텐츠진흥원 법률 지원 사업의 일환으로 AI 시대에 콘텐츠 스타트업과 창작자들의 권리에 대해 고민하면서 기고를 진행하고 있다.

정리 / IT동아 한만혁 기자 (mh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [부산창경 BEF 2024] 히어로웍스 “숙박 시설의 업무 자동화에 기여합니다”▶ [고려대 미래내일] 청년 일경험 우수 팀 “연구 구체화, 실무 경험 값진 시간”▶ [생성 AI 길라잡이] 양질의 전문 자료를 깔끔하게 정리해 보여주는 ‘틀루토’

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	입금 전,후 관리에 따라 외모 갭이 큰 스타는?	운영자	25/01/20	-	-
4804	‘이용자 보호 강화에 초점’ 2025년 달라지는 금융정책	IT동아	01:01	25	0
4803	[리뷰] 초보자·브이로그 특화 접이식 드론 ‘DJI 플립(DJI Flip)’	IT동아	01.20	36	0
4802	中 BYD 국내 진출 1호 승용차 '아토 3' 면면 살펴보니	IT동아	01.20	30	0
4801	다양한 키보드를 깔끔하게 관리하려면 이렇게! [이럴땐 이렇게!]	IT동아	01.20	665	1
4800	[투자를IT다] 2025년 1월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	01.17	6524	0
4799	[시승기] 뛰어난 경제성 지닌 ‘디 올 뉴 그랜저 3.5 LPG’	IT동아	01.17	167	0
4798	LG유플러스 콘텐츠 리뷰 플랫폼 ‘원로우(1ROW)’, 아쉬움 남는 이유	IT동아	01.17	156	0
4797	[생성 AI 길라잡이] 초보자도 쉽게 사용하는 영상 제작 서비스, 하이퍼AI	IT동아	01.17	147	0
4796	[IT애정남] 주광색? 주백색? LED 색상은 어떻게 구분할까요 [3]	IT동아	01.17	4710	1
4795	BYD 승용 브랜드 공식 출범…2000만 원대 SUV 출시로 승부수 띄워 [1]	IT동아	01.16	2171	0
4794	[KTVF 2024] 온도감응 라벨로 저온유통 신뢰성 끌어올리는 '뉴처' [2]	IT동아	01.16	5230	0
4793	[주간스타트업동향] CIT, 투명 안테나·디스플레이 CES 2025 혁신상 수상 外	IT동아	01.16	188	0
4792	[KTVF 2024] 인포플러스 “금융 인프라 구축 경험 기반으로 동남아시아 금융 문제 해결”	IT동아	01.16	146	0
4791	[신차공개] GV60 부분변경 디자인 공개·뉴 MINI 에이스맨 사전계약 실시	IT동아	01.15	2080	0
4790	라이카 카메라 출시 100주년··· '카메라 넘어 사진의 역사 기록한다' [4]	IT동아	01.15	2016	2
4789	[2024 서울콘] 김현우 SBA 대표, "서울의 매력 담은 서울콘, 절반 일정에도 뚜렷한 성공"	IT동아	01.15	165	0
4788	[KTVF 2024] 구루컴퍼니 “웹툰·웹소설로 기업 앱 재방문율·체류시간 늘린다, 보물섬”	IT동아	01.15	632	0
4787	[자동차와 法] 주요국의 자율주행차 관련 법·제도 현황 살펴보니	IT동아	01.14	359	0
4786	[리뷰] 어디서든 실시간 위치 확인 돕는 '갤럭시 스마트태그 2'	IT동아	01.14	311	0
4785	2025년 저궤도 위성통신 시대 개막할까…국내외 기업 동향은	IT동아	01.14	190	0
4784	스페이스앤빈 큐브위성 공모전 성료··· '공모 결과, 2026년 우주 발사로 연계'	IT동아	01.14	210	0
4783	지난 병원 방문 기록 열람하려면 이렇게! [이럴땐 이렇게!]	IT동아	01.13	800	0
4782	[생성 AI 길라잡이] 영상 생성 인공지능 서비스 '소라(Sora)' 써보니	IT동아	01.13	1854	1
4781	[생활 속IT] 카카오톡 톡서랍 플러스, PC에 다운로드하고 싶다면?	IT동아	01.13	219	0
4780	[주간투자동향] 잉카엔트웍스, 111억 원 규모 투자 유치 外	IT동아	01.13	4902	0
4779	[투자를IT다] 2025년 1월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	01.11	307	0
4778	[생활 속 IT] 유튜브, 스마트폰과 TV 연결해서 보는 3가지 방법	IT동아	01.10	386	0
4777	5인 이상 승용차 소화기 비치 의무화...제품 구매 시 유의할 사항은? [5]	IT동아	01.10	7590	1
4776	[KTVF 2024] 머니가드서비스 “안전한 금전거래 지원, 머니가드”	IT동아	01.10	288	0
4775	[KTVF 2024] 전기차 무선 충전의 새 시대 준비하는 '와이파워원' [2]	IT동아	01.10	753	0
4774	[CES 2025] 역대 최대 규모의 서울통합관 속 '혁신상' 받은 기업 5곳 살펴보니	IT동아	01.10	282	0
4773	[CES 2025] 인공지능으로 경험하는 '홈 라이프스타일' 제안한 LG전자 [1]	IT동아	01.10	2275	0
4772	[CES 2025] 역대급 규모로 104개 기업과 함께한 SBA "맞춤형 지원 통해 21개 혁신상 성과"	IT동아	01.10	253	0
4771	[CES 2025] 세계 무대에 선 국내 반도체·AI 스타트업, CES에서의 행보는?	IT동아	01.09	341	0
4770	[CES 2025] ‘AI 거울’·‘바늘 없앤 주사’·’당뇨 관찰 로봇’…진화하는 헬스케어	IT동아	01.09	285	0
4769	2025년 가상자산 시장 ‘AI·RWA 부상할 것’ [5]	IT동아	01.09	5239	0
4768	[CES 2025] 현대차그룹, 투자·협업 중인 스타트업 10개사 전시 지원	IT동아	01.09	249	0
4767	[CES 2025] 토요타 ‘우븐 시티 1단계’ 완성·BMW ‘파노라믹 iDrive’ 공개 [2]	IT동아	01.08	683	0
4766	[CES 2025] 홈 AI, 네오 QLED 8K 등으로 경쟁력 세우기 나선 삼성전자	IT동아	01.08	434	0
4765	[주간스타트업동향] HR 플랫폼 플렉스, 비용 관리 서비스 출시 外	IT동아	01.08	247	0
4764	[CES 2025] 인텔, 코어 울트라 200HX·H·U로 라인업 확장 나서	IT동아	01.08	458	0
4763	[ETF 기본기 다지기] ETF 거래를 위한 계좌 개설하기	IT동아	01.08	893	3
4762	[CES 2025] “이제는 물리적 인공지능 시대” 엔비디아의 시선은 로보틱스로 [3]	IT동아	01.08	2247	0
4761	[리뷰] ‘모든 것이 사용자를 위해 존재한다’ 글로리어스 GMMK 3 프로 HE 65% 게이밍 기계식 키보드	IT동아	01.07	265	0
4760	올해 전기승용차 보조금 최대 580만 원…’안전·성능’ 기준 강화	IT동아	01.07	253	0
4759	[CES 2025] 이통3사, CES서 AI 의지 찾는다	IT동아	01.07	254	0
4758	[CES 2025] 퀄컴, AI PC 및 사물인터넷, 전장 협력 등으로 사업 다각화	IT동아	01.07	402	0
4757	[CES 2025] AMD, 9950X3D·라이젠 AI 맥스 등 공개··· '라인업 더 촘촘히'	IT동아	01.07	811	1
4756	[CES 2025] CES 장식할 모빌리티 기술 살펴보니	IT동아	01.06	2047	0
4755	[생활 속 IT] 카카오톡 채팅방 맞춤법·번역 기능 유용할까	IT동아	01.06	2124	1
뉴스	에일리, "최시훈과 함께 살고 있어요"…브라이덜샤워로 눈물	디시트렌드	01.20