[AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제

IT동아

2024.11.29 10:57:27

조회 196 추천 0 댓글 0

인공지능(AI) 기술의 급속한 발전으로 우리의 일상과 산업 전반에 큰 변화가 일어나고 있다. 본 기고에서는 AI로 인해 변화할 미래와 이에 대비하는 우리의 자세에 대해 다각도로 살펴보고자 한다.

AI 창작 콘텐츠, 보호받을 수 있을까? https://it.donga.com/106071/

기존 저작물은 AI 학습에 어디까지 활용할 수 있을까? https://it.donga.com/106146/

AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제 https://it.donga.com/106218/

[IT동아]

지난 5월 개봉한 할리우드 영화 ‘스턴트맨’은 AI 딥페이크 기술의 양면성을 명확하게 보여준다. 영화에서 AI 기술은 대역 배우 얼굴을 스타 배우 얼굴로 자연스럽게 바꿔 위험한 액션이나 젊은 시절 모습을 완벽하게 구현하는데 기여한다. 반면 범죄에 악용되어 제3자에게 살인 누명을 씌우는데 활용되기도 한다.

AI 딥페이크 기술의 악용 사례는 현실에서도 어렵지 않게 찾을 수 있다. 유명 연예인 얼굴을 성착취물에 합성해 무단으로 배포하거나, 가족의 목소리를 제작해 보이스피싱에 이용하기도 한다. 정치인 선거에 가짜 뉴스를 양산하는 사례도 있다.

딥페이크 영상에 대한 경고 메시지. 생성형 AI 서비스 달리로 제작 / 출처=옥다혜 변호사

AI 딥페이크 콘텐츠가 야기할 수 있는 법적 문제는 크게 세 가지로 나눌 수 있다. 물론 AI 창작 콘텐츠나 AI 창작 콘텐츠 관련 문제를 직접적으로 규제하는 법률은 없으나 기존 법률로도 상당 부분 위법성을 가늠할 수 있다.

첫째 동의 없는 인격 도용이다. AI 기술로 유명인의 목소리, 얼굴 등을 학습해 그들의 사진, 영상을 제작 및 배포했다면 초상권, 퍼블리시티권 침해가 될 수 있다.

둘째 허위 정보 생산과 유통의 문제다. AI 기술로 실제와 구분하기 어려운 가짜 이미지나 영상을 만들어 배포하는 경우 정보통신망법상 허위 사실 적시 명예훼손에 해당할 수 있다. 또한 AI 기술로 성착취물 영상을 제작했다면, 성폭력처벌법 허위 영상물 등의 반포에 해당할 수 있다.

셋째 윤리적 편향과 차별의 재생산이다. AI 기술은 학습 데이터에 포함된 편견을 그대로 반영하거나 증폭시킬 수 있다. 예를 들어 특정 성별이나 인종에 대한 고정관념을 담은 이미지를 무분별하게 생성하거나, 편향된 서사를 담은 텍스트를 만들어낼 수 있다. 이 부분은 아직 법적 규제가 명시되지 않은 영역이다.

출처=셔터스톡

이러한 문제에 대해 세계 각국은 어떻게 대응하고 있을까? 유럽연합(EU)은 ‘AI법(AI Act)’을 통해 AI 창작 콘텐츠에 AI 기술로 제작한 사실을 반드시 표시하도록 규정하고 있다. 중국은 지난해 ‘딥페이크 관리 규정’을 제정해 AI 창작 콘텐츠의 제작 및 유통을 엄격히 관리하고 있다. 미국은 법적 규제보다 자율 규제에 방점을 두고 있다. 구글, 메타 등 주요 AI 기업은 ‘AI 생성 콘텐츠 원칙’을 발표하고, AI 워터마크 기술 도입, 콘텐츠 검증 시스템 구축 등을 자발적으로 추진하고 있다.

우리나라도 AI 창작 콘텐츠에 대한 법적 규제 도입을 추진하고 있다. 정부는 AI 창작 콘텐츠의 식별 표시 의무화, 퍼블리시티권 보호 강화, 허위 정보 유통 방지 등을 위한 구체적인 법적 기준 마련을 위해 법 제정 및 가이드라인 발표를 진행할 것이라고 밝혔다. 기술적 해결 방안 도입도 준비하고 있다. 한국정보통신기술협회(TTA)는 올 연말을 목표로 AI 워터마크 적용 가이드라인을 발표할 예정이다.

AI 창작 콘텐츠는 새로운 표현과 혁신의 도구가 될 수 있지만, 동시에 심각한 법적, 윤리적 문제를 야기할 수 있다. 이에 이러한 문제를 예방할 방법과 향후 도입할 규제의 적합성에 대해 함께 고민해야 한다. 앞서 언급한 정부의 법 제정 및 가이드라인 발표, 기술적 해결 방안의 도입과 함께 출처 추적 기술, 콘텐츠 진위 판별 시스템 등 다양한 기술적 보호 조치의 도입 및 의무화 방안을 검토해야 한다. 또한 윤리 가이드라인 수립과 교육도 간과하지 말아야 한다. 창작자와 이용자 모두 준수해야 할 윤리적 원칙을 수립하고, 이에 대한 인식을 높여야 한다.

글 / 옥다혜 법무법인 미션 변호사

법무법인 미션 공공거버넌스팀 소속으로, 새로운 산업의 등장에 따라 새로운 제도를 입법 및 설계하도록 정부, 공공기관 등에 자문하고 있다. 경기콘텐츠진흥원 법률 지원 사업의 일환으로 AI 시대에 콘텐츠 스타트업과 창작자들의 권리에 대해 고민하면서 기고를 진행하고 있다.

정리 / IT동아 한만혁 기자 (mh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [부산창경 BEF 2024] 히어로웍스 “숙박 시설의 업무 자동화에 기여합니다”▶ [고려대 미래내일] 청년 일경험 우수 팀 “연구 구체화, 실무 경험 값진 시간”▶ [생성 AI 길라잡이] 양질의 전문 자료를 깔끔하게 정리해 보여주는 ‘틀루토’

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	논란을 반복해서 진정성이 의심되는 스타는?	운영자	25/05/12	-	-
5064	프리미엄 소형차 브랜드 ‘MINI’... 한국 진출 20년 발자취 살펴보니	IT동아	03.25	450	0
5063	‘ATC 주니어스쿨, 국가 공인 AI 자격증 최초 학생 합격’…노진헌 학생·천대건 교사 만나보니	IT동아	03.25	215	0
5062	[생활 속 IT] 스마트폰 글씨·키보드 크게 바꾸는 법 [7]	IT동아	03.25	5391	0
5061	노드VPN으로 경험해 본 해외 서비스 접속기	IT동아	03.25	232	0
5060	[뉴스줌인] 허가 없이 쓰는 비면허 주파수, 어떻게 활용되나	IT동아	03.24	229	0
5059	‘서울모빌리티쇼’ 개막 임박...12개국 451개사 기업·기관 참여	IT동아	03.24	216	0
5058	거래소 이해상충, 이용자 보호 위해 적절한 규제 필요	IT동아	03.24	770	0
5057	와이파이 암호 기억 안나면 이렇게! [이럴땐 이렇게!]	IT동아	03.24	1457	2
5056	[주간투자동향] 커버써먼, 50억 원 규모 시리즈A 투자 유치 外	IT동아	03.24	200	0
5055	[리뷰] 매력적인 비주류, 낫싱 폰(3a) [6]	IT동아	03.24	2373	2
5054	GTC 2025 이후, 인공지능 반도체 시장은? [1]	IT동아	03.22	7206	0
5053	[르포] AI가 주도하는 보안 시장…세계 보안 엑스포	IT동아	03.21	267	0
5052	[투자를IT다] 2025년 3월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	03.21	263	0
5051	[리뷰] 부분 적층형 센서로 성능·속도 잡은 카메라, 니콘 Z6 III	IT동아	03.21	261	0
5050	서울창경센터, 일본 Z Venture Capital과 함께 한/일 스타트업 투자 활성화 추진	IT동아	03.21	243	0
5049	[생성 AI 길라잡이] 차별화된 검색 서비스 앞세워 전 세계 1100만 사용자 확보 ‘라이너’	IT동아	03.21	262	0
5048	가상자산 폰지사기 주의보, 투자자 유의사항은? [2]	IT동아	03.21	911	0
5047	[스타트업-ing] 테사 “미술품뿐 아니라 다양한 대체자산의 조각투자 지원”	IT동아	03.21	233	0
5046	[시승기] 가솔린과 하이브리드 사이 합리적 대안 ‘더 뉴 스포티지 LPG’	IT동아	03.20	2267	0
5045	[생활 속 IT] 정부24, 놓치면 아쉬운 보조금 혜택 찾는 방법	IT동아	03.20	2422	1
5044	[IT애정남] 미국발 관세 분쟁, 아이폰 가격도 오를까요?	IT동아	03.20	930	0
5043	[민관협력 오픈이노베이션 지원사업] 인공파도 기반 스윔머신으로 수영 진입장벽 낮춘 '디에이랩'	IT동아	03.20	240	0
5042	[스타트업人] 미국 AI검색 판 바꾼다, 라이너 ‘해외 마케팅 팀’ 이야기	IT동아	03.20	424	0
5041	‘인공지능 성장’ 강조한 GTC 2025 기조연설	IT동아	03.19	242	0
5040	델 “PC에서 서버, 소프트웨어까지, AI 위한 토털솔루션 제공”	IT동아	03.19	233	0
5039	SBA 서울창업허브 M+, 스타트업 세계화 도울 'EU 진출 컨퍼런스' 개최	IT동아	03.19	222	0
5038	AI로 진화한 사이버 위협 확산…‘보안 사각지대 노린다’ [7]	IT동아	03.19	829	18
5037	[주간스타트업동향] 인포플라, 신용보증기금 ‘퍼스트펭귄 기업’에 선정 外	IT동아	03.19	187	0
5036	[ETF 기본기 다지기] ETF 투자 시 발생하는 세금	IT동아	03.19	175	0
5035	[월간자동차] 25년 2월, 신차·중고차 판매량 반등…기아 쏘렌토 4개월 연속 판매 1위	IT동아	03.19	183	0
5034	양자 컴퓨팅 합류한 엔비디아 GTC 2025 관전 포인트는?	IT동아	03.19	191	0
5033	[IT신상공개] AI 기능 강화한 미니PC, 에이수스 엑스퍼트센터 PN54 [3]	IT동아	03.18	927	1
5032	[자동차와 法] 교통혁신을 위한 모빌리티 규제샌드박스	IT동아	03.18	189	0
5031	AI 업계 이정표 된 '엔비디아 GTC', 올해 참여 대기업·스타트업은?	IT동아	03.18	292	0
5030	AWS "생성형AI 스타트업 적극 지원한다"	IT동아	03.18	187	0
5029	[시승기] 전동화 시대 여는 새로운 MINI…‘더 뉴 올-일렉트릭 에이스맨·컨트리맨’ [1]	IT동아	03.17	2297	0
5028	CPU·GPU서 NPU로 확장하는 '첨단 운전자 보조 시스템(ADAS)' 시장	IT동아	03.17	301	0
5027	[뉴스줌인] SSD 성능의 USB 메모리? 샌디스크 익스트림 프로 듀얼 드라이브	IT동아	03.17	203	0
5026	몸 커지는 디지털 헬스케어 시장...‘관건은 데이터 확보’	IT동아	03.17	297	0
5025	유튜브 시청 시간 관리하려면 이렇게! [이럴땐 이렇게!]	IT동아	03.17	5533	3
5024	[민관협력 오픈이노베이션 지원사업] 웝스 “섬유 폐기물 업사이클링 건축 자재로 산업 혁신 이끌 것”	IT동아	03.17	191	0
5023	[민관협력 오픈이노베이션 지원사업] SKT·XL8 “인공지능으로 세계 언어 장벽 허문다”	IT동아	03.17	183	0
5022	[투자를IT다] 2025년 3월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	03.15	6296	0
5021	데이터 백업 위한 클라우드 저장소 찾아보기	IT동아	03.14	365	0
5020	[생성 AI 길라잡이] 방통위, 이용자 보호 위한 생성형 AI 서비스 가이드라인 발표	IT동아	03.14	451	0
5019	[리뷰] 실속파 비즈니스 노트북, 에이수스 엑스퍼트북 P1 [1]	IT동아	03.14	5864	0
5018	수입 해치백 최초 5만 대 판매 돌파한 ‘폭스바겐 골프’ 부분변경 모델 출시 [11]	IT동아	03.14	5892	1
5017	안드로이드에서 애플TV 앱 쓴다··· 변혁 접어든 애플의 구글 접근법	IT동아	03.14	331	0
5016	[스타트업-ing] 코딧 “법·규제·정책 동향 한눈에 확인하는 ‘정책 포털’ 만든다”	IT동아	03.14	238	0
5015	[생활 속 IT] 네이버 지도에서 돌봄 서비스 조회·예약된다	IT동아	03.14	2076	0
뉴스	한혜진 “큰 돈 사기 당한 남편, 심장마비로 사망”	디시트렌드	05.13