디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

'대(大) AI 시대'에 판치는 'AI 음란물'... "사회적 논의 서둘러야"

파이낸셜뉴스갤로그로 이동합니다. 2023.03.05 15:09:50
조회 3579 추천 7 댓글 59
생성 AI로 각종 음란 이미지 생성
누구나 쉽게 접근·사용 가능
저작권·초상권도 모호...

범죄 이용 등 각종 악용 가능성




[파이낸셜뉴스] #지난달 중국의 한 업체가 '호화 요트파티'를 개최한다는 광고를 냈다. 선정적 복장을 하고 있는 접대부들이 요트 파티에서 5시간동안 접대를 한다는 내용이 포함됐다. 1대 1 접대 서비스 가격은 1일에 430달러. 그러나 네티즌들이 광고에 공개된 접대부들이 인공지능(AI)으로 만든 가짜라는 것을 밝혀내자 파티는 취소됐고 업체는 경찰의 수사를 받게 됐다.

5일 관련업계에 따르면 대화형 AI 서비스 '챗GPT' 등장을 기점으로 AI를 이용한 사기사건과 윤리 논란이 늘어날 것으로 전망되고 있다. 사례에 나타난 가상 인물의 경우 AI가 학습한 이미지가 인터넷상 실제 인물 사진이기 때문에 윤리적·법적 문제가 발생할 가능성이 높아서다. 해외에서 각종 선례가 나오며 국내에서도 범죄에 악용될 수도 있다는 지적이 나온다. 기존의 법체제로는 이를 제제할 수단도 마땅치 않다.

실제 인터넷 검색엔진에 'AI 실사' 등을 검색하면 각종 커뮤니티에 올라온 음란 이미지를 쉽게 찾아볼 수 있다. 댓글 역시 "실제 사진인지 구별 되지 않는다"는 반응이 주를 이룬다. 이용자들은 음란 이미지를 생성하는 방법과 노하우를 공유중이다.

이미지 생성 AI는 사용자가 대화창에 조건만 입력하면 그에 적절한 이미지를 만들어준다. 이미지 생성 AI는 사용자가 검색창에서 검색해 자신의 컴퓨터에 까는것도 어렵지 않다. 음란물 제작 역시 같은 방식으로 이뤄진다.

업체가 서비스하는 생성 AI들은 음란 이미지를 막기 위해 금칙어를 정해두고 있지만, 사용자가 이를 피할 방법은 많다. 직접적인 단어 대신 약어나 은어 등을 입력하는 식이다. 또 인터넷에 공개된 오픈 소스 AI의 경우 이런 금칙어의 제한을 받지 않는다. 누구나 마음만 먹으면 어떤 이미지도 만들어낼 수 있다는 뜻이다.

AI(인공지능) 프로그램이 기존 온라인상에 존재하는 이미지와 사람이 입력한 키워드를 종합해 만들어낸 그림. 이를 이용해 익명의 트위터 이용자는 '튀르키예 피해 후원금'을 받고 잠적한 것으로 알려졌다. 자세히 보면 구조대원 손가락이 6개다. /사진= 트위터 갈무리

AI가 만드는 이미지가 기존의 저작권이나 초상권 개념에 제한되지 않는 것도 문제다. 실제 이미지 생성 AI는 학습하는 데이터에 대한 저작권이나 초상권에 대한 사용료는 지불하고 있지 않다. 그림 생성 AI가 학습하는 이미지는 이미 인터넷 상에 있는 수억개의 이미지들이다. 그 중에는 일반인 이미지도 대다수다. AI는 이 중 무작위로 사용자가 입력한 조건에 맞는 이미지를 합성·조합해 그림을 생성해낸다.

기술이 더 발전하면 생성AI 로 음란물 영상도 제작이 가능할 것으로 전망되는 등 각종 논란은 커질 것으로 보인다. 전문가들은 저작권, 인격침해 등의 문제에 대해 선제 대응이 필요하다고 지적한다.

최병호 고려대 인공지능연구소 교수는 "생성 AI가 무료로 사용이 가능하고 유통이 쉽다는 측면에서 음란물 역시 급속도로 증가할 것"이라며 "각종 범죄와 결합해 악용될 가능성도 높기에 사회적 합의와 규범 마련이 필요하다"고 지적했다.

장병탁 서울대 AI 연구원장도 "AI로 만든 음란 이미지는 '원본'을 규명하기 불가능하다는 점에서 더 복잡한 문제가 될 것으로 보인다"며 "악용과 오용을 방지할 수 있는 사회적 제도 논의를 빨리 시작해야 한다"고 제언했다.




wongood@fnnews.com 주원규 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지



▶ 대중 목욕탕 간 여배우 반전 고백 "아줌마들이 내 가슴을.."▶ 제주도 유명 관광지에서 男 변사체 발견, 알고보니 3주 전에..▶ 리조트에서 추락 후 사망한 여고생, 부검 해보니..놀라운 결과▶ 장인어른과 단둘이 사는 유명 개그맨, 아내 반응이..▶ 전 남친이 사준 반지 끼고 다니던 女, 현남친에게 들키자..반전



추천 비추천

7

고정닉 0

64

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 열애설 터지면 큰 타격 입을 것 같은 아이돌은? 운영자 24/03/25 - -
9651 여의도 궐기대회 나선 의사들, "소통하라" vs 정부, "불법 행위 파이낸셜뉴스갤로그로 이동합니다. 03.03 108 0
9650 "실무 경험 많은 젊은 법조인 들어오라", 경력 수혈 팔 걷어붙인 법 [1] 파이낸셜뉴스갤로그로 이동합니다. 03.03 118 0
9649 경찰, 의협 현직 간부 4명 출국금지 파이낸셜뉴스갤로그로 이동합니다. 03.03 104 0
9648 "하나회에 비견되는 尹 사단"…징계위서 이성윤 해임 처분 파이낸셜뉴스갤로그로 이동합니다. 03.03 96 0
9647 "서울역서 흉기난동하겠다" 온라인 예고 글 경찰 수사 파이낸셜뉴스갤로그로 이동합니다. 03.03 89 0
9646 경찰, 피싱범죄 집중차단·특별단속 파이낸셜뉴스갤로그로 이동합니다. 03.03 72 0
9645 경찰, 불법 도로연수 근절대책 발표…처벌 규정 신설 파이낸셜뉴스갤로그로 이동합니다. 03.03 76 0
9644 경찰, 8주간 화물차 법규 위반 특별단속 파이낸셜뉴스갤로그로 이동합니다. 03.03 59 1
9643 2기 공수처장 지명 초읽기...조직 내홍·수사력 부실 등 과제 산적 파이낸셜뉴스갤로그로 이동합니다. 03.03 61 0
9642 의대 입시 광풍...등록 포기하고 다시 의대 지원하기도 파이낸셜뉴스갤로그로 이동합니다. 03.03 93 0
9641 '돈 봉투 의혹' 정점 송영길 재판 본격 시작[이주의 재판일정] 파이낸셜뉴스갤로그로 이동합니다. 03.03 55 0
9640 "아파트 명의만 모친, 실소유자는 본인" 주장했지만…법원 "상속세 내 [1] 파이낸셜뉴스갤로그로 이동합니다. 03.03 112 0
9639 대법, "국내 본사가 중국법인에 받은 지급보증 수수료, 세액공제 대상 파이낸셜뉴스갤로그로 이동합니다. 03.03 56 0
9638 의협 2만명 집회 예정…경찰, "불법 행위 엄정 대응" 파이낸셜뉴스갤로그로 이동합니다. 03.03 56 0
9637 "우리 아이 학교 주변 살펴요" 경찰-시민 합동 아동안전지킴이 활동 파이낸셜뉴스갤로그로 이동합니다. 03.03 59 0
9636 3년새 학폭 55.7% 증가…서울청, 신학기 학폭 예방 활동 펼쳐 [69] 파이낸셜뉴스갤로그로 이동합니다. 03.03 6848 8
9635 세계의사회 "의사 인권침해 중단" 비판…정부 "의협 일방적 대변" 파이낸셜뉴스갤로그로 이동합니다. 03.02 107 0
9634 마약한 채 차 몰고 주유소 세차장 입구 막은 20대…구속영장 신청 파이낸셜뉴스갤로그로 이동합니다. 03.02 98 0
9633 제주 어선 전복사고 실종자, 숨진 채 발견 파이낸셜뉴스갤로그로 이동합니다. 03.02 104 0
9632 의협 '인권 탄압' 주장에 복지차관 "의사 압박 조치 아냐" [1] 파이낸셜뉴스갤로그로 이동합니다. 03.02 105 0
9631 정부·의료계 강대강 지속, 내일 여의도서 2만명 집결 파이낸셜뉴스갤로그로 이동합니다. 03.02 82 0
9630 나스닥 하루 만에 또 사상 최고치...AI 랠리 계속 파이낸셜뉴스갤로그로 이동합니다. 03.02 92 0
9629 서울 영하 6도…전국 꽃샘추위 파이낸셜뉴스갤로그로 이동합니다. 03.02 95 0
9628 서울경찰, 3.1절 폭주 등 교통위반행위 특별단속 실시 [5] 파이낸셜뉴스갤로그로 이동합니다. 03.01 7705 0
9627 경찰, 의협 사무실 압수수색…'의료파업 교사·방조 혐의' 파이낸셜뉴스갤로그로 이동합니다. 03.01 115 0
9626 '또래 여성 살인' 정유정 항소심에서도 무기징역 받을까[사건 인사이드 [50] 파이낸셜뉴스갤로그로 이동합니다. 03.01 9350 9
9625 차기 공수처장 후보, 오동운·이명순 변호사로 최종 압축 파이낸셜뉴스갤로그로 이동합니다. 02.29 181 0
9624 은평구 차량 급발진 의심 사고…1명 사망·13명 부상 [1] 파이낸셜뉴스갤로그로 이동합니다. 02.29 192 0
9623 [속보]은평 연서시장 앞 차량 급발진 의심 사고…1명 사망·13명 부 파이낸셜뉴스갤로그로 이동합니다. 02.29 168 0
9622 "왜 돌아가냐" 택시기사 폭행 50대 변호사…벌금 2000만원 파이낸셜뉴스갤로그로 이동합니다. 02.29 172 0
9621 복귀시한 초읽기 들어간 전공의...병원서는 여전히 '감감무소식'[르포 파이낸셜뉴스갤로그로 이동합니다. 02.29 134 0
9620 경찰, 올해 첫 대규모 집회 엄정대응 방침 파이낸셜뉴스갤로그로 이동합니다. 02.29 126 0
9619 3·1절 서울 도심권 대규모 집회…일부 도로 통제 [7] 파이낸셜뉴스갤로그로 이동합니다. 02.29 3793 1
9618 환자 4만여명 처방 내역 유출한 제약회사 직원 기소 [3] 파이낸셜뉴스갤로그로 이동합니다. 02.29 3551 7
9617 법무법인 광장, ABLJ '올해의 한국 로펌' 선정[로펌소식] 파이낸셜뉴스갤로그로 이동합니다. 02.29 107 0
9616 경찰청장, '분당 흉기난동' 피해자 전담 경찰관 등 격려 파이낸셜뉴스갤로그로 이동합니다. 02.29 106 0
9615 경찰, 스토킹 혐의 피소 박한울씨 '혐의 없음' 불송치 결정 파이낸셜뉴스갤로그로 이동합니다. 02.29 72 0
9614 하나은행 'DLF 중징계 취소' 소송 2심 승소…法 "징계 다시 정하 파이낸셜뉴스갤로그로 이동합니다. 02.29 71 0
9613 대화하듯 검색해도 유사판례 우수수...'공직선거법', '금융법' 열공 파이낸셜뉴스갤로그로 이동합니다. 02.29 78 0
9612 검찰, '돈봉투 수수' 허종식·임종성 기소...전달자 윤관석도 추가 파이낸셜뉴스갤로그로 이동합니다. 02.29 66 0
9611 [속보] 검찰, '민주당 돈봉투' 윤관석·허종식·임종성 기소 파이낸셜뉴스갤로그로 이동합니다. 02.29 69 0
9610 강남 스쿨존 초등생 사망사건 징역 5년 확정, 유족 "기습 공탁이 영 [2] 파이낸셜뉴스갤로그로 이동합니다. 02.29 135 0
9609 법조경력 신임 재판연구원 30명 임용, 두 번째 파이낸셜뉴스갤로그로 이동합니다. 02.29 71 0
9608 "동의했어도 고2 제자와 성관계한 여교사 행위 '성적 학대'" 대법[ 파이낸셜뉴스갤로그로 이동합니다. 02.29 120 0
9607 3·1절 서울 대규모 집회에 따른 도심권 교통혼잡 예상 파이낸셜뉴스갤로그로 이동합니다. 02.29 61 0
9606 의사 집단행동 중 경찰이 심근경색 환자 살렸다 파이낸셜뉴스갤로그로 이동합니다. 02.29 76 1
9605 '1억1500만원 수수 혐의' 임종성 전 의원 구속…"증거인멸 우려" 파이낸셜뉴스갤로그로 이동합니다. 02.29 64 0
9604 '한동훈 독직폭행' 정진웅 검사, 무죄 확정에도 정직 2개월 징계 [1] 파이낸셜뉴스갤로그로 이동합니다. 02.29 96 1
9603 '강남 스쿨존 만취 운전 초등생 사망 사건' 대법원 오늘 선고 파이낸셜뉴스갤로그로 이동합니다. 02.29 66 0
9602 만 17세 남학생 제자와 성관계는 성적 학대일까? 대법원 오늘 판결 [36] 파이낸셜뉴스갤로그로 이동합니다. 02.29 1423 1
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2