여기 그림 마이너갤 분탕 수용소라 얼빠진 딸깍충, 지능 낮은 관음충 놈들이 대다수인거 알지만

그래도 걱정때문에 힘들어하는 환쟁이들이나 궁금해서 들어온 제3자들도 있다는거 알음.

그래서 자꾸 똑같은 레퍼토리의 어그로 글들 볼때마다 웃겨서 여기다가 정리함.

생성 AI에 대한 한계점 / 잘못된 오해

1) 현재의 이미지 생성 AI는 그냥 발달된 "합성 프로그램"이다.

딸깍이들이 AI를 신격화하며 합성이 아니라고 우기는데, 애초에 딸깍이들이 쓰고 있는 스테이블 디퓨전 자체부터 "잠재 확산 모델을 이용한 고해상도 이미지 합성 연구"에서 시작됐다. 이걸 만든 전문가들 조차도 합성 연구를 위한 합성 프로그램을 만들었다고 이름부터 공표했다.

2) 이미지 생성 AI의 학습 방식은 인간의 학습 방식과 동일?

ChatGPT 열풍 덕분에 많은 사람들이 현존 AI는 절대 학습 방식이 동일하지 않다라는 기조가 여론에 깔리기 시작함. 그 이전에는 인간이랑 학습 방식 똑같은데 창작가들이 다른거 보고 베끼는 거랑 AI랑 무슨 차이? 같은 능지처참한 소리 하는 놈들 많았다. 모든 AI 전문가들이 이런 똘추들 때문에 하는 이야기가 바로 "AI의 작동 방식을 인간이 올바르게 이해해야하고, AI의 학습과 인간 학습이 절대적으로 같지 않다"라는 거다. (디퓨전 모델의 생성 방식을 설명한 글)

데이터에 노이즈를 섞어가면서 데이터의 확률 분포값을 추출, 이 값을 학습하고 이 값을 여러 단계 변환을 거쳐 새로운 분포를 만들어낸다. 확률 분포값은 특정 키워드(예를 들어 주황색 종이상자 이미지)의 결과값을 원하는데, 이 키워드가 들어간 데이터를 많이 학습시키면 시킬수록 종이상자 이미지의 분포값(패턴)이 학습되고, 확률적으로 해당 키워드의 데이터 값으로 등장할 확률이 높아진다. 원하는 결과를 뽑고싶으면 끝없이 추가적인 데이터 개입을 해야함.

근데 사람은? 나무위키 발췌지만 A라는 글자를 보고 배웠을 때 A의 폰트를 A(볼드), A(Arial), A(굴림) 같이 변형이 있어도 웬만한 상황에선 A라는 걸 알아봄. 그런데 AI는 이런 폰트별 변형이 있으면 그 폰트마다 확률 분포값/패턴을 추출해내야한다.

3) 이미지 생성 AI는 계속해서 발전할 것?

가장 많이 사용하는 확산 모델(Diffusion Model)은 끝없는 데이터 학습이 필수다. 뭐 아무것도 없는 노이즈에서 이미지를 생성하고 어쩌고는 데이터 학습 이후의 일인거고, 결과물을 도출해내려면 데이터 학습이 선행되어야 한다. 이때 데이터 학습을 위한 데이터 수집은 인간이 하거나, 크롤링 기술을 사용해야한다. 크롤링은 방대한 양의 데이터를 모으지만 원하지 않는 데이터들까지도 많이 섞여서 최종적으론 인간의 개입이 필요하다. 즉, 학습시키고자 하는 인간 사용자의 관점이 데이터 학습에서부터 정해졌다는거다. 확률적으로도 출력할 수 있는 이미지는 이미 해당 인간 사용자의 관점으로 골라낸 것의 파생된 조합일 뿐이다.

즉, 단순히 말해 ABCD를 골라 학습시키면, 확률적으로 AAAA, AAAB, AAAC, ... , DDDD까지 밖에 내놓을 수 없다.

손을 못그리는 이유도 이것 때문이다. 손은 다른 사물이나 인체 부위랑 다르게 한 이미지에서 차지하는 범위도 작고 미묘한 움직임과 각도까지 천차만별이다. 이런 것들만 따로 떼서 노이즈화 학습하면 그냥 뭉개진 수준과 마찬가지다.

손을 잘그리는 그림들이 나오는데 발전하는거 아님? → 사용자가 봤을 때 만족할 수 있는 수준 만으로 확률값을 강제한거지 그게 발전한거냐. 이 만족할 수준조차도 확률 수는 적다.

진짜 발전을 하려면 새로운 소프트웨어를 끊임없이 공급받아야 하는데, 지금 이미지 생성 AI들의 기반은 스테이블 디퓨전 2.0 / 3.0 이전이라는 점. 그리고 거기서 산출할 수 있는 한계는 이미 정해져있다.

4) 이미지들이 점점 실사처럼 바뀌던데 발전하는거 아님?

처음부터 실사 합성은 됐었고, 작가들의 화풍이 들어간 걸 학습시키면 그 화풍으로 뽑아낼 수 있다는 것 때문에 화제가 됐었던거다. 대표주자가 노벨 AI였고. 근데 딸깍이들이 처음은 생각않고 저작물을 마음대로 해도되는 줄 알고 쓰다가 점점 실사로 회귀한 거지 발전한 게 아니다.

5) 회색지대인데 학습이 뭐가 문제?

현재는 학습했다는 이유만으로 처벌을 하거나 제재가 있지 않다. 그렇다고 회색 지대나 면책이 합법은 당연히 아니다. 그리고 생성한 이미지가 AI를 거쳤든 뭐든간에 웹 상에 공유하는 순간부터는 해당 이미지에 불법적인 내용이 담겼다? 현행법으로도 처벌 가능하다.

Stable Diffusion 제작사 측은 이 논란들을 이미 알고 있고 항의도 많이 받았다. 때문에 2.0부터는 저작권, 초상권 침해 같은 이미지들을 학습하지 못하도록 조치를 했고, 3.0부터는 아예 Have I Been Trained? 라는 사이트를 운영하면서 원작자가 직접 학습되었을 가능성이 있는 자신의 저작물을 삭제할 수 있도록 해놨다. 딸깍이들이 쓰는 프로그램의 제작사조차 문제라고 인식을 했다는거다.

그리고 인식을 한 뒤 발빠르게 대처한 것(논란 된 뒤 1개월 반만에 대처했다)은 이미 2022년 말부터 게티이미지사가 소송을 한다는 이야기를 들었기 때문이다. ChatGPT의 기반이 된 OpenAI에서도 2023년 1월에 AI 제재 가이드라인을 발표했다. 가이드라인 수준이니까 별거 아니라고 착각할 수도 있는데, 애초에 수 년전 EU에서 발표한 AI 협약이 하나도 지켜지지 않았고 그 책임이 OpenAI 같은 개발사에게 향하니까 부랴부랴 내놓은 것이다. 앞으로 등장할 AI 프로그램들이 이 가이드라인에 사실상 따르게 된다. 당장 AI 프로그램이 밥줄인 회사들 입장에서 뭐가 좋다고 민간에 풀어서 자기들의 상품 여론을 악화시키겠냐.

6) 데이터 학습한 걸 어떻게 알아내서 제재할건데?

민간에 퍼진 스테이블 디퓨전 3.0 이전의 AI 프로그램들은 뭘 학습했던지 제재 못함. 그래서 웹 등에 공유를 하지 않는 이상 뭘 뽑아내든 알아낼 방도는 없음. 근데 지금 사건 사고들의 99%가 웹에 공유해서 일어난 일이라는거다. AI 산출물을 공유 했을 때의 책임은 해당 유포자가 지고, 이건 현행법으로도 처벌 된다.

그래서 각종 법안과 OpenAI가 말한 가이드라인에서처럼 AI 프로그램 사용 시 신분 인증이나 데이터 학습 제한, 산출물의 콘텐츠 구분(워터마크) 같은 게 담겨 있는거고, 아까도 말했지만 앞으로 나올 AI 프로그램들은 이 가이드라인에 따라서 만들어질거다.

7) 리터칭하면 AI도 저작권 얻을 수 있지 않음?

AI 생성물은 저작권 인정해주지 않는다. 그게 그림이라서 리터칭을 가하든 뭘하든, 음악이든 영상이든 근본적으로 아예 인정해주지 않으며, 인정해주는 나라는 현재 단 한 곳도 없다. 인정받고 싶으면 AI 생성물 원본에서 인간 창작자가 개입한 것이 현저히 많다는 것을 증명해야하는데 미 저작권청에서 작년 말에 AI 만화에 저작권 인정 보류를 때린 이유도 해당 만화가가 이 증명을 해내지 못해서다.

그럼 현저히 개입하면 되지 않겠냐고? 그럼 씨발 AI를 왜 써 그냥 처음부터 만들고 말지.

현실적으로 AI를 쓰지 못하는 한계점과 문제점

1) 근본적인 작동 방식의 한계

지금 작동 방식은 인간의 논리가 개입을 하지 못한다. 애초에 확률적인 방식으로 "원본은 이럴 것이다"하고 뽑아내는데 여기에 논리가 어떻게 들어가겠냐. GAN 방식도 똑같다. 맞냐 틀리냐의 판정자의 논리는 맞냐 틀리냐 두 개 뿐이다. 인간 논리는 맞냐 틀리냐 이분법으로 갈라지지 않는다. 당장 이거부터도 해결 못하는데 무슨 발전이 있고 환쟁이들 일자리를 뺏겠냐. 그림 뿐만이 아니다. 현존 방식의 글 생성 AI도 당장 저작권 보호 받기 어려운 글쟁이들의 일자리 조차도 못 빼앗는다.

또 그림을 그릴 때 중요한 건 이론적인 지식이다. 인체 해부학, 입체/투시, 명암 같은 거 말이다. 근데 이론적인 지식"만큼" 중요한게 감각적인게 중요하다. 이론적인게 맞아도 일부러 틀리게 그리는게 인간이다. 당장 딸깍이들이 뽑아놓고 딸치는 이미지들 자체도 인체적으로 틀린게 무수히 많은데도 딸치는데 부담감 없지않냐? 애초에 학습시킨 데이터들의 대다수가 이론적인 걸 일부러 과장하거나 틀리게해서 더 매력적이게 만든 그림들이라서다.

인체적으로 단단하고 잘 만든 그림들도 그만의 매력이 있다. 근데 이런 그림은 학습 시킨다고 뽑아낼 수 있는게 아니다. 또 일부러 디테일하지 않거나 선을 생략해 단순히 몇 개만 썼는데도 입체감이나 투시감이 느껴지는 그림도 있다. 이건 지금 작동 방식의 근본인 '확률'로는 표현이 아예 불가능하다. 입체가 왜 느껴지는지, 인체가 왜 단단하게 느껴지는지에 대한 근본적인 논리 이해가 없으면 표현은 아예 불가능하다. 아주 낮은 확률로 운좋게 산출물이 나와도 그걸 활용할 수가 없다. 사람은 몇 분, 짧으면 몇 초 끄적여서 뽑아낼 수 있기 때문.

2) 여론 박살

말해 뭐하냐.

가끔 AI 찬성 쪽에서는 곡해하는게, 이런 생성 AI의 문제점을 지적하면 AI 발전을 절대적으로 차단해야한다 같은 식으로 오해한다는거. 당장에 AI 전문가부터 제대로 된 AI 찬성론자들 조차도 AI의 위험성을 아니까 문제점에 대한 보완과 제재가 필요하다고 하는데. 딸깍이들이나 컨셉충 새끼들이 분탕치는건지 뭔지 애초에 잘 쓰면 인류가 풍족해지고 번영누릴 수 있는 AI 발전 자체를 왜 반대함? 악용하는 바퀴벌레 기생충 새끼들이 이 미니갤 안에서처럼 전 세계적으로 설치고 다니니까 그렇지. 연탄 가스 풀어서 쫓아내야한다.

그리고 딸깍이들은 여론 박살난거 체감 못하는거 같은데, 김형태랑 시프트업이 AI 쓴거 때문에 욕 많이 먹었잖아. 누가봐도 AI 쓴게 티가 팍팍 나는데 논란되니까 얘네는 아니라고 우기더라. 왜 아니라고 우길까? ㅋㅋㅋㅋ 여론이 AI에게 좋았다면 AI 썼다고 인정했겠지.

또 일반인 학습 시키는 건으로 실사풍 이미지 뽑아내면서 사람들이 좋게 느낄까? 대유쾌 마운틴 같은 얼빠진 소리하는 애들 보면 참으로 안타까운 현실이야. 한국이 교육열은 높은데 인성 교육은 일절 안시키는구나 다시금 느낀다.

최근 리뷰엉이 사건으로 더더욱 여론 악하됐다는게 참 다행스럽다. 리뷰엉이 조차도 한국 유튜브에 문의를 넣었고, 돌아온 결과는 한국 유튜브 역시 해당 사건을 저작권 침해로 본다는 거다. 회색지대니 뭐니 딸치며 행복회로 돌리던 딸깍이들은 이제 가진게 AI뿐인데 그것도 뺏기게 생겼네?

참고로 노아 AI는 다르다며 또 행복회로 돌리려는 새끼들이 있을까봐 하는 말인데, 원본 영상을 학습해 추출했다는 점에서 그림 AI를 비롯 다른 생성 AI와 하등 차이없는 저작권 침해 행동이다. 이걸 한국 유튜브에서 침해로 봤다는 거고. ㅇㅇ

3) 상업 그림을 대체할 것이다?

앞서 말한 한계점만 갖고도 회사 작업에서 쓸 수가 없다. 시프트업 예시로 들면서 자위하는 딸깍이들은 결과물만 그럴싸하면 되니까 다인줄 알겠는데, 결과물도 그 모양이니 시프트업이 욕을 먹은거고 또 스팀에 널리고 깔린 AI 양산형 쿠소겜들이야 괜찮겠지. 웹소설 싸구려 표지같은 경우도 차고 넘치는거고. 근데 이게 상업 그림을 대체했다고 보여지냐?

또 3D 작업과의 활용도도 문제다. 원화가는 단순히 퀄리티 좋은 그림 그리려고 있는 환쟁이가 아니다. 퀄리티가 떨어져도 3D 작업자들이 보면서 만들 수 있는 전개도를 뽑는 일도 한다. 이 경우도 AI로 뽑으면 되지 않냐고? 근본적으로 입체, 인체 같은 논리를 이해 못하는데 뽑는다고 되겠냐. 그리고 보통 원화 작업물들은 대부분 회사의 재산이다. 딸깍이들이 정신 나가서 게임 회사 DB를 해킹해서 유출 시킨 뒤 학습시킨다면 모르겠다. 이 경우는 AI 뒤에 숨느니 뭐니 걍 인생 종치는 범죄자행이지.

그림이 디지털 그림만 있는 것도 아니다. AI가 디지털 분야는 커녕 그렇게 욕처먹는 현대 미술 조차도 쥐똥만큼의 산업적 피해도 못줬다. 걍 딸깍이들이 입털면서 떠들어 대니까 멘탈 피해입는 AI 문외한 프로들이나 지망생들의 심리적인 피해 정도지. 뭐 이걸로 피해 준거라면 피해줬네.

또 앞서 말한 AI 방식의 핵심 문제는 데이터 개입이 추가되어야 한다는거다. 즉 과거 데이터만 넣을 수 밖에 없다는 거다. 상업 그림은 트렌드가 생명이다. 트렌드 뒤쳐지면 인기 잃기 쉽다. 최신 트렌드일 수록 데이터가 적고, 이걸 AI로 대체하려다간 트렌드에 뒤쳐지는 꼴 그 이상도 못된다.

또 상업 그림은 다양성이 중요하다. 잘 팔리는 그림은 퀄리티가 좋아서만이 전부가 아니다. 지금 AI에 학습 시켜서 뽑아내는 그림들 대부분이 어디서 본 그림이고, AI 그림 같다고 느껴지는 이유가 여기 있다. 애초부터 AI에 학습 시키는 데이터들이 사용자의 주관에 따라 선별됐다는 점이다. 1차 필터가 걸러지는데 그 이후에 뽑아낸 결과물은 당연히 그 필터 안에서 나올 뿐이다.

오히려 상업 그림 대체가 아니라 가짜 뉴스, 딥페이크 같은 여론 조작의 대체품으로 잘만 이용되고 있다. 여론 조작 잘 하면 국가 전복까지도 되는데 정치권에서 참 좋아하겠다.

4) 이미 이걸로 돈을 벌고 있다?

캐시워크나 토스 앱 다운 받아다 매일 1만보 걸음 채워서 번 100원 200원이 집에서 딸깍거리며 부모님 마음에 칼꽂는 비생산적인 딸깍이들보다 건강도 챙기고 가치있는 돈이다.

그리고 저런 말 하는 머저리들 중에 진짜로 버는 새끼 한 명도 없었고, 1억을 벌었느니 같은 별 같잖은 소리의 레퍼토리만 반복한다. 믿어주길 바라는 능지처참의 발악인지, 어그로꾼인지 뭔진 모르겠다만 잘 벌어봐라.

5) AI 때문에 그림, 창작 분야는 망했다?

생성 AI의 일부 분야만 보고 들어온 문외한들이니까 충분히 이해한다. 우물 안 개구리니까 보이는 세상이 우물 구멍 하늘 뿐이겠지. 그림은 선사시대때 부터 생긴 인간의 아주 기본적인 창작 표현이다. 글자 조차도 그림에서 시작한거고 말이다. 창작욕은 인간이 다른 종으로 바뀌지 않는 이상 인류 멸망 직전까지도 있을 기본적인 욕구다. 애초에 딸깍이들 부터 창작욕을 대체해주는 프로그램이 AI였으니까 쓰는거지. 니들의 같잖은 창작욕이 그렇게 강한데 그림 그리는 사람들의 창작욕을 막을 수나 있겠냐.

그리고 그림 분야 망하면 데이터가 없어지고, AI 생성물의 데이터만 학습하니 데이터 오염은 강해지겠지. 당연한 수순이다. 회색 지대에서 일방적 기생 관계에 있으면서 망하길 기다리는 것보다 그걸 바라는 딸깍이들의 삶이 먼저 끝날걸 확신한다. 연초부터 제재안 나오고 리뷰엉이 같은 피해자 속출에 소송까지 이어지고, 법안 발의 되는 상황을 보면 그림 분야가 망하는 건 가능성이 없는 일이다. 애초에 이 분야에 제대로된 경제적 피해조차 준 적이 없는데 망하긴 뭘 망해.

6) 현재만 보면 안된다니까? 미래에 니들 위협할꺼라니까?

그래서 정부나 민간 단체가 가만 놔두겠니. 앞에서도 몇 번이고 말했지만 올 초 소송전 벌어진거만 봐도 미래를 위협하는건 창작자 쪽이 아니라 일방적으로 기생하는 딸깍이들의 미래겠지.

7) AI 발전에 저작권 보호 같은건 당연히 무시될거라니까?

현재의 저작권법이 AI를 감안하지 않고 만들어진 오래된 법이라는 건 팩트다. 근데 AI 전문가들이 이야기하듯이, 새로운 개념의 저작권법이 필요하다고 이야기한다. 그리고 AI 발전에 저작권을 희생해야한다면 당장 미국의 거대 기업 생태계의 한 축이 바로 엔터테인먼트 회사들인걸 생각해라. 얘네들은 저작권이 아주 기본 장착된 무기다. 물론 이 저작권이 이런 거대 기업의 횡포를 묵인해주니까 문제이긴 한데, 그렇다고 AI 산업 발전을 하자고 이 기업들을 희생한다면 특정 분야 살린다고 다른 분야 망가뜨리는거니 오히려 마이너스일거다. 어느 미친 나라가 그렇게 하겠냐.

그리고 저작권 무시하면 그 이후 지적 인격/재산권, 초상권, 더 나아가 인간 기본권까지 무너질거라는 이야기만 하면 자꾸 과대 망상이라고 논점을 흐트리는 팩트충 새끼들이 있는데, 저작권 무시하면 당연히 지적 재산권은 따라서 무시되는건 당연한 수순이다. 이게 망상이 아니라, 애초에 저작권과 저작재산권/인격권은 개별 권리지만 뗄 수가 없는 권리보호법이다. 당장 로고의 디자인도 특허를 내면서 동시에 저작물로 보호받는다. 저작물로 인정 안해주는데 특허권이 무슨 소용이 있겠냐.

초상권은 뭐 AI 딸깍이들이 일반인 이미지 학습 시키는 것만 봐도 작가들의 저작물을 함부로 해도 된다고 생각하니까 곧바로 다음 타겟으로 무시되고 있는 권리다. 본능에 미친 짐승새끼들이 저작권 - 초상권 순으로 어기고 있는데 법조차 보호 안해주면 무슨 꼴이 날까.

산업 발전을 경제학적 논리로만 생각하니까 저런 말도안되는 소리를 정설처럼 믿고 따르는 거다. 러다이트 운동을 예로 들면서 자꾸 대체될거라고 주장하는 것도 생각하는 차원이 18세기 19세기에 묶여있으니까 그런거다. 지금은 그 때와 달리 산업 경제 정치 외교적으로 훨씬 더 복잡하게 얽혀있다. 자꾸 일부 분야만 들고와서 니들 망할거다하는 우물 안 개구리같은 소리 하지 마라.

---

몇개 더 추가하고 싶긴 한데, 나중에 시간나면 수정하고.

반박 시 제대로된 반박만 받아준다.

그리고 앞으로 환쟁이들은 딸깍이들 헛소리에 질질 짜지 말고 이 글 본 뒤에 이 미니 갤 다시는 들어오지 마라.

왜 굳이 똥통 찾아와서 똥냄새 난다고 질질 짜.