디시인사이드 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[☆정보글☆] (장문주의) 과연 완몰가 NPC는 금지당할 것인가? 1편

완몰가신자(121.177) 2019.10.01 17:05:24
조회 867 추천 25 댓글 23
							

최근에 특갤에서 완몰가 npc에 대한 윤리적, 철학적 주제의 글들이 몇 개 있길레


나도 내 생각을 써보려고 해.


어디까지나 내 생각이긴 하지만


완몰가 npc의 윤리적인 문제에 대해선


크게 걱정할 필요 없을 것 같아.




근데 여기서 '누가' 걱정을 할 필요가 없는가?


그 주어가 사실 더 중요한데




'완몰가 npc에게도 인격이 있을 수도 있는데 못된 사람들이 괴롭히면 어떡하지 ㅜㅜ'




하는 '마음씨 착한 사람들'은 계속 걱정해야 됨 ㅅㄱ





근데




'윤리적 문제 때문에 강인공지능 npc가 금지되면 어떡하지...'




하는 사람들은


걱정할 필요 없음.






굳이 완몰가 뿐만 아니라


모든 분야의 강인공지능에 대한 윤리적 이유에 의한 규제는


안 일어날 가능성이 높다는 것이 나의 생각이야





그렇게 생각하는 이유는 두 가지야.




일단 첫째로는 완벽한 강인공지능 npc가 도래하는 그 시점에도


'강인공지능에게 의식이 있는가 없는가?'에 대한 결론은 나지 않을 가능성이 높아.




심지어 특이점 이후에도 쉽사리 나지 않을 가능성이 높다.




우리가 강인공 npc의 대우에 대한 판단을 내리려면


진짜 npc에게 의식이 있는가 없는가에 대한 결론이 나야 되는데


만약 결론이 나질 않고 확률이 반반이라면


의회를 비롯한 권력기관은


'강인공지능에게 의식이 없다'라는 의견을 지지할 거야.




왜냐고?




강인공지능에게 의식이 있다고 하는 것보다


없다고 하는 편이


강인공지능을 여러 산업분야에서 제약없이 굴려먹기 쉽거든.




그게 경제적 가치이든


아니면 완몰가 같은 엔터테인먼트적인 가치이든


인간 사회의 시스템은 최대한 많은 가치를 창출하도록 설계되어있어.


그리고 인간 본성이 원래 그래.


지금도 실험으로 희생되는 동물이 나오는 것만 봐도 답 나오지? ㅇㅇ




난 이게 윤리적으로 옳다는 이야기를 하는 게 아니라


일이 이렇게 돌아갈 확률이 높다는 예측을 하고 있는 거야 오해 ㄴㄴ




여기까지는 쉽게 납득이 갈 거야.


하지만 이 논거의 타당성에 대한 공격은




'그때 기술이면 의식이 있는지 없는지 판별할 수 있지 않겠냐!'




와 같은 것이라 할 수 있지.


사실 이게 이 글의 본론이야.






과연 인간은 의식에 대한 비밀을 완전히 밝힐 수 있을까?




일단 이 주제에 대해서 이야기 하려면


오늘날 과학계의 의식 연구에 대한 현황에 대해서 알아봐야겠지?





'의식'에 대한 오늘날 과학자들의 지식은


걸음마라고 하기도 민망해.


솔직히 미래가 안 보인다고 해야되나.





그나마 오늘날 '의식'에 대해 가장 트렌디한 과학 이론은 뭐냐?


뇌과학자 줄리오 토노니의 <정보통합이론>이야.


이 사람의 이론이 그나마 주류학계에서 인정을 받는 이유는


이 사람의 이론을 토대로


식물인간에게 의식이 있는가 없는가를 판별할만한 실증적 방법론이 생겼기 때문이거든.




또한 이 사람의 이론대로라면


왜 대뇌는 의식에 관여하면서


그 보다 훨씬 복잡한 소뇌는 관여하지 않는가에 대한 수수께끼가 어느정도 풀리기 때문에


설득력이 나름 있는 이론이지.


(더 자세히 알고 싶은 사람은 이 사람의 저서 <의식은 언제 탄생하는가>를 참조할 것)




이 사람에 따르면 생물학적 시스템이든 아니든


정보통합과 정보처리량의 조합으로 도출되는 해 '파이'값이


일정 값을 넘기면 의식이 있다고 봐.





그런데 문제는 이 사람 주장에 따르면




인터넷도 의식이 있을 수 있다는 말이 된다.




그래서 많은 범심론자(論者)들은


이 정보통합이론을 인용하곤 해.


이 이론을 신봉하는 학자에 따라선


은하나 우주같은 존재도 의식이 있을 수 있다고 보는 사람도 있어.






어? 완몰가무새 덜덜 떠는 소리가 여기까지 들리지?


하지만 이 사람의 이론에 반대하는 학자들도 엄청찮게 많아.




'엥? 주류 뇌과학 이론이라며?'




그래. 그러니까 오늘날 의식에 대한 연구가 그만큼 미미하다는 거야.


나름 주류이론이라고 칭송받는 이론이


그 학계에서 엄청난 반박을 동시에 받고 있다는 건


그만큼 그 학계가 알아낸 것이 적다는 반증이기도 하거든.




보수적인 뇌과학자들이 주장하는 핵심은


'생물학적인 뇌' 만이 의식을 가질 수 있다는 거야.




정보통합이론이 '생물학적 시스템이 아니어도 상관없다'고 한 이유는


생물의 뇌들도 저마다 구성성분이 다르기 때문에


의식의 유무에 있어서 시스템의 구성성분이 상관없다는 결론을 내렸던 거였어.




하지만 이에 반대하는 보수적인 뇌과학자들에 따르면


아무리 다른 생물의 뇌라도


기본적으로는 단백질과 같은 유기화합물을 포함하고 있으며


만에 하나 그렇지 않은 생물이 존재한다면


세포나 박테리아처럼


의식이 없거나


아주 원시적인 인지체계만 있고


'자아'는 없다고 봐야된다


라고 주장해.





이 두 주장을 보면 느꼈을 거야.


둘다 어떤 '확실한 증거'를 가지고


의식을 구성하는 성분에 대해 주장하는 것이 아니라는 걸.




<정보통합이론> 지지자들은




'야, 꼭 생물학적인 뇌만 의식을 가진게 아닐 수도 있지!'




정도 수준이고


그 반대 세력은




'생물학적인 뇌만 의식을 가진 걸 수도 있잖아!'




정도 수준이야.






왜 이 이상으로 연구가 진행되지 못하는 걸까?


그건 '의식'이라는 연구 대상이 지닌


아주 독특한 속성에 기인해.





'의식'을 증명하는 건


'주관적인 문제'거든


그렇기 때문에


'객관적'인 방식으로 '실증'을 하는 과학으로는


증명해내기 극도로 까다로운 데다가



영원히 불가능할 거라는 학자들도 상당히 많아.






무슨 말이냐 하면


너한테 의식이 있는지 없는지는


엄밀히 따지면


너만 알 수 있어




너한테 의식이 있다면 말이야.





예를 들어서


너의 자아를 컴퓨터 속에 마인드 업로딩 했다고 치자.


그럼 우리는 컴퓨터 속의 너에게


'너에게 의식이 있니?'


라고 묻는다면




컴퓨터 속의 너는 의식이 있든 없든


'의식이 있다'라고 답할 거야.




왜냐?




업로드 된 니가 의식이 있다면


진짜 의식이 있으니까 있다고 대답할 거고




의식이 없어도, 니 뇌의 모든 데이터가 진짜 너를


'똑같이 흉내'내고 있을 테니까.




"아니 나랑 똑같이 사고하고 똑같이 느끼는데!! 의식이 없다는 게 뭔 소리야!!"



그냥 똑같이 사고하고 느끼는 '척'하는 의식이 없는 무엇인가일 수도 있다는 이야기임


어떤 객체의 사고방식이나 지능을 두고


이 객체에게 '의식'이 있다고 단언할 수 없다는 얘기지.




즉, 제 3자가


어떤 '객체'에게 의식이 있는 걸 '객관적으로' 증명하는 건 사실상 불가능해.


단지 어떤 '주체'가 자신에게 의식이 있다는 걸 '주관적'으로 느끼는 것만이 가능할 뿐이야.




물론 이런 사고방식은 상당히 위험함.


이 논리는 굳이 인공지능이 아니더라도


똑같은 사람에게 똑같이 적용되는 철학적 사고이기 때문이지.


어릴적 누구나 이런 상상 한번쯤 해봤을 거야.




'혹시 나를 제외한 모든 인간이 전부 의식없는 로봇 아니야?'





심리학자가 말하길 유아기에서 청소년으로 넘어갈 때 흔히 하게되는 생각이라고 하더라고.




이 발상이 잘못된 방향을 타고 간다면


"완몰가 신자야, 니한테 의식이 있는 건 어떻게 아냐? 그럼 나도 너 죽여도 되?"


와 같은 일이 벌어지는 거야 ㄷㄷ.







하지만... 설령 그렇다 하더라도


직관적으로 시스템을 구성하는 성분물질이 같은 존재와


다른 존재를 같이 보는 것은 무리가 있는 법.





생물학적 뇌를 통째로 재현한 인공지능이라면 모를까


컴퓨터 회로로 만들어진 인공지능에 대해선


그 어느 누구도


영원히


의식이 있는지 없는지


증명못할 가능성이 높음.





앞으로 어떤 획기적인 이론이 나오더라도


'의식이 있는지 없는지 니가 어떻게 알아? 니가 쟤가 되어봤어?'


와 같은 반박에 버로우 타게 되겠지.




동물처럼 거의 확실하게 의식이 있다시피 여겨지는 애들도


지금 각종 약물실험으로 죽어나가고 있는데



의식이 있는지 없는지 반반인 애들은


하물며 말할 것도 없지.




결국 인류는 강인공지능을 윤리적 측면에서 제재하진 않을 거라는 것이 나의 의견임.



근데 이건 규제를 안할 것 같다라는 예측이고


물론 이게 옳은가? 에 대한 부분에 대해선


여전히 논란의 여지가 남아있겠지.


그건 개인의 양심에 맡기는 수 밖에




근데 만~에 하나


윤리적인 문제 때문에 여론이 안 좋아서


강인공지능 완몰가 NPC가 결국 금지된다면?




걱정마.


그것이 곧 '구분못할 정도로 실감나는 NPC'의 종말을 의미하는 건 아니니까.


무슨 말이냐고?



2편에 계속됩니다 ^오^





P.S


혹시나 나의 가치관에 대해 비난하는 사람들이 있을까봐


노파심으로 이야기를 꺼내는데




위 본문에서 이야기 한 건


무엇이 옳고 그른가를 이야기 한 건 아니야.


윤리적 고찰을 떠나서


앞으로 사회가 완몰가 NPC를 윤리적 이유로 금지할 것인가?


에 대한 나의 '예상'을 이야기 한 거지




'의식이 있을 수도 있는 NPC를 함부러 대하는 것은 괜찮다!'




라는 '가치관'을 옹호하고 있는 건 아니야.




그냥 미래 사람들이 NPC를 함부러 다뤄도 제재를 하는 일은 없을 것 같다는 게 나의 의견임 ㅇㅇ




TMI로 나의 가치관을 이야기하자면


위선적으로 들릴 수 있겠지만


난 반반의 확률이더라도


의식이 있을 수도 있는 NPC에게 강력범죄를 저지르는 행동은 잘못되었다고 생각함


반반의 확률로 엄청난 죄를 저지르는 거니까.


나라면 안 할 거야.




그렇다고 완몰가 NPC에게 억눌린 욕망을 풀려는 애들이


진성 싸이코거나 유별나고 이상한 놈들이라고 생각하진 않아.


인간은 누구나 내면에 폭력성을 지니고 있거든.


GTA에서 사람들 헤드샷 먹이고 차로 친 다음 낄낄거리는 사람들이나


개미를 재미로 거미줄에 던지는 초딩들을 보면 알 수 있지.




난 도덕이라는 건 어떤 충동을 가지고 있느냐가 중요한 게 아니라


충동을 얼마나 완벽하게 제어하고 있는가 (어떻게 행동하는지)가 더 중요하다고 봄.




역겨운 이상성욕을 지닌 변태새끼가


평생 자신의 욕망을 잘 제어해서 누구 하나 피해 안 입히고,


오히려 많은 사람들에게 선행을 배풀고 죽었다면


그는 과연 도덕적으로 나쁜 사람일까?




평소에 나쁜 생각을 하고 살진 않지만


순간의 화를 못참고 누군가를 폭행해 전과가 남은 사람이


위의 사람보다 도덕적이라고 할 수 있을까?




그렇기에 게임에서 누굴 죽이는 걸 즐기는 사람이


남한테 피해만 안 준다면 난 OK라고 봄


물론 그런 걸 좋아하는 사람이 남에게 피해를 입힐 확률이 높다는게 문제지만


꼭 모두가 그렇진 않잖아?




하지만 만약 NPC에게 자아가 있을 가능성이 있다면


NPC를 죽이거나 괴롭히면 그건 나쁘다고 생각해.




그게 나의 생각이지만


이 글의 요지는, 인간 역사를 봤을 때


결국 많은 인간들은 그걸 신경쓰지 않을 거고


결국 금지를 먹지 않을 거라는 거.




막말로 여기있는 완몰가무새 중에


'미래에 완몰가 NPC에게 나쁜짓 하지마!!!'


라고 해봤자


내 말 들을 사람이 있음?


결국 선택과 판단은 본인의 몫임 ㅇㅇ




심지어 NPC에게 자아가 없더라도


함부로 대하면 안 된다는 사람도 있겠지


그건 나랑 가치관이 다른 거임




걍 내 의도나 가치관에 대해 오해 안했음 해서 PS 남겨봄





다음 화의 내용에선


그런 욕망을 윤리적인 문제나 양심의 가책 없이


마음껏 표출할 수 있는 방법에 대해 다루고 있음.


관심있다면 읽어줘 ^^








3줄 요약)


1) 특이점이 와도 강인공지능에게 자아가 있는가 없는가에 대한 결론은 안 날 가능성이 높다.


2) 그래서 미래의 사회는 초지능 완몰가 NPC를 금지하지 않을 가능성이 높다.


3) 그래도 웬만하면 혹시 모르니, 특이점이 오더라도 초지능으로 된 완몰가 NPC를 학대하거나 그러진 말자 ^오^






추천 비추천

25

고정닉 5

1

댓글 영역

전체 리플 0
등록순정렬 기준선택

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
1501 설문 가장 효과적으로 부캐 활용하는 스타는? 운영자 20/08/12 - -
17520 잡담 기술이 빨리 발전해도 실제 사회에 적용되기엔 난관이 많다고 생각하므 [1] Dd(210.183) 06.12 260 13
17506 ☆정보 3D 프린팅을 통해 쥐의 몸속에 귀를 만들어내다 [4] TSlN갤로그로 이동합니다. 06.12 489 23
17495 잡담 휴머노이드 발전 근황 [9] ㅇㅇ(110.10) 06.12 667 18
17494 잡담 아무리 봐도 나노 봇은 희망회로를 돌릴 시기는 아닌듯;; [4] 고에갤로그로 이동합니다. 06.12 371 18
17490 잡담 (정보)기본소득과 로봇세에 대해 간단히 알아보자. [26] 방구석현자(110.8) 06.12 764 38
17486 잡담 하나님의 지적설계.jpg [11] ㅇㅇ(175.114) 06.12 763 23
17473 ☆정보 스페이스X가 스타쉽을 달에 착륙시킬 계획을 진행중입니다. [7] ㅇㅇ(211.251) 06.12 413 21
17472 ☆정보 스페이스x가 국군 위성을 쏩니다 [3] 치르노무현갤로그로 이동합니다. 06.12 332 20
17465 ☆정보 기술자들은 하나의 칩에 수만 개의 인공 뇌 시냅스를 넣었다. [8] 특이점 만세!(121.177) 06.12 574 30
17464 잡담 2030년에도 조짐안보이면 2045년 특이점은 안오는거지 [7] 닉네임귀찮갤로그로 이동합니다. 06.12 460 16
17461 잡담 전자계집점 원본 영상들 올렸다 [8] 고에갤로그로 이동합니다. 06.12 558 13
17460 잡담 전자계집점이 온다... [4] ㅇㅇ(119.67) 06.12 561 13
17451 잡담 어느정도 대강 감 잡히기 시작하는듯 [5] 상사화♩갤로그로 이동합니다. 06.12 539 12
17436 잡담 같은 글 그만 올리세요 [3] 나봇갤로그로 이동합니다. 06.11 243 12
17433 잡담 특갤까지와서 여혐이니 정치가 어쩌구니 하는거보면 [2] ㅇㅇ(211.222) 06.11 215 21
17429 잡담 여혐은 개뿔 씨1발 메갈 전성기땐 저거보다 더 심했음 [3] ㅇㅇ(36.38) 06.11 227 14
17417 잡담 자기 취향에 안맞는글 뒤로가기누르는거=정상 [1] ㅇㅇ(211.57) 06.11 147 12
17408 잡담 레커는 고마운십새끼임 [3] ㅇㅇ(175.223) 06.11 279 13
17399 ☆정보 인텔의 냄새맡는 반도체 개발 [6] ㅇㅇ(175.208) 06.11 415 13
17393 잡담 레이 커즈와일 2020년에 식량은 필요없어. [7] ㅇㅇ(221.156) 06.11 845 29
17391 ☆정보 GPU 1500개 성능 AI 슈퍼컴퓨터 등장 [3] ㅂㅈㅁㄴ갤로그로 이동합니다. 06.11 620 22
17388 잡담 뇌조작은 좋은거다 [2] 불로불사(49.143) 06.11 246 14
17385 ☆정보 세계 최고 '로봇 손' 한국서 개발.. 사람 손처럼 '자유자재' [5] .(59.11) 06.11 451 17
17379 ☆정보 일본 줄기세포 임상실험 [1] ㅇㅇ(123.215) 06.11 436 22
17375 잡담 디시는 진지하게 특갤빼고 걸러라 [11] ㅇㅇ(125.178) 06.11 513 15
17368 잡담 중국 특이점 도달 직후. [8] ㅇㅇ(211.38) 06.11 472 14
17363 잡담 8970일 ㅇㅇ(211.184) 06.11 130 13
17361 잡담 사실상 완몰가 프리미엄 유저 [1] ㅇㅇ(211.34) 06.10 386 13
17360 잡담 한국에서 특이점 가능한거임? 요즘 불안해죽겠음 [10] ㅇㅇ(14.38) 06.10 671 24
17357 잡담 인사 할 겸 들렀습니다. [17] Anlab 대리(211.34) 06.10 378 12
17350 ☆정보 스페이스X 는 스타쉽을 최우선 과제로 보고있습니다. [9] ㅇㅇ(211.251) 06.10 617 18
17329 ☆정보 나노봇(궁극적인)이 실현 될수 있을까 [1] 고에갤로그로 이동합니다. 06.10 524 20
17328 잡담 나노 기술의 미래 고에갤로그로 이동합니다. 06.10 209 12
17319 잡담 8971일 [1] ㅇㅇ(211.184) 06.10 119 12
17315 잡담 파란색이 사람이 살 만한 땅이래. [14] ㅇㅇ(125.177) 06.10 1007 19
17314 ☆정보 개념글간 마이크로소프트 빌더2020 스샷 [3] 헤헿(1.227) 06.10 423 16
17303 잡담 바505코드 차단해주세요 [3] ㅇㅇ(223.38) 06.09 166 12
17280 잡담 자랑스럽다 특이점갤러리!!!! [1] ㅇㅇ(125.177) 06.09 427 26
17279 잡담 안녕하세요~ 새로운 파딱 입니다~ [18] 상사화♩갤로그로 이동합니다. 06.09 260 12
17278 잡담 안녕하십니까 특이점 만세! 입니다 한번 열심히 해보겠습니다 [17] Technology-hurray갤로그로 이동합니다. 06.09 206 12
17267 ☆정보 페이스북, AI로 컴퓨터 코드 자유자재로 변환 [4] ㅇㅇ(14.32) 06.09 407 16
17263 잡담 내가 나노로봇에 상당히 회의적인건 사실 [3] 고에갤로그로 이동합니다. 06.09 448 12
17252 잡담 하나님이라는 단어는 나약함의 산물.jpg [3] ㅇㅇ(223.38) 06.09 303 15
17244 잡담 완몰가 GTA.gif [6] 완몰가시리즈(118.216) 06.09 622 16
17240 잡담 NR NAD+트루니아젠 안티에이징 구매리뷰.jpg [20] ㅇㅇ(180.189) 06.09 639 18
17239 잡담 완몰가 플레이어를 고르시오 [4] ㅇㅇ(125.178) 06.09 322 13
17238 잡담 아 ㅋㅋ 특갤 리즈 시절 보니까 개웃기네 ㅇㅇ(180.71) 06.09 212 12
17230 ☆정보 미 공군, AI 무인 전투기 개발 중…내년 유인기와 모의전 예정 [1] 특이점 만세!(121.177) 06.09 268 13
17229 ☆정보 오픈AI·우버AI, 새로운 신경 설계 검색 ‘NAS’ 가속 연구 [1] 특이점 만세!(121.177) 06.09 208 12
17210 잡담 10년안에 사람이 사람을 낳는것을 불법으로 해야한다 ㅇ [10] ㅇㅇ(121.152) 06.08 836 22
갤러리 내부 검색
전체게시물 정렬 옵션

오른쪽 컨텐츠 영역

힛(HIT)NEW

그때 그 힛

1/3