최근에 특갤에서 완몰가 npc에 대한 윤리적, 철학적 주제의 글들이 몇 개 있길레

나도 내 생각을 써보려고 해.

어디까지나 내 생각이긴 하지만

완몰가 npc의 윤리적인 문제에 대해선

크게 걱정할 필요 없을 것 같아.

근데 여기서 '누가' 걱정을 할 필요가 없는가?

그 주어가 사실 더 중요한데

'완몰가 npc에게도 인격이 있을 수도 있는데 못된 사람들이 괴롭히면 어떡하지 ㅜㅜ'

하는 '마음씨 착한 사람들'은 계속 걱정해야 됨 ㅅㄱ

근데

'윤리적 문제 때문에 강인공지능 npc가 금지되면 어떡하지...'

하는 사람들은

걱정할 필요 없음.

굳이 완몰가 뿐만 아니라

모든 분야의 강인공지능에 대한 윤리적 이유에 의한 규제는

안 일어날 가능성이 높다는 것이 나의 생각이야

그렇게 생각하는 이유는 두 가지야.

일단 첫째로는 완벽한 강인공지능 npc가 도래하는 그 시점에도

'강인공지능에게 의식이 있는가 없는가?'에 대한 결론은 나지 않을 가능성이 높아.

심지어 특이점 이후에도 쉽사리 나지 않을 가능성이 높다.

우리가 강인공 npc의 대우에 대한 판단을 내리려면

진짜 npc에게 의식이 있는가 없는가에 대한 결론이 나야 되는데

만약 결론이 나질 않고 확률이 반반이라면

의회를 비롯한 권력기관은

'강인공지능에게 의식이 없다'라는 의견을 지지할 거야.

왜냐고?

강인공지능에게 의식이 있다고 하는 것보다

없다고 하는 편이

강인공지능을 여러 산업분야에서 제약없이 굴려먹기 쉽거든.

그게 경제적 가치이든

아니면 완몰가 같은 엔터테인먼트적인 가치이든

인간 사회의 시스템은 최대한 많은 가치를 창출하도록 설계되어있어.

그리고 인간 본성이 원래 그래.

지금도 실험으로 희생되는 동물이 나오는 것만 봐도 답 나오지? ㅇㅇ

난 이게 윤리적으로 옳다는 이야기를 하는 게 아니라

일이 이렇게 돌아갈 확률이 높다는 예측을 하고 있는 거야 오해 ㄴㄴ

여기까지는 쉽게 납득이 갈 거야.

하지만 이 논거의 타당성에 대한 공격은

'그때 기술이면 의식이 있는지 없는지 판별할 수 있지 않겠냐!'

와 같은 것이라 할 수 있지.

사실 이게 이 글의 본론이야.

과연 인간은 의식에 대한 비밀을 완전히 밝힐 수 있을까?

일단 이 주제에 대해서 이야기 하려면

오늘날 과학계의 의식 연구에 대한 현황에 대해서 알아봐야겠지?

'의식'에 대한 오늘날 과학자들의 지식은

걸음마라고 하기도 민망해.

솔직히 미래가 안 보인다고 해야되나.

그나마 오늘날 '의식'에 대해 가장 트렌디한 과학 이론은 뭐냐?

뇌과학자 줄리오 토노니의 <정보통합이론>이야.

이 사람의 이론이 그나마 주류학계에서 인정을 받는 이유는

이 사람의 이론을 토대로

식물인간에게 의식이 있는가 없는가를 판별할만한 실증적 방법론이 생겼기 때문이거든.

또한 이 사람의 이론대로라면

왜 대뇌는 의식에 관여하면서

그 보다 훨씬 복잡한 소뇌는 관여하지 않는가에 대한 수수께끼가 어느정도 풀리기 때문에

설득력이 나름 있는 이론이지.

(더 자세히 알고 싶은 사람은 이 사람의 저서 <의식은 언제 탄생하는가>를 참조할 것)

이 사람에 따르면 생물학적 시스템이든 아니든

정보통합과 정보처리량의 조합으로 도출되는 해 '파이'값이

일정 값을 넘기면 의식이 있다고 봐.

그런데 문제는 이 사람 주장에 따르면

인터넷도 의식이 있을 수 있다는 말이 된다.

그래서 많은 범심론자(汎心論者)들은

이 정보통합이론을 인용하곤 해.

이 이론을 신봉하는 학자에 따라선

은하나 우주같은 존재도 의식이 있을 수 있다고 보는 사람도 있어.

어? 완몰가무새 덜덜 떠는 소리가 여기까지 들리지?

하지만 이 사람의 이론에 반대하는 학자들도 엄청찮게 많아.

'엥? 주류 뇌과학 이론이라며?'

그래. 그러니까 오늘날 의식에 대한 연구가 그만큼 미미하다는 거야.

나름 주류이론이라고 칭송받는 이론이

그 학계에서 엄청난 반박을 동시에 받고 있다는 건

그만큼 그 학계가 알아낸 것이 적다는 반증이기도 하거든.

보수적인 뇌과학자들이 주장하는 핵심은

'생물학적인 뇌' 만이 의식을 가질 수 있다는 거야.

정보통합이론이 '생물학적 시스템이 아니어도 상관없다'고 한 이유는

생물의 뇌들도 저마다 구성성분이 다르기 때문에

의식의 유무에 있어서 시스템의 구성성분이 상관없다는 결론을 내렸던 거였어.

하지만 이에 반대하는 보수적인 뇌과학자들에 따르면

아무리 다른 생물의 뇌라도

기본적으로는 단백질과 같은 유기화합물을 포함하고 있으며

만에 하나 그렇지 않은 생물이 존재한다면

세포나 박테리아처럼

의식이 없거나

아주 원시적인 인지체계만 있고

'자아'는 없다고 봐야된다

라고 주장해.

이 두 주장을 보면 느꼈을 거야.

둘다 어떤 '확실한 증거'를 가지고

의식을 구성하는 성분에 대해 주장하는 것이 아니라는 걸.

<정보통합이론> 지지자들은

'야, 꼭 생물학적인 뇌만 의식을 가진게 아닐 수도 있지!'

정도 수준이고

그 반대 세력은

'생물학적인 뇌만 의식을 가진 걸 수도 있잖아!'

정도 수준이야.

왜 이 이상으로 연구가 진행되지 못하는 걸까?

그건 '의식'이라는 연구 대상이 지닌

아주 독특한 속성에 기인해.

'의식'을 증명하는 건

'주관적인 문제'거든

그렇기 때문에

'객관적'인 방식으로 '실증'을 하는 과학으로는

증명해내기 극도로 까다로운 데다가

영원히 불가능할 거라는 학자들도 상당히 많아.

무슨 말이냐 하면

너한테 의식이 있는지 없는지는

엄밀히 따지면

너만 알 수 있어

너한테 의식이 있다면 말이야.

예를 들어서

너의 자아를 컴퓨터 속에 마인드 업로딩 했다고 치자.

그럼 우리는 컴퓨터 속의 너에게

'너에게 의식이 있니?'

라고 묻는다면

컴퓨터 속의 너는 의식이 있든 없든

'의식이 있다'라고 답할 거야.

왜냐?

업로드 된 니가 의식이 있다면

진짜 의식이 있으니까 있다고 대답할 거고

의식이 없어도, 니 뇌의 모든 데이터가 진짜 너를

'똑같이 흉내'내고 있을 테니까.

"아니 나랑 똑같이 사고하고 똑같이 느끼는데!! 의식이 없다는 게 뭔 소리야!!"

그냥 똑같이 사고하고 느끼는 '척'하는 의식이 없는 무엇인가일 수도 있다는 이야기임

어떤 객체의 사고방식이나 지능을 두고

이 객체에게 '의식'이 있다고 단언할 수 없다는 얘기지.

즉, 제 3자가

어떤 '객체'에게 의식이 있는 걸 '객관적으로' 증명하는 건 사실상 불가능해.

단지 어떤 '주체'가 자신에게 의식이 있다는 걸 '주관적'으로 느끼는 것만이 가능할 뿐이야.

물론 이런 사고방식은 상당히 위험함.

이 논리는 굳이 인공지능이 아니더라도

똑같은 사람에게 똑같이 적용되는 철학적 사고이기 때문이지.

어릴적 누구나 이런 상상 한번쯤 해봤을 거야.

'혹시 나를 제외한 모든 인간이 전부 의식없는 로봇 아니야?'

심리학자가 말하길 유아기에서 청소년으로 넘어갈 때 흔히 하게되는 생각이라고 하더라고.

이 발상이 잘못된 방향을 타고 간다면

"완몰가 신자야, 니한테 의식이 있는 건 어떻게 아냐? 그럼 나도 너 죽여도 되?"

와 같은 일이 벌어지는 거야 ㄷㄷ.

하지만... 설령 그렇다 하더라도

직관적으로 시스템을 구성하는 성분물질이 같은 존재와

다른 존재를 같이 보는 것은 무리가 있는 법.

생물학적 뇌를 통째로 재현한 인공지능이라면 모를까

컴퓨터 회로로 만들어진 인공지능에 대해선

그 어느 누구도

영원히

의식이 있는지 없는지

증명못할 가능성이 높음.

앞으로 어떤 획기적인 이론이 나오더라도

'의식이 있는지 없는지 니가 어떻게 알아? 니가 쟤가 되어봤어?'

와 같은 반박에 버로우 타게 되겠지.

동물처럼 거의 확실하게 의식이 있다시피 여겨지는 애들도

지금 각종 약물실험으로 죽어나가고 있는데

의식이 있는지 없는지 반반인 애들은

하물며 말할 것도 없지.

결국 인류는 강인공지능을 윤리적 측면에서 제재하진 않을 거라는 것이 나의 의견임.

근데 이건 규제를 안할 것 같다라는 예측이고

물론 이게 옳은가? 에 대한 부분에 대해선

여전히 논란의 여지가 남아있겠지.

그건 개인의 양심에 맡기는 수 밖에

근데 만~에 하나

윤리적인 문제 때문에 여론이 안 좋아서

강인공지능 완몰가 NPC가 결국 금지된다면?

걱정마.

그것이 곧 '구분못할 정도로 실감나는 NPC'의 종말을 의미하는 건 아니니까.

무슨 말이냐고?

2편에 계속됩니다 ^오^

P.S

혹시나 나의 가치관에 대해 비난하는 사람들이 있을까봐

노파심으로 이야기를 꺼내는데

위 본문에서 이야기 한 건

무엇이 옳고 그른가를 이야기 한 건 아니야.

윤리적 고찰을 떠나서

앞으로 사회가 완몰가 NPC를 윤리적 이유로 금지할 것인가?

에 대한 나의 '예상'을 이야기 한 거지

'의식이 있을 수도 있는 NPC를 함부러 대하는 것은 괜찮다!'

라는 '가치관'을 옹호하고 있는 건 아니야.

그냥 미래 사람들이 NPC를 함부러 다뤄도 제재를 하는 일은 없을 것 같다는 게 나의 의견임 ㅇㅇ

TMI로 나의 가치관을 이야기하자면

위선적으로 들릴 수 있겠지만

난 반반의 확률이더라도

의식이 있을 수도 있는 NPC에게 강력범죄를 저지르는 행동은 잘못되었다고 생각함

반반의 확률로 엄청난 죄를 저지르는 거니까.

나라면 안 할 거야.

그렇다고 완몰가 NPC에게 억눌린 욕망을 풀려는 애들이

진성 싸이코거나 유별나고 이상한 놈들이라고 생각하진 않아.

인간은 누구나 내면에 폭력성을 지니고 있거든.

GTA에서 사람들 헤드샷 먹이고 차로 친 다음 낄낄거리는 사람들이나

개미를 재미로 거미줄에 던지는 초딩들을 보면 알 수 있지.

난 도덕이라는 건 어떤 충동을 가지고 있느냐가 중요한 게 아니라

충동을 얼마나 완벽하게 제어하고 있는가 (어떻게 행동하는지)가 더 중요하다고 봄.

역겨운 이상성욕을 지닌 변태새끼가

평생 자신의 욕망을 잘 제어해서 누구 하나 피해 안 입히고,

오히려 많은 사람들에게 선행을 배풀고 죽었다면

그는 과연 도덕적으로 나쁜 사람일까?

평소에 나쁜 생각을 하고 살진 않지만

순간의 화를 못참고 누군가를 폭행해 전과가 남은 사람이

위의 사람보다 도덕적이라고 할 수 있을까?

그렇기에 게임에서 누굴 죽이는 걸 즐기는 사람이

남한테 피해만 안 준다면 난 OK라고 봄

물론 그런 걸 좋아하는 사람이 남에게 피해를 입힐 확률이 높다는게 문제지만

꼭 모두가 그렇진 않잖아?

하지만 만약 NPC에게 자아가 있을 가능성이 있다면

NPC를 죽이거나 괴롭히면 그건 나쁘다고 생각해.

그게 나의 생각이지만

이 글의 요지는, 인간 역사를 봤을 때

결국 많은 인간들은 그걸 신경쓰지 않을 거고

결국 금지를 먹지 않을 거라는 거.

막말로 여기있는 완몰가무새 중에

'미래에 완몰가 NPC에게 나쁜짓 하지마!!!'

라고 해봤자

내 말 들을 사람이 있음?

결국 선택과 판단은 본인의 몫임 ㅇㅇ

심지어 NPC에게 자아가 없더라도

함부로 대하면 안 된다는 사람도 있겠지

그건 나랑 가치관이 다른 거임

걍 내 의도나 가치관에 대해 오해 안했음 해서 PS 남겨봄

다음 화의 내용에선

그런 욕망을 윤리적인 문제나 양심의 가책 없이

마음껏 표출할 수 있는 방법에 대해 다루고 있음.

관심있다면 읽어줘 ^^

3줄 요약)

1) 특이점이 와도 강인공지능에게 자아가 있는가 없는가에 대한 결론은 안 날 가능성이 높다.

2) 그래서 미래의 사회는 초지능 완몰가 NPC를 금지하지 않을 가능성이 높다.

3) 그래도 웬만하면 혹시 모르니, 특이점이 오더라도 초지능으로 된 완몰가 NPC를 학대하거나 그러진 말자 ^오^