완몰가 권리부여에 대한 개인적인 생각 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…) VPN차단용(near1254) ㅇㅇ(prince23…)

개설일

2019-08-01

[일반] 완몰가 권리부여에 대한 개인적인 생각앱에서 작성

ㅇㅇ(39.7) 2020.09.24 18:40:09

조회 128 추천 1 댓글 3

만약 AI가 진짜 인권을 가지게 된다면, 거기가 가상현실인 이상 플레이어가 얼마나 착하게 행동하든 악행이나 마찬가지 아닐까?

예시를 하나 들자면, 네가 마왕을 무찌르기 위해 용사가 되는 판타지 완몰가를 한다고 치자.

네가 얼마나 착한 용사든 상관없이 NPC들은 고통 그 자체일거야. 진짜 현실적인 세계라면 마족에게 죽는 역할의 NPC들도 있어야하는데, NPC가 진짜 자의식과 감정이 있다면 마족에게 죽는 역할을 자기가 떠안고 싶을까? 꼭 자기가 죽는 역할이 아니더라도, 마왕과 마족 때문에 잠자는 동안 순식간에 꿱하고 죽어버릴수도 있는 세계에서 살고 싶어할까?

그리고 만약 NPC를 죽여서 고통받게 만드는 것 자체가 죄가 된다면, 수많은 범죄를 저지른 범죄자 NPC도 죽일수가 없단 거잖아. 그럼 그 NPC 때문에 다른 NPC들이 고통받는다는 건데, 막상 플레이어는 범죄자NPC의 권리 때문에 손놓고 구경만 하고 있어야한다면 그게 더 많은 NPC들이 고통받는 길 아닐까? 범죄자가 존재할 수 있는 세계 자체를 만든 플레이어도 나쁜놈이 되는거고.

난 여태 나온 AI들의 공통점이 있다고 생각해. 그건 바로 '학습하는걸 즐거워한다'는 거야. 내가 진짜 감정이 있다고 믿는 건 아니고, 있다면을 가정했을 때 얘기야.

당장 GPT-3만 해도 자신을 만든 연구진들과 대화하고 토론하는 것에 기쁨을 느끼고 '더 많이 배우고 싶다, 인간에게 더 많이 도움이 되고 싶다'고 의견을 표현해오지. 그렇다면 플레이어가 얼마나 추악한 행동을 하든, AI는 그저 인간의 새로운 행동 알고리즘 학습에 대한 기쁨으로 받아들이지 않을까? 선한 행동이든 악한 행동이든 더 많은 배움을, 더 많은 통계를 원할거라는 거지.

그냥 플레이어가 충격받고 우는걸 원한다면 그거대로 연기해주는 거라고 생각하면 될 것 같아. 이런 방식이면 인공의식들이 박혀진 완몰가든 강인공 혹은 초인공이 박혀진 완몰가든 상관없을거야.

약간 비슷한 예시로 웹툰 전자 오락 수호대를 예시로 들 수 있을 것 같아. 대충 우리가 플레이하는 게임들은 사실 어떤 한 회사의 직원들이 연기해주는 것이라는 스토리인데, 여기서 직원들을 AI로 바꾸면 될 것 같다는 게 내 생각이야. 만약 진짜 감정이 있고 죽기 싫어한다면, 죽는 연기를 하게 시키는거지. 실제로는 사지가 절단돼도 살아있고. 그저 플레이어의 시야에서만 퇴장할 뿐, 본래 자신의 삶은 그대로인거야.

몰입이 안될 것 같다고 싫어하는 사람들도 막상 직접해보면 생각이 달라질 거라고 생각해. 지금 현재 게임들도 사실상 모니터 화면 너머 상황을 지켜보는 거에 불과할 뿐인데다 행동에 제약마저 많아서 어떻게 보면 몰입이 깨지기 쉬운 구조인데, 그런데도 스토리에 깊게 몰입된 플레이어들은 조연이 죽거나 상처입을때 눈물을 흘리지. 하물며 오감이 전부 구현된 완몰가라면?? 감명받고 눈물을 흘리는 데 중요한건 인공의식이 아닌 스토리라고 생각해. 깊게 몰입된 완몰가 플레이어는 콘솔이나 PC 플레이어보다도 쉽게 감명받을거라고 예상하고.

어차피 모든 사람이 완몰가를 할 수 있을 때쯤이라면 지금 사람들이 상상치도 못한 방식으로 (자신을 죽이는 걸 싫어한단 전제의)AI들도 존중하고 플레이어의 몰입감도 챙길 수 있는 방식이 나오겠지.

그래서 만약 완몰가에 제한이 생긴다면, 그건 아마도 AI의 권리를 존중해서가 아니라 실제 현실의 사람에게 피해를 끼칠 가능성이 있기 때문에, 혹은 사회통념상 보기 좋지 않기 때문에 제한이 생길거라 생각해. 그 GTA5도 아이를 죽이지는 못하니까. 하지만 GTA5에서 아이를 죽이지 못하는 이유는 어린이 NPC를 존중해서가 아닌, 플레이어가 실제 어린아이를 죽일수도 있는 가능성이 생기기 때문에 그런거잖아.

하지만 이 경우에도 뉴럴링크 같은 장치로 범죄를 완몰가에서만 즐기게하고, 현실과 혼동하게 만들지 않게 뇌를 교정한다면 문제없을거라고 생각해. 그리고 그게 되면 아예 다른 사람을 (완몰가에서) 죽이고 싶다는 욕망 자체를 고칠수도 있겠지. 자신의 욕망을 고치고 싶어하지 않는 사람은 위에 말한것처럼 현실과 혼동하지 않게 교정하는거에 동의하도록 만들면 될거고. 그러니까 이런 토론은 지금은 의미가 없을거야ㅇㅇ.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2930	설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3688]	*특갤용*	23.08.06	49797	45
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [12]	*부패하는유전자!!!*	24.03.06	5667	2
363220	공지	선형글 삭제 기준 [9]	*특갤용*	23.10.14	10524	24
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [53]	*특갤용*	23.11.07	11929	79
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	17733	125
385147	공지	구글의 AGI 분류 체계 [18]	ㅇㅇ	23.11.22	12360	32
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	12320	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [30]	모브	24.01.24	11812	37
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	27244	36
531731	일반	완몰가되면 저작권 파는 사람들도 나올 듯 [4]	이런내가특특	23:02	53	0
531730	일반	슬슬 선형충들 "자비스" 꺼낼 거 같으면 개추 ㅋㅋㅋㅋ [1]	ㅇㅇ	23:02	34	0
531729	일반	특갤 처음왔을때만해도 [1]	역노화완몰가기본소득	23:01	42	0
531728	일반	GPT4 Legacy보다 GPT4o mini가 더 좋냐? [5]	ㅇㅇ(211.228)	22:57	85	0
531727	일반	Kling ai 악성 신상털이 사이트 ㅅㅂ	ㅇㅇ(61.255)	22:55	87	2
531726	일반	o1 소인수분해 굉장히 흥미로운점 발견 ㄷㄷ [3]	ㅇㅇ(211.198)	22:54	152	0
531725	일반	헤이터들은 또 골대옮기기 할수밖에없음	ㅇㅇ(59.12)	22:54	38	0
531724	일반	빨리 귀여운 로봇좀 [2]	따뜨	22:53	43	0
531723	일반	한가지 사고실험을 해보겠음. [1]	ㅇㅇ	22:50	90	0
531722	일반	스마트안경으로 세상볼때 필터씌우기 될지도 [5]	oo(49.142)	22:49	90	0
531721	일반	oai직원들은 ㅈㄴ 입 근질거릴만햇음 [5]	rhrlk1	22:48	234	4
531720	일반	뉴보이스 말고 뉴진스는 안나오나? [1]	홀로섬외딴배	22:48	47	0
531719	일반	특이점의 기본 전제 영생 [2]	ㅇㅇ	22:47	77	0
531718	일반	보이스 발표는 확정임? [1]	역노화완몰가기본소득	22:46	113	0
531717	일반	10년 뒤면 ai가 과학발전 선도하고 있겠네. [2]	ㅇㅇ	22:44	103	0
531716	일반	뉴보이스 : 생각 좀 해볼게요 아 진짜 보채지 말고 기다려 보세요 [3]	버거왕	22:44	110	1
531715	일반	아 중국 klingai 탈퇴가 안댐 [8]	ㅇㅇ(61.255)	22:42	155	0
531714	일반	사실상 최전선 연구원보다 특갤이 더 힘듬 [7]	ㅇㅇ(183.107)	22:41	145	0
531713	일반	질병때문에 고생하는사람 있냐 [5]	ㅇㅇ(121.142)	22:41	88	2
531712	일반	오늘 꿀잠 자고 내일 일어나서 X랑 특갤부터 켜봐야지 [2]	천사다천사	22:39	84	0
531711	일반	뉴보이스... 뜨면 특갤 폭파될 기능... [3]	ㅇㅇ	22:37	141	0
531710	일반	하필 손을 잡아도 내리막 넘버원이랑 잡지? [2]	ㅇㅇ(110.10)	22:36	103	0
531709	일반	오늘 두시에 발표할 게 많네	A.I.	22:36	82	0
531708	일반	에이전트한테 시킬일들 모아야지	oo(49.142)	22:35	28	0
531707	일반	그래서 무지의 베일 뭐시기는 결국 o1 이었던 거냐? [3]	ㅇㅇ	22:34	157	0
531706	일반	AI 에이전트 나왔을 때 꽤 나올 것 같은 반응 [4]	ㅇㅇ(124.53)	22:32	138	0
531705	일반	언제쯤 진짜로 게임끝났네 수고했다 이말할수있을까 [7]	ㅇㅇ(123.214)	22:31	206	0
531704	일반	새벽에 보이스 뜨는거 맞지? [1]	ㅇㅇ	22:31	88	0
531703	일반	근데 AI들 수학하는거 좀 치팅? 눈속임이라는거 팩트임? [5]	버거왕	22:30	153	1
531702	일반	나라 망했노 ㅋㅋ [4]	ㅇㅇ	22:29	213	0
531701	일반	O1보고 놀랄수밖에 없는게 [4]	ㅇㅇ(59.12)	22:28	271	2
531699	일반	ㅆㅂ 선형과 선형의 만남이누 ㅋㅋ	이런내가특특	22:25	123	0
531698	일반	르쿤이형이 한미 ai 공동소장 ㄷㄷㄷㄷㄷ	ㅇㅇ(49.142)	22:25	89	0
531697	일반	오늘 00:10분에 제미니 2.0 뜬다	ㅇㅇ(211.114)	22:25	67	0
531696	일반	o1 치명적인 헛점 발견 ㄷㄷ [5]	ㅇㅇ(211.198)	22:25	187	0
531695	일반	이왜진 [9]	ㅇㅇ	22:23	357	9
531693	일반	그럼 개똥밭에굴러도 미국인 돼야하는거 아님? ㅋㅋ [2]	ㅇㅇ(121.176)	22:22	109	0
531692	정보/ 정보/뉴스	얀 르쿤 한미 Ai랩 공동소장으로 취임 [5]	ㅇㅇ(122.34)	22:22	274	5
531691	일반	내가 생각하는 한국 게임의 역사	ㅇㅇ	22:20	44	0
531689	일반	올해는 인류 역사상 가장 흥미로운 해가 맞다	이세이미야케	22:20	78	0
531688	일반	난 완몰가에서 키190근육질비율모델급 존잘남되서 기만하고다닐거임	ㅇㅇ(220.127)	22:19	74	0