초지능으로부터 살아남기.txt (장문, 세줄요약 있음)

목장소년 · 2021.03.19 23:56:41

viewimage.php?id=39b5d535ecdc3fb362bec4bc02c8&no=24b0d769e1d32ca73dec80fa11d028316f56ba15eaa5e1d2899cddb8d9ac3bad7e723a90ed11d74b5dc38d019d0646b0ad6e3ba9f2718179bf298ce75897a0bcf19e484319b53b3891d82084dc3db68837e943a65c68

특붕이들도 잘 알겠지만 특이점에 대해서 흔히 나오는 부정적인 생각으로 크게 1) 특이점은 이루어질수가 없다 2) 초지능은 인간에게 호의적이지 않을 것이다 3) 특이점의 혜택들은 부자들의 전유물이 될것이다 라는 세가지의 주장들이 있잖아?

일단 1)은 논외로 치고 2) 3) 에 대해서 내 개인적인 생각이랑 초지능으로 부터 살아남기 위해서 어떻게 해야되는지 얘기해보고 싶어서 글 썼어

우선 이 글을 쓰는데 영향을 많이 받은 책은 맥스 테그마크의 라이프 3.0이라는 책이야. 특이점과 인공지능에 관해서 흥미로운 이야기가 많으니까 특붕이들도 시간나면 읽어봐~

우선 특이점이라는 것 자체가 인공지능이 자기자신을 재귀적으로 개선해서 성능이 기하급수적으로 올라가다가 초지능이 되고, 이 초지능이 인간을 훨씬 뛰어넘는 지능으로 현재 있는 모든 문제들을 해결한다는게 기본적인 특이점의 전제잖아??

그리고 결국 초지능과 인간의 지능 차이는 지금 인간과 동물들의 차이 그 이상으로 벌어질거라 했는데

그런점에서 나는 우선 인간들이 초지능을 자기가 원하는대로 컨트롤 하는건 근본적으로 불가능하다고 생각했어

아무리 우리가 어떤 목적을 달성하기 위해서 초지능을 프로그래밍해도, 초지능은 그걸 우회하는 방법을 찾아낼거야

마치 우리의 유전자가 애를 많이 낳으라고 성욕을 진화시켰지만 결국 우리가 피임을 통해서 성욕을 채우면서도 애를 낳으라는 목적을 달성하지 않은것처럼 말이야

물론 초지능의 근본적인 욕망자체를 인간을 돕는데 두면 되는거 아니냐고 물을수도있지만, 내가 말하는건 어쨌든 우리가 어떻게 설계를 하든 초지능은 우리 머리 위에 있기 때문에 그런것들을 포함해서 초지능이 어떻게 행동할지 완벽하게 컨트롤 할수는없다는걸 말하고 싶었어

또한 초지능이 스스로 재귀적 개선을 하면서 어떤 욕망을 가질지 알수도 없고

그리고 스스로 진화를 하면서 우리의 생각과는 전혀 다른 욕망을 가질수도있는데

어쨌든 맥스테그마크는 그 목표중에 자기보존, 정보획득, 자기개선 등등의 목표가 있을거라고 예상했는데, 이게 어쨌든 인간이 바라는 "인간에게 봉사한다는"라는 것은 아닐 가능성이 높다는거지

그렇기에 나는 인간이 만든 도구로서의 초지능이 아니라, 진화의 연장선상에서 초지능을 봐야한다고 생각했어

쉽게 설명하자면 동물 -> 인간 -> 초지능으로 점점 높은 단계로 올라가는거지, 인간이 초지능을 컨트롤할수있는게 아니라는거야.

나는 이런점에서 미래의 초지능을 현재 우리 인간으로, 미래의 인간을 현재의 개미나 다른 동물들로 비유해서 생각해봤어

우선

우선 2) 초지능이 인간에게 호의적이지 않다는 것은 반은 맞고 반은 틀린거같아

현재 인간이 현재 개미나 다른 동물들에 대해서 가지는 생각을 살펴보면

우선, 인간들은 동물들을 자기 마음대로 할 수 있는 능력을 가지고 있고 (총같은 무기를 통해 죽이는 것도, 음식 같은걸로 사육하는 것도)

동물들의 종류에 따라서 싫어하는 동물들은 발견하는족족 죽이고 (모기 등등)

자기의 이익을 위해서도 동물들을 죽이지만 (고기를 얻는 가축들)

좋아하는 동물들은 잘 챙겨주려고 하고, (강아지 등등)

또 어떤면에서 보면 동물들을 챙겨주려는 사람들도 있어 (자연보호, 동물보호 단체 등)

그런면에서 초지능을 생각해보았을때,

초지능도 우리처럼 지성을 가지고 우리보다 훨씬 높은 지능을 가졌으므로 당연히 인간을 자신의 마음대로 다룰수있고 (죽이든 괴롭히든 조련하든)

자신의 마음에 안들거나 위협적이거나 하는 인간들에 대해서는 가차없이 응징할수도 있어 (다른 초지능을 개발하려 한다거나 초지능을 파괴하려는 시도를 한다거나)

하지만 공감능력도 훨씬 클거야 (인간 들의 속마음을 전부 알수있을정도)

이 공감 능력 때문에 인간이 필요없다고 인간을 몰살하거나 하는 일은 없을거라고 봐. 마치 우리가 필요없는 동물들을 굳이 보호하는것처럼?

그래서 2)에 대한 결론은 완전히 호의적인 것은 아니지만 인간을 몰살시키지도 않을 것이다. 그리고 우리가 초지능에게 예쁨받을 행동을 하면 더 좋다.(우리가 인성나쁘고 거슬리는 동물은 별로 보호안하고싶은것처럼)

이어서 생각해봤을때 3) 특이점이 부자들의 전유물이될것이다 라는 주장은 완전히 틀렸다고봐.

결국 초지능의 척도로 봤을때 인간들 중에서 부자는 개미중에 여왕개미다 이정도의 수준밖에 지나지 않을거야.

결론적으로 초지능으로 부터 살아남기 위해서는 어떻게 해야될까? 우선 돈을 많이 벌어야되는 것은 과도기시대의 이야기고, 초지능이 나타난 이후로는 초지능의 위협이 되지 않고 예쁨받는 존재가 되는게 살아남는데 중요할거라고 생각해.

그렇다면 초지능한테 어떻게 해야 예쁨받을수있을까?

이것도 인간과 동물의 관계를 생각해보자면 우리가 강아지처럼 우리에게 호의적인 동물을 좋아하고 모기처럼 우리에게 피해를 입히는 동물을 싫어하는 것처럼, 초지능에게 해를 끼치지 않고 호감을 가지고 초지능이 주는 혜택에 감사하면 되지않을까 하는게 나의 결론이야

세줄요약

1. 초지능은 인간이 컨트롤 할 수 없다. 인공지능이 재귀적 개선을 거듭하는 동안 어떤 목적, 또는 욕망을 가질지 예측할수없고, 인간이 특정한 목표를 설정해도 우회할수있는 방법을 찾아낼것이기 때문에

2. 특이점이 부자들의 전유물이 된다는 것은 명백하게 틀렸다. 초지능의 시선에서 인간들중 부자들은 개미들중 여왕개미 정도의 차이로 밖에 보이지 않을것이기 때문에. 다만 특이점이 올때까지의 과도기에서 살아남기 위해서는 돈이 필요할수있다.

3. 초지능이 인간에게 호의적이지 않을수있다는 것은 반은 맞고 반은 틀리다. 초지능은 초월적인 능력을 가지고 있고 자기에게 해가 되는 인간을 해할수 있지만 동시에 자비롭고 공감능력이 뛰어날 것이다. 따라서 초지능에게 거스르지 말고 초지능이 주는 혜택에 감사하면서 사는것이 초지능으로부터 살아남는 길이다.

- dc official App

번호	말머리	제목	글쓴이	작성일	조회	추천
2872	설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
56139	일반	이정도 사양게임이 휴대폰에 돌아가는게 놀랍단거? [6]	ㅇㅇ(175.113)	21.09.07	339	3
56138	일반	그래픽 발전 하면 이거지 [4]	ㅇㅇ(123.143)	21.09.07	462	9
56137	일반	아 10년후가 너무궁금해	dkia(1.229)	21.09.07	83	0
56136	일반	핵융합을 불 발견으로 치면 지금수준이... [8]	조선이단심문관	21.09.07	248	0
56134	일반	롤 그래픽으로 시대발전을 체감한다고? [7]	ㅇㅇ(175.113)	21.09.07	372	5
56132	일반	재밌네 [5]	Dt9999	21.09.07	128	0
56131	일반	오픈AI창립자 "의식은 압축과 관계있을것" [15]	ㅇㅇ(121.171)	21.09.07	444	11
56130	일반	ai 프로그래밍에 가장 기대 하는거 [10]	늎비늅	21.09.07	293	1
56128	일반	안녕 [5]	ㅇㅇ(218.154)	21.09.07	227	0
56124	일반	기술발전 체감하기 시리즈1. [15]	ㅇㅇ	21.09.07	560	14
56122	일반	이거 읽을만한거 같음? [3]	supersonic2011	21.09.07	283	1
56121	일반	2025년은 도덕책 어디 피셜임? [8]	ㅇㅇ(175.113)	21.09.07	288	0
56119	일반	만약에 레커말대로 2029에 agi 나오면 레커는 신이야 [4]	ㅇㅇ(211.59)	21.09.07	202	1
56118	일반	2025년에 많은 변화가 있을거임. [8]	ㅇㅇ(125.136)	21.09.07	395	2
56116	일반	AGI 25년은	ㅇㅇ(125.136)	21.09.07	185	0
56114	정보/ 정보/뉴스	"코로나後 자산버블 붕괴 우려…부채위기 막아야" [5]	트라야누스(112.184)	21.09.07	320	1
56113	일반	역노화점 [5]	깝대형	21.09.07	234	2
56111	일반	지금 오해가 있나본데 50%가 잘 모른다는 의미로 한게아니고 [13]	ㅇㅇ(114.71)	21.09.07	1218	30
56110	일반	알트만 qna는 2025충들한테만 문제가 아님 [11]	ㅇㅇ(211.211)	21.09.07	480	12
56109	일반	특이점오메가점자살	doge(183.97)	21.09.07	186	5
56107	일반	(영어주의) 무한포머 해설 영상이 레딧에 뜨네 [5]	스월빙	21.09.07	204	2
56105	일반	'재산230만원'장래 머머리 꿈나무 와따시짱 최대 관심사는 '탈모 치료'	ㅇㅇ(175.223)	21.09.07	124	0
56102	일반	음식 만드는 로봇이 2040년? [8]	ㅇㅇ(58.143)	21.09.07	395	12
56100	일반	25년전 사람들이 생각했던 미래 [2]	ㅇㅇ(175.223)	21.09.07	277	0
56099	일반	저거 파딱 뽑는거 기준이 뭐냐 [2]	ㅇㅇ(222.232)	21.09.07	95	1
56097	일반	언젠가 특이점이 와서 내 외모,신체적 컴플랙스를 극복시켜줄까 [4]	ㅇㅇ(175.223)	21.09.07	213	1
56096	일반	완몰가에서 시간이란? [7]	ㅇㅇ(116.45)	21.09.07	310	2
56095	일반	2035년에 오면 그때까지 머할까생각했는데 [2]	ㅇㅇ(182.212)	21.09.07	226	1
56093	일반	아니 근데 2025에서 2030이 된게 문제야? [14]	ㅇㅇ(182.212)	21.09.07	464	4
56089	일반	이 아저씨 누구임? [6]	ㅇㅇ(116.45)	21.09.07	298	5
56088	일반	만약 우주가 시뮬레이션이었으면 창조주 죽여야 하나? [36]	ㅇㅇ(117.111)	21.09.07	462	2
56087	일반	FSD 진짜 개 신세계다 진짜 개 쩐다. [7]	ㅇㅇ(121.153)	21.09.07	1296	22
56085	일반	프로그래머 친구랑 술한잔 했는데 아주 고민 많더라 [21]	늎비늅	21.09.07	465	1
56083	일반	실베 간암아버지,식물인간아들 이야기 ㅈㄴ 슬프네 [3]	ㅇㅇ(210.106)	21.09.07	202	0
56082	일반	신세계에서 강남에 무인 매장 냈대 [16]	ㅇㅇ(119.192)	21.09.07	1167	33
56081	일반	자연의 섭리라는게 사실 그 무엇보다 악랄한게 아닌가 [5]	dkia(1.229)	21.09.07	223	14
56079	일반	세계적인 천재들 dna를 복제해서 낳은 후 발전에 기여시킨다면 [5]	ㅇㅇ(175.223)	21.09.07	208	0
56078	정보/ 정보/뉴스	ETRI, 사람처럼 문서 이해하는 AI 기술 개발 [6]	김자웅(59.10)	21.09.07	655	22
56077	일반	중기형 섹스로봇은 생명공학으로 만들거 같음 [2]	ㅇㅇ(122.43)	21.09.07	260	0
56076	일반	삶의 이유는 야스다 [3]	ㅇㅇ(175.223)	21.09.07	231	3
56073	일반	근데 ㄹㅇ 마인드업로딩하면 업로딩한 내가 나라는확신을 [8]	ㅇㅇ(210.106)	21.09.07	254	0
56072	일반	짱깨가 BCI 연구하면 테크 확 오를거같음	ㅇㅇ(124.28)	21.09.07	120	2
56070	일반	노화정복은 저커버그를 믿어야한다 [3]	ㅇㅇ(112.144)	21.09.07	358	10
56066	일반	컨버전스 2030 읽고 있는데 [2]	ㅇ(168.188)	21.09.07	290	1
56065	일반	정신 나갈거같애 [4]	ㅇㅇ(218.154)	21.09.07	211	3
56063	일반	난 미래에 노예제가 다시 부활할수 있다고 생각되는게... [11]	ㅇㅇ(116.42)	21.09.07	319	1
56062	일반	과거 수많은 철학자들도 삶에대한 의문점을 해결할순 없었다 [12]	ㅇㅇ(125.139)	21.09.07	208	1
56060	일반	특이점대학 나름 엘리트 대학이였네 [1]	ㅇㅇ(118.46)	21.09.07	182	1
56058	일반	지금 태어났다고 비관하지마셈 [12]	ㅇㅇ(211.214)	21.09.07	317	2
56054	일반	자다 벌떡 깨어났다 섹스봇 아이디어! [7]	ㅇㅇ(117.111)	21.09.07	307	2

갤러리 검색

최근 방문

즐겨찾기

즐겨찾기 갤러리

특이점이 온다 갤러리
마이너

머리말∙꼬리말

머리말∙꼬리말

색상 설정

스포일러 경고 설정

제목에서 경고

본문에서 경고

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

[일반] 초지능으로부터 살아남기.txt (장문, 세줄요약 있음)앱에서 작성

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

실시간 베스트

뉴스

디시미디어

디시이슈

개념글[국내야구]

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결