특이점 디스토피아는 정말 불가능할까? 2편

완몰가신자 · 2019.10.27 00:05:34

https://www.youtube.com/watch?v=8nt3edWLgIg

(샘 해리스의 TED강좌 : 우리가 통제권을 잃지 않으면서 인공지능을 만들 수 있을까요?)

https://www.youtube.com/watch?v=MnT1xgZgkpk

(닉 보스트롬의 테드 강좌 : 컴퓨터가 인간보다 똑똑하면 무슨 일이 일어날까?)

안녕 특갤러들아?

주 완몰가님을 섬기는 완몰가신자야 ^오^

지지난번엔 인간 VS 인간 구도를 하고 있는

특이점 디스토피아에 대해 다뤄봤어.

오늘은 특이점 디스토피아 담론 2편

인간 VS 기계(혹은 AI) 디스토피아에 대해 이야기해볼거야.

viewimage.php?id=39b5d535ecdc3fb362bec4bc02c8&no=24b0d769e1d32ca73ded84fa11d028310ef2ab22591d9bdbf8feafbf5959a2ef5b5770243a79e71916fd29b68ee914b4313fbd818106aadde7de2377f7064d2ff8088d15658a3738f43b40f425c5f3edd17b2abd3df47cabd7b0

다 뒈져라 닝겐!!

특갤에서 일어나는 키배 주제는 여러가지야.

그 중에서도

'인간이 AI에게 지배당하는 노예가 될 수 있다!!'

VS

'그게 말이 되냐 ㅂㅅ아'

논쟁은 잊을만하면 불타오르지.

어디까지나 개인적인 느낌이지만

아무래도 이 갤 자체가 레커의 <특이점이 온다> 서적에

그 근본을 두고 있기 때문에

'말이 되냐 ㅂㅅ아'의 의견이 좀 더 힘이 세고

'AI가 인류를 지배할거야!!'

라는 갤러들은

좀 덜떨어진 애들 취급받는다는 인상을 받았음

그렇다면 인간이 AI의 노예가 될 가능성은

정말 희박한 걸까?

AI 위협론을 내세우며

터미네이터, 스카이넷의 실현화를 우려하는 사람들은

정말 모두 빡대가리들일까?

샘 해리스 (철학자, 신경학 박사)

닉 보스트롬 (과학철학자, 현 옥스퍼드대학 교수)

팀 버너스 리 (월드와이드웹 www 창시자)

스티브 워즈니악 (엔지니어, 前 애플 공동창업자)

빌 게이츠 (마이크로소프트 설립자)

스튜어트 러셀 (인공지능 전문가, UC버클리대학 교수)

I.J 굿 (수학자, 50년전에 이미 딥러닝 근간 개념확립, 앨런

튜링의 동료)

엘런 머스크 (테슬라, 뉴럴링크, Xspace 설립자)

스티븐 호킹 (천체물리학자)

지금 나열된 인물들은

《인공지능 위협론》을 주장하는 인물들이야.

그리고 아래는 그들의 어록임

*******

"만약 초인공지능의 관점에서 봤을 때

인류가 개미같은 초라한 존재라면

초인공지능과 인간의 의견이 불합치할 때

인류에게 무슨 일이 일어날 것인가?"

- 샘 해리스 -

"사람보다 똑똑한 머신은

인류를 멸망시킴으로써

인류의 마지막 발명품으로 남을 것이다"

-닉 보스트롬 -

"인간은 로봇의 애완동물이 될 것"

- 스티브 워즈니악-

"현존하는 우리의 가장 큰 위협은 인공지능이다"

-엘런 머스크-

"엘런 머스크의 우려에 깊이 동감한다. 초인공지능을 우려하지 않는 사람들, 이해할 수 없다."

-빌 게이츠-

"인공지능으로 인해 인류는 멸망할 것"

-스티븐 호킹-

*******

...... (숙연)

벌써부터 디스토피아가 코 앞에 와 있는 것만 같은 기분이다.

하지만 완몰가신자가 말하고자 하는건

'디스토피아는 온다!'가 아니라

'월클급 석학들도 이 주제로 싸우고 있다'야.

특히 AI 낙관론자 마크 주크버그와

AI 비관론자 엘런 머스크의 디스전은

웬만한 특갤러 개싸움 저리가라 할 정도로 꿀잼임ㅇㅇ

AI 유토피아 VS AI 디스토피아

둘 중 누가 맞느냐에 대한 이야기를 하기에 앞서

완몰가신자가 당부하고 싶은 것은

'디스토피아 담론'의 의의가 무엇인가에

대해 생각해볼 필요가 있다는 거야.

위의 인물 리스트를 보면

제일 의외인 사람이 엘런머스크지?

??? : 형이 거기서 왜 나와?

엘런 머스크는 전형적인 특이점 셀럽이잖아.

더군다나 인공지능 업계에 일하는 사람들조차

저 리스트에 껴있어.

특이점을 다른 누구보다 열심히 이끌어가고 있는 사람들이

저 리스트에 있다는 건 뭘 의미할까?

이 사람들이 말하고자 하는 건

'인공지능을 개발해선 안 돼!!'

가 아니라

"인공지능의 위험에 충분히 대비해야 돼!!"

가 아닐까?

그 인공지능의 위험에 대비하기 위해 설립된 회사가

엘런 머스크의 <뉴럴링크>이고

뉴럴링크의 제품 공정에 인공지능이 쓰이고 있는건

참으로 아이러니한 일이야.

우리는 모두 특이점이 오길 바라는 특갤러들이야.

모두 특이점이라는 같은 꿈을 꾸고 있는 한

강인공지능의 도래를 바라는 건 매한가지임.

즉, 특슬람이 주장하는 초지능 디스토피아는

'강인공지능 만들지 말자!!!' 가 아니라

강인공지능을 안전하게 만들기 위한 논의라고 봐야 돼

꼭 그 일이 일어나지 않더라도

어떤 일에 대비하기 위해선

그 일이 실제로 일어날 거란 걸 가정하고 대비책을 생각하는게

기본이라는 거임

ㅇㅋ?

아 또또 서론 드럽게 기네~

슬슬 본론으로 가보자!!!

그렇다면 도대체 왜 우리 강인공찡이

그렇게 위험하다고들 난리인걸까?

AI 위협론을 주장하는 이들의 논리는 무엇일까?

1) 우리보다 똑똑한 놈들을 통제하는게 가능한가?

특이점의 정의에 대해서 여러가지 비유들이

<특이점이 온다> 저서에서 설명되고 있는데

그 중 대표적인 것이 동물에 대한 비유야.

강아지가 전기의 원리를 이해하진 못하지만

전기로 인해 작동하는 난방기로부터 혜택을 받듯이

특이점이 도래한 이후에는

가장 똑똑한 인간조차

자신들이 누리는 과학기술의 원리를 이해 못하는 경지가

기술적 특이점의 경지야.

이러한 개념의 기저에는

기술이 기술을 만들어서 폭발적으로 기술이 증가한다는

'가속수확의 법칙'이 기본으로 깔려있고

인간이 스스로보다 더 똑똑한 인공지능을 만들면

인공지능은 자신보다 더 똑똑한 인공지능을 만들게 되어

결국 인공지능의 지능이 폭발적으로 증가할 거라는

'지능폭발' 이론이 전제로 깔려 있어.

그런데 '지능폭발'이론을 창안한 사람이 누구게?

AI 위협론자 중 한 명인 I . J. 굿이야... ㅅㅂ

우리가 이해조차 못하는 마법같은 과학기술을 누린다는게

낭만적으로 들리겠지만

이건 어떻게 보면 진짜 섬뜩한 얘기임...

어떤 대상을 '통제'한다는 건

최소한 그 대상이 뭔짓을 하고 있는지 정도는

알고 있을 때나 성립하는 거야.

좀 와닿게 예시를 들어볼까?

누구나 급식 시절에

집에서 엄마한테 공부한다고 구라치고

집에서 몰컴해본 경험이 한 번쯤 있을 거야.

우리 한 번 그 때 그 시절을 떠올려보자고.

니가 방에서 구몬 학습지를 푸는척하다가

슬쩍 눈치를 보고 게임을 하고 있었는데

갑자기 엄마가 '과일 먹어라~~' 하며

덜컥 문을 열고 들어오는 거야(....)

그럼 무슨 일이 벌어질까?

갑분싸-

"어머!!! 얘가!!! 공부하는 줄 알았더니 뭐하는 짓이얏!!!

엄마 속터져 듸-지는거 보고 싶어어어얶!!!(사자후)"

비록 몰컴을 하던 우리들에겐 새드엔딩이지만

엄마 입장이선 그나마 다행(?)인 거야.

아들이 딴 짓 하는 것을 발견하자마자

'통제'에 들어갔거든 ㅇㅇ

그런데...

이 이야기를 좀 비틀어보자구

엄마가 과일 먹어라 하고 들어오는 것까진 똑같애.

근데 니가 토렌트로 서양 야동을 받고 있었고

엄마는 컴맹에 영어도 잘 못한다고 가정하자.

그럼 어떤 일이 벌어질까?

엄마 : 어머, 얘 지금 뭐하니!!! 공부 안 해?

??? : 아 엄마 무슨 소리야~

오늘 학교에서 내준 영어 숙제 다운받고 있었다구!!!

엄마 : 그... 그래? 우리 아들 미안해~ 너무 무리하지 말고 하렴

??? : 개꿀띠~ ^오^

천하의 불효막심한 새끼!! (내 경험담 아님 ㅡㅡ)

근데 강인공지능이

이런 불효자새끼가 아닐 거란 보장이 있을까?

앞서 말했듯이

뭔가를 통제한다는 건

최소한 그 새끼가 뭘 하고 있는지 정도는 알아야 됨

첫번째 이야기의 엄마는

아들이 게임을 하고 있는 것이

무엇을 의미하고 있는지 '알았기 때문에'

아들을 저지하고 통제할 수 있었어.

근데 두번째 엄마, 컴맹 영어 울렁증 엄마는 어때?

아들이 뭘 하고 있는지 두눈으로 보고도 몰랐기 때문에

집 컴퓨터 하드가 하드코어 포르노로 물들어가고

랜섬웨어가 창궐하여 가정이 무너지고 경제가 파탄나는 걸

수수방관하고 말았지 ㅜㅜ...

ㅅㅂ 존나 극단적이네

뭐 어쨌든 강인공지능보다 빡대가리인 인간이

강인공지능이 하고 있는 개수작을

과연 알아차릴 수나 있을까?

사실 위의 비유는 진짜 마일드 한 거야.

최소한 강인공 대 인간의 관계는

인간 대 동물의 관계로 봐야 돼.

개를 키워본 사람들은

개에게 예방접종을 맞추러 동물병원에 간 경험이 있을 거임

그런데 '개 입장'에서

예방접종이 무엇인지 이해나 할 수나 있을까?

원리는 고사하고

그 의미나 제대로 이해할 수 있을까?

똑똑한 개들도 기껏해야

'주인님이 날 위해서 해주는 것' 정도로만 인식하고

얌전히 예방접종을 맞는게 전부야.

가속수확의법칙, 지능폭발의 특이점 세계에 있는 인간은

이 주사를 맞는 개와 하등 다를게 없어.

강인공지능이 계획하고 실행하는 것이

예방접종 주사인지

안락사용 약물인지

인간은 알 수 없음

그게 뭔지

이해조차 할 수 없거든

이게 AI 위협론자들이 지적하는

강인공지능의 가장 큰 위험이야.

단순히

'인공지능을 감시하면 된다' 수준으로

끝날 문제가 아니란 건 알겠지?

감시를 하는게 가능이나 해야지...

2) 우리보다 똑똑한 놈을 이기는 게 가능한가?

그런데 만약 운이 좋게

인류가 AI의 시도를 이해하고

반란의 조짐을 초기에 발견했다고 치자.

그렇다면 모든 문제가 해결 될까?

엘런 머스크는 한 인터뷰에서

인공지능으로부터 본격적으로 위험을 느낀 계기가

알파고였다는 것을 실토했어.

알파고가 왜 그렇게 충격적인 사건이었을까?

아니 나도 당직근무때

당직사관 몰래 컴터로 체스 두면서

AI한테 맨날 쳐발렸는데

인간이 인공지능에게 바둑 한 번 진게 그렇게 대수일까?

알파고가 학계에 큰 충격으로 왔던 이유는

'바둑만큼 복잡한 일'에 대해서

인공지능이 예상보다 너무 일찍 인간에게 승리를 거뒀다는 거야.

많은 학자들의 예상으로는

바둑은 너무 경우의 수가 많아서

인공지능이 인간을 따라잡기 힘들다고 봤거든.

하지만 따라잡혔지

그러니까 '바둑'이 중요한게 아니라

바둑보다 더 복잡하고

바둑보다 더 '인간적'인 것들,

바둑보다 더 중요한 것들도

빠른 시일 내에 인공지능에게 패배할 것이라는 공포,

그게 충격이었던 거야.

알파고가 개발된지 몇년도 안 돼서

《알파고 제로》라는 놈이 나왔는데

《알파고 제로》는 단 3일만에

이세돌을 이긴 알파고를 개쳐발라버림

근데 더 충격적인 사실 두가지...

1) 알파고 제로는 바둑 기사들의 기보데이터를 일절 보지 않았다.

즉, 바둑의 룰을 제외하고는

그 어떤 데이터도 넣지 않았다.

2) 애초에 알파고 제로는

바둑을 위해 만들어진 인공지능이 아니다...

AGI의 초기단계로 평가받는

알파고 제로의 저력이야.

만약 이후 제대로 된 AGI가 등장한다면

인간은 과연 AGI를 이길 수 있는 영역이 남아있게 될까?

그리고 만약 AGI가 인류의 적이 된다면

인류는 살아남을 수 있을까?

심지어 AGI가 인간하고 지능이 똑같더라도

인류는 개처발림 ㅇㅇ

샘 해리스에 따르면

인간의 화학적 뇌의 정보처리는

컴퓨터의 전기회로보다 100만배 느림

즉 단순히 시간적으로 봤을 때

인간 지능의 agi 한 개체는

100만명의 업무수행 능력을 가지고 있음

거기다가 agi는

여건만 갖춰지면 자가복제도 할 수 있을 것으로 보고 있어

걍 답이 없는 거지.

근데 여기까지 읽었다면

많은 갤러들이 반문할 거야.

"인공지능이 뭐하러 사람을 죽이겠음? 말이 되는 소리임?"

"아니 애초에 사람을 해치지 못하도록 알고리즘을 짜놓으면 되잖아!!!

한낯 프로그램 따위가 인간의 명령을 어기는게 말이 됨?"

"인공지능이 한낯 프로그램인데 어떻게 사람을 죽임?

뭣하면 전원을 꺼버리면 되잖아!!!"

이 예상반박들을 정리하자면

1. 인공지능이 악해질 것이란 건 근거없는 주장이다

2.인공지능을 사람을 해치지 못하도록 프로그래밍하면 된다.

3. 인공지능은 인간을 해칠 수단(하드웨어)가 없다

이 세가지인데

이 세가지 반박에

단순한 재반박도 못할 것 같았으면

애초에 이 글은 쓰지도 않았겠지?

다음 편에는

이 세가지를 철저히 반박하는

권위자들의 이야기를 소개할 거야.

기대해줭 ^오^

p.s

원래 이번 화에 다 쓸랬는데

생각보다 분량이 너무 길어서

여러화로 나눠쓴다 ㅇㅇ

원래 2편이 끝이었는데

한 4편까지 갈듯

3편 - 반박 재반박

4편 - 디스토피아 대비책 (해결책)

여기까지 쓰고 끊으면 욕개쳐먹을 것 같은데 ㄷㄷ

살.. 살살해줭

- dc official App

번호	말머리	제목	글쓴이	작성일	조회	추천
2860	설문	경제관념 부족해서 돈 막 쓸 것 같은 스타는?	운영자	24/05/13	-	-
412470	공지	레이 커즈와일 신간 6월 25일 발매 [27]	모브	24.01.24	5789	32
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [2855]	*특갤용*	23.08.06	37136	41
363220	공지	선형글 삭제 기준 [6]	*특갤용*	23.10.14	6484	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	12243	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [50]	*특갤용*	23.11.07	8223	79
385147	공지	구글의 AGI 분류 체계 [16]	ㅇㅇ	23.11.22	7391	30
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	8393	29
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	21690	33
466659	일반	루머) OpenAI는 everything 모델 개발 완료, 실험 중 [11]	모브	05.12	1134	19
466436	일반	고민하는 ai는 진짜 대박인데? [49]	ㅇㅇ(117.20)	05.12	3051	28
466269	정보	챗지피티에 GPT4.5 업데이트 암시 [14]	ㅇㅇ(121.124)	05.12	2837	22
466105	일반	흥분하는 openai 연구원 [41]	ㅇㅇ(125.191)	05.12	3340	19
466096	일반	모레 새벽 특갤 예상 [20]	ㅇㅇ(211.197)	05.12	2701	35
466090	AI창 AI창작	gpt2로 DOOM 만들기 [53]	ㅇㅇ	05.12	3534	70
465944	일반	"내부적으로 달성된 agi는 없어ㅎㅎ" [35]	ㅇㅇ(114.202)	05.11	3363	36
465939	일반	알트만이 UBI와 AGI 분배에 대해 언급한 영상들 [16]	월코존버	05.11	2503	24
465871	일반	알트만: 내부적으로 AGI는 없어 ㅎㅎ 미안! [16]	ㅇㅇ(59.17)	05.11	3265	24
465859	일반	알트만 : 존나좋다. 기대해라 [36]	ㅇㅇ(59.5)	05.11	3849	22
465851	일반	알트만 NSFW 직접언급 사칭아님 ㅇㅇㅇ [10]	ㅇㅇ(59.5)	05.11	1616	15
465806	일반	GPT-5는 없을 수도 [31]	특술람	05.11	3069	16
465772	정보	OAI 연구원 : "GPT5보다 멋질 것" [26]	ㅇㅇ(118.235)	05.11	3388	17
465433	정보	방금 샘알트만 오피셜 "GPT-5도, 검색엔진도 아니다." [49]	초존도초	05.11	4682	31
465412	정보	소금•물 이용해 인간 뇌세포처럼 움직이는 바이오컴퓨터 [8]	ㅇㅇ(182.230)	05.11	2089	22
465374	정보	유전자 치료로 11세에 처음 소리 들었다…"정상 청력 회복" [23]	ㅇㅇ(182.230)	05.10	2302	31
465275	일반	"자, 다 모이셨군요!" [19]	ㅇㅇ	05.10	3818	26
465172	정보	나노 수준의 해상도로 재구성된 인간 대뇌 피질의 페타복셀 조각 [16]	ㅇㅇ(118.39)	05.10	1421	16
465079	일반	also-gpt2가 만들어준 2인용 핑퐁게임 [2]	천사다천사	05.10	1235	16
465051	일반	"AI가 성인 콘텐츠 만든다" 오픈AI 제작 허용 검토 (msn.com) [40]	루미코드	05.10	3805	36
465018	정보	알트만 : gpt4때문에 미래모델 영향 과소평가 우려 중 [33]	ㅇㅇ(119.77)	05.10	3310	21
465005	일반	also 나와서 기분 좋은 특붕이면 개추 ㅋㅋㅋ [3]	ㅇㅇ(1.239)	05.10	2171	25
464957	일반	코딩 개초보가 GPT 로 고오급 웹사이트 만들기 [33]	GPT PLUS(125.137)	05.10	3865	42
464910	일반	현재 갤 상황 요약...jpg [21]	lightvector	05.09	4595	38
464863	일반	장문글)내가 특이점을 기다리는 이유...txt [28]	ㅇㅇ(1.238)	05.09	2815	34
464749	일반	also gpt2 쓰레긴데? [8]	ㅇㅇ(114.200)	05.09	1194	14
464601	일반	also-gpt2한테 샘알트만 비판하라고 해봤는데 [16]	ㅇㅇ	05.09	3745	33
464599	일반	im-good과 also모델에게 실존 인물 비방을 시켜봤다. [9]	월코존버	05.09	2393	22
464597	정보	구글, ‘알파폴드3’ 네이처에 공개…정확도 1.5배, DNA까지 분석 [27]	ㅇㅇ(125.191)	05.09	3172	30
464587	정보	알파폴드 3 발표 [22]	ㅇㅇ(125.191)	05.09	3108	27
464357	일반	gpt2는 검색용모델일 확률이 높음 [5]	ㅇㅇ(14.53)	05.08	3067	20
464341	정보	AI가 신약 개발에 있어 획기적 성과를 거두는중 [18]	ㅇㅇ(211.59)	05.08	3380	25
464249	일반	LLM방식은 한계가 있다고 말했던 얀르쿤이 옳았던것 같으면 개추 [13]	ㅇㅇ(169.150)	05.08	3164	38
464125	일반	also-gpt2나 gpt2나 코딩 실력은 gpt4를 아득히 상회함 [8]	Ad_Astra	05.08	4120	21
464124	일반	also good GPT2가 클로드 완전히 찢어갈기네 걍 [2]	ㅇㅇ(121.124)	05.08	4021	20
464104	일반	와 also gpt2가 클로드 압살하네 ㅋㅋㅋ [1]	아몰라(223.62)	05.08	2729	16
464050	일반	트윗 ㅋㅋㅋ GPT2 요청 한번에 게임만들기 가능 [16]	ㅇㅇ(14.63)	05.08	4068	30
464038	AI창 AI창작	진짜 볼 수록 지리네 [25]	ㅇㅇ(119.77)	05.07	4937	41
463983	일반	agi위해선 추론이 필수적인데 조금 짜치긴 하네... [18]	lightvector	05.07	2860	25
463897	정보	also gpt로 어려운 컴퓨터 비전 대회 성공했다 [38]	ㅇㅇ(119.77)	05.07	3171	34
463804	일반	방금 점프에 장애물추가 콜리전추가 원큐에성공 ㅅㅂㅋㅋㅋㅋ [22]	친근한게이브	05.07	2460	28
463784	일반	also gpt2 미침 걍 agi 2단계임 영상있음 [7]	친근한게이브	05.07	3630	27

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결