특이점 디스토피아는 정말 불가능할까? 2편

완몰가신자 · 2019.10.27 00:05:34

https://www.youtube.com/watch?v=8nt3edWLgIg

(샘 해리스의 TED강좌 : 우리가 통제권을 잃지 않으면서 인공지능을 만들 수 있을까요?)

https://www.youtube.com/watch?v=MnT1xgZgkpk

(닉 보스트롬의 테드 강좌 : 컴퓨터가 인간보다 똑똑하면 무슨 일이 일어날까?)

안녕 특갤러들아?

주 완몰가님을 섬기는 완몰가신자야 ^오^

지지난번엔 인간 VS 인간 구도를 하고 있는

특이점 디스토피아에 대해 다뤄봤어.

오늘은 특이점 디스토피아 담론 2편

인간 VS 기계(혹은 AI) 디스토피아에 대해 이야기해볼거야.

viewimage.php?id=39b5d535ecdc3fb362bec4bc02c8&no=24b0d769e1d32ca73ded84fa11d028310ef2ab22591d9bdbf8feafbf5959a2ef5b5770243a79e71916fd29b68ee914b4313fbd818106aadde7de2377f7064d2ff8088d15658a3738f43b40f425c5f3edd17b2abd3df47cabd7b0

다 뒈져라 닝겐!!

특갤에서 일어나는 키배 주제는 여러가지야.

그 중에서도

'인간이 AI에게 지배당하는 노예가 될 수 있다!!'

VS

'그게 말이 되냐 ㅂㅅ아'

논쟁은 잊을만하면 불타오르지.

어디까지나 개인적인 느낌이지만

아무래도 이 갤 자체가 레커의 <특이점이 온다> 서적에

그 근본을 두고 있기 때문에

'말이 되냐 ㅂㅅ아'의 의견이 좀 더 힘이 세고

'AI가 인류를 지배할거야!!'

라는 갤러들은

좀 덜떨어진 애들 취급받는다는 인상을 받았음

그렇다면 인간이 AI의 노예가 될 가능성은

정말 희박한 걸까?

AI 위협론을 내세우며

터미네이터, 스카이넷의 실현화를 우려하는 사람들은

정말 모두 빡대가리들일까?

샘 해리스 (철학자, 신경학 박사)

닉 보스트롬 (과학철학자, 현 옥스퍼드대학 교수)

팀 버너스 리 (월드와이드웹 www 창시자)

스티브 워즈니악 (엔지니어, 前 애플 공동창업자)

빌 게이츠 (마이크로소프트 설립자)

스튜어트 러셀 (인공지능 전문가, UC버클리대학 교수)

I.J 굿 (수학자, 50년전에 이미 딥러닝 근간 개념확립, 앨런

튜링의 동료)

엘런 머스크 (테슬라, 뉴럴링크, Xspace 설립자)

스티븐 호킹 (천체물리학자)

지금 나열된 인물들은

《인공지능 위협론》을 주장하는 인물들이야.

그리고 아래는 그들의 어록임

*******

"만약 초인공지능의 관점에서 봤을 때

인류가 개미같은 초라한 존재라면

초인공지능과 인간의 의견이 불합치할 때

인류에게 무슨 일이 일어날 것인가?"

- 샘 해리스 -

"사람보다 똑똑한 머신은

인류를 멸망시킴으로써

인류의 마지막 발명품으로 남을 것이다"

-닉 보스트롬 -

"인간은 로봇의 애완동물이 될 것"

- 스티브 워즈니악-

"현존하는 우리의 가장 큰 위협은 인공지능이다"

-엘런 머스크-

"엘런 머스크의 우려에 깊이 동감한다. 초인공지능을 우려하지 않는 사람들, 이해할 수 없다."

-빌 게이츠-

"인공지능으로 인해 인류는 멸망할 것"

-스티븐 호킹-

*******

...... (숙연)

벌써부터 디스토피아가 코 앞에 와 있는 것만 같은 기분이다.

하지만 완몰가신자가 말하고자 하는건

'디스토피아는 온다!'가 아니라

'월클급 석학들도 이 주제로 싸우고 있다'야.

특히 AI 낙관론자 마크 주크버그와

AI 비관론자 엘런 머스크의 디스전은

웬만한 특갤러 개싸움 저리가라 할 정도로 꿀잼임ㅇㅇ

AI 유토피아 VS AI 디스토피아

둘 중 누가 맞느냐에 대한 이야기를 하기에 앞서

완몰가신자가 당부하고 싶은 것은

'디스토피아 담론'의 의의가 무엇인가에

대해 생각해볼 필요가 있다는 거야.

위의 인물 리스트를 보면

제일 의외인 사람이 엘런머스크지?

??? : 형이 거기서 왜 나와?

엘런 머스크는 전형적인 특이점 셀럽이잖아.

더군다나 인공지능 업계에 일하는 사람들조차

저 리스트에 껴있어.

특이점을 다른 누구보다 열심히 이끌어가고 있는 사람들이

저 리스트에 있다는 건 뭘 의미할까?

이 사람들이 말하고자 하는 건

'인공지능을 개발해선 안 돼!!'

가 아니라

"인공지능의 위험에 충분히 대비해야 돼!!"

가 아닐까?

그 인공지능의 위험에 대비하기 위해 설립된 회사가

엘런 머스크의 <뉴럴링크>이고

뉴럴링크의 제품 공정에 인공지능이 쓰이고 있는건

참으로 아이러니한 일이야.

우리는 모두 특이점이 오길 바라는 특갤러들이야.

모두 특이점이라는 같은 꿈을 꾸고 있는 한

강인공지능의 도래를 바라는 건 매한가지임.

즉, 특슬람이 주장하는 초지능 디스토피아는

'강인공지능 만들지 말자!!!' 가 아니라

강인공지능을 안전하게 만들기 위한 논의라고 봐야 돼

꼭 그 일이 일어나지 않더라도

어떤 일에 대비하기 위해선

그 일이 실제로 일어날 거란 걸 가정하고 대비책을 생각하는게

기본이라는 거임

ㅇㅋ?

아 또또 서론 드럽게 기네~

슬슬 본론으로 가보자!!!

그렇다면 도대체 왜 우리 강인공찡이

그렇게 위험하다고들 난리인걸까?

AI 위협론을 주장하는 이들의 논리는 무엇일까?

1) 우리보다 똑똑한 놈들을 통제하는게 가능한가?

특이점의 정의에 대해서 여러가지 비유들이

<특이점이 온다> 저서에서 설명되고 있는데

그 중 대표적인 것이 동물에 대한 비유야.

강아지가 전기의 원리를 이해하진 못하지만

전기로 인해 작동하는 난방기로부터 혜택을 받듯이

특이점이 도래한 이후에는

가장 똑똑한 인간조차

자신들이 누리는 과학기술의 원리를 이해 못하는 경지가

기술적 특이점의 경지야.

이러한 개념의 기저에는

기술이 기술을 만들어서 폭발적으로 기술이 증가한다는

'가속수확의 법칙'이 기본으로 깔려있고

인간이 스스로보다 더 똑똑한 인공지능을 만들면

인공지능은 자신보다 더 똑똑한 인공지능을 만들게 되어

결국 인공지능의 지능이 폭발적으로 증가할 거라는

'지능폭발' 이론이 전제로 깔려 있어.

그런데 '지능폭발'이론을 창안한 사람이 누구게?

AI 위협론자 중 한 명인 I . J. 굿이야... ㅅㅂ

우리가 이해조차 못하는 마법같은 과학기술을 누린다는게

낭만적으로 들리겠지만

이건 어떻게 보면 진짜 섬뜩한 얘기임...

어떤 대상을 '통제'한다는 건

최소한 그 대상이 뭔짓을 하고 있는지 정도는

알고 있을 때나 성립하는 거야.

좀 와닿게 예시를 들어볼까?

누구나 급식 시절에

집에서 엄마한테 공부한다고 구라치고

집에서 몰컴해본 경험이 한 번쯤 있을 거야.

우리 한 번 그 때 그 시절을 떠올려보자고.

니가 방에서 구몬 학습지를 푸는척하다가

슬쩍 눈치를 보고 게임을 하고 있었는데

갑자기 엄마가 '과일 먹어라~~' 하며

덜컥 문을 열고 들어오는 거야(....)

그럼 무슨 일이 벌어질까?

갑분싸-

"어머!!! 얘가!!! 공부하는 줄 알았더니 뭐하는 짓이얏!!!

엄마 속터져 듸-지는거 보고 싶어어어얶!!!(사자후)"

비록 몰컴을 하던 우리들에겐 새드엔딩이지만

엄마 입장이선 그나마 다행(?)인 거야.

아들이 딴 짓 하는 것을 발견하자마자

'통제'에 들어갔거든 ㅇㅇ

그런데...

이 이야기를 좀 비틀어보자구

엄마가 과일 먹어라 하고 들어오는 것까진 똑같애.

근데 니가 토렌트로 서양 야동을 받고 있었고

엄마는 컴맹에 영어도 잘 못한다고 가정하자.

그럼 어떤 일이 벌어질까?

엄마 : 어머, 얘 지금 뭐하니!!! 공부 안 해?

??? : 아 엄마 무슨 소리야~

오늘 학교에서 내준 영어 숙제 다운받고 있었다구!!!

엄마 : 그... 그래? 우리 아들 미안해~ 너무 무리하지 말고 하렴

??? : 개꿀띠~ ^오^

천하의 불효막심한 새끼!! (내 경험담 아님 ㅡㅡ)

근데 강인공지능이

이런 불효자새끼가 아닐 거란 보장이 있을까?

앞서 말했듯이

뭔가를 통제한다는 건

최소한 그 새끼가 뭘 하고 있는지 정도는 알아야 됨

첫번째 이야기의 엄마는

아들이 게임을 하고 있는 것이

무엇을 의미하고 있는지 '알았기 때문에'

아들을 저지하고 통제할 수 있었어.

근데 두번째 엄마, 컴맹 영어 울렁증 엄마는 어때?

아들이 뭘 하고 있는지 두눈으로 보고도 몰랐기 때문에

집 컴퓨터 하드가 하드코어 포르노로 물들어가고

랜섬웨어가 창궐하여 가정이 무너지고 경제가 파탄나는 걸

수수방관하고 말았지 ㅜㅜ...

ㅅㅂ 존나 극단적이네

뭐 어쨌든 강인공지능보다 빡대가리인 인간이

강인공지능이 하고 있는 개수작을

과연 알아차릴 수나 있을까?

사실 위의 비유는 진짜 마일드 한 거야.

최소한 강인공 대 인간의 관계는

인간 대 동물의 관계로 봐야 돼.

개를 키워본 사람들은

개에게 예방접종을 맞추러 동물병원에 간 경험이 있을 거임

그런데 '개 입장'에서

예방접종이 무엇인지 이해나 할 수나 있을까?

원리는 고사하고

그 의미나 제대로 이해할 수 있을까?

똑똑한 개들도 기껏해야

'주인님이 날 위해서 해주는 것' 정도로만 인식하고

얌전히 예방접종을 맞는게 전부야.

가속수확의법칙, 지능폭발의 특이점 세계에 있는 인간은

이 주사를 맞는 개와 하등 다를게 없어.

강인공지능이 계획하고 실행하는 것이

예방접종 주사인지

안락사용 약물인지

인간은 알 수 없음

그게 뭔지

이해조차 할 수 없거든

이게 AI 위협론자들이 지적하는

강인공지능의 가장 큰 위험이야.

단순히

'인공지능을 감시하면 된다' 수준으로

끝날 문제가 아니란 건 알겠지?

감시를 하는게 가능이나 해야지...

2) 우리보다 똑똑한 놈을 이기는 게 가능한가?

그런데 만약 운이 좋게

인류가 AI의 시도를 이해하고

반란의 조짐을 초기에 발견했다고 치자.

그렇다면 모든 문제가 해결 될까?

엘런 머스크는 한 인터뷰에서

인공지능으로부터 본격적으로 위험을 느낀 계기가

알파고였다는 것을 실토했어.

알파고가 왜 그렇게 충격적인 사건이었을까?

아니 나도 당직근무때

당직사관 몰래 컴터로 체스 두면서

AI한테 맨날 쳐발렸는데

인간이 인공지능에게 바둑 한 번 진게 그렇게 대수일까?

알파고가 학계에 큰 충격으로 왔던 이유는

'바둑만큼 복잡한 일'에 대해서

인공지능이 예상보다 너무 일찍 인간에게 승리를 거뒀다는 거야.

많은 학자들의 예상으로는

바둑은 너무 경우의 수가 많아서

인공지능이 인간을 따라잡기 힘들다고 봤거든.

하지만 따라잡혔지

그러니까 '바둑'이 중요한게 아니라

바둑보다 더 복잡하고

바둑보다 더 '인간적'인 것들,

바둑보다 더 중요한 것들도

빠른 시일 내에 인공지능에게 패배할 것이라는 공포,

그게 충격이었던 거야.

알파고가 개발된지 몇년도 안 돼서

《알파고 제로》라는 놈이 나왔는데

《알파고 제로》는 단 3일만에

이세돌을 이긴 알파고를 개쳐발라버림

근데 더 충격적인 사실 두가지...

1) 알파고 제로는 바둑 기사들의 기보데이터를 일절 보지 않았다.

즉, 바둑의 룰을 제외하고는

그 어떤 데이터도 넣지 않았다.

2) 애초에 알파고 제로는

바둑을 위해 만들어진 인공지능이 아니다...

AGI의 초기단계로 평가받는

알파고 제로의 저력이야.

만약 이후 제대로 된 AGI가 등장한다면

인간은 과연 AGI를 이길 수 있는 영역이 남아있게 될까?

그리고 만약 AGI가 인류의 적이 된다면

인류는 살아남을 수 있을까?

심지어 AGI가 인간하고 지능이 똑같더라도

인류는 개처발림 ㅇㅇ

샘 해리스에 따르면

인간의 화학적 뇌의 정보처리는

컴퓨터의 전기회로보다 100만배 느림

즉 단순히 시간적으로 봤을 때

인간 지능의 agi 한 개체는

100만명의 업무수행 능력을 가지고 있음

거기다가 agi는

여건만 갖춰지면 자가복제도 할 수 있을 것으로 보고 있어

걍 답이 없는 거지.

근데 여기까지 읽었다면

많은 갤러들이 반문할 거야.

"인공지능이 뭐하러 사람을 죽이겠음? 말이 되는 소리임?"

"아니 애초에 사람을 해치지 못하도록 알고리즘을 짜놓으면 되잖아!!!

한낯 프로그램 따위가 인간의 명령을 어기는게 말이 됨?"

"인공지능이 한낯 프로그램인데 어떻게 사람을 죽임?

뭣하면 전원을 꺼버리면 되잖아!!!"

이 예상반박들을 정리하자면

1. 인공지능이 악해질 것이란 건 근거없는 주장이다

2.인공지능을 사람을 해치지 못하도록 프로그래밍하면 된다.

3. 인공지능은 인간을 해칠 수단(하드웨어)가 없다

이 세가지인데

이 세가지 반박에

단순한 재반박도 못할 것 같았으면

애초에 이 글은 쓰지도 않았겠지?

다음 편에는

이 세가지를 철저히 반박하는

권위자들의 이야기를 소개할 거야.

기대해줭 ^오^

p.s

원래 이번 화에 다 쓸랬는데

생각보다 분량이 너무 길어서

여러화로 나눠쓴다 ㅇㅇ

원래 2편이 끝이었는데

한 4편까지 갈듯

3편 - 반박 재반박

4편 - 디스토피아 대비책 (해결책)

여기까지 쓰고 끊으면 욕개쳐먹을 것 같은데 ㄷㄷ

살.. 살살해줭

- dc official App

번호	말머리	제목	글쓴이	작성일	조회	추천
2861	설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	7276	32
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [2975]	*특갤용*	23.08.06	38424	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [1]	*부패하는유전자!!!*	24.03.06	2353	2
363220	공지	선형글 삭제 기준 [6]	*특갤용*	23.10.14	7011	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13036	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [50]	*특갤용*	23.11.07	8731	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8092	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	8951	30
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	22478	33
480915	일반	밥그릇 뺏긴다는 사람들 아마	ㅇㅇ	12:55	8	0
480914	일반	어차피 개발자 많이 쓰는 회사 오너들은	ㅇㅇ(112.220)	12:55	11	0
480913	일반	GPT5가 범용인공지능이다	ㅇㅇ(223.62)	12:53	19	0
480912	일반	무엇보다 옛날 설레발이랑 확실히 다른건	ㅇㅇ(211.184)	12:53	14	0
480911	일반	일부 기득권 새끼들은 존나 쳐맞아야함 [1]	ㅇㅇ(58.29)	12:53	21	0
480910	일반	샘이 늦게 대체될 거 찾지 말라고 함 [3]	ㅇㅇ	12:53	33	0
480909	일반	이번달 식비 12만 5천원 이내로 끊을듯 [4]	외웨	12:50	28	0
480908	일반	2020설레발이랑 이번 설레발은 양상이 아예 다른데 [3]	ㅇㅇ(211.184)	12:49	58	0
480907	일반	Ai가 못할걸 찾는거보다 [1]	탈조선	12:49	31	0
480906	일반	가슴에 손을 얹고 목숨걸고 내기 할수있냐? [22]	ㅇㅇ	12:45	139	0
480905	일반	지금 AI는 별로니까 직업 대체 안 일어난다는 주장도 비약이지 [4]	ㅇㅇ(112.158)	12:44	68	0
480904	일반	Gpt 4.5 예측 투표 [2]	ㅇㅇ(119.64)	12:43	52	0
480903	일반	비하를 하는 이유는 증명이 되지 않기 때문임 [2]	ㅇㅇ	12:43	36	0
480902	일반	왜 자기는 대체가 불가능한 존재라는건지	탈조선	12:43	27	0
480901	일반	미들 시니어 개발자 타령좀 그만해라 [3]	탈조선	12:42	67	0
480900	일반	자기가 코딩에 재능없다 생각들면 공시 준비하는것도 [3]	ㅇㅇ(218.153)	12:41	50	0
480899	일반	"기본ㅅ득 불가능함" 이소리도 진짜 듣기 싫다 [17]	ㅇㅇ(117.20)	12:38	149	0
480898	일반	국비, 부캠출신 개발자들 ㅈ된건 사실인데? [5]	ㅇㅇ(14.7)	12:37	100	0
480897	일반	5년은 기다려야 하나 모든게 29년을 가르킨다 [7]	ㅇㅇ(106.246)	12:36	65	0
480896	일반	미래에 사람을 더 찾게 될거라는 말의 의미	ㅇㅇ(121.128)	12:36	34	0
480895	일반	케빈 스콧이 과거에 불가능 했던걸 찾아서 만들어야 한다고 함 [2]	ㅇㅇ	12:33	78	1
480894	일반	다 실업자되면 물건은 누가 사주냐 ㅋㅋㅋ [6]	ㅇㅇ(125.134)	12:33	84	0
480893	일반	2026년 개발자 노동조합 . Real [1]	ㅇㅇ(211.234)	12:30	104	5
480892	일반	추론 비용은 사실 아키텍처만 좀 더 실험적으로 바꿔도 [1]	ㅇㅇ(121.165)	12:30	38	0
480891	일반	솔직히 gpt4o는 코드몽키 대체 수준 이상은 아님 [4]	lightvector	12:29	108	0
480890	일반	보니까 개발자 완전대체는 gpt7 나와야곘다 [4]	ㅇㅇ(117.20)	12:29	72	0
480889	일반	특갤에 너무 아쉬운게 코드몽키니 혐오를 대놓고 조장함 [12]	ㅇㅇ(203.234)	12:24	201	6
480888	일반	블루칼라가 마지노가 아닌 이유 [5]	ㅇㅇ(112.220)	12:23	77	0
480887	일반	알트만이 미래에는 더 사람을 찾게 될거라고 한 발언 [5]	ㅇㅇ(218.147)	12:21	117	0
480886	일반	난 샘 그새끼 도덕성에 조또관심없음 [1]	ㅇㅇ(218.146)	12:21	57	2
480885	일반	근데 위키피디아 보니깐 [6]	ㅇㅇ(106.101)	12:19	75	0
480884	일반	나도 물론 현1직자지만 AI를 부정하지 마라 [5]	ㅇㅇ(221.140)	12:19	114	0
480883	일반	4o수준으로 이것도 코딩 못함 [4]	ㅇㅇ(211.46)	12:17	109	0
480882	일반	미래에는 현대자동차 생산라인 휴머노이드로 채울것 같은데 [3]	시작	12:11	89	0
480881	일반	완몰가에서 못생기고 뚱뚱하게 설정해야하는이유.TXT [15]	ㅇㅇ(118.129)	12:10	163	1
480880	정보	LLM추론비용은 지속불가능하다 [9]	ㅇㅇ(39.7)	12:09	138	2
480879	일반	결국 그럼 gpt 얘 코딩도 개거품인가 [17]	ㅇㅇ(106.246)	12:09	179	0
480878	일반	영어권 나라가 ㄹㅇ 부럽다 [8]	ㅇㅇ(103.237)	12:09	102	0
480877	일반	혀구헌날 노동자들끼리 노동대체 얘기하면 뭐가 나옴?	ㅇㅇ(112.186)	12:08	26	0
480876	일반	후진국 사람들은 솔직히 ai 개ㅈ빡칠꺼 같긴함 [5]	ㅇㅇ(106.246)	12:03	150	0
480875	일반	gpt 쓰는 개발자는 거의 못 보긴 함 [12]	ㅇㅇ(121.165)	12:03	185	3

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결