유발 하라리 "AI가 인류 장악하기 전 인간이 AI 통제해야"

군사 갤러리
마이너

군사갤러리는 군사에 대한 건설적인 토의가 이루어지는 것을 목표로 하는 갤러리입니다.

매니저

토오오오오카(hhhmmm98)

부매니저

연평도당직사관(d2l2sw6y…) 다랑모실들이(berehyni…) G8KR(andrea08…) 어린이회원(hanyh222…) 제4제국국밥부장…(lmumunic…) ㅇㅇ(gungelco…) Crack08(crack088) ㅇㅇ(pnq8ljtr…) 제4제국순두부장…(tumunich)

개설일

2017-08-02

[📺뉴스] 유발 하라리 "AI가 인류 장악하기 전 인간이 AI 통제해야"앱에서 작성

ㅇㅇ(121.182) 2023.03.25 23:41:49

조회 429 추천 1 댓글 3

NYT 기고…"언어모델 AI, 문명 해킹·조작 가능…도입 늦추고 대비해야"

(서울=연합뉴스) 이주영 기자 = 역사학자이자 세계적 베스트셀러 작가인 유발 하라리가 'GPT-4' 같은 인공지능(AI)의 위험성을 지적하며 AI 사용을 늦추면서 이에 대한 통제 방법을 찾아야 한다고 주장했다.

하라리와 인도적 기술 센터 공동설립자인 트리스탄 해리스와 아자 라스킨은 24일(현지시간) 뉴욕타임스(NYT) 공동기고문에서 "AI의 언어 습득은 AI가 문명의 운영 체제를 해킹하고 조작할 수 있게 됐음을 뜻한다"며 이같이 밝혔다.

이들은 GPT-4 이상 성능의 AI 시스템을 지나치게 빠르게 받아들여서는 안 된다며 AI 수용 속도를 기술 기업들의 시장 장악 경쟁에 맡기지 말고 인류가 AI를 잘 다룰 수 있는 능력을 갖추는 것에 맞춰야 한다고 강조했다.

필자들은 AI라는 유령이 20세기 중반부터 떠돌았지만 최근까지도 공상과학에 등장하는 것과 같은 먼 미래 일로 남았다면서 AI가 실질적인 위험으로 떠오르게 된 계기는 바로 GPT-4 같은 언어모델이라고 진단했다.

언어는 인류 문화의 운영 체제로서 신화와 법, 신과 돈, 예술과 과학, 우정과 국가, 컴퓨터 코드가 언어에서 탄생했는데, AI가 언어를 습득한 것은 인류 문명의 마스터키를 손에 넣은 것과 같다는 것이다.

현재 수준의 AI에서도 체스 같은 게임에서 인간은 컴퓨터를 이길 수 없는데, 예술, 정치, 종교에서도 이런 일이 벌어진다면 어떻게 될까?

필자들은 AI는 수천년 인류 문화를 빠르게 먹어 치우고 소화해 새 문화 유물을 쏟아낼 수 있고 이는 학교 에세이뿐 아니라 정치연설, 종교 등에도 해당한다며 2028년 미국 대선은 더는 사람이 주도하지 않는 선거가 될 수도 있다고 지적했다.

다른 사람의 책, 예술품, 종교 등을 통해 현실을 간접 경험해온 인류가 인간이 아닌 AI가 만든 콘텐츠에 둘러싸여 살아갈 경우 발생할 상황도 걱정거리다.

영화 '터미네이터'나 '매트릭스'에서처럼 AI가 로봇을 보내 인간을 공격하거나 인간 두뇌를 컴퓨터 네트워크에 연결해 가두고 통제하는 것 같은 행위가 AI가 인간을 환상 속에 가두는 방식으로 가능해질 수도 있다는 것이다.

필자들은 AI가 만든 환상의 장막이 인류 전체에 드리워지고 우리는 그 장막을 걷어낼 수 없고 심지어 장막이 있다는 사실조차 깨닫지 못할 수도 있다고 경고했다.

이 기고문의 제목도 '매트릭스'의 유명한 장면에서 따온 "파란 약과 빨간 약 중에 고를 수 있다. 그런데 파란약이 떨어졌다"이다. 영화에서 주인공 네오에게 주어지는 두 색깔의 약은 거짓의 가상 세계에 남을지, 현실에 눈을 뜰지 선택을 나타낸다.

소셜미디어에 사용된 원시적 AI가 사회 양극화 심화, 정신건강 문제, 민주주의 혼란 등을 초래한 것을 고려할 때 훨씬 강력한 거대 언어모델 AI는 그보다 큰 부작용을 낳을 수 있다는 우려도 제기된다.

필자들은 AI가 암 퇴치, 신약 발견, 기후·에너지 위기 해법 개발 등에 도움을 줄 잠재력이 있지만 문명의 기반이 무너진다면 AI의 혜택이 아무리 커도 소용이 없다고 지적했다.

또 신속하게 움직이지 않으면 서방이 중국에 패할 수 있지 않으냐는 의문에 대해 '아니오'(No)라며 오히려 통제되지 않는 AI가 신과 같은 힘을 무책임하게 휘두르는 것이 중국에 패하는 이유가 될 수 있다고 말했다.

필자들은 또 민주주의 대화이고 대화는 언어에 의존하는데 언어 자체가 해킹당하면 대화가 무너지고 민주주의는 유지될 수 없다며 정치, 경제, 일상생활이 아직은 AI에 의존하지 않는 지금이 AI에 대해 고민해야 할 때라고 제안했다.

이들은 AI의 뛰어난 능력이 상응하는 책임·통제와 조화를 이룰 때 우리는 그 혜택을 실현할 수 있으며 이를 위한 첫걸음은 AI가 인간을 장악하기 전에 인간이 AI를 장악할 수 있게 시간을 버는 것이라며 세계 지도자들에게 AI 위험성에 대한 대응에 당장 나서야 한다고 촉구했다.

scitech@yna.co.kr

이주영(scitech@yna.co.kr)

- dc official App

고정닉 1

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2858	설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
3892722	공지	신고게 ｡° ૮₍°´ᯅ`°₎ა °｡ [15]	*제4제국순두부장관*	24.04.15	14622	13
3716707	공지	다중계정 갱차자 식별코드 리스트 ｡° ૮₍°´ᯅ`°₎ა °｡	*제4제국순두부장관*	23.11.25	21399	116
3764489	공지	근데 임시금지 조항 레퍼 포함은 된다고 하니까 눈치껏 행동좀 [2]	*KC-46A*	24.01.06	2186	12
3545695	공지	공지 20240402	*토오오오오카*	23.08.27	16780	191
3492862	공지	임시공지 ( AI 이미지 관련 )	*CAT:*	23.07.27	18390	226
3478731	공지	임시 금지 목록	*토오오오오카*	23.07.20	13408	213
2923975	공지	군갤 고정글 모음	*군갤공지*	22.09.26	20890	209
1860311	공지	천안함은 명백한 북괴 소행입니다 [59]	*SSM700KA1*	21.06.07	101136	2203
3920560	💥우크 💥우크라	우크라 참모부, 24.05.11 오전6시 전황보고	말차라떼의여유	06:15	2	0
3920559	💥우크 💥우크라	우크라 참모부, 24.05.10 오후6시 전황보고	말차라떼의여유	06:13	2	0
3920558	❗정보	한국과 미국의 하나의 중국 인정은 조건이 있음	ㅇㅇ(115.140)	06:12	15	0
3920557	💥우크 💥우크라	러시아 국방부, 24.05.11 전황보고 [1]	말차라떼의여유	06:11	9	0
3920556	💥우크 💥우크라	러시아 국방부, 24.05.05~24.05.10 전황요약	말차라떼의여유	06:08	14	0
3920554	일반	진짜 병력자원 고갈은 답이없네 우크라이나 결국 물자나 장비 무기는온다해도	ㅇㅇ(220.120)	06:04	35	0
3920553	일반	2대전때 화염방사병들 어케운용됏는지 아는사람	ㅇㅇ	05:50	31	0
3920552	일반	주딱있나요	ㅇㅇ	05:41	37	0
3920551	일반	훈련이 진짜 중요한듯	ㅇㅇ(123.213)	05:20	56	0
3920550	일반	독일 재군비라...	ㅇㅇ	05:05	45	0
3920548	일반	이지스함이나 준이지스함급은 최소 7천톤정도 되야하나	wwe008	04:38	48	0
3920547	일반	북한은 지도자 옆에 왜 항상 군인들이 따라다니냐? [1]	네골	04:31	86	0
3920546	일반	생각해보니까 값싼 무기로 값싼 무기 조지는 게 존나 중요해지겠네	wwe008	04:30	66	0
3920545	일반	영국 육군 화력정도면 ㅅㅌㅊ인가?	ㅇㅇ	04:25	53	0
3920544	일반	우리네는 퇴역 팬텀으로 무인기화 해서 날으는 디코이 머시기는 안함? [1]	wwe008	04:25	51	0
3920543	일반	ㄱㅇㄱ)모택동의 인민 학살 수치를 범죄 형량으로 치면 [1]	네골	04:23	60	0
3920542	일반	소신발언	롤빵	04:23	61	1
3920538	일반	여행금지 소말릴란드 지역은 풀면 안되나 [3]	ㅇㅇ(219.255)	03:44	118	0
3920537	일반	역설계도 역량이 있고 기술이 있어야 하지 [1]	ㅇㅇ	03:38	201	1
3920536	일반	인디에게 보라매 완성체 한개줘도 기술 습득이 어려울거라고 봄 [5]	[숲튽훈]	03:31	224	1
3920535	일반	일단 이겨야겠지만 우크라는 냉정하게 이겨도 힘들것 같긴 함 [1]	ㅇㅇ(1.233)	03:31	143	1
3920534	일반	김정은이 국방(미사일)에 몰빵하는 이유가 뭐야? [10]	ㅇㅇㅇ	03:29	164	0
3920533	일반	KF-21 랜딩기어 위치 바뀌면 측면 내부무장창 사용가능하지 않음? [6]	ㅇㅇ(121.132)	03:13	263	0
3920532	일반	경미한 성능 개량과 현존능력극대화사업 간의 차이가 뭐임? [1]	ㅇㅇ	03:05	64	0
3920528	📺미주	베네수엘라, 미국 전투기의 가이아나 상공 비행 비난	220.76고정	02:57	77	1
3920527	❗정보	F-22와 F-35 내부무장고 단면형상 [4]	xwing	02:57	765	12
3920526	일반	우크라이나 얘들도 나름 소련식 도시개발이자너 [5]	Crack08	02:55	207	2
3920525	일반	델타익 KFX 나올때 까지 숨 참는다 [2]	spin	02:52	175	0
3920524	일반	난 한일동맹이 보고싶은데 [6]	ㅇㅇ(118.219)	02:50	239	4
3920523	📺미주	1914년의 '미국의 멕시코 침공'과 미국의 잔인한 역사 [1]	220.76고정	02:49	135	2
3920522	일반	"그“ 시간이 다가온다 [2]	쌉쌉s	02:47	248	3
3920521	일반	암만 생각해도 우리군 예산 부족하다고 징징댈꺼면 [4]	ㅇㅇ(222.238)	02:45	127	1
3920520	일반	우린 한국전쟁 끝나고 보니까 건설 능력이 멸종했잖아 [10]	ㅇㅇ	02:38	304	0
3920519	일반	우크라이나는 죽냐 사냐가 문제지 살면 밥 걱정은 적음 [10]	Crack08	02:35	336	6
3920517	📺뉴스	중립국 버린 스웨덴, 군비 증강 속도전…"GDP 2.6% 국방비로"	ㅇㅇ	02:28	142	2
3920516	일반	f-35는 위쪽보단 밑이 더 멋있는것 같음 [2]	jason3067	02:27	234	0
3920513	일반	머한에서도 오로라 보고싶음? [2]	ㅇㅇ	02:25	248	3
3920511	📺뉴스	시진핑 부인, 軍 인사권 틀어쥐었나... 사진에 노출된 그녀 직책은	220.76고정	02:24	229	1
3920510	일반	사실상 우크는 이겨도 나라 끝난거같은데 [12]	ㅇㅇ(221.167)	02:23	378	4
3920508	일반	2차대전 일본 항모나 전함 보면 매연 장난아니던데 [6]	ㅇㅇ	02:18	158	0
3920507	📺미주	트럼프는 이미 북미에 불법 이민자들을 위한 강제 수용소 건설을 고려 [6]	220.76고정	02:16	197	2
3920506	일반	f-35 스텔스 질문 [15]	ㄱㅂ.	02:15	174	0