유발 하라리 "AI가 인류 장악하기 전 인간이 AI 통제해야"

군사 갤러리
마이너

군사갤러리는 군사에 대한 건설적인 토의가 이루어지는 것을 목표로 하는 갤러리입니다.

매니저

토오오오오카(hhhmmm98)

부매니저

연평도당직사관(d2l2sw6y…) 다랑모실들이(berehyni…) G8KR(andrea08…) 어린이회원(hanyh222…) 제4제국국밥부장…(lmumunic…) ㅇㅇ(gungelco…) Crack08(crack088) ㅇㅇ(pnq8ljtr…) 제4제국순두부장…(tumunich)

개설일

2017-08-02

[📺뉴스] 유발 하라리 "AI가 인류 장악하기 전 인간이 AI 통제해야"앱에서 작성

ㅇㅇ(121.182) 2023.03.25 23:41:49

조회 432 추천 1 댓글 3

NYT 기고…"언어모델 AI, 문명 해킹·조작 가능…도입 늦추고 대비해야"

(서울=연합뉴스) 이주영 기자 = 역사학자이자 세계적 베스트셀러 작가인 유발 하라리가 'GPT-4' 같은 인공지능(AI)의 위험성을 지적하며 AI 사용을 늦추면서 이에 대한 통제 방법을 찾아야 한다고 주장했다.

하라리와 인도적 기술 센터 공동설립자인 트리스탄 해리스와 아자 라스킨은 24일(현지시간) 뉴욕타임스(NYT) 공동기고문에서 "AI의 언어 습득은 AI가 문명의 운영 체제를 해킹하고 조작할 수 있게 됐음을 뜻한다"며 이같이 밝혔다.

이들은 GPT-4 이상 성능의 AI 시스템을 지나치게 빠르게 받아들여서는 안 된다며 AI 수용 속도를 기술 기업들의 시장 장악 경쟁에 맡기지 말고 인류가 AI를 잘 다룰 수 있는 능력을 갖추는 것에 맞춰야 한다고 강조했다.

필자들은 AI라는 유령이 20세기 중반부터 떠돌았지만 최근까지도 공상과학에 등장하는 것과 같은 먼 미래 일로 남았다면서 AI가 실질적인 위험으로 떠오르게 된 계기는 바로 GPT-4 같은 언어모델이라고 진단했다.

언어는 인류 문화의 운영 체제로서 신화와 법, 신과 돈, 예술과 과학, 우정과 국가, 컴퓨터 코드가 언어에서 탄생했는데, AI가 언어를 습득한 것은 인류 문명의 마스터키를 손에 넣은 것과 같다는 것이다.

현재 수준의 AI에서도 체스 같은 게임에서 인간은 컴퓨터를 이길 수 없는데, 예술, 정치, 종교에서도 이런 일이 벌어진다면 어떻게 될까?

필자들은 AI는 수천년 인류 문화를 빠르게 먹어 치우고 소화해 새 문화 유물을 쏟아낼 수 있고 이는 학교 에세이뿐 아니라 정치연설, 종교 등에도 해당한다며 2028년 미국 대선은 더는 사람이 주도하지 않는 선거가 될 수도 있다고 지적했다.

다른 사람의 책, 예술품, 종교 등을 통해 현실을 간접 경험해온 인류가 인간이 아닌 AI가 만든 콘텐츠에 둘러싸여 살아갈 경우 발생할 상황도 걱정거리다.

영화 '터미네이터'나 '매트릭스'에서처럼 AI가 로봇을 보내 인간을 공격하거나 인간 두뇌를 컴퓨터 네트워크에 연결해 가두고 통제하는 것 같은 행위가 AI가 인간을 환상 속에 가두는 방식으로 가능해질 수도 있다는 것이다.

필자들은 AI가 만든 환상의 장막이 인류 전체에 드리워지고 우리는 그 장막을 걷어낼 수 없고 심지어 장막이 있다는 사실조차 깨닫지 못할 수도 있다고 경고했다.

이 기고문의 제목도 '매트릭스'의 유명한 장면에서 따온 "파란 약과 빨간 약 중에 고를 수 있다. 그런데 파란약이 떨어졌다"이다. 영화에서 주인공 네오에게 주어지는 두 색깔의 약은 거짓의 가상 세계에 남을지, 현실에 눈을 뜰지 선택을 나타낸다.

소셜미디어에 사용된 원시적 AI가 사회 양극화 심화, 정신건강 문제, 민주주의 혼란 등을 초래한 것을 고려할 때 훨씬 강력한 거대 언어모델 AI는 그보다 큰 부작용을 낳을 수 있다는 우려도 제기된다.

필자들은 AI가 암 퇴치, 신약 발견, 기후·에너지 위기 해법 개발 등에 도움을 줄 잠재력이 있지만 문명의 기반이 무너진다면 AI의 혜택이 아무리 커도 소용이 없다고 지적했다.

또 신속하게 움직이지 않으면 서방이 중국에 패할 수 있지 않으냐는 의문에 대해 '아니오'(No)라며 오히려 통제되지 않는 AI가 신과 같은 힘을 무책임하게 휘두르는 것이 중국에 패하는 이유가 될 수 있다고 말했다.

필자들은 또 민주주의 대화이고 대화는 언어에 의존하는데 언어 자체가 해킹당하면 대화가 무너지고 민주주의는 유지될 수 없다며 정치, 경제, 일상생활이 아직은 AI에 의존하지 않는 지금이 AI에 대해 고민해야 할 때라고 제안했다.

이들은 AI의 뛰어난 능력이 상응하는 책임·통제와 조화를 이룰 때 우리는 그 혜택을 실현할 수 있으며 이를 위한 첫걸음은 AI가 인간을 장악하기 전에 인간이 AI를 장악할 수 있게 시간을 버는 것이라며 세계 지도자들에게 AI 위험성에 대한 대응에 당장 나서야 한다고 촉구했다.

scitech@yna.co.kr

이주영(scitech@yna.co.kr)

- dc official App

고정닉 1

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2860	설문	경제관념 부족해서 돈 막 쓸 것 같은 스타는?	운영자	24/05/13	-	-
3922609	일반	글록이 방아쇠만 안당기면 절대 안나가서 안전하단거임? [1]	ㅇㅇ(211.38)	02:09	120	0
3922608	📺뉴스	터키에 하마스 대원 1천명 입원중 [1]	COM	02:08	472	4
3922607	일반	kf21 블록2부터 설계가 변경될가능성은 제로야? [4]	ㅇㅇ	02:03	338	0
3922606	일반	나폴레옹 전쟁 연재하는 나시카님 진짜 대단하시네 ㄷㄷㄷㄷㄷ [5]	ㅇㅇ	02:00	219	0
3922605	일반	f35의 정확한 가격이 얼마임? [3]	ㅇㅇ	01:58	187	0
3922604	일반	전쟁은 인간의 본능이고 필요악인듯 [1]	ㅇㅇ(116.33)	01:50	129	0
3922603	일반	군잘알 있냐? 군대에서 참모직 중 다음 차이점이 무엇이냐? [1]	빡빡긁어	01:46	126	0
3922599	일반	러시아 비우호국 리스트에 [1]	ㅇㅇ(118.36)	01:17	402	0
3922598	일반	20년 내에 통일 vs 20년 내에 한화(또는 롯데) 한국시리즈 우승 [2]	Fire.	01:16	186	0
3922597	일반	통일 15년내에는 할 것 같지 않음? [10]	ㅇㅇ(14.39)	01:15	494	0
3922596	일반	과거 전투기보다 항속거리가 왜 낮아졌음? [10]	ㅇㅇ(110.14)	01:10	438	0
3922595	일반	근데 한반도에서 전쟁터질일은 없을듯 [6]	ㅇㅇ(110.10)	01:02	601	2
3922594	일반	북부 프랑스 외에 많은 지역에선 기사가 보병으로 싸우는것을 선호했다라..	ㅇㅇ(222.110)	01:01	146	0
3922593	일반	전근대 중국사에서 화북 뺏기면 노답이라 봐야 함 [7]	H-Station	01:00	398	0
3922591	일반	중세 투석기 위력은 Gau-8급 나옴? [9]	ㅇㅇ	00:56	325	0
3922590	일반	우러전보니 우리나라 헬기전력들은 진짜 북괴 맨패즈 조심해야할 듯 [4]	Fire.	00:53	378	0
3922589	일반	키이우 6주 뒤에 소식들어야지	만력제_mk.2	00:49	138	0
3922588	일반	K LAW 개발 진척이 좀 있음?	mk14	00:48	152	0
3922587	일반	중국은 중원을 차지해도 만주쪽에서 털리더라 [8]	ㅇㅇ	00:42	402	0
3922586	💥우크 💥우크라	24년 5월 13일자 영국 국방부의 우크라이나 전황 업데이트.	pharocustos	00:41	265	3
3922584	일반	키이우는 방어선 구축되어 있냐? [2]	백억좌	00:34	297	0
3922583	일반	예전엔 한은 창고에 금이 있었던 적도 있음 [2]	H-Station	00:34	350	0
3922582	일반	북괴가 대한민국 이러는건 아직 익숙치가 않다 [6]	Су-47	00:34	532	2
3922581	일반	분명한건 우크라 전쟁에서 러시아가 계속 우세해지면	jason3067	00:31	211	3
3922580	일반	중국은 갈라놔도 꼭 통일시키는 놈 나오는게 신기하던데 [7]	ISAF	00:30	397	1
3922579	일반	우크라고 러시아고 [2]	ㅇㅇ	00:29	672	20
3922578	일반	그냥 객관적인 제3자면 양쪽 모두 몰입이 안 됨 [3]	ㅇㅇ(180.69)	00:28	218	1
3922561	📢공지	유동/깡계 이미지 주의보 발령 [7]	ㅇㅇ	00:08	765	18
3922577	일반	군망호 방송탄거 보면볼수록 신기하네 ㅋㅋㅋㅋ [2]	탈레반	00:26	399	4
3922513	📢공지	러우갤 침공 확인했으니 [17]	ㅇㅇ	05.13	2463	40
3922576	일반	이란 핵실험 없이 핵 있음 = 핵을 누구한테서 받음 [1]	리비안	00:25	183	0
3922575	일반	성능좋은 파딱돔인가 [1]	NMH-523	00:25	85	2
3922574	일반	LAH MUM-T 우째 됨? [2]	ㅇㅇ(126.76)	00:25	223	1
3922573	일반	거 얼마전에 프랑스 검술 대 독일 검술인가? [5]	ㅇㅇ(222.110)	00:23	163	0
3922572	일반	국군 입장에선 패튼 대체가 쉽지 않음 [6]	H-Station	00:22	278	1
3922571	일반	지랄났네 [5]	Crack08	00:21	1354	13
3922570	❗정보	신형 북괴 방사포 발사대차 원형 모델 [5]	Су-47	00:18	417	4
3922568	일반	아직 러시아는 100만대군도 투입 안한거 아니냐 [7]	ㅇㅇ(125.132)	00:16	308	2
3922567	일반	연장복무하면 중대장 가능? [1]	ㅇㅇ(119.71)	00:14	82	0
3922564	일반	볼챈스크 민간인 전원 대피 목표	돔베기	00:13	132	1
3922563	일반	그러고보면 여기애들은 일본에 환상도 심함 [7]	ㅇㅇ(121.148)	00:11	380	3
3922562	일반	분위기가 어째 곧 할머니 뵐 수도 있을것 같네요 [1]	깡통계정	00:10	212	0
3922559	📺뉴스	영국, 홍콩 정보기관 협력 혐의로 3명 기소…11명 체포후	4321_	00:06	131	4
3922558	일반	우크라, 이스라엘에 이입하는게 아니라 미국에 이입하는거임 [1]	ㅇㅇ(121.148)	00:06	163	2
3922557	일반	의외로 대한민국 국군이 보유하지 않은 것.jpg	크레쉬미르	00:06	399	0
3922554	일반	옛날에는 2차대전 독일군이 제일 꼴렸는데 [5]	ㅇㅇ	00:03	166	2
3922553	일반	전투기 조종간 질문좀 [12]	단물초보	05.13	297	0
3922552	일반	우리나라 돌격포 아이디어 [1]	ㅇㅇ(211.206)	05.13	113	0
3922550	일반	하와이로 여행가면 항공모함 볼 수 있냐? [1]	Fire.	05.13	58	0
3922548	일반	씨발 [4]	ㅇㅇ	05.13	361	4