“오웰 ‘1984′는 AI로만 가능… 독재자가 칩 못 갖게 해야”

새로운보수당 갤러리
마이너

정치 떡밥을 굴리는 갤러리 R.I.P. 새로운보수당

매니저

한현사(gltmxhfldk)

부매니저

Highway(tryingto…) Odbdv(okbuddyc…) Ronald.Reagan(kj09987r…) 칸냐(rescar) fasdd(fasdacre) 서부간선도로(myself57…) 크로켓(zmfhzpt2…) 안희정(youcando…) 희망갈매기(janus231…) 키어스타머(option52…)

개설일

2019-12-12

[📰소식] “오웰 ‘1984′는 AI로만 가능… 독재자가 칩 못 갖게 해야”앱에서 작성

정치마갤용계정

2024.05.25 10:31:17

조회 114 추천 4 댓글 1

1ebec223e0dc2bae61abe9e74683706d2fa34983d2d7c9b4b3c2c41446088c8bb6dc0604ea6d5ae3d3ceacc2466b161820ec6e57fb123f56929a

제이슨 매서니 미 랜드연구소 회장 겸 최고경영자(CEO)는 미국 첨단 기술 관련 정책 분야에서 최근 몇 년 새 가장 유명해진 ‘스타’다. 2017년 외교 전문지 ‘포린폴리시’는 미 정보고등연구기획국(IARPA) 국장을 지내고 있던 그를 새로운 생각으로 세상을 바꾸는 세계 50대 신사상가(Global Rethinker) 중 한 명으로 꼽았다. 미국의 모든 정보기관을 총괄하는 국가정보국장실(DNI)은 당시 그를 “제임스 본드 영화 속 ‘Q’와 같은 ‘스파이의 과학자’”라고 불렀다. 바이든 행정부 출범 후 백악관에서 첨단 기술 관련 안보 정책을 이끌었던 그를 23일 본지 주최 아시안리더십콘퍼런스(ALC)가 열린 신라호텔에서 만나 인터뷰했다. 그는 “AI 시대 독재를 막기 위해 민주주의 국가들은 중국, 러시아, 북한 같은 나라들이 최첨단 반도체에 접근하는 것을 차단해야 한다”고 했다.

-많은 전문가가 인공지능(AI)의 위험성을 경고하고 있는데 어떻게 보나.

“나의 가장 큰 두려움은 독재자들이 인공지능에 기반한 자동 감시 시스템을 통해 개개인을 영원히 감시할 수 있게 되는 것이다. (1949년 출판된 디스토피아 소설) 조지 오웰의 ‘1984′는 AI를 통해서만 가능하다. AI를 이용한 ‘유비쿼터스(ubiquitous·언제 어디서나) 감시’는 매우 위험한 기술이기 때문에 독재자들이 이 기술을 선도하지 않도록 민주주의 국가들이 힘을 합쳐야만 한다.”

-북한이 최근 중국의 감시 기술을 수입하고 있다고 들었는데 관련이 있나.

“물론이다. 중국 신장 지역에는 미국 엔비디아와 인텔 반도체로 건설된 데이터센터가 있다. 이곳은 세계에서 가장 심한 감시가 이뤄지는 장소로, 개개인의 행동이 실시간으로 탐지되고 있다. 당신이 (신장 내 어딘가를) 걸어가면 우선 안면 인식을 해서 프레임을 따라 추적한다. 당신이 어떤 물체를 집어들면 그것이 무엇인지, 누군가에게 전달되는지, 그 물체로 무엇을 하는지 분석한다. 이런 종류의 감시를 하면 모든 사람이 누구와 이야기하는지 그 네트워크를 지도화해서 사람들 간의 관계에 대한 사회적 그래프를 그릴 수 있다. 이것이 바로 AI 시대 독재의 모습이다. 이런 데이터센터가 건설됐는데도 미국 회사들은 (그 사실을 모르고) 계속 반도체를 팔았다. 그렇기 때문에 민주주의 국가들이 이런 기술의 공유에 주의해야 한다.”

-AI 기술이 자유민주주의에 위협이 된다는 뜻인가.

“랜드연구소 내에서 그에 관한 토론을 한 적 있다. 연구자들은 대체로 AI가 독재자에게 비대칭적으로 유리하다고 생각한다. AI는 개개인에 대한 자동 감시와 정보의 통제를 매우 쉽게 해준다. (AI를 이용하면) 대규모 선전을 매우 빠르게 할 수 있고, 정권에 대해 이뤄지고 있는 대화를 모니터링해서 정권을 위협할 만한 내러티브가 있다면 즉각 대처할 수 있다. 정보 환경을 완전히 통제할 수 있다.”

-이를 어떻게 막아야 하나.

“민주주의의 장점이라면 AI를 더 빠르게, 통제 가능한 방식으로 개발할 수 있다는 것이다. 우선 민주주의 국가들은 세계적 인재를 끌어모을 수 있다. 중국의 우수한 컴퓨터 과학자 대부분은 민주주의 국가로 이민 가고 싶어 한다. 만약 우리가 강력한 이민 시스템을 갖춘다면 독재국가들의 인재 유출을 유발할 수 있다. 또 하나의 강점은 우리가 반도체 공급망에 대한 레버리지를 갖고 있다는 점이다. (반도체와 생산 장비 수출 통제에 협조해 준) 한국, 대만, 네덜란드, 일본 등 덕분에 우리는 중요한 통제 수단을 갖게 됐다.”

-글로벌 AI 거버넌스에 대한 논의도 활발한데 AI를 어떻게 통제해야 한다고 보나.

“우선 AI 시스템을 출시하기 전에 충분한 시험을 해야 한다. 이것이 상식 같지만 실제로는 AI 시스템이 어떻게 재앙적인 방법으로 잘못 사용될 수 있는지 충분히 평가하지 않는 회사들이 있다. 기업들이 다른 기술 제품을 출시하기 전에 충분히 평가하듯이 AI도 그렇게 해야 한다. 또 문제가 발생하면 보고가 이뤄져야 한다. 항공 사고나 약물 부작용에 대한 보고가 이뤄지듯 AI 시스템의 실패 사례에 대한 데이터베이스도 구축돼야 한다.”

-국가가 해야 할 일은 어떤 것이 있나.

“미국의 동맹국들 간에 최첨단 반도체 수출 통제에 대한 합의가 있어야 한다. 이것이 가장 강력한 AI 시스템의 목줄을 쥐는 길이기 때문이다. 중국, 러시아, 북한, 이란 등이 아주 강력한 자동 무기나 사이버 무기를 개발할 것이 우려된다면 이를 막는 제일 좋은 방법은 최첨단 반도체에 대한 접근을 차단하는 것이다.”

-이번에 처음 한국을 방문했는데 어떤 기대를 갖고 있나.

“(랜드가) 지금도 한국 정책 사안을 상당히 다루고 있지만, 한·미 동맹이 너무나도 중요하기 때문에 한국 관련 업무를 더 늘리고 싶다. 지난달 (한·미) 정책 커뮤니티를 잘 아는 오미연 박사(전 존스홉킨스대 국제대학원 한국학 소장)를 랜드의 새 한국 정책 석좌로 임명했다. 여기서 더 많은 일을 하게 되기를 고대하고 있다.”

☞랜드연구소·제이슨 매서니

랜드연구소(RAND Corporation): 미국 정부의 정책 결정에 관련된 연구를 주로 하는 비영리 기관이다. 제2차 세계대전 직후인 1945년 10월 미군이 미래 무기 개발의 장기 계획을 세우기 위해 시작한 ‘프로젝트 랜드’가 그 시초다. 인터넷 개발, 미국 핵 전략 수립 등에 깊숙이 관여했고 현재도 연간 2000건 이상의 연구를 하고 있다.

제이슨 매서니: 2022년 7월 랜드연구소 회장 겸 최고경영자(CEO)로 취임했다. 이에 앞서 백악관 국가안보회의(NSC) 기술·국가안보조정관, 백악관 과학기술정책실 부국장으로 미국의 첨단 기술 안보 정책을 이끌었다. 미 정보 당국의 연구 지원 기관인 국가정보국장실 산하 정보고등연구기획국(IARPA) 국장, 미 인공지능국가안보위원회 위원 등도 역임했다.

https://n.news.naver.com/article/023/0003836344

고정닉 4

원본 첨부파일 1

Screenshot_20240525_102653_SamsungInternet.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2872	설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
4490340	공지	유입 필독) 새로운보수당 갤러리 방문을 환영합니다. [1]	*한현사*	24.06.10	931	14
3278425	공지	⚠+신문고⚠+ [6]	ㅇㅇ(223.38)	22.06.19	83009	68
4230953	공지	새로운보수당 갤러리 관리규정 - 2024.02.13 수정 [21]	*희망22*	24.02.13	10396	13
2724969	공지	정성글 등록신청 사무소 [55]	공지(39.7)	22.03.13	30216	31
4452239	공지	새보갤 갱신 차단자 목록 [7]	*Imperishable*	24.05.17	2787	4
3848304	공지	정치성향 테스트 모음 [3]	*물냉면비빔냉면*	23.04.15	20733	24
4506371	일반	Vflat 이거 성능 좋네	문크_예거	04:59	24	0
4506370	일반	다른 당들은 몰라도 진보당3석은 하	동탄고지	04:58	27	0
4506369	일반	법잘알들이나 사설도박 관련 잘 아는 애들 있냐??	6133	04:49	22	0
4506368	일반	벌써 다음총선 걱정되면	동탄고지	04:28	29	0
4506367	일반	포르자 이런 스킨도 있었네 [1]	ISAF	04:09	35	1
4506366	일반	현실적인 지방선거 예측 (성지)	ㅇㅇ(182.209)	04:07	66	1
4506365	일반	솔직히 이준석 걱정 별로 안됨…	포그포그	03:55	55	0
4506364	일반	롯데 자이언츠 (롯데!)	크로켓	03:43	24	0
4506363	일반	새붕이들 잘자~ [6]	7%못해서	03:22	218	0
4506362	일반	이 놈의 공항은 새벽에 여는 면세점도 하나 없노 [7]	정치마갤용계정	03:19	77	0
4506361	일반	find your dreams come true~ [2]	부제비	03:18	28	0
4506360	일반	한동훈은 양심있으면 대선 나오면 안되는거 아님? [1]	훠훠마라탕	03:16	80	1
4506358	일반	그러고보니 슬슬 [5]	7%못해서	03:07	83	0
4506357	일반	요즘 기사 보면 세계가 힘들다는데 [3]	부제비	03:07	66	0
4506356	일반	미국과 유럽 비교 요샌 이런 영상도 있네 [6]	ㅇㅇ	03:05	92	0
4506355	일반	아니 씨발 브렉시트 병신짓 맞는데 [5]	모스크바의밤	03:04	94	1
4506354	일반	dcgle은 아예 이제 못 쓰는 건가? [4]	한현사	03:03	78	0
4506353	일반	경영학은 거의 미국 학문임	부제비	03:00	53	0
4506351	일반	이재명이 만약 지난 대선 패한 직후 정계은퇴 선언했다면	ㅇㅇ(59.152)	02:56	37	0
4506350	일반	세계 국가(國歌) 중 숨겨진 명곡 [4]	Highway	02:54	71	0
4506347	일반	한동훈이 국힘 후보 되면 추미애도 이길까 말까지	ㅇㅇ(59.152)	02:51	31	0
4506346	일반	국힘 당대표 선거 볼만 하겠네 [1]	주르르	02:48	65	1
4506345	일반	그나마 찢이 세자로 책봉하면 무서운게 김경수인데 [6]	바른	02:48	81	0
4506344	일반	학점 평균 4.0나오면 다음학기에 21학점 들어야지 [3]	개혁보수의꿈은이뤄진다	02:47	66	0
4506343	일반	쉽고 간단하게 잠오게하는 무산소운동	모스크바의밤	02:46	30	0
4506342	일반	거미도 사실 익충으로 분류하죠. [4]	한현사	02:46	69	0
4506340	일반	재매이햄 사법으로 날라가도 세자책봉하듯 다음 주자 책봉할거 같네 ㅋㅋ [4]	ㅇㅇ	02:44	47	0
4506339	일반	한국도 미국처럼 반독점법 만들어서 통신사 못 때려잡나 [1]	대벽	02:44	28	0
4506338	일반	민주당에 진짜 거물은 이재명 하나뿐임 [1]	부제비	02:42	56	0
4506336	일반	a+ 2개 나왔다 [4]	개혁보수의꿈은이뤄진다	02:42	44	0
4506335	일반	민주당은 재매이햄 날라가면 다음 주자 누구있음? [5]	ㅇㅇ	02:38	65	0
4506334	일반	지선가서는 경남 부산도 좀 흔들리지 않을까? [3]	바른	02:38	47	0
4506333	일반	최근 인천시장 매치업 [1]	ㅇㅇ(59.152)	02:37	26	0
4506332	📰소식	러브버그 익충으로 알려지자… ‘좋아요’ 인식 37%로 증가 [9]	7%못해서	02:36	138	4
4506331	일반	공앱 오류 핑계로 자러갈까 했는데 [2]	크로켓	02:36	37	0
4506330	일반	조길형 공천의 가장 큰 적은 이종배임	바른	02:32	62	0
4506329	일반	난 제일 무서운게 국힘이 지선 선방하는거다 [7]	ㅇㅇ(59.152)	02:31	88	0
4506328	일반	김유식 또 직무유기 [2]	크로켓	02:31	47	0
4506327	일반	국힘은 오세훈 대선후보로는 여전히 싫어함? [5]	ㅇㅇ	02:30	80	0
4506325	일반	인천시장은 인물이 ㅈ도 없음 [3]	ㅇㅇ(59.152)	02:27	46	0
4506324	일반	그래도 충북은 국힘이 먹지않을까 생각 [7]	ㅇㅇ(121.130)	02:26	79	0
4506323	일반	강서구 버튜버 캐릭터 리메이크됐던거 아냐 [1]	엔슈릭버스터	02:24	70	0
4506322	일반	옛날에 유행했던 환생지역 고르기 밸런스게임 [6]	Highway	02:24	101	0
4506321	일반	인천시장은 민주당이 안되면 좋겠는데	엔슈릭버스터	02:22	40	1
4506320	일반	버튜버 머통령이 필요한 시대	페도대장재명	02:22	198	0
4506319	일반	지방선거 출구조사 예상 [12]	엔슈릭버스터	02:21	113	2
4506318	일반	동해안 석유발표도 굳이 대통령이 해야했나 싶음 [5]	ㅇㅇ(121.130)	02:18	79	0
4506317	일반	윾 당대표 아니면 한동훈이 되는걸 원함 [7]	바른	02:16	115	0
4506316	일반	윤석열은 그냥 사람 자체가 눈새 아님?	ㅇㅇ(14.52)	02:15	22	0
4506315	일반	진심 폐지해야 하는 제도:판검사 탄핵	ㅇㅇ(203.237)	02:15	26	0