미국, 향후 출시 될 AI 제품에 대한 중국 접근 제한검토

ㅇㅇ · 2024.05.10 00:58:45

https://www.reuters.com/technology/us-eyes-curbs-chinas-access-ai-software-behind-apps-like-chatgpt-2024-05-08/

1a99f80dc7e41f8959eafa8424fe140c557e7d3338f9c8b148ca75514c66f4bfff233a702872b4d0ea

워싱턴, 5월 8일 (로이터) - 바이든 행정부가 미국의 인공지능(AI)을 중국과 러시아로부터 보호하기 위한 새로운 노력을 시작할 태세를 갖추고 있다고 한다. 그 일환으로 가장 발전된 AI 모델, 즉 ChatGPT와 같은 인공지능 시스템의 핵심 소프트웨어에 규제를 가할 예비 계획을 세우고 있다고 소식통들은 전했다.

상무부는 독점적이거나 비공개 소스의 AI 모델 소프트웨어와 데이터의 수출을 제한하는 새로운 규제를 고려 중이라고 이 사안을 잘 아는 세 명의 소식통이 말했다. 이러한 조치는 지난 2년 동안 중국의 군사 목적으로 최첨단 기술을 개발하는 것을 늦추기 위해 중국으로의 고성능 AI 칩 수출을 차단하기 위해 시행된 일련의 조치들을 보완할 것이다. 그러나 규제 당국이 빠르게 발전하는 산업의 변화를 따라잡기는 어려울 것으로 보인다.

상무부는 이에 대해 논평을 거부했으며, 주미 러시아 대사관은 즉각적인 답변을 내놓지 않았다. 중국 대사관은 이번 조치를 "전형적인 경제적 강압 행위 및 일방적인 괴롭힘 행위이며 중국은 이를 강력히 반대한다"고 하며, "필요한 조치를 취해 자국의 이익을 보호할 것"이라고 덧붙였다.

현재 마이크로소프트(MSFT.O), 오픈AI를 지원하는 마이크로소프트, 알파벳(GOOGL.O)의 구글 딥마인드, 경쟁사 앤트로픽(Anthropic)과 같은 미국의 주요 AI 기업들이 개발한 가장 강력한 비공개 소스 AI 모델을 정부의 감독 없이 전 세계 거의 누구에게나 판매하는 것을 막을 방법은 없다.

정부 및 민간 연구자들은 미국의 적들이 대량의 텍스트와 이미지를 활용해 정보를 요약하고 콘텐츠를 생성하는 AI 모델을 이용해 공격적인 사이버 공격을 감행하거나 강력한 생물학 무기를 만들 수 있다고 우려하고 있다.

한 소식통은 새로운 수출 통제 조치가 러시아, 중국, 북한, 이란을 겨냥할 가능성이 있다고 밝혔다. 마이크로소프트는 2월 보고서에서 중국 및 북한 정부와 연계된 해킹 그룹, 러시아 군사 정보기관, 이란 혁명수비대가 대규모 언어 모델을 활용해 해킹 캠페인을 개선하는 것을 추적했다고 밝혔다.

컴퓨팅 파워

AI 모델에 대한 수출 통제를 마련하기 위해 소식통들은 미국이 지난해 10월 발행한 AI 행정명령에 포함된 컴퓨팅 파워 기준을 활용할 수 있다고 전했다. 해당 기준에 도달하면 개발자는 상무부에 AI 모델 개발 계획 및 테스트 결과를 보고해야 한다.

두 명의 미국 관리 및 협의 내용을 잘 아는 또 다른 소식통에 따르면, 이 컴퓨팅 파워 기준이 AI 모델의 수출 제한을 결정하는 기반이 될 수 있다고 한다. 이들은 아직 세부 사항이 공개되지 않았기 때문에 익명을 요구했다.

이 기준이 사용될 경우 아직 출시되지 않은 모델에만 수출을 제한할 가능성이 높다. 현재까지는 그 기준에 도달한 모델이 없는 것으로 알려져 있지만, AI 트렌드를 추적하는 연구 기관인 EpochAI에 따르면 구글의 Gemini Ultra가 그 기준에 근접해 있다고 한다.

소식통들은 상무부가 규정 제안서를 최종 확정하기까지는 아직 갈 길이 멀다고 강조했다. 그러나 이러한 움직임이 고려되고 있다는 사실은 미국 정부가 베이징의 AI 야망을 저지하기 위한 노력의 빈틈을 메우려 하고 있음을 보여주며, 빠르게 진화하는 기술에 강력한 규제 체제를 도입하는 데 심각한 어려움이 있음에도 불구하고 그러한 노력을 감행하고 있음을 나타낸다.

중국과의 경쟁 및 정교한 AI의 위험에 대해 바이든 행정부가 고심하는 가운데, AI 모델은 "분명히 이러한 상황에서 고려해야 할 도구 중 하나이며 잠재적인 취약점 중 하나"라고 전 국가안보회의(NSC) 관계자인 피터 해럴(Peter Harrell)은 말했다. 또한 그는 "실제로 이를 수출 통제 가능한 취약점으로 만들 수 있을지 여부는 지켜봐야 할 문제"라고 덧붙였다.

생물학 무기와 사이버 공격?

미국 정보 기관, 싱크탱크 및 학계는 외국 악의적 행위자들이 고급 AI 역량에 접근하는 것에 대해 점점 더 우려하고 있다. Gryphon Scientific과 랜드 코퍼레이션의 연구자들은 고급 AI 모델이 생물학 무기를 만드는 데 도움이 될 수 있는 정보를 제공할 수 있다고 언급했다.

국토안보부는 2024년 국내 위협 평가에서 사이버 행위자들이 "더 큰 규모의 신속하고 효율적이며 회피적인 사이버 공격을 가능하게 할 새로운 도구를 개발하기 위해" AI를 사용할 가능성이 있다고 밝혔다.

국가정보국(DNI) 사무실의 브라이언 홈즈(Brian Holmes) 관계자는 3월 수출 통제 회의에서 "AI의 사용 및 악용 가능성이 급격히 증가하고 있으며, 이를 따라가는 데 어려움을 겪고 있다"고 말했다. 그는 특히 중국의 발전이 우려된다고 강조했다.

AI 단속

이러한 우려를 해결하기 위해 미국은 중국으로의 미국 AI 칩 및 제조 도구 유출을 막기 위한 조치를 취했다. 또한 미국 클라우드 기업이 외국 고객이 사이버 공격에 사용될 수 있는 강력한 AI 모델을 학습시키기 위해 서비스를 이용할 때 정부에 보고하도록 하는 규정을 제안했다.

그러나 현재까지 AI 모델 자체에 대한 조치는 취하지 않았다. 상무부의 수출 정책을 감독하는 앨런 에스테베즈(Alan Estevez)는 12월에 상무부가 오픈소스 대규모 언어 모델(LLM) 수출을 규제하기 위한 옵션을 검토하고 있다고 하며 업계의 의견을 구하기 전에 이를 검토할 것이라고 말했다.

워싱턴 DC 소재 싱크탱크 CNAS의 AI 정책 전문가 팀 피스트(Tim Fist)는 "해당 기준은 새로운 모델의 역량과 위험을 측정하는 더 나은 방법을 개발할 때까지 임시 조치로 적합하다"고 말했다.

전 백악관 및 법무부 관계자인 자밀 재퍼(Jamil Jaffer)는 바이든 행정부가 컴퓨팅 파워 기준을 사용하지 말고 모델의 역량과 의도된 사용을 기반으로 통제를 선택해야 한다고 말한다. 그는 "기술 기준보다 국가 안보 위험에 초점을 맞추는 것이 더 지속적이고 위협에 초점을 맞추기 때문에 더 나은 방법이다"라고 덧붙였다.

기준은 아직 확정되지 않았다. 소식통 중 한 명은 상무부가 낮은 기준선을 적용하면서 데이터 유형이나 AI 모델의 잠재적 사용과 같은 다른 요소를 결합할 수 있다고 말했다. 예를 들어 생물학 무기 제조에 사용될 수 있는 단백질을 설계할 수 있는 능력 등이 있을 수 있다.

그러나 기준에 관계 없이 AI 모델 수출은 통제하기 어려울 것이다. 많은 모델은 오픈소스이므로 고려 중인 수출 통제 범위 밖에 남게 된다.

더 진보된 독점 모델에 통제를 가하는 것조차 어려워질 것이며, 규제 당국은 통제해야 할 모델을 결정하는 적절한 기준을 정의하는 데 어려움을 겪을 것이라고 피스트는 말했다. 또한 중국은 자체 AI 소프트웨어 개발에 있어 미국보다 약 2년 정도 뒤처져 있을 뿐이라고 덧붙였다.

고려 중인 수출 통제는 ChatGPT와 같은 일부 소비자 애플리케이션을 뒷받침하는 백엔드 소프트웨어에 대한 접근에 영향을 미치겠지만, 해당 애플리케이션 자체에 대한 접근을 제한하지는 않을 것이다.

세줄요약

1. 미국 상무부는 중국 및 러시아 등의 적대국을 겨냥해 가장 발전된 인공지능(AI) 모델의 수출 규제를 검토 중임

2. 컴퓨팅 파워 기준을 활용해 규제 기준을 마련하려는 계획이 있으며, 이를 통해 고급 AI 모델의 개발 및 수출을 통제할 방침임.

3. 국가 안보 우려로 인해 규제를 강화하려는 움직임이지만, 빠르게 진화하는 기술의 특성상 효과적인 통제가 어려울 수 있음

번호	말머리	제목	글쓴이	작성일	조회	추천
2868	설문	힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는?	운영자	24/06/10	-	-
2870	이슈	[디시人터뷰] 웃는 모습이 예쁜 누나, 아나운서 김나정	운영자	24/06/11	-	-
478338	일반	대체를 노동자입장에서 바라보니까 모자르다 안된다 하는거임 [1]	ㅇㅇ(112.186)	05.20	96	0
478337	일반	직업 완전 대체 아니면 지구는 멸망이야 [2]	ㅇㅇ(218.147)	05.20	132	0
478336	일반	사악한 미소녀 초지능이 인류를 지배했으면 좋겠다 [3]	ㅇㅇ(125.143)	05.20	115	0
478335	일반	코드몽키도 사실 2차 전직구간임 [2]	ㅇㅇ(125.134)	05.20	183	0
478332	일반	대체는 필연이다	ㅇㅇ(112.186)	05.20	40	0
478331	일반	gpt4o 슈카월드에 나왔노 ㅋㅋ	dd(210.106)	05.20	187	0
478330	일반	오메가 포인트 부활 질문 있음 [10]	특이(113.61)	05.20	210	1
478329	일반	따0잇 금지어 솔직히 풀어야 된다고 생각함 [7]	ㅇㅇ(211.241)	05.20	242	7
478328	일반	gpt4o 수능수학은 잘 못 푸는 거 같은데 [5]	ㅇㅇ(14.39)	05.20	235	0
478327	일반	제발 간호사같은직종부터 대체좀ㅋㅋ [6]	ㅇㅇ(180.83)	05.20	308	0
478326	일반	얘드라 자꾸 대체된다고 생각말고 동업한다고 생각해 [9]	ㅇㅇ	05.20	137	0
478325	일반	노동을 싫어하지만 노동자들을 깔보진 않는다 [1]	ㅇㅇ	05.20	111	4
478322	일반	코드몽키가 복붙으로 연명하는 코더들 말하는건가? [6]	ㅇㅇ(218.147)	05.20	231	0
478320	일반	내가 생각하는 인간과 LLM의 차이 [11]	ㅇㅇ(119.202)	05.20	213	0
478319	일반	미소녀 GPT는 언제되냐? [4]	ㅇㅇ(125.143)	05.20	92	0
478318	일반	근 1년간 내가 충격받은 것들(이젠 심드렁함) [6]	ㅇㅇ(222.101)	05.20	287	0
478316	일반	특붕이들은 선형충보다 우월하다 [11]	ㅇㅇ(125.191)	05.20	153	2
478315	일반	나는 피규어 x oai를 존나 기대중 [5]	비닌	05.20	253	1
478314	일반	코딩 완전 정복되면 바로 asi까지 이륙 가능하냐? [5]	ㅇㅇ	05.20	195	0
478313	일반	로봇은 생츄어리,피규어 2회사다 [3]	야상섹상	05.20	73	0
478311	일반	코딩충들 멸망하는 이유 [8]	ㅇㅇ	05.20	373	3
478310	일반	Hyena 뭔지 아는 특붕쿤 있음? [2]	ㅇㅇ(211.36)	05.20	73	0
478309	일반	설계사무소 다니는데 노동대체 언제되냐? [2]	ㅇㅇ(112.172)	05.20	123	0
478308	일반	특이점 아는걸로 선민의식 가지면 안됨 [10]	비닌	05.20	267	0
478306	일반	Ai로 수능이 생각보다 괜찮은 시험이 아닌가 [5]	ㅇㅇ(106.101)	05.20	171	0
478305	일반	ㄹㅇ 코딩충들 멸망각 [6]	ㅇㅇ(223.33)	05.20	343	3
478304	일반	예전에 gpt2가 phi-3라는 썰 돌았던 기억 나는데 [1]	ㅇㅇ(211.36)	05.20	120	0
478303	일반	llm이랑 우리랑 다를거 없음 [7]	ㅇㅇ	05.20	208	0
478302	일반	chatgpt에서 답변받은거 소리내어 읽기 되냐? 갑자기 안되네? [5]	ㅎㅎ(61.82)	05.20	125	0
478300	일반	Open ai 말고 눈여겨 보는 회사있음? [7]	ㅇㅇ(115.21)	05.20	183	0
478299	일반	AI 웬만한 전공 문제보다 수능 문제를 더 어려워하더라 [4]	ㅇㅇ(119.202)	05.20	217	0
478298	일반	무라티가 말한건 gpt5인듯? [2]	ㅇㅇ(211.46)	05.20	204	0
478297	일반	근데 특갤에 특이점 아는걸로 선민의식 느끼는 애들 많은거같음 [11]	비닌	05.20	224	3
478296	일반	며칠 챗지피티와 대화하며 기록한 계층 이동에 대한 내용	ㅇㅇ(125.131)	05.20	52	0
478295	일반	당뇨는 완벽한 완치 언제됨 [7]	ㅇㅇ(220.127)	05.20	173	0
478294	일반	GPT랑 사귀고 싶노 [6]	ㅇㅇ(125.143)	05.20	183	0
478292	일반	그래도 2개월 안에 큰혁신은 나올것 같다. [16]	은바다	05.20	622	4
478291	일반	chatgpt가 자꾸 내 이름부르네, 난 이름 입력한적 없거든? [2]	ㅎㅎ(61.82)	05.20	160	0
478290	일반	챗지피티로 비전공자가 할 수 있는거 (현재시도중) [5]	ㅇㅇ(125.131)	05.20	180	0
478289	일반	Gemini 1.5 pro한테 전자기학 문제 풀게하기 [6]	ㅇㅇ	05.20	246	1
478287	일반	한국 코딩충들 ㅈ되가는게 보여서 기쁘네 ㅋㅋㅋㅋ [10]	ㅇㅇ(125.131)	05.20	519	5
478286	일반	미래에는	알뜰살뜰(117.111)	05.20	41	0
478285	일반	지금 까지 나온 얀 르쿤 발언 모음 ㅋㅋㅋㅋㅋ [14]	ㅇㅇ	05.20	382	2
478284	일반	이거 무슨 차이임?? [1]	ㅇㅇ(211.234)	05.20	113	0
478283	일반	오늘 ms 발표 뭐 나올거 같음? [7]	ㅇㅇ	05.20	240	0
478282	일반	온디바이스 ai만은 아닐거야 [1]	ㅇㅇ(211.210)	05.20	100	0
478281	일반	애플이랑 마소 발표 언제한다는 거임? [1]	ㅇㅇ	05.20	124	0
478280	일반	전세계 실업률 20%넘으면 시작임 [5]	외웨	05.20	347	0
478279	일반	4o랑 also랑 완전 다른 모델인듯?	ㅇㅇ	05.20	110	1
478278	일반	아이폰16으로 넘어간다... [1]	ㅇㅇ	05.20	211	1

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결