미국, 향후 출시 될 AI 제품에 대한 중국 접근 제한검토

ㅇㅇ · 2024.05.10 00:58:45

https://www.reuters.com/technology/us-eyes-curbs-chinas-access-ai-software-behind-apps-like-chatgpt-2024-05-08/

1a99f80dc7e41f8959eafa8424fe140c557e7d3338f9c8b148ca75514c66f4bfff233a702872b4d0ea

워싱턴, 5월 8일 (로이터) - 바이든 행정부가 미국의 인공지능(AI)을 중국과 러시아로부터 보호하기 위한 새로운 노력을 시작할 태세를 갖추고 있다고 한다. 그 일환으로 가장 발전된 AI 모델, 즉 ChatGPT와 같은 인공지능 시스템의 핵심 소프트웨어에 규제를 가할 예비 계획을 세우고 있다고 소식통들은 전했다.

상무부는 독점적이거나 비공개 소스의 AI 모델 소프트웨어와 데이터의 수출을 제한하는 새로운 규제를 고려 중이라고 이 사안을 잘 아는 세 명의 소식통이 말했다. 이러한 조치는 지난 2년 동안 중국의 군사 목적으로 최첨단 기술을 개발하는 것을 늦추기 위해 중국으로의 고성능 AI 칩 수출을 차단하기 위해 시행된 일련의 조치들을 보완할 것이다. 그러나 규제 당국이 빠르게 발전하는 산업의 변화를 따라잡기는 어려울 것으로 보인다.

상무부는 이에 대해 논평을 거부했으며, 주미 러시아 대사관은 즉각적인 답변을 내놓지 않았다. 중국 대사관은 이번 조치를 "전형적인 경제적 강압 행위 및 일방적인 괴롭힘 행위이며 중국은 이를 강력히 반대한다"고 하며, "필요한 조치를 취해 자국의 이익을 보호할 것"이라고 덧붙였다.

현재 마이크로소프트(MSFT.O), 오픈AI를 지원하는 마이크로소프트, 알파벳(GOOGL.O)의 구글 딥마인드, 경쟁사 앤트로픽(Anthropic)과 같은 미국의 주요 AI 기업들이 개발한 가장 강력한 비공개 소스 AI 모델을 정부의 감독 없이 전 세계 거의 누구에게나 판매하는 것을 막을 방법은 없다.

정부 및 민간 연구자들은 미국의 적들이 대량의 텍스트와 이미지를 활용해 정보를 요약하고 콘텐츠를 생성하는 AI 모델을 이용해 공격적인 사이버 공격을 감행하거나 강력한 생물학 무기를 만들 수 있다고 우려하고 있다.

한 소식통은 새로운 수출 통제 조치가 러시아, 중국, 북한, 이란을 겨냥할 가능성이 있다고 밝혔다. 마이크로소프트는 2월 보고서에서 중국 및 북한 정부와 연계된 해킹 그룹, 러시아 군사 정보기관, 이란 혁명수비대가 대규모 언어 모델을 활용해 해킹 캠페인을 개선하는 것을 추적했다고 밝혔다.

컴퓨팅 파워

AI 모델에 대한 수출 통제를 마련하기 위해 소식통들은 미국이 지난해 10월 발행한 AI 행정명령에 포함된 컴퓨팅 파워 기준을 활용할 수 있다고 전했다. 해당 기준에 도달하면 개발자는 상무부에 AI 모델 개발 계획 및 테스트 결과를 보고해야 한다.

두 명의 미국 관리 및 협의 내용을 잘 아는 또 다른 소식통에 따르면, 이 컴퓨팅 파워 기준이 AI 모델의 수출 제한을 결정하는 기반이 될 수 있다고 한다. 이들은 아직 세부 사항이 공개되지 않았기 때문에 익명을 요구했다.

이 기준이 사용될 경우 아직 출시되지 않은 모델에만 수출을 제한할 가능성이 높다. 현재까지는 그 기준에 도달한 모델이 없는 것으로 알려져 있지만, AI 트렌드를 추적하는 연구 기관인 EpochAI에 따르면 구글의 Gemini Ultra가 그 기준에 근접해 있다고 한다.

소식통들은 상무부가 규정 제안서를 최종 확정하기까지는 아직 갈 길이 멀다고 강조했다. 그러나 이러한 움직임이 고려되고 있다는 사실은 미국 정부가 베이징의 AI 야망을 저지하기 위한 노력의 빈틈을 메우려 하고 있음을 보여주며, 빠르게 진화하는 기술에 강력한 규제 체제를 도입하는 데 심각한 어려움이 있음에도 불구하고 그러한 노력을 감행하고 있음을 나타낸다.

중국과의 경쟁 및 정교한 AI의 위험에 대해 바이든 행정부가 고심하는 가운데, AI 모델은 "분명히 이러한 상황에서 고려해야 할 도구 중 하나이며 잠재적인 취약점 중 하나"라고 전 국가안보회의(NSC) 관계자인 피터 해럴(Peter Harrell)은 말했다. 또한 그는 "실제로 이를 수출 통제 가능한 취약점으로 만들 수 있을지 여부는 지켜봐야 할 문제"라고 덧붙였다.

생물학 무기와 사이버 공격?

미국 정보 기관, 싱크탱크 및 학계는 외국 악의적 행위자들이 고급 AI 역량에 접근하는 것에 대해 점점 더 우려하고 있다. Gryphon Scientific과 랜드 코퍼레이션의 연구자들은 고급 AI 모델이 생물학 무기를 만드는 데 도움이 될 수 있는 정보를 제공할 수 있다고 언급했다.

국토안보부는 2024년 국내 위협 평가에서 사이버 행위자들이 "더 큰 규모의 신속하고 효율적이며 회피적인 사이버 공격을 가능하게 할 새로운 도구를 개발하기 위해" AI를 사용할 가능성이 있다고 밝혔다.

국가정보국(DNI) 사무실의 브라이언 홈즈(Brian Holmes) 관계자는 3월 수출 통제 회의에서 "AI의 사용 및 악용 가능성이 급격히 증가하고 있으며, 이를 따라가는 데 어려움을 겪고 있다"고 말했다. 그는 특히 중국의 발전이 우려된다고 강조했다.

AI 단속

이러한 우려를 해결하기 위해 미국은 중국으로의 미국 AI 칩 및 제조 도구 유출을 막기 위한 조치를 취했다. 또한 미국 클라우드 기업이 외국 고객이 사이버 공격에 사용될 수 있는 강력한 AI 모델을 학습시키기 위해 서비스를 이용할 때 정부에 보고하도록 하는 규정을 제안했다.

그러나 현재까지 AI 모델 자체에 대한 조치는 취하지 않았다. 상무부의 수출 정책을 감독하는 앨런 에스테베즈(Alan Estevez)는 12월에 상무부가 오픈소스 대규모 언어 모델(LLM) 수출을 규제하기 위한 옵션을 검토하고 있다고 하며 업계의 의견을 구하기 전에 이를 검토할 것이라고 말했다.

워싱턴 DC 소재 싱크탱크 CNAS의 AI 정책 전문가 팀 피스트(Tim Fist)는 "해당 기준은 새로운 모델의 역량과 위험을 측정하는 더 나은 방법을 개발할 때까지 임시 조치로 적합하다"고 말했다.

전 백악관 및 법무부 관계자인 자밀 재퍼(Jamil Jaffer)는 바이든 행정부가 컴퓨팅 파워 기준을 사용하지 말고 모델의 역량과 의도된 사용을 기반으로 통제를 선택해야 한다고 말한다. 그는 "기술 기준보다 국가 안보 위험에 초점을 맞추는 것이 더 지속적이고 위협에 초점을 맞추기 때문에 더 나은 방법이다"라고 덧붙였다.

기준은 아직 확정되지 않았다. 소식통 중 한 명은 상무부가 낮은 기준선을 적용하면서 데이터 유형이나 AI 모델의 잠재적 사용과 같은 다른 요소를 결합할 수 있다고 말했다. 예를 들어 생물학 무기 제조에 사용될 수 있는 단백질을 설계할 수 있는 능력 등이 있을 수 있다.

그러나 기준에 관계 없이 AI 모델 수출은 통제하기 어려울 것이다. 많은 모델은 오픈소스이므로 고려 중인 수출 통제 범위 밖에 남게 된다.

더 진보된 독점 모델에 통제를 가하는 것조차 어려워질 것이며, 규제 당국은 통제해야 할 모델을 결정하는 적절한 기준을 정의하는 데 어려움을 겪을 것이라고 피스트는 말했다. 또한 중국은 자체 AI 소프트웨어 개발에 있어 미국보다 약 2년 정도 뒤처져 있을 뿐이라고 덧붙였다.

고려 중인 수출 통제는 ChatGPT와 같은 일부 소비자 애플리케이션을 뒷받침하는 백엔드 소프트웨어에 대한 접근에 영향을 미치겠지만, 해당 애플리케이션 자체에 대한 접근을 제한하지는 않을 것이다.

세줄요약

1. 미국 상무부는 중국 및 러시아 등의 적대국을 겨냥해 가장 발전된 인공지능(AI) 모델의 수출 규제를 검토 중임

2. 컴퓨팅 파워 기준을 활용해 규제 기준을 마련하려는 계획이 있으며, 이를 통해 고급 AI 모델의 개발 및 수출을 통제할 방침임.

3. 국가 안보 우려로 인해 규제를 강화하려는 움직임이지만, 빠르게 진화하는 기술의 특성상 효과적인 통제가 어려울 수 있음

번호	말머리	제목	글쓴이	작성일	조회	추천
2861	설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
481211	일반	Llm부터 시작해서 lmm으로 루트타는거 아닌가? [3]	ㅇㅇ(121.131)	05.23	106	0
481210	일반	멀티모달의 발전이 AGI 달성의 열쇠였으면 좋겠다 [1]	천사다천사	05.23	86	0
481209	일반	킹본갓득 과도기에 무료급식소 늘어날거같지않냐? [2]	ㅇㅇ	05.23	116	0
481208	일반	4o는 굉장히 실망스러운게 맞음	ㅇㅇ(220.95)	05.23	127	0
481207	일반	KBS 교향악단 미쳤냐고ㅋㅋㅋㅋ	ㅇㅇ	05.23	168	0
481206	일반	GPT 4O가 고트인 이유	ㅇㅇ	05.23	128	0
481205	일반	이 세상은 반도체같음 [2]	ㅇㅇ	05.23	128	0
481204	일반	gpt 4o 수능수학 킬러도 영어로 물어보니깐 잘 푸는데? [1]	ㅇㅇ	05.23	150	0
481203	일반	얀르쿤 연합뉴스 [4]	ㅇㅇ(218.147)	05.23	208	1
481202	일반	기억해라 한국 실업률은 8%가 분기점임	ㅇㅇ(211.184)	05.23	166	2
481201	일반	아래 유튜브 링크, 요약기로 돌려봤는데 내용 맞냐?? [4]	oo(110.11)	05.23	91	0
481200	일반	사람들은 과거를 통해 미래를 예측한다 [2]	ㅛㅗㄹ홀홇(121.178)	05.23	91	0
481199	일반	오픈ai 주@식없구나 시발 왜 왜 [11]	ㅇㅇ(59.0)	05.23	238	0
481198	일반	gpt한테 얼평받지마라 [2]	ㅇㅇ(58.123)	05.23	154	0
481197	일반	바이오 분야 CEO가 말하길 AI는 [1]	ㅇㅇ	05.23	90	0
481196	일반	과도기때 오히려 일 안하는게 좋은거 아닌가 [9]	ㅇㅇ(58.29)	05.23	165	0
481194	정보	펄스 플라즈마 로켓은 우주 여행의 획기적인 가속화를 약속합니다.	ㅇㅇ(182.230)	05.23	114	3
481192	일반	재귀개선은 스케일로 해결될거임	ㅇㅇ(125.143)	05.23	31	0
481191	일반	수학, 환각, 재귀개선은 스케일로 해결된다 [3]	ㅇㅇ(125.143)	05.23	124	0
481190	일반	현재 딥러닝 AI가 완전발전한다칠때 그 AI는 역전파에 기반한 [1]	ㅇㅇ	05.23	112	0
481189	일반	갑자기 뜬금없이 open ai에서 만들었다고 주장하는 잼민이 [9]	ㅇㅇ	05.23	324	2
481188	일반	아니 ㅋㅋ 사진 어케 보내냐고 시발 [7]	ㅇㅇ	05.23	130	0
481186	일반	오류 재귀개선 코딩하는 법	ㅇㅇ(121.159)	05.23	78	0
481184	일반	자 상상을 해봐 지구에 일하는 인간중 99퍼가 대체됐다고쳐 [7]	ㅇㅇ(220.95)	05.23	135	0
481183	일반	제미니 프로는 이래서 못써먹겠음 [2]	ㅇㅇ	05.23	95	0
481182	일반	나도 완성된 AI는 5년안에 온다고 보는데 [2]	시작	05.23	173	0
481181	일반	"인공지능 시대 기본.소득으로 준비" [9]	ㅇㅇ(116.120)	05.23	410	12
481180	일반	지금 대박뉴스 떳네 [17]	ㅇㅇ(117.20)	05.23	555	4
481179	일반	염소문제 지난번 사과문제 다 같은 맥락이네 [2]	ㅇㅇ(121.182)	05.23	79	0
481178	일반	스칼렛 사태 그거같네	안녕하쇼	05.23	44	0
481177	일반	챗 지피티 한테 사진 어떻게 보댜? [2]	ㅇㅇ	05.23	55	0
481175	일반	코파일럿 아직도 안되네	ㅇㅇ(124.50)	05.23	63	0
481174	일반	초성퀴즈 절대 못맞추겠네 [1]	ㅇㅇ(1.240)	05.23	57	0
481173	일반	남의 직업 비하 좀 하지마라 [5]	ㅇㅇ(211.184)	05.23	125	0
481172	일반	초성퀴즈 존나 못맞추네 [2]	ㅇㅇ(1.240)	05.23	66	0
481171	일반	챗지피티한테 사진어떻게 보내?	ㅇㅇ	05.23	14	0
481169	일반	현직 경찰인데 [1]	ㅇㅇ(59.28)	05.23	116	0
481168	일반	공11무원 대체 가능하다는 애는 병신인가 [7]	ㅇㅇ	05.23	152	0
481167	일반	염소문제 GPT-4 vs GPT-4O [2]	나진	05.23	172	0
481166	일반	빨리 특이점와라 게임에 돈좀지르자	ㅇㅇ(218.158)	05.23	19	0
481165	일반	개발자들이 반감 심하다고? [2]	ㅇㅇ	05.23	81	0
481164	일반	제미니 프로도 결제하다가 안쑤는 이유가 [5]	ㅇㅇ	05.23	165	0
481162	일반	배고픈 피카소보다 배부른 앤디워홀	탈조선	05.23	32	0
481161	일반	일단 최고 모델을 쓰고 불평하자 [4]	ㅇㅇ(125.240)	05.23	191	4
481160	일반	뭐든 영어로 해야함 [6]	ㅇㅇ	05.23	81	0
481159	일반	ㅌㅇㅈ ㅈㅂ 216ㅇㅊ [6]	포스트휴먼.	05.23	42	2
481158	일반	GPT5 IS COMING SOOOOOOON! [3]	이런내가특특	05.23	214	0
481157	일반	llm의 성능은 사용자의 능지에 비례한다 [5]	ㅇㅇ(125.240)	05.23	150	3
481156	일반	염소 강 건너기 문제 이러면 풀림 [9]	나진	05.23	157	0
481155	일반	"대체불가" 차단어 설정해야함 [16]	ㅇㅇ(117.20)	05.23	159	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결