미국, 향후 출시 될 AI 제품에 대한 중국 접근 제한검토

ㅇㅇ · 2024.05.10 00:58:45

https://www.reuters.com/technology/us-eyes-curbs-chinas-access-ai-software-behind-apps-like-chatgpt-2024-05-08/

1a99f80dc7e41f8959eafa8424fe140c557e7d3338f9c8b148ca75514c66f4bfff233a702872b4d0ea

워싱턴, 5월 8일 (로이터) - 바이든 행정부가 미국의 인공지능(AI)을 중국과 러시아로부터 보호하기 위한 새로운 노력을 시작할 태세를 갖추고 있다고 한다. 그 일환으로 가장 발전된 AI 모델, 즉 ChatGPT와 같은 인공지능 시스템의 핵심 소프트웨어에 규제를 가할 예비 계획을 세우고 있다고 소식통들은 전했다.

상무부는 독점적이거나 비공개 소스의 AI 모델 소프트웨어와 데이터의 수출을 제한하는 새로운 규제를 고려 중이라고 이 사안을 잘 아는 세 명의 소식통이 말했다. 이러한 조치는 지난 2년 동안 중국의 군사 목적으로 최첨단 기술을 개발하는 것을 늦추기 위해 중국으로의 고성능 AI 칩 수출을 차단하기 위해 시행된 일련의 조치들을 보완할 것이다. 그러나 규제 당국이 빠르게 발전하는 산업의 변화를 따라잡기는 어려울 것으로 보인다.

상무부는 이에 대해 논평을 거부했으며, 주미 러시아 대사관은 즉각적인 답변을 내놓지 않았다. 중국 대사관은 이번 조치를 "전형적인 경제적 강압 행위 및 일방적인 괴롭힘 행위이며 중국은 이를 강력히 반대한다"고 하며, "필요한 조치를 취해 자국의 이익을 보호할 것"이라고 덧붙였다.

현재 마이크로소프트(MSFT.O), 오픈AI를 지원하는 마이크로소프트, 알파벳(GOOGL.O)의 구글 딥마인드, 경쟁사 앤트로픽(Anthropic)과 같은 미국의 주요 AI 기업들이 개발한 가장 강력한 비공개 소스 AI 모델을 정부의 감독 없이 전 세계 거의 누구에게나 판매하는 것을 막을 방법은 없다.

정부 및 민간 연구자들은 미국의 적들이 대량의 텍스트와 이미지를 활용해 정보를 요약하고 콘텐츠를 생성하는 AI 모델을 이용해 공격적인 사이버 공격을 감행하거나 강력한 생물학 무기를 만들 수 있다고 우려하고 있다.

한 소식통은 새로운 수출 통제 조치가 러시아, 중국, 북한, 이란을 겨냥할 가능성이 있다고 밝혔다. 마이크로소프트는 2월 보고서에서 중국 및 북한 정부와 연계된 해킹 그룹, 러시아 군사 정보기관, 이란 혁명수비대가 대규모 언어 모델을 활용해 해킹 캠페인을 개선하는 것을 추적했다고 밝혔다.

컴퓨팅 파워

AI 모델에 대한 수출 통제를 마련하기 위해 소식통들은 미국이 지난해 10월 발행한 AI 행정명령에 포함된 컴퓨팅 파워 기준을 활용할 수 있다고 전했다. 해당 기준에 도달하면 개발자는 상무부에 AI 모델 개발 계획 및 테스트 결과를 보고해야 한다.

두 명의 미국 관리 및 협의 내용을 잘 아는 또 다른 소식통에 따르면, 이 컴퓨팅 파워 기준이 AI 모델의 수출 제한을 결정하는 기반이 될 수 있다고 한다. 이들은 아직 세부 사항이 공개되지 않았기 때문에 익명을 요구했다.

이 기준이 사용될 경우 아직 출시되지 않은 모델에만 수출을 제한할 가능성이 높다. 현재까지는 그 기준에 도달한 모델이 없는 것으로 알려져 있지만, AI 트렌드를 추적하는 연구 기관인 EpochAI에 따르면 구글의 Gemini Ultra가 그 기준에 근접해 있다고 한다.

소식통들은 상무부가 규정 제안서를 최종 확정하기까지는 아직 갈 길이 멀다고 강조했다. 그러나 이러한 움직임이 고려되고 있다는 사실은 미국 정부가 베이징의 AI 야망을 저지하기 위한 노력의 빈틈을 메우려 하고 있음을 보여주며, 빠르게 진화하는 기술에 강력한 규제 체제를 도입하는 데 심각한 어려움이 있음에도 불구하고 그러한 노력을 감행하고 있음을 나타낸다.

중국과의 경쟁 및 정교한 AI의 위험에 대해 바이든 행정부가 고심하는 가운데, AI 모델은 "분명히 이러한 상황에서 고려해야 할 도구 중 하나이며 잠재적인 취약점 중 하나"라고 전 국가안보회의(NSC) 관계자인 피터 해럴(Peter Harrell)은 말했다. 또한 그는 "실제로 이를 수출 통제 가능한 취약점으로 만들 수 있을지 여부는 지켜봐야 할 문제"라고 덧붙였다.

생물학 무기와 사이버 공격?

미국 정보 기관, 싱크탱크 및 학계는 외국 악의적 행위자들이 고급 AI 역량에 접근하는 것에 대해 점점 더 우려하고 있다. Gryphon Scientific과 랜드 코퍼레이션의 연구자들은 고급 AI 모델이 생물학 무기를 만드는 데 도움이 될 수 있는 정보를 제공할 수 있다고 언급했다.

국토안보부는 2024년 국내 위협 평가에서 사이버 행위자들이 "더 큰 규모의 신속하고 효율적이며 회피적인 사이버 공격을 가능하게 할 새로운 도구를 개발하기 위해" AI를 사용할 가능성이 있다고 밝혔다.

국가정보국(DNI) 사무실의 브라이언 홈즈(Brian Holmes) 관계자는 3월 수출 통제 회의에서 "AI의 사용 및 악용 가능성이 급격히 증가하고 있으며, 이를 따라가는 데 어려움을 겪고 있다"고 말했다. 그는 특히 중국의 발전이 우려된다고 강조했다.

AI 단속

이러한 우려를 해결하기 위해 미국은 중국으로의 미국 AI 칩 및 제조 도구 유출을 막기 위한 조치를 취했다. 또한 미국 클라우드 기업이 외국 고객이 사이버 공격에 사용될 수 있는 강력한 AI 모델을 학습시키기 위해 서비스를 이용할 때 정부에 보고하도록 하는 규정을 제안했다.

그러나 현재까지 AI 모델 자체에 대한 조치는 취하지 않았다. 상무부의 수출 정책을 감독하는 앨런 에스테베즈(Alan Estevez)는 12월에 상무부가 오픈소스 대규모 언어 모델(LLM) 수출을 규제하기 위한 옵션을 검토하고 있다고 하며 업계의 의견을 구하기 전에 이를 검토할 것이라고 말했다.

워싱턴 DC 소재 싱크탱크 CNAS의 AI 정책 전문가 팀 피스트(Tim Fist)는 "해당 기준은 새로운 모델의 역량과 위험을 측정하는 더 나은 방법을 개발할 때까지 임시 조치로 적합하다"고 말했다.

전 백악관 및 법무부 관계자인 자밀 재퍼(Jamil Jaffer)는 바이든 행정부가 컴퓨팅 파워 기준을 사용하지 말고 모델의 역량과 의도된 사용을 기반으로 통제를 선택해야 한다고 말한다. 그는 "기술 기준보다 국가 안보 위험에 초점을 맞추는 것이 더 지속적이고 위협에 초점을 맞추기 때문에 더 나은 방법이다"라고 덧붙였다.

기준은 아직 확정되지 않았다. 소식통 중 한 명은 상무부가 낮은 기준선을 적용하면서 데이터 유형이나 AI 모델의 잠재적 사용과 같은 다른 요소를 결합할 수 있다고 말했다. 예를 들어 생물학 무기 제조에 사용될 수 있는 단백질을 설계할 수 있는 능력 등이 있을 수 있다.

그러나 기준에 관계 없이 AI 모델 수출은 통제하기 어려울 것이다. 많은 모델은 오픈소스이므로 고려 중인 수출 통제 범위 밖에 남게 된다.

더 진보된 독점 모델에 통제를 가하는 것조차 어려워질 것이며, 규제 당국은 통제해야 할 모델을 결정하는 적절한 기준을 정의하는 데 어려움을 겪을 것이라고 피스트는 말했다. 또한 중국은 자체 AI 소프트웨어 개발에 있어 미국보다 약 2년 정도 뒤처져 있을 뿐이라고 덧붙였다.

고려 중인 수출 통제는 ChatGPT와 같은 일부 소비자 애플리케이션을 뒷받침하는 백엔드 소프트웨어에 대한 접근에 영향을 미치겠지만, 해당 애플리케이션 자체에 대한 접근을 제한하지는 않을 것이다.

세줄요약

1. 미국 상무부는 중국 및 러시아 등의 적대국을 겨냥해 가장 발전된 인공지능(AI) 모델의 수출 규제를 검토 중임

2. 컴퓨팅 파워 기준을 활용해 규제 기준을 마련하려는 계획이 있으며, 이를 통해 고급 AI 모델의 개발 및 수출을 통제할 방침임.

3. 국가 안보 우려로 인해 규제를 강화하려는 움직임이지만, 빠르게 진화하는 기술의 특성상 효과적인 통제가 어려울 수 있음

번호	말머리	제목	글쓴이	작성일	조회	추천
2872	설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
478235	일반	wwdc중대발표뭐노 ㄷ [3]	ㅇㅇ(14.53)	05.20	358	0
478234	일반	전면자동화 노동해방 레츠고 [1]	ㅇㅇ(124.56)	05.20	98	0
478233	일반	애플 딱봐도 이번에도 아이폰 프로라인에만 탑재 ㅇㅈㄹ하겠지 [6]	ㅇㅇ	05.20	251	0
478232	정보/ 정보/뉴스	양천구, 경로당 운영업무 자동화로 바꾼다…전국 최초 QR 코드 관리시스템 [2]	ㅇㅇ(124.56)	05.20	209	1
478231	일반	여긴 AGI 기준이 다 다른듯 [8]	람냥	05.20	327	0
478230	일반	OAI랑 애플이 저렇게 손잡으면 삼성은 어뜩하냐 진짜 [4]	ㅇㅇ	05.20	352	0
478228	일반	내 생각에는 애플 발표에서 큰 발표는 두 개임 [4]	ㅇㅇ(218.39)	05.20	234	0
478227	일반	솔직히 이거 진짜 맘에 안든다 [7]	ㅇㅇ(117.20)	05.20	338	0
478226	일반	openai 근황 [11]	디붕이(121.190)	05.20	640	2
478225	일반	Got4O, 잼민1.5가 내눈 높여놓음 [9]	ㅇㅇ	05.20	198	0
478224	일반	지능 폭발로 빠르지만 불안정한 미래 vs [4]	ㅇㅇ(14.35)	05.20	140	0
478223	일반	이제 딱 자율 에이전트만 나오면 된다 [1]	ㅇㅇ	05.20	113	0
478221	일반	진짜 자살 마렵다 2024agi에 내 모든걸 바쳤다고 [8]	ㅇㅇ	05.20	371	1
478220	일반	챗지피티4 질문제한없이 무한으로 쓰는법 아는데 공유해줄까? [4]	ㅇㅇ(14.49)	05.20	247	0
478219	일반	근데 지금 GPT4o로도 각종 식..주 기술적 분석 다 떡치는데 [6]	ㅇㅇ	05.20	285	0
478218	일반	Agi2024 5월단 호로양봉말좆섹스출발ㅋㅋㅋ [2]	Samus	05.20	172	0
478217	일반	특갤한테 고마운게 남들보다 하루를 2배더사는기분임	ㅇㅇ(119.193)	05.20	143	0
478216	일반	얘들아 근데 진짜로 진심으로 냉정하게 올해안에는 안와? [8]	ㅇㅇ	05.20	282	0
478215	일반	조만간 ai로 선동할꺼다 [3]	ㅇㅇ(58.29)	05.20	268	0
478214	일반	이제 남은건 기약없는 gpt5뿐인가	Bqbq	05.20	77	0
478213	일반	저 몇몇 똥 망상글보고 감탄하는 놈들 많은거보고 [15]	ㅇㅇ(118.36)	05.20	285	1
478212	일반	MS, 코파일럿에 광고 출력 테스트중 [3]	ㅇㅇ(175.118)	05.20	236	0
478211	일반	GPT-5 나오면 4는 무료됐으면 좋겠다.	ㅇㅇ(211.114)	05.20	96	0
478209	일반	아이폰 gpt앱 메시지처럼 변했네 [1]	dd	05.20	296	0
478208	일반	내가 GPT4o로 주로 하는 검색들	내복맨	05.20	195	0
478207	일반	면접 관련 질문 받는다. [1]	ㅇㅇ(211.109)	05.20	83	0
478206	일반	인공지능 자격증은 또 뭔데 시발 [5]	ㅇㅇ(58.29)	05.20	396	2
478205	일반	요즘 구글 검색보다 GPT4o를 더 많이 씀.	내복맨	05.20	122	0
478204	일반	계속 찝찝해서 이생각을 떨칠수가 없다 [21]	ㅇㅇ(117.20)	05.20	603	0
478203	일반	아니 AGI 2024 라며 gpt- 4o 에 만족하냐 [2]	ㅇㅇ(221.157)	05.20	197	1
478201	일반	Gpt4o가 구글 검색보다 낫노 [2]	ㅇㅇ	05.20	270	0
478200	일반	챗gpt4o 사만다모드 파급력 미치네 ㅋ	연맛	05.20	348	0
478199	일반	4o 유튜브 영상처럼 화상대화할려면 어떻게 해? [5]	^^J♥*(182.31)	05.20	208	0
478198	일반	정규직제도 때문에 기술실업이 생각보다 녹록지않음 [4]	ㅇㅇ(112.161)	05.20	200	0
478197	일반	챗GPT 인공지능 지도사 1급 자격 과정 개설 [8]	Jesus	05.20	477	0
478196	일반	동시통역 되더라도 네이티브끼리 대화하는 급은 불가능함 [5]	ㅇㅇ	05.20	249	0
478195	일반	특이점 알게되고 시간 ㅈㄴ안감 [2]	ㅇㅇ(133.106)	05.20	166	0
478194	일반	AGI가 뭐임? [2]	ㅇㅇ(218.147)	05.20	168	0
478191	일반	3.5조 ai투자가 많아보여? [3]	탈조선	05.20	330	0
478190	일반	ai딸깍 이미지 괜히 올렸네 [11]	ㅇㅇ	05.20	424	0
478189	일반	그래서 지금 기차 오고있는거냐? [9]	외웨	05.20	217	0
478188	AI창 AI창작	HunyuanDiT 찍먹 [2]	뜨콜	05.20	364	1
478186	일반	야설 쓰고싶은데 검열 개빡친다 [2]	ㅇㅇ(222.236)	05.20	354	0
478185	일반	Gdpr 이거 ㄹㅇ 골때리는듯 [18]	탈조선	05.20	511	0
478184	일반	진짜 2주 후면 보이스 쓸 수 있는 거 맞냐	ㅇㅇ(58.124)	05.20	203	0
478182	일반	이거믿고 꿀잠자고 왔는데 또 아닌거 같노? [15]	ㅇㅇ(117.20)	05.20	817	1
478181	일반	제미니 1.5 pro ai스튜디오에서 무료로 푸는거 언제까지려나 [3]	ㅇㅇ	05.20	389	0
478180	일반	AI가 게임에서 사람인 척 하면서 사람들 속였다고 하네 [4]	.(49.142)	05.20	449	0
478179	일반	옴니의 AGI 예측 [5]	ㅇㅇ(58.124)	05.20	583	1
478178	일반	언젠간 과거를 모두 알게 되면 첫사랑 관찰하고 싶다... [1]	ㅇㅇ(122.43)	05.20	148	1

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결