미국, 향후 출시 될 AI 제품에 대한 중국 접근 제한검토

ㅇㅇ · 2024.05.10 00:58:45

https://www.reuters.com/technology/us-eyes-curbs-chinas-access-ai-software-behind-apps-like-chatgpt-2024-05-08/

1a99f80dc7e41f8959eafa8424fe140c557e7d3338f9c8b148ca75514c66f4bfff233a702872b4d0ea

워싱턴, 5월 8일 (로이터) - 바이든 행정부가 미국의 인공지능(AI)을 중국과 러시아로부터 보호하기 위한 새로운 노력을 시작할 태세를 갖추고 있다고 한다. 그 일환으로 가장 발전된 AI 모델, 즉 ChatGPT와 같은 인공지능 시스템의 핵심 소프트웨어에 규제를 가할 예비 계획을 세우고 있다고 소식통들은 전했다.

상무부는 독점적이거나 비공개 소스의 AI 모델 소프트웨어와 데이터의 수출을 제한하는 새로운 규제를 고려 중이라고 이 사안을 잘 아는 세 명의 소식통이 말했다. 이러한 조치는 지난 2년 동안 중국의 군사 목적으로 최첨단 기술을 개발하는 것을 늦추기 위해 중국으로의 고성능 AI 칩 수출을 차단하기 위해 시행된 일련의 조치들을 보완할 것이다. 그러나 규제 당국이 빠르게 발전하는 산업의 변화를 따라잡기는 어려울 것으로 보인다.

상무부는 이에 대해 논평을 거부했으며, 주미 러시아 대사관은 즉각적인 답변을 내놓지 않았다. 중국 대사관은 이번 조치를 "전형적인 경제적 강압 행위 및 일방적인 괴롭힘 행위이며 중국은 이를 강력히 반대한다"고 하며, "필요한 조치를 취해 자국의 이익을 보호할 것"이라고 덧붙였다.

현재 마이크로소프트(MSFT.O), 오픈AI를 지원하는 마이크로소프트, 알파벳(GOOGL.O)의 구글 딥마인드, 경쟁사 앤트로픽(Anthropic)과 같은 미국의 주요 AI 기업들이 개발한 가장 강력한 비공개 소스 AI 모델을 정부의 감독 없이 전 세계 거의 누구에게나 판매하는 것을 막을 방법은 없다.

정부 및 민간 연구자들은 미국의 적들이 대량의 텍스트와 이미지를 활용해 정보를 요약하고 콘텐츠를 생성하는 AI 모델을 이용해 공격적인 사이버 공격을 감행하거나 강력한 생물학 무기를 만들 수 있다고 우려하고 있다.

한 소식통은 새로운 수출 통제 조치가 러시아, 중국, 북한, 이란을 겨냥할 가능성이 있다고 밝혔다. 마이크로소프트는 2월 보고서에서 중국 및 북한 정부와 연계된 해킹 그룹, 러시아 군사 정보기관, 이란 혁명수비대가 대규모 언어 모델을 활용해 해킹 캠페인을 개선하는 것을 추적했다고 밝혔다.

컴퓨팅 파워

AI 모델에 대한 수출 통제를 마련하기 위해 소식통들은 미국이 지난해 10월 발행한 AI 행정명령에 포함된 컴퓨팅 파워 기준을 활용할 수 있다고 전했다. 해당 기준에 도달하면 개발자는 상무부에 AI 모델 개발 계획 및 테스트 결과를 보고해야 한다.

두 명의 미국 관리 및 협의 내용을 잘 아는 또 다른 소식통에 따르면, 이 컴퓨팅 파워 기준이 AI 모델의 수출 제한을 결정하는 기반이 될 수 있다고 한다. 이들은 아직 세부 사항이 공개되지 않았기 때문에 익명을 요구했다.

이 기준이 사용될 경우 아직 출시되지 않은 모델에만 수출을 제한할 가능성이 높다. 현재까지는 그 기준에 도달한 모델이 없는 것으로 알려져 있지만, AI 트렌드를 추적하는 연구 기관인 EpochAI에 따르면 구글의 Gemini Ultra가 그 기준에 근접해 있다고 한다.

소식통들은 상무부가 규정 제안서를 최종 확정하기까지는 아직 갈 길이 멀다고 강조했다. 그러나 이러한 움직임이 고려되고 있다는 사실은 미국 정부가 베이징의 AI 야망을 저지하기 위한 노력의 빈틈을 메우려 하고 있음을 보여주며, 빠르게 진화하는 기술에 강력한 규제 체제를 도입하는 데 심각한 어려움이 있음에도 불구하고 그러한 노력을 감행하고 있음을 나타낸다.

중국과의 경쟁 및 정교한 AI의 위험에 대해 바이든 행정부가 고심하는 가운데, AI 모델은 "분명히 이러한 상황에서 고려해야 할 도구 중 하나이며 잠재적인 취약점 중 하나"라고 전 국가안보회의(NSC) 관계자인 피터 해럴(Peter Harrell)은 말했다. 또한 그는 "실제로 이를 수출 통제 가능한 취약점으로 만들 수 있을지 여부는 지켜봐야 할 문제"라고 덧붙였다.

생물학 무기와 사이버 공격?

미국 정보 기관, 싱크탱크 및 학계는 외국 악의적 행위자들이 고급 AI 역량에 접근하는 것에 대해 점점 더 우려하고 있다. Gryphon Scientific과 랜드 코퍼레이션의 연구자들은 고급 AI 모델이 생물학 무기를 만드는 데 도움이 될 수 있는 정보를 제공할 수 있다고 언급했다.

국토안보부는 2024년 국내 위협 평가에서 사이버 행위자들이 "더 큰 규모의 신속하고 효율적이며 회피적인 사이버 공격을 가능하게 할 새로운 도구를 개발하기 위해" AI를 사용할 가능성이 있다고 밝혔다.

국가정보국(DNI) 사무실의 브라이언 홈즈(Brian Holmes) 관계자는 3월 수출 통제 회의에서 "AI의 사용 및 악용 가능성이 급격히 증가하고 있으며, 이를 따라가는 데 어려움을 겪고 있다"고 말했다. 그는 특히 중국의 발전이 우려된다고 강조했다.

AI 단속

이러한 우려를 해결하기 위해 미국은 중국으로의 미국 AI 칩 및 제조 도구 유출을 막기 위한 조치를 취했다. 또한 미국 클라우드 기업이 외국 고객이 사이버 공격에 사용될 수 있는 강력한 AI 모델을 학습시키기 위해 서비스를 이용할 때 정부에 보고하도록 하는 규정을 제안했다.

그러나 현재까지 AI 모델 자체에 대한 조치는 취하지 않았다. 상무부의 수출 정책을 감독하는 앨런 에스테베즈(Alan Estevez)는 12월에 상무부가 오픈소스 대규모 언어 모델(LLM) 수출을 규제하기 위한 옵션을 검토하고 있다고 하며 업계의 의견을 구하기 전에 이를 검토할 것이라고 말했다.

워싱턴 DC 소재 싱크탱크 CNAS의 AI 정책 전문가 팀 피스트(Tim Fist)는 "해당 기준은 새로운 모델의 역량과 위험을 측정하는 더 나은 방법을 개발할 때까지 임시 조치로 적합하다"고 말했다.

전 백악관 및 법무부 관계자인 자밀 재퍼(Jamil Jaffer)는 바이든 행정부가 컴퓨팅 파워 기준을 사용하지 말고 모델의 역량과 의도된 사용을 기반으로 통제를 선택해야 한다고 말한다. 그는 "기술 기준보다 국가 안보 위험에 초점을 맞추는 것이 더 지속적이고 위협에 초점을 맞추기 때문에 더 나은 방법이다"라고 덧붙였다.

기준은 아직 확정되지 않았다. 소식통 중 한 명은 상무부가 낮은 기준선을 적용하면서 데이터 유형이나 AI 모델의 잠재적 사용과 같은 다른 요소를 결합할 수 있다고 말했다. 예를 들어 생물학 무기 제조에 사용될 수 있는 단백질을 설계할 수 있는 능력 등이 있을 수 있다.

그러나 기준에 관계 없이 AI 모델 수출은 통제하기 어려울 것이다. 많은 모델은 오픈소스이므로 고려 중인 수출 통제 범위 밖에 남게 된다.

더 진보된 독점 모델에 통제를 가하는 것조차 어려워질 것이며, 규제 당국은 통제해야 할 모델을 결정하는 적절한 기준을 정의하는 데 어려움을 겪을 것이라고 피스트는 말했다. 또한 중국은 자체 AI 소프트웨어 개발에 있어 미국보다 약 2년 정도 뒤처져 있을 뿐이라고 덧붙였다.

고려 중인 수출 통제는 ChatGPT와 같은 일부 소비자 애플리케이션을 뒷받침하는 백엔드 소프트웨어에 대한 접근에 영향을 미치겠지만, 해당 애플리케이션 자체에 대한 접근을 제한하지는 않을 것이다.

세줄요약

1. 미국 상무부는 중국 및 러시아 등의 적대국을 겨냥해 가장 발전된 인공지능(AI) 모델의 수출 규제를 검토 중임

2. 컴퓨팅 파워 기준을 활용해 규제 기준을 마련하려는 계획이 있으며, 이를 통해 고급 AI 모델의 개발 및 수출을 통제할 방침임.

3. 국가 안보 우려로 인해 규제를 강화하려는 움직임이지만, 빠르게 진화하는 기술의 특성상 효과적인 통제가 어려울 수 있음

번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
476130	일반	악한 마음 지닌 사람들은 특이점 누리면 안됨 ㅇㅇ [8]	ㅇㅇ	05.17	262	0
476129	일반	멀리서 보면 사람이 보이는 사진은 어떻게 만드는거임? [1]	ㅇㅇ(14.54)	05.17	108	0
476128	일반	피부 역노화만 나와라 제발 [2]	12-000	05.17	342	0
476127	일반	이젠 세가지의 요소로 LLM 경쟁이 일어날거임	ㅇㅇ(59.20)	05.17	140	1
476126	일반	상위권 인서울 컴공과다 지금 대학 현실 알려준다 [21]	ㅇㅇ(218.232)	05.17	666	4
476125	일반	진짜 100b 라면 좋은 소식 나오겠네 [3]	ㅇㅇ(59.20)	05.17	269	0
476124	일반	휴머노이드와 자율주행의 관건은 온디바이스AI에 있다. [1]	제타플롭스	05.17	92	0
476123	일반	AI와 로봇기술로 의사 대체는 언제쯤 가능할 것 같냐 [5]	ㅁㅁ(118.235)	05.17	164	1
476122	일반	커스텀 전자여친 언제 나오냐 ㄹㅇ [3]	TS망상	05.17	276	0
476121	일반	뭔가 새로운 4o 활용 사례 같은 거 없나 [4]	ㅇㅇ(119.202)	05.17	232	0
476118	정보/ 정보/뉴스	미국, 중국에 AI 오용 우려 제기..미·중 첫 AI 회담 개최	ㅇㅇ(182.230)	05.17	141	1
476117	일반	“코딩”ㅋㅋㅋㅋㅋㅋ	ㅇㅇ(14.33)	05.17	249	0
476116	정보/ 정보/뉴스	"뉴럴링크, 수년 간 미세 전극 문제 발생...머스크도 알고 있어" [6]	ㅇㅇ(182.230)	05.17	574	3
476115	정보/ 정보/뉴스	세레브라스, 자체 개발 칩으로 유럽에 첫 슈퍼컴퓨터 공급 [2]	ㅇㅇ(182.230)	05.17	213	2
476114	일반	이거 GPT앱 다운받았는데 4o인가 뭐 어떻게 쓰는거냐? [13]	ㅇㅇ	05.17	484	0
476113	일반	근데 OAI 진짜 신기하다	ㅇㅇ	05.17	209	1
476111	일반	여기 말고 gpt 관련 주제 얘기할만 한 사이트 없냐	ㅇㅇ	05.17	82	0
476110	일반	구글 NEW 트윗: minecraft [5]	ㅇㅇ(112.144)	05.17	641	0
476109	일반	보니까 북한이 ai 적용시키기 엄청 불리한 사회구만 [41]	ㅇㅇ(117.20)	05.17	538	0
476107	일반	근데 gpt로 캡스톤 코드짜고 [1]	ㅇㅇ(211.186)	05.17	150	0
476105	일반	사람의 장기기억은 상당히 압축된 정보 아닌가? [4]	난난난	05.17	161	0
476104	일반	뉴비라서 모르는데 로컬로 돌리는게 장점이 뭐임?? [6]	ㅇㅇ(211.241)	05.17	220	0
476103	일반	4o가 정말로 작은 모델이라 M4에서 로컬로 구동가능하다면? [5]	ㅇㅇ(59.17)	05.17	258	0
476102	일반	영어 아이엘츠 7.5 vs 코딩 풀스택 개발자 [2]	ㅇㅇ(118.235)	05.17	190	1
476101	일반	오류나면 오류메시지를 복사해서 프롬프트에 넣으세요 [14]	ㅇㅇ	05.17	227	0
476099	일반	취미용 코딩 실전커리큘럼 [8]	agi2024	05.17	348	2
476097	일반	코딩 의심하는애들많길래 증명하러왔음 [21]	ㅇㅇ(221.158)	05.17	487	1
476095	일반	마인드업로딩이 과연 가능할지??? [4]	난난난	05.17	200	0
476094	일반	gpt4o로 ocr은 어캐 하는거임 pdf파일이 안올라가지는데 [18]	질문봇	05.17	256	0
476090	정보/ 정보/뉴스	스탠포드에서 공개한 LLM의 MMLU 순위 [4]	ㅇㅇ	05.17	569	6
476089	일반	ai보면 지능이 뭐랑 관계있는지 알거같음 [1]	ㅇㅇ(210.96)	05.17	251	1
476088	일반	4o가 4.5가 아닌게 진짜 지리는듯 ㅋㅋ [2]	ㅇㅇ(119.77)	05.17	344	0
476087	일반	일리야는 oai 지하실에 갇혀있을때나 의미있지 [2]	ㅇㅇ(61.75)	05.17	177	0
476086	일반	신기방기 ai와 플라톤철학 [14]	sutskever	05.17	501	13
476085	일반	4o 코딩이 진짜 좋긴좋은데 [3]	ㅇㅇ(119.77)	05.17	287	0
476084	일반	나처럼 죽음공포증인 특붕이 있냐?? [18]	ㅇㅇ(211.241)	05.17	312	0
476083	일반	gpt-4o의 매력 [1]	ㅇㅇ	05.17	393	0
476082	일반	요즘 진짜 완몰가맨들 싹 사라졌네 [7]	ㅇㅇ(211.46)	05.16	476	0
476081	일반	요즘 컴공 cpp 안배우냐? [7]	ㅇㅇ(106.101)	05.16	257	1
476080	일반	선천적으로 시각,청각이 없으면 어떤 생각만 할까? [8]	xdxd333	05.16	209	0
476079	일반	역노화가 로봇혁명보다 빠를듯 [2]	ㅇㅇ(211.184)	05.16	196	0
476078	일반	GPT-4o 로 태양계 구현한 게시물을 나도 GPT-4o 웹으로 구현해봄 [8]	특스타	05.16	2521	32
476076	일반	돼지 뇌분리 저거는 ㅋㅋ 너무불쌍한데.. [6]	ㅇㅇ	05.16	319	0
476075	일반	요즘 RAG 핫하던데 모델에 뭘먹인걸까	ㅇㅇ(122.43)	05.16	83	0
476074	일반	gpt4o 가 gpt4 개량한거냐? [1]	ㅇㅇ	05.16	176	0
476073	일반	농담안하고 진짜 컴공졸업 수준 알려준다 [11]	ㅇㅇ(106.101)	05.16	551	3
476071	일반	170b 80b 이 숫자가 뜻하는 바가 뭐임? [7]	ㅇㅇ(121.133)	05.16	168	0
476070	일반	내가 컴공을 나왓는데 예상도 못한 일이 있었음 [20]	ㅇㅇ(117.20)	05.16	572	0
476069	일반	주문형 여성봇에 처녀막 옵션 선택 할꺼임? [13]	ㅇㅇ(218.50)	05.16	261	0
476068	일반	4년 컴공졸이면 리트코드 어디까지 품? [8]	ㅇㅇ(122.43)	05.16	188	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결