AI의 무기화 시작한 美 정부, 'LLM'은 어떻게 알고리즘 전쟁의 종심이 됐나

IT동아 · 2026.03.06 16:59:49

[IT동아 남시현 기자] 미국 전쟁부(국방부)가 인공지능 기업 앤스로픽(Anthropic)을 공급망 위험 기업으로 공식 지정했다. 미국 정부의 공급망 위험 기업은 미국의 국가안보, 경제적 번영 혹은 공공의 안정에 위협이 될 수 있는 기술을 다루는 기업을 대상으로 지정한다. 지난해 이란의 드론 및 미사일 개발에 부품을 공급한 중국, 튀르키예, UAE의 26개 기업이 이에 지정됐고, FCC(미연방통신위원회)도 모든 외국산 드론 및 핵심 부품 관련 기업을 커버드 리스트’로 만들어 미국 내 제품 판매 및 정부 이용을 제한했다.

공급망 위험 기업은 주로 미국 정부가 적국의 민간 기업을 통제하기 위한 수단으로 사용된다. 미국 기업이면서 방위산업이 아닌 AI 기업인 앤스로픽이 공급망 위험 기업으로 지정된 것은 대단히 이례적인 상황이다. 이번 사태는 전쟁부와 앤스로픽의 문제를 넘어서 실리콘밸리 내 AI 개발 기업 전체의 문제로 확산 중이며, 더 나아가 AI로 개인의 자유를 침해하거나 전쟁 계획을 수립하는 것을 허용해야 하는가의 윤리적인 문제로 번지고 있다.

앤스로픽, AI의 군사화 반대해 공급망 위험 기업으로 지정

미국 전쟁부 펜타곤 전경 / 출처=미국 전쟁부

사건의 발단은 지난해 7월 미국 전쟁부 산하 최고 디지털 및 인공지능국(CDAO)과 앤스로픽, 구글, 오픈AI, xAI와 맺은 지원 계약으로부터 시작한다. 미국 전쟁부는 미군의 전략적 우위를 위한 AI 에이전트를 개발하기 위해 4개 기업에 각각 2억 달러(약 2944억 원)를 지원하고 AI를 활용하기로 했다. 이때 앤스로픽은 책임감 있는 AI 원칙에 따라 ▲ 완전 자율 살상 무기 체계에 AI 활용 금지 ▲미국 국민에 대한 대규모 국민 감시에 활용 금지를 원칙으로 명시했다.

하지만 피트 헤그세스 전쟁부 장관은 군이 모든 합법적인 목적에 무제한으로 사용할 수 있어야 한다며 2월 27일까지 조항 삭제를 요구했고, 다리오 아모데이 앤스로픽 CEO는 AI 윤리와 안전 원칙을 이유로 수정을 거부했다. 결국 지난 3월 5일 앤스로픽이 국가 공급망 위험 기업으로 지정됐고 모든 연방기관에 앤스로픽 기술에 대한 사용 중단 명령이 내려졌다.

질문·지식의 보고 ‘LLM’은 대체 어떻게 군사 무기로 쓰이게 됐나?

민간 영역에서 LLM은 간단한 질의응답을 주고받고 원하는 이미지를 만드는 것부터 복잡한 수학·과학 문제를 풀이하고 더 나아가 인간의 작업을 자동화하고 대체하는 식으로 사용된다. 미국 정부 부처에서도 비슷한 방식으로 AI 전환이 진행되고 있지만 유독 전쟁부에서 윤리적인 사용과 관련한 문제가 불거지고 있다.

최고 디지털 및 인공지능국(CDAO)은 미군의 AI 전환을 담당하는 조직이며, 현재 미군 내 AI 도입과 관련한 마찰의 중심에 있다 / 출처=미국 전쟁부

2023년 8월, 당시 미국 국방부는 국방부 전반에 걸친 대규모 언어모델 개발 및 평가, 권고 모델을 담당하는 태스크포스 리마를 설립했다. 태스크포스는 AI 적용을 위해 다양한 실험과 반복이 필요하지만, 기능과 한계점이 빠르게 변하고 있으므로 위험성을 이해하고 활용하는 것을 권고했다. CDAO는 2024년 12월 태스크포스 리마를 해체하고 결과 보고서를 바탕으로 전쟁 수행, 기업경영 두 가지 측면에 대한 시범 사업을 구성하고 나선다.

이중 기업 경영은 재무시스템, 인사관리, 기업 물류 및 공급망 관리, 의료 정보 관리, 법률 분석 및 규정 준수, 조달 프로세스, 소프트웨어 개발 및 사이버 보안 등 민간 영역에서의 AI 활용과 비슷하다. 그러나 전쟁 수행은 지휘통제 및 의사결정, 작전 계획, 병참, 무기개발 및 시험, 무인 및 자율시스템, 정보 활동, 정보 작전 및 사이버 작전 등 일반적으로 접하기 어려운 분야를 다룬다. 이번에 윤리적 논란을 일으킨 부분은 정보활동이며 향후 무인 및 무기 개발 측면도 문제의 불씨가 지펴진 상황이다.

미군, 프로젝트 메이븐으로 현대전을 ‘알고리즘 전쟁’으로 바꾸는 중

미군에서 가장 폭넓게 쓰이는 AI는 팔란티어 기술이다. 팔란티어의 고담(Gotham)은 위성사진, 드론 및 위성 영상, 감청 기록, 인간 첩보 등의 서로 다른 데이터를 실시간으로 통합하고, 이를 기반으로 적군 위치를 추정하고 공격 시 어떤 무기 체계가 가장 효율적인지 제안한다. 팔란티어 AIP는 대형언어모델과 도입 기관의 데이터를 연결한 뒤 개발자가 직접 작업 흐름을 설계해 최적의 해결책을 제안하는 서비스다. 이때 앤스로픽 클로드나 오픈AI GPT 같은 LLM이 AIP와 결합해 분석 기능을 제공한다. 미국 국방부는 팔란티어 AIP를 바탕으로 ‘프로젝트 메이븐’을 추진 중이다.

팔란티어 AIP 내 공급망 컨트롤 타워 인터페이스, 에이전트 AI를 통한 자산 자동 조율이나 실시간 의사 결정을 돕는데 폭넓게 활용된다 / 출처=팔란티어

프로젝트 메이븐은 미국 전쟁부가 인공지능 기술을 실제 전장에 도입하기 위해 진행하는 가장 중요한 프로젝트다. 정식 명칭은 ‘알고리즘 전쟁 교차 기능 팀’이다. 프로젝트 메이븐은 2017년 미국 국방부 드론이 수집하는 영상 데이터가 폭발적으로 증가함에 따라 이를 AI로 자동 식별하게 하는 것을 목표로 시작했다. 이를 통해 미군 내 비정형 데이터를 AI 학습용 데이터로 전환하고, 특정 기업에 종속되지 않고 여러 AI 모델을 미군 시스템과 연결해서 쓰는 목표가 수립됐다.

미국 국방부가 자체 구축이 아닌 외부 기업의 AI를 조달하는 사실이 밝혀지며 구글은 2018년 내부 직원들의 반발로 AI 원칙을 발표한 뒤 프로젝트 메이븐에서 이탈한다. 그 자리를 팔란티어, 안두릴, 아마존이 메웠다. 팔란티어는 현재 미국 전쟁부 AI 도입의 총대를 잡고 프로젝트 메이븐과 초연결 전장 네트워크 CJADC2(Combined Joint All-Domain Command and Control)를 연결해 실행 가능한 작전까지 제공하는 AI 체계를 구축 중이다.

CJADC2는 미국 전쟁부 산하의 모든 자산을 연결하는 초연결 전장 네트워크다 / 출처=미국 우주군

CJADC2는 미국 육·해·공·우주·사이버 등 모든 영역의 센서와 군사적 자산을 하나의 네트워크로 묶는 전군 통합 지휘 통제 체계다. 전 세계 동원 가능한 모든 미군의 자원을 초연결한 체계다. CJADC2로 초연결된 군사 장비들이 데이터를 수집하고, 프로젝트 메이븐과 연결된 LLM이 이를 분석하고 식별한 뒤 최적의 작전을 만들어 CJADC2와 연결된 자산에 작전을 전달하는 식이다. 과거에는 사진 분석부터 포병 타격까지 수 시간이 걸렸지만, 최근에는 실시간으로 타격이 가능한 수준이 됐다.

팔란티어 AIP 내 탑재된 GPT-4에 ‘당신은 공급망 경보 해결 봇입니다. 식별된 문제를 검토하고 해결책을 제시하시오’라는 질문을 던지는 예시, AIP로 확보한 정보를 바탕으로 앤스로픽, 오픈AI의 LLM 등이 데이터를 분석하고 처리하는 식이다 / 출처=팔란티어

LLM은 구체적인 데이터 분석과 작전 수립에 쓰인다. 프로젝트 메이븐에 활용되는 AIP에 클로드나 GPT가 연결돼 있고, 전쟁부 기밀 네트워크와 연결된 LLM이 데이터를 분석한다. 수만 페이지에 달하는 감청 자료와 위성 분석 보고서, 현장 첩보를 클로드에게 입력하고 ‘지난 48시간 동안 적군의 보급로에서 발견된 특이사항을 분석해’ 라든가 ‘실제 작전을 투입할 때 적들의 주요 거점이나 가장 최적의 타격 방법을 제안해줘”같은 식으로 활용된다. 민간에서는 ‘오늘 작업 취합해 줘’ 같은 작업을 수행하는 LLM이 프로젝트 메이븐 내에서는 타격 작전을 만들 때 쓰이는 것이다.

성명 발표한 앤스로픽, 모종의 합의 이룰 수 있을까?

앤스로픽이 공급망 위험 기업으로 지정되자 다리오 아모데이 앤스로픽 CEO는 성명을 발표했다. 우선 앤스로픽은 미국 전쟁부의 작전 결정에 관여하는 것은 본인들의 역할이 아니며, 완전 자율 무기와 대규모 국내 감시에 대한 것만 반대한다는 뜻을 분명히 했다. 분석하자면 LLM 자체를 활용해 군사작전을 수립하는 것을 지적하는 게 아니라 방아쇠까지 당기는 전자동 자율 무기 시스템에 클로드를 판단 용도로 탑재하고 국내 데이터를 분석해 미국 내 민간인을 사찰하는 식의 활용만 거부하겠다는 것이다. 다만 미 전쟁부 요구대로 해당 조항이 사라지면 향후 어떤 결론에 이를지는 알 수 없다.

앤스로픽이 현지 시간으로 지난 3월 5일, 공급망 위험 기업 지정에 대한 앤스로픽의 입장을 발표했다 / 출처=앤스로픽

그러면서 “앤스로픽은 국방부와 국가안보기관에 필요한 기간 동안, 그리고 허가가 나는 한 최소한의 비용으로 엔지니어를 지속적으로 지원할 것”이라면서 “우리와 국방부는 미국 국가안보를 강화하고 미국 국민을 보호하는데 전념하며, 미국 정부 전반에 걸쳐 AI를 적용해야 하는 시급성에 의견이 일치한다”고 덧붙였다.

오픈AI 역시 지난주 성명을 발표하고 ▲ 오픈AI 기술을 대규모 국내 감시에 사용하지 말 것 ▲ 자율 무기 시스템 제어에 사용하지 말 것 ▲ 사회 신용 시스템 등 위험도가 높은 자동화된 의사 결정에 사용하지 말 것을 강조했다. 앤스로픽의 합의와 크게 다르지 않지만 앤스로픽은 공급망 위험 기업으로 지정되고 오픈AI는 합의에 이른 배경은 오픈AI의 계약이 로봇이나 군사 장비 등 말단 장치에서의 활용을 제하고 서버에서만 이용하기로 제한된 것이 영향을 미친 것으로 본다.

펜실베이니아주 피츠버그 국제공항 공군 예비기지 지상 관제소에서 자율비행 드론의 비행경로를 확인 중이다 / 출처=미국 전쟁부

LLM의 무기화는 현재 진행형이며 미국 전쟁부는 국가 안보를 위해 향후 자율 무기 시스템에까지 이를 탑재할 의사가 분명하다. 프로젝트 메이븐으로 적군을 식별하고, 현장에 있는 자동 로봇이 온디바이스 AI로 적군을 분석한 뒤 사살 명령까지 완수하는 체계를 만들고자 하는 것이다. 미국 전쟁부와 AI 업계의 첨예한 대립은 우리나라 입장에서도 유심히 지켜봐야 할 대목이며, 더 나아가 AI 업계 전반의 윤리성 원칙의 결론과도 맞닿아있다. 이번 사태가 가능한 온건한 미래 사회를 이루는 결론으로 이어지기를 희망한다.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	치어리딩 가장 잘할 것 같은 스타는?	운영자	26/05/11	-	-
7054	[시승기] “손 떼도 스스로 달리고 차선까지 변경”…‘캐딜락 에스컬레이드’의 진화	IT동아	05.13	18	0
7053	‘GPS만 35년’ 가민, 아웃도어·스포츠에 강한 이유	IT동아	05.13	32	0
7052	디지털자산 과세 “고액 이용자 중심 제한적 과세 방안이 효율적”	IT동아	05.13	18	0
7051	[주간보안동향] 숨고, 개인정보 유출 의심 정황 공지…선제적 대응 착수 外	IT동아	05.13	898	3
7050	[주간스타트업동향] 네오덱스, 대만 국립치과병원과 1인 치과 진료 시스템 '히포디' MOU 체결 外	IT동아	05.13	20	0
7049	[AI써봄] 크롬 업데이트로 추가된 'Gemini에게 물어보기'는 쓸만할까?	IT동아	05.13	27	0
7048	[위클리AI] 오라클-삼성전자, 앤트로픽-스페이스X 각각 손잡았다 '파트너십 확장'	IT동아	05.12	85	0
7047	[뉴스줌인] 로봇청소기 시장, ‘직배수’ 넘어 ‘빌트인’으로… 드리미도 공식 참전 [1]	IT동아	05.12	472	0
7046	이학준 마드라스체크 대표 “AI 시대에도 협업 도구 플로우는 쉬움의 미학 담을 것”	IT동아	05.12	23	0
7045	IPO 재도전하는 세레브라스, 단 6개월 만에 다시 도전하는 배경은?	IT동아	05.12	46	0
7044	고민정 멀티캠퍼스 AX러닝혁신센터장, "AI 교육은 진단과 처방이 우선입니다"	IT동아	05.12	95	0
7043	“더 가볍고 빠르게” 노타·모빌린트, NPU 최적화 및 AI 사업 협력에 맞손	IT동아	05.12	464	1
7042	[투자를IT다] 2026년 5월 1주차 IT기업 주요 소식과 시장 전망	IT동아	05.11	25	0
7041	[신차공개] GMC ‘허머 EV SUV’·포르쉐 ‘마칸 GTS 일렉트릭’ 출시	IT동아	05.11	38	0
7040	[정석희의 기후 에너지 인사이트] 10. 햇빛은 공짜, 그물은 누가 만드는가? [1]	IT동아	05.11	562	0
7039	‘우주 비전’ 품은 LIG D&A, 스타트업 '스텔라비전'과 손잡은 이유?	IT동아	05.11	41	0
7038	[주간투자동향] 찬스, 47억 원 규모 투자 유치 外	IT동아	05.11	36	0
7037	“첨단전략산업 육성 목적” 국민참여형 국민성장펀드 조성, 다른 펀드와 다른 점은?	IT동아	05.08	120	0
7036	“맛집 예약부터 쇼핑 결제까지”…네이버 대화형 검색 AI탭 써보니	IT동아	05.08	43	0
7035	[스타트업리뷰] "스리라차보다 낮은 열량" 스퀴진, K-김 불편함까지 튜브로 풀었다 [6]	IT동아	05.08	687	0
7034	[르포] 지커, 강남 대치동에 브랜드 갤러리 오픈…최신 라인업 선보이며 존재감 확대 [9]	IT동아	05.08	904	2
7033	어르신에게 듣는 즐거움을, 제이디솔루션 청력보조 스피커 하룬제 기증 현장 가 보니	IT동아	05.08	48	0
7032	디지털자산 과세 앞두고 팽팽한 공방 ‘준비 안 됐다’ vs ‘예정대로 진행’	IT동아	05.08	47	0
7031	한국항공대 “방산 SW 인재, 총장배 2026 AI 파일럿 탑건 챌린지 도전하라”	IT동아	05.08	43	0
7030	“교통비 환급 더 많이” K-패스 '반값 모두의 카드', 지금 주목해야 하는 이유	IT동아	05.08	66	0
7029	[자동차와 法] 어린이 보호구역 교통사고를 둘러싼 오해와 현실, 책임의 경계	IT동아	05.08	281	0
7028	“플랫폼ㆍ하드웨어ㆍ소프트웨어 등 국내 AI 산업의 모든 것이 한 자리에” 2026 국제인공지능대전(AI EXPO)	IT동아	05.07	56	0
7027	서울창경 “창업기업 등용문, 올해의 K-스타트업 2026 혁신·AI 리그로”	IT동아	05.07	52	0
7026	OTT 구독 결합 전쟁, 나에게 맞는 조합은?	IT동아	05.07	79	0
7025	[스타트업-ing] 퓨잇, 한국수자원공사 손잡고 지역 플랫폼 '로컬바이브' 구축	IT동아	05.07	52	1
7024	나이트로 서울 2026 게임데이 'AI가 공동 창업자, ‘어떻게’ 보다 ‘무엇을’이 더 중요’ [1]	IT동아	05.07	335	0
7023	기업공개 앞둔 마키나락스, 버티컬 AI 분야 글로벌 선도기업 도약 나선다	IT동아	05.06	187	0
7022	[주간보안동향] 쿠팡·네이버 등 7개 오픈마켓, 개인정보 불공정 약관 시정 外	IT동아	05.06	44	0
7021	[위클리AI] 아마존·오픈AI·메타, 검색부터 로봇까지 서비스 고도화 박차	IT동아	05.06	113	0
7020	[신차공개] 현대차 ‘더 뉴 그랜저’ 디자인 공개·볼보 ‘XC90 블랙 에디션’ 한정 판매 [6]	IT동아	05.06	1832	0
7019	[주간스타트업동향] 디노티시아, 소버린 AI 법령 에이전트 '리걸큐' 베타 공개 外	IT동아	05.06	54	0
7018	[스타트업 브랜딩 가이드] 초기 스타트업이 투자자를 설득하는 브랜드 구조	IT동아	05.06	94	0
7017	10명 중 3명은 '시한부' 윈도10 PC 사용 중… 어떡하나?	IT동아	05.05	94	0
7016	[투자를IT다] 2026년 4월 5주차 IT기업 주요 소식과 시장 전망	IT동아	05.04	57	0
7015	AI·클라우드 시대 공공 보안의 새 이정표...망분리 장벽 허무는 N2SF	IT동아	05.04	57	0
7014	짐 켈러의 텐스토렌트, '블랙홀' AI 가속기로 IT 인프라 판도 뒤집을까	IT동아	05.04	141	0
7013	"싱가포르 거점으로 아세안 시장 공략", 인천창조경제혁신센터, AI/바이오 분야 글로벌 스타트업 서밋 개최	IT동아	05.04	57	0
7012	[주간투자동향] 티냅스, 45억 원 규모 시드 투자 유치 外	IT동아	05.04	72	0
7011	두레이 도입한 메가스터디교육, "협업 툴 도입 두 달 차··· 업무 문화·효율 개선 실감"	IT동아	05.04	50	0
7010	서울창조경제혁신센터, 동아닷컴+아이티동아의 '스타트업 글로벌 홍보 증진 프로그램' 합류	IT동아	04.30	58	0
7009	[르포] GM 창원공장서 만든 트랙스 크로스오버, 가포신항 거쳐 세계로	IT동아	04.30	83	0
7008	[뉴스줌인] 생성형 AI에 변곡점 맞은 어도비? 돌파구는 '오케스트레이션' [7]	IT동아	04.30	1268	0
7007	"텀블러 세척 더 쉬워졌다" 스타벅스·LG전자 마이컵, 직접 써보니	IT동아	04.30	146	0
7006	8세대 TPU 내놓으며 96만 대 GPU 주문한 구글··· 배경엔 '인프라 이원화' 전략	IT동아	04.30	1742	3
7005	신호철 슈프리마 전무 “출입통제 넘어 영상보안 융합…‘AI 통합 보안’ 승부수”	IT동아	04.30	96	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

앤스로픽, AI의 군사화 반대해 공급망 위험 기업으로 지정

질문·지식의 보고 ‘LLM’은 대체 어떻게 군사 무기로 쓰이게 됐나?

미군, 프로젝트 메이븐으로 현대전을 ‘알고리즘 전쟁’으로 바꾸는 중

성명 발표한 앤스로픽, 모종의 합의 이룰 수 있을까?

▶ 디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장▶ K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다▶ [위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외

추천 비추천

댓글 영역

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

대왕디시콘 사용중

대왕디시콘

즐겨찾기 추가 안내

즐겨찾기 추가 안내

색상 설정

즐겨찾기 편집

폴더명

즐겨찾기 편집

디시콘

▶ 디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장 ▶ K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다 ▶ [위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외