AI의 무기화 시작한 美 정부, 'LLM'은 어떻게 알고리즘 전쟁의 종심이 됐나

IT동아 · 2026.03.06 16:59:49

[IT동아 남시현 기자] 미국 전쟁부(국방부)가 인공지능 기업 앤스로픽(Anthropic)을 공급망 위험 기업으로 공식 지정했다. 미국 정부의 공급망 위험 기업은 미국의 국가안보, 경제적 번영 혹은 공공의 안정에 위협이 될 수 있는 기술을 다루는 기업을 대상으로 지정한다. 지난해 이란의 드론 및 미사일 개발에 부품을 공급한 중국, 튀르키예, UAE의 26개 기업이 이에 지정됐고, FCC(미연방통신위원회)도 모든 외국산 드론 및 핵심 부품 관련 기업을 커버드 리스트’로 만들어 미국 내 제품 판매 및 정부 이용을 제한했다.

공급망 위험 기업은 주로 미국 정부가 적국의 민간 기업을 통제하기 위한 수단으로 사용된다. 미국 기업이면서 방위산업이 아닌 AI 기업인 앤스로픽이 공급망 위험 기업으로 지정된 것은 대단히 이례적인 상황이다. 이번 사태는 전쟁부와 앤스로픽의 문제를 넘어서 실리콘밸리 내 AI 개발 기업 전체의 문제로 확산 중이며, 더 나아가 AI로 개인의 자유를 침해하거나 전쟁 계획을 수립하는 것을 허용해야 하는가의 윤리적인 문제로 번지고 있다.

앤스로픽, AI의 군사화 반대해 공급망 위험 기업으로 지정

미국 전쟁부 펜타곤 전경 / 출처=미국 전쟁부

사건의 발단은 지난해 7월 미국 전쟁부 산하 최고 디지털 및 인공지능국(CDAO)과 앤스로픽, 구글, 오픈AI, xAI와 맺은 지원 계약으로부터 시작한다. 미국 전쟁부는 미군의 전략적 우위를 위한 AI 에이전트를 개발하기 위해 4개 기업에 각각 2억 달러(약 2944억 원)를 지원하고 AI를 활용하기로 했다. 이때 앤스로픽은 책임감 있는 AI 원칙에 따라 ▲ 완전 자율 살상 무기 체계에 AI 활용 금지 ▲미국 국민에 대한 대규모 국민 감시에 활용 금지를 원칙으로 명시했다.

하지만 피트 헤그세스 전쟁부 장관은 군이 모든 합법적인 목적에 무제한으로 사용할 수 있어야 한다며 2월 27일까지 조항 삭제를 요구했고, 다리오 아모데이 앤스로픽 CEO는 AI 윤리와 안전 원칙을 이유로 수정을 거부했다. 결국 지난 3월 5일 앤스로픽이 국가 공급망 위험 기업으로 지정됐고 모든 연방기관에 앤스로픽 기술에 대한 사용 중단 명령이 내려졌다.

질문·지식의 보고 ‘LLM’은 대체 어떻게 군사 무기로 쓰이게 됐나?

민간 영역에서 LLM은 간단한 질의응답을 주고받고 원하는 이미지를 만드는 것부터 복잡한 수학·과학 문제를 풀이하고 더 나아가 인간의 작업을 자동화하고 대체하는 식으로 사용된다. 미국 정부 부처에서도 비슷한 방식으로 AI 전환이 진행되고 있지만 유독 전쟁부에서 윤리적인 사용과 관련한 문제가 불거지고 있다.

최고 디지털 및 인공지능국(CDAO)은 미군의 AI 전환을 담당하는 조직이며, 현재 미군 내 AI 도입과 관련한 마찰의 중심에 있다 / 출처=미국 전쟁부

2023년 8월, 당시 미국 국방부는 국방부 전반에 걸친 대규모 언어모델 개발 및 평가, 권고 모델을 담당하는 태스크포스 리마를 설립했다. 태스크포스는 AI 적용을 위해 다양한 실험과 반복이 필요하지만, 기능과 한계점이 빠르게 변하고 있으므로 위험성을 이해하고 활용하는 것을 권고했다. CDAO는 2024년 12월 태스크포스 리마를 해체하고 결과 보고서를 바탕으로 전쟁 수행, 기업경영 두 가지 측면에 대한 시범 사업을 구성하고 나선다.

이중 기업 경영은 재무시스템, 인사관리, 기업 물류 및 공급망 관리, 의료 정보 관리, 법률 분석 및 규정 준수, 조달 프로세스, 소프트웨어 개발 및 사이버 보안 등 민간 영역에서의 AI 활용과 비슷하다. 그러나 전쟁 수행은 지휘통제 및 의사결정, 작전 계획, 병참, 무기개발 및 시험, 무인 및 자율시스템, 정보 활동, 정보 작전 및 사이버 작전 등 일반적으로 접하기 어려운 분야를 다룬다. 이번에 윤리적 논란을 일으킨 부분은 정보활동이며 향후 무인 및 무기 개발 측면도 문제의 불씨가 지펴진 상황이다.

미군, 프로젝트 메이븐으로 현대전을 ‘알고리즘 전쟁’으로 바꾸는 중

미군에서 가장 폭넓게 쓰이는 AI는 팔란티어 기술이다. 팔란티어의 고담(Gotham)은 위성사진, 드론 및 위성 영상, 감청 기록, 인간 첩보 등의 서로 다른 데이터를 실시간으로 통합하고, 이를 기반으로 적군 위치를 추정하고 공격 시 어떤 무기 체계가 가장 효율적인지 제안한다. 팔란티어 AIP는 대형언어모델과 도입 기관의 데이터를 연결한 뒤 개발자가 직접 작업 흐름을 설계해 최적의 해결책을 제안하는 서비스다. 이때 앤스로픽 클로드나 오픈AI GPT 같은 LLM이 AIP와 결합해 분석 기능을 제공한다. 미국 국방부는 팔란티어 AIP를 바탕으로 ‘프로젝트 메이븐’을 추진 중이다.

팔란티어 AIP 내 공급망 컨트롤 타워 인터페이스, 에이전트 AI를 통한 자산 자동 조율이나 실시간 의사 결정을 돕는데 폭넓게 활용된다 / 출처=팔란티어

프로젝트 메이븐은 미국 전쟁부가 인공지능 기술을 실제 전장에 도입하기 위해 진행하는 가장 중요한 프로젝트다. 정식 명칭은 ‘알고리즘 전쟁 교차 기능 팀’이다. 프로젝트 메이븐은 2017년 미국 국방부 드론이 수집하는 영상 데이터가 폭발적으로 증가함에 따라 이를 AI로 자동 식별하게 하는 것을 목표로 시작했다. 이를 통해 미군 내 비정형 데이터를 AI 학습용 데이터로 전환하고, 특정 기업에 종속되지 않고 여러 AI 모델을 미군 시스템과 연결해서 쓰는 목표가 수립됐다.

미국 국방부가 자체 구축이 아닌 외부 기업의 AI를 조달하는 사실이 밝혀지며 구글은 2018년 내부 직원들의 반발로 AI 원칙을 발표한 뒤 프로젝트 메이븐에서 이탈한다. 그 자리를 팔란티어, 안두릴, 아마존이 메웠다. 팔란티어는 현재 미국 전쟁부 AI 도입의 총대를 잡고 프로젝트 메이븐과 초연결 전장 네트워크 CJADC2(Combined Joint All-Domain Command and Control)를 연결해 실행 가능한 작전까지 제공하는 AI 체계를 구축 중이다.

CJADC2는 미국 전쟁부 산하의 모든 자산을 연결하는 초연결 전장 네트워크다 / 출처=미국 우주군

CJADC2는 미국 육·해·공·우주·사이버 등 모든 영역의 센서와 군사적 자산을 하나의 네트워크로 묶는 전군 통합 지휘 통제 체계다. 전 세계 동원 가능한 모든 미군의 자원을 초연결한 체계다. CJADC2로 초연결된 군사 장비들이 데이터를 수집하고, 프로젝트 메이븐과 연결된 LLM이 이를 분석하고 식별한 뒤 최적의 작전을 만들어 CJADC2와 연결된 자산에 작전을 전달하는 식이다. 과거에는 사진 분석부터 포병 타격까지 수 시간이 걸렸지만, 최근에는 실시간으로 타격이 가능한 수준이 됐다.

팔란티어 AIP 내 탑재된 GPT-4에 ‘당신은 공급망 경보 해결 봇입니다. 식별된 문제를 검토하고 해결책을 제시하시오’라는 질문을 던지는 예시, AIP로 확보한 정보를 바탕으로 앤스로픽, 오픈AI의 LLM 등이 데이터를 분석하고 처리하는 식이다 / 출처=팔란티어

LLM은 구체적인 데이터 분석과 작전 수립에 쓰인다. 프로젝트 메이븐에 활용되는 AIP에 클로드나 GPT가 연결돼 있고, 전쟁부 기밀 네트워크와 연결된 LLM이 데이터를 분석한다. 수만 페이지에 달하는 감청 자료와 위성 분석 보고서, 현장 첩보를 클로드에게 입력하고 ‘지난 48시간 동안 적군의 보급로에서 발견된 특이사항을 분석해’ 라든가 ‘실제 작전을 투입할 때 적들의 주요 거점이나 가장 최적의 타격 방법을 제안해줘”같은 식으로 활용된다. 민간에서는 ‘오늘 작업 취합해 줘’ 같은 작업을 수행하는 LLM이 프로젝트 메이븐 내에서는 타격 작전을 만들 때 쓰이는 것이다.

성명 발표한 앤스로픽, 모종의 합의 이룰 수 있을까?

앤스로픽이 공급망 위험 기업으로 지정되자 다리오 아모데이 앤스로픽 CEO는 성명을 발표했다. 우선 앤스로픽은 미국 전쟁부의 작전 결정에 관여하는 것은 본인들의 역할이 아니며, 완전 자율 무기와 대규모 국내 감시에 대한 것만 반대한다는 뜻을 분명히 했다. 분석하자면 LLM 자체를 활용해 군사작전을 수립하는 것을 지적하는 게 아니라 방아쇠까지 당기는 전자동 자율 무기 시스템에 클로드를 판단 용도로 탑재하고 국내 데이터를 분석해 미국 내 민간인을 사찰하는 식의 활용만 거부하겠다는 것이다. 다만 미 전쟁부 요구대로 해당 조항이 사라지면 향후 어떤 결론에 이를지는 알 수 없다.

앤스로픽이 현지 시간으로 지난 3월 5일, 공급망 위험 기업 지정에 대한 앤스로픽의 입장을 발표했다 / 출처=앤스로픽

그러면서 “앤스로픽은 국방부와 국가안보기관에 필요한 기간 동안, 그리고 허가가 나는 한 최소한의 비용으로 엔지니어를 지속적으로 지원할 것”이라면서 “우리와 국방부는 미국 국가안보를 강화하고 미국 국민을 보호하는데 전념하며, 미국 정부 전반에 걸쳐 AI를 적용해야 하는 시급성에 의견이 일치한다”고 덧붙였다.

오픈AI 역시 지난주 성명을 발표하고 ▲ 오픈AI 기술을 대규모 국내 감시에 사용하지 말 것 ▲ 자율 무기 시스템 제어에 사용하지 말 것 ▲ 사회 신용 시스템 등 위험도가 높은 자동화된 의사 결정에 사용하지 말 것을 강조했다. 앤스로픽의 합의와 크게 다르지 않지만 앤스로픽은 공급망 위험 기업으로 지정되고 오픈AI는 합의에 이른 배경은 오픈AI의 계약이 로봇이나 군사 장비 등 말단 장치에서의 활용을 제하고 서버에서만 이용하기로 제한된 것이 영향을 미친 것으로 본다.

펜실베이니아주 피츠버그 국제공항 공군 예비기지 지상 관제소에서 자율비행 드론의 비행경로를 확인 중이다 / 출처=미국 전쟁부

LLM의 무기화는 현재 진행형이며 미국 전쟁부는 국가 안보를 위해 향후 자율 무기 시스템에까지 이를 탑재할 의사가 분명하다. 프로젝트 메이븐으로 적군을 식별하고, 현장에 있는 자동 로봇이 온디바이스 AI로 적군을 분석한 뒤 사살 명령까지 완수하는 체계를 만들고자 하는 것이다. 미국 전쟁부와 AI 업계의 첨예한 대립은 우리나라 입장에서도 유심히 지켜봐야 할 대목이며, 더 나아가 AI 업계 전반의 윤리성 원칙의 결론과도 맞닿아있다. 이번 사태가 가능한 온건한 미래 사회를 이루는 결론으로 이어지기를 희망한다.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	등만 봐도 설레이는 문짝남 스타는?	운영자	26/04/13	-	-
이슈	[디시人터뷰] '쪼와요~ 쪼와요~’ 캐릭터에 생명을 불어넣는 성우 박시윤	운영자	26/04/17	-	-
6943	[AI 써봄] 구형 갤럭시와 아이폰에 젬마 4를 설치해 보니	IT동아	04.17	53	0
6942	[리뷰] PC 장인, 게임 장인 만나 탄생한 특별 한정판, 에이수스 ROG 플로우 Z13-KJP	IT동아	04.17	18	0
6941	"앱마다 다르다" 공영주차장 5부제 정보, 어떻게 확인하나	IT동아	04.17	17	0
6940	흩어진 내 정보 모아놓은 ‘온마이데이터’, 저장·관리까지 쉬워진다	IT동아	04.17	23	0
6939	공공 인프라를 스타트업 혁신 플랫폼으로 탈바꿈…‘한국수자원공사’ [1]	IT동아	04.17	40	0
6938	“복지 행정의 AI 적용 현황과 방향성을 논하다” AI 기반 복지서비스 세미나 개최	IT동아	04.17	21	0
6937	수이, AI 에이전트 시대 금융 인프라 비전 제시 ‘차별점은 수수료 무료’	IT동아	04.17	19	0
6936	'기술 우선주의'로 회귀한 인텔, 57년 역사상 가장 빠른 반전 거둔 배경은?	IT동아	04.17	60	0
6935	이병천 고려대 크림슨창업지원단장 “모두의 창업 프로젝트, 韓 생태계 혁신 계기로”	IT동아	04.17	20	0
6934	"신고는 편해졌는데 결과는 이용자 몫" 불법스팸 신고 시스템 현주소 [2]	IT동아	04.17	1005	0
6933	[월간자동차] 26년 3월, 기아 ‘쏘렌토’·테슬라 ‘모델 Y’ 1위 수성 [1]	IT동아	04.16	291	0
6932	[크립토퀵서치] 정부가 디지털자산 관리 체계를 마련한 이유는?	IT동아	04.16	24	0
6931	이지혜 에임 대표 “상위 1% 자산관리 노하우 공유…에임 2.0으로 금융의 민주화 확장”	IT동아	04.16	30	0
6930	블록체인 도입 기업 위한 실전 제언 “전략·인프라·회계 고민해야”	IT동아	04.16	34	0
6929	서울과학기술대학교, "대한민국 제조 창업의 지속성 위해 끝까지 지원한다"	IT동아	04.16	39	0
6928	“AI 풀스택 기업” 선언한 엘리스그룹, 인프라ㆍ솔루션 역량 강화 나선다	IT동아	04.15	116	0
6927	법률ㆍ규제 혁신의 토대 쌓는 씨지인사이드의 버티컬 AI 기술	IT동아	04.15	34	0
6926	[시승기] 뒷유리 없앤 과감한 시도와 544마력 성능 돋보인 전기 SUV ‘폴스타 4’	IT동아	04.15	45	0
6925	[주간보안동향] 27년 전 취약점 발견한 AI…보안 업계 파장 일으킨 ‘미토스’ 外 [4]	IT동아	04.15	1416	3
6924	SKT·Arm·리벨리온 3각 동맹··· Arm AGI 기반 서버에 리벨리온 NPU 탑재한다	IT동아	04.15	44	0
6923	[주간스타트업동향] 마크노바-벨루가, AI 시니어 케어 고도화 MOU 체결 外	IT동아	04.15	43	0
6922	디지털자산 거래소 출금지연제도 강화 ‘보이스피싱 피해 방지 위해’	IT동아	04.15	50	0
6921	[위클리AI] 메타 뮤즈 스파크 공개에 오픈AI 요금제 개편까지 '빅테크 경쟁 심화'	IT동아	04.14	50	0
6920	'피지컬 AI 인프라 기업' 선언한 딥엑스, 전성비·총소유비용 앞세워 세계 시장 공략	IT동아	04.14	82	0
6919	코인원, 특금법 위반 9만 건···영업 일부정지 3개월·과태료 52억 원 제재	IT동아	04.14	50	0
6918	“AI 에이전트 오작동 신속히 복구”…코헤시티의 AI 회복탄력성 전략	IT동아	04.14	42	0
6917	고령운전자 면허 반납 절차와 지자체별 혜택 살펴보니 [8]	IT동아	04.14	1031	2
6916	이더리움 코리아 컨소시엄 “국내 이더리움 생태계 재편한다”	IT동아	04.14	47	0
6915	경콘진, 상생 오픈이노베이션 참여기업 모집···현대·SK플래닛 협업 기회	IT동아	04.14	55	0
6914	[스타트업-ing] 위플로 “인공지능 비접촉 점검 기술로 세계 모빌리티 안전 확보”	IT동아	04.14	52	0
6913	[스타트업-ing] 에코넥트 "AI로 재활용 원료 최적화하는 '리젠포트', 글로벌에서 통했다"	IT동아	04.14	45	0
6912	[신차공개] 포르쉐 ‘신형 911 터보 S’·현대차 ‘2027 코나’ 출시 [9]	IT동아	04.14	1833	1
6911	[투자를IT다] 2026년 4월 2주차 IT기업 주요 소식과 시장 전망	IT동아	04.13	53	0
6910	비싸서 못 산다던 맥북이 가성비? '멤플레이션'이 만든 PC 시장의 아이러니	IT동아	04.13	130	0
6909	[정석희의 기후 에너지 인사이트] 8. 46억 년 균형, 200년 만에 무너지다	IT동아	04.13	591	3
6908	[주간투자동향] 위플로, 55억 원 규모 시리즈A 투자 유치 外	IT동아	04.13	60	0
6907	아이디어 한 줄이면 충분…‘모두의 창업’으로 국가창업시대 연다	IT동아	04.13	764	0
6906	두나무, 영업 정지 취소 소송 승소 ‘제재 요건 불충분’	IT동아	04.10	84	0
6905	구름 뒤 미세먼지까지 잡는 AI 위성 지도, 얼마나 믿을 수 있을까 [16]	IT동아	04.10	1073	13
6904	국토부 ‘드론 실증도시’ 선정…무엇이 달라지나 [1]	IT동아	04.10	98	0
6903	"채팅 한 번 없이 팔렸다" 당근 바로구매, 직접 써보니 [15]	IT동아	04.10	4093	2
6902	“날씨 따라 음악 바뀐다”…주거 시장 파고든 AI 오감 마케팅 전략은	IT동아	04.10	141	0
6901	[크립토퀵서치] 단독상장 디지털자산 투자가 왜 위험한가요?	IT동아	04.10	75	0
6900	[AI 써봄] “온-디바이스 AI의 시작?” 구글 젬마 4와의 첫 만남	IT동아	04.09	69	0
6899	챗봇 넘은 AI… 보험 심사에서 공공 행정까지 업무 효율 이끈다	IT동아	04.09	70	0
6898	가장 싼 다이슨? 가장 비싼 손풍기? '99달러 승부수' 눈길	IT동아	04.09	108	0
6897	거래소 2025년 성적표 ‘업비트 실적 감소, 빗썸 2년 연속 흑자’	IT동아	04.09	75	0
6896	[기고] 연간 391만 건 중고차 이전등록…민관 협력으로 여는 비대면 전환	IT동아	04.09	69	0
6895	[AI써봄] "전문가와 영상통화하는 느낌" 구글 서치 라이브, 검색 판도 바꿀까	IT동아	04.09	68	0
6894	파네시아, AI 가속기용 컨트롤러 및 스위치 개발 착수··· 'AI 인프라 구심점 노린다'	IT동아	04.09	61	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

앤스로픽, AI의 군사화 반대해 공급망 위험 기업으로 지정

질문·지식의 보고 ‘LLM’은 대체 어떻게 군사 무기로 쓰이게 됐나?

미군, 프로젝트 메이븐으로 현대전을 ‘알고리즘 전쟁’으로 바꾸는 중

성명 발표한 앤스로픽, 모종의 합의 이룰 수 있을까?

▶ 디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장▶ K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다▶ [위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

▶ 디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장 ▶ K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다 ▶ [위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외