AI의 무기화 시작한 美 정부, 'LLM'은 어떻게 알고리즘 전쟁의 종심이 됐나

IT동아 · 2026.03.06 16:59:49

[IT동아 남시현 기자] 미국 전쟁부(국방부)가 인공지능 기업 앤스로픽(Anthropic)을 공급망 위험 기업으로 공식 지정했다. 미국 정부의 공급망 위험 기업은 미국의 국가안보, 경제적 번영 혹은 공공의 안정에 위협이 될 수 있는 기술을 다루는 기업을 대상으로 지정한다. 지난해 이란의 드론 및 미사일 개발에 부품을 공급한 중국, 튀르키예, UAE의 26개 기업이 이에 지정됐고, FCC(미연방통신위원회)도 모든 외국산 드론 및 핵심 부품 관련 기업을 커버드 리스트’로 만들어 미국 내 제품 판매 및 정부 이용을 제한했다.

공급망 위험 기업은 주로 미국 정부가 적국의 민간 기업을 통제하기 위한 수단으로 사용된다. 미국 기업이면서 방위산업이 아닌 AI 기업인 앤스로픽이 공급망 위험 기업으로 지정된 것은 대단히 이례적인 상황이다. 이번 사태는 전쟁부와 앤스로픽의 문제를 넘어서 실리콘밸리 내 AI 개발 기업 전체의 문제로 확산 중이며, 더 나아가 AI로 개인의 자유를 침해하거나 전쟁 계획을 수립하는 것을 허용해야 하는가의 윤리적인 문제로 번지고 있다.

앤스로픽, AI의 군사화 반대해 공급망 위험 기업으로 지정

미국 전쟁부 펜타곤 전경 / 출처=미국 전쟁부

사건의 발단은 지난해 7월 미국 전쟁부 산하 최고 디지털 및 인공지능국(CDAO)과 앤스로픽, 구글, 오픈AI, xAI와 맺은 지원 계약으로부터 시작한다. 미국 전쟁부는 미군의 전략적 우위를 위한 AI 에이전트를 개발하기 위해 4개 기업에 각각 2억 달러(약 2944억 원)를 지원하고 AI를 활용하기로 했다. 이때 앤스로픽은 책임감 있는 AI 원칙에 따라 ▲ 완전 자율 살상 무기 체계에 AI 활용 금지 ▲미국 국민에 대한 대규모 국민 감시에 활용 금지를 원칙으로 명시했다.

하지만 피트 헤그세스 전쟁부 장관은 군이 모든 합법적인 목적에 무제한으로 사용할 수 있어야 한다며 2월 27일까지 조항 삭제를 요구했고, 다리오 아모데이 앤스로픽 CEO는 AI 윤리와 안전 원칙을 이유로 수정을 거부했다. 결국 지난 3월 5일 앤스로픽이 국가 공급망 위험 기업으로 지정됐고 모든 연방기관에 앤스로픽 기술에 대한 사용 중단 명령이 내려졌다.

질문·지식의 보고 ‘LLM’은 대체 어떻게 군사 무기로 쓰이게 됐나?

민간 영역에서 LLM은 간단한 질의응답을 주고받고 원하는 이미지를 만드는 것부터 복잡한 수학·과학 문제를 풀이하고 더 나아가 인간의 작업을 자동화하고 대체하는 식으로 사용된다. 미국 정부 부처에서도 비슷한 방식으로 AI 전환이 진행되고 있지만 유독 전쟁부에서 윤리적인 사용과 관련한 문제가 불거지고 있다.

최고 디지털 및 인공지능국(CDAO)은 미군의 AI 전환을 담당하는 조직이며, 현재 미군 내 AI 도입과 관련한 마찰의 중심에 있다 / 출처=미국 전쟁부

2023년 8월, 당시 미국 국방부는 국방부 전반에 걸친 대규모 언어모델 개발 및 평가, 권고 모델을 담당하는 태스크포스 리마를 설립했다. 태스크포스는 AI 적용을 위해 다양한 실험과 반복이 필요하지만, 기능과 한계점이 빠르게 변하고 있으므로 위험성을 이해하고 활용하는 것을 권고했다. CDAO는 2024년 12월 태스크포스 리마를 해체하고 결과 보고서를 바탕으로 전쟁 수행, 기업경영 두 가지 측면에 대한 시범 사업을 구성하고 나선다.

이중 기업 경영은 재무시스템, 인사관리, 기업 물류 및 공급망 관리, 의료 정보 관리, 법률 분석 및 규정 준수, 조달 프로세스, 소프트웨어 개발 및 사이버 보안 등 민간 영역에서의 AI 활용과 비슷하다. 그러나 전쟁 수행은 지휘통제 및 의사결정, 작전 계획, 병참, 무기개발 및 시험, 무인 및 자율시스템, 정보 활동, 정보 작전 및 사이버 작전 등 일반적으로 접하기 어려운 분야를 다룬다. 이번에 윤리적 논란을 일으킨 부분은 정보활동이며 향후 무인 및 무기 개발 측면도 문제의 불씨가 지펴진 상황이다.

미군, 프로젝트 메이븐으로 현대전을 ‘알고리즘 전쟁’으로 바꾸는 중

미군에서 가장 폭넓게 쓰이는 AI는 팔란티어 기술이다. 팔란티어의 고담(Gotham)은 위성사진, 드론 및 위성 영상, 감청 기록, 인간 첩보 등의 서로 다른 데이터를 실시간으로 통합하고, 이를 기반으로 적군 위치를 추정하고 공격 시 어떤 무기 체계가 가장 효율적인지 제안한다. 팔란티어 AIP는 대형언어모델과 도입 기관의 데이터를 연결한 뒤 개발자가 직접 작업 흐름을 설계해 최적의 해결책을 제안하는 서비스다. 이때 앤스로픽 클로드나 오픈AI GPT 같은 LLM이 AIP와 결합해 분석 기능을 제공한다. 미국 국방부는 팔란티어 AIP를 바탕으로 ‘프로젝트 메이븐’을 추진 중이다.

팔란티어 AIP 내 공급망 컨트롤 타워 인터페이스, 에이전트 AI를 통한 자산 자동 조율이나 실시간 의사 결정을 돕는데 폭넓게 활용된다 / 출처=팔란티어

프로젝트 메이븐은 미국 전쟁부가 인공지능 기술을 실제 전장에 도입하기 위해 진행하는 가장 중요한 프로젝트다. 정식 명칭은 ‘알고리즘 전쟁 교차 기능 팀’이다. 프로젝트 메이븐은 2017년 미국 국방부 드론이 수집하는 영상 데이터가 폭발적으로 증가함에 따라 이를 AI로 자동 식별하게 하는 것을 목표로 시작했다. 이를 통해 미군 내 비정형 데이터를 AI 학습용 데이터로 전환하고, 특정 기업에 종속되지 않고 여러 AI 모델을 미군 시스템과 연결해서 쓰는 목표가 수립됐다.

미국 국방부가 자체 구축이 아닌 외부 기업의 AI를 조달하는 사실이 밝혀지며 구글은 2018년 내부 직원들의 반발로 AI 원칙을 발표한 뒤 프로젝트 메이븐에서 이탈한다. 그 자리를 팔란티어, 안두릴, 아마존이 메웠다. 팔란티어는 현재 미국 전쟁부 AI 도입의 총대를 잡고 프로젝트 메이븐과 초연결 전장 네트워크 CJADC2(Combined Joint All-Domain Command and Control)를 연결해 실행 가능한 작전까지 제공하는 AI 체계를 구축 중이다.

CJADC2는 미국 전쟁부 산하의 모든 자산을 연결하는 초연결 전장 네트워크다 / 출처=미국 우주군

CJADC2는 미국 육·해·공·우주·사이버 등 모든 영역의 센서와 군사적 자산을 하나의 네트워크로 묶는 전군 통합 지휘 통제 체계다. 전 세계 동원 가능한 모든 미군의 자원을 초연결한 체계다. CJADC2로 초연결된 군사 장비들이 데이터를 수집하고, 프로젝트 메이븐과 연결된 LLM이 이를 분석하고 식별한 뒤 최적의 작전을 만들어 CJADC2와 연결된 자산에 작전을 전달하는 식이다. 과거에는 사진 분석부터 포병 타격까지 수 시간이 걸렸지만, 최근에는 실시간으로 타격이 가능한 수준이 됐다.

팔란티어 AIP 내 탑재된 GPT-4에 ‘당신은 공급망 경보 해결 봇입니다. 식별된 문제를 검토하고 해결책을 제시하시오’라는 질문을 던지는 예시, AIP로 확보한 정보를 바탕으로 앤스로픽, 오픈AI의 LLM 등이 데이터를 분석하고 처리하는 식이다 / 출처=팔란티어

LLM은 구체적인 데이터 분석과 작전 수립에 쓰인다. 프로젝트 메이븐에 활용되는 AIP에 클로드나 GPT가 연결돼 있고, 전쟁부 기밀 네트워크와 연결된 LLM이 데이터를 분석한다. 수만 페이지에 달하는 감청 자료와 위성 분석 보고서, 현장 첩보를 클로드에게 입력하고 ‘지난 48시간 동안 적군의 보급로에서 발견된 특이사항을 분석해’ 라든가 ‘실제 작전을 투입할 때 적들의 주요 거점이나 가장 최적의 타격 방법을 제안해줘”같은 식으로 활용된다. 민간에서는 ‘오늘 작업 취합해 줘’ 같은 작업을 수행하는 LLM이 프로젝트 메이븐 내에서는 타격 작전을 만들 때 쓰이는 것이다.

성명 발표한 앤스로픽, 모종의 합의 이룰 수 있을까?

앤스로픽이 공급망 위험 기업으로 지정되자 다리오 아모데이 앤스로픽 CEO는 성명을 발표했다. 우선 앤스로픽은 미국 전쟁부의 작전 결정에 관여하는 것은 본인들의 역할이 아니며, 완전 자율 무기와 대규모 국내 감시에 대한 것만 반대한다는 뜻을 분명히 했다. 분석하자면 LLM 자체를 활용해 군사작전을 수립하는 것을 지적하는 게 아니라 방아쇠까지 당기는 전자동 자율 무기 시스템에 클로드를 판단 용도로 탑재하고 국내 데이터를 분석해 미국 내 민간인을 사찰하는 식의 활용만 거부하겠다는 것이다. 다만 미 전쟁부 요구대로 해당 조항이 사라지면 향후 어떤 결론에 이를지는 알 수 없다.

앤스로픽이 현지 시간으로 지난 3월 5일, 공급망 위험 기업 지정에 대한 앤스로픽의 입장을 발표했다 / 출처=앤스로픽

그러면서 “앤스로픽은 국방부와 국가안보기관에 필요한 기간 동안, 그리고 허가가 나는 한 최소한의 비용으로 엔지니어를 지속적으로 지원할 것”이라면서 “우리와 국방부는 미국 국가안보를 강화하고 미국 국민을 보호하는데 전념하며, 미국 정부 전반에 걸쳐 AI를 적용해야 하는 시급성에 의견이 일치한다”고 덧붙였다.

오픈AI 역시 지난주 성명을 발표하고 ▲ 오픈AI 기술을 대규모 국내 감시에 사용하지 말 것 ▲ 자율 무기 시스템 제어에 사용하지 말 것 ▲ 사회 신용 시스템 등 위험도가 높은 자동화된 의사 결정에 사용하지 말 것을 강조했다. 앤스로픽의 합의와 크게 다르지 않지만 앤스로픽은 공급망 위험 기업으로 지정되고 오픈AI는 합의에 이른 배경은 오픈AI의 계약이 로봇이나 군사 장비 등 말단 장치에서의 활용을 제하고 서버에서만 이용하기로 제한된 것이 영향을 미친 것으로 본다.

펜실베이니아주 피츠버그 국제공항 공군 예비기지 지상 관제소에서 자율비행 드론의 비행경로를 확인 중이다 / 출처=미국 전쟁부

LLM의 무기화는 현재 진행형이며 미국 전쟁부는 국가 안보를 위해 향후 자율 무기 시스템에까지 이를 탑재할 의사가 분명하다. 프로젝트 메이븐으로 적군을 식별하고, 현장에 있는 자동 로봇이 온디바이스 AI로 적군을 분석한 뒤 사살 명령까지 완수하는 체계를 만들고자 하는 것이다. 미국 전쟁부와 AI 업계의 첨예한 대립은 우리나라 입장에서도 유심히 지켜봐야 할 대목이며, 더 나아가 AI 업계 전반의 윤리성 원칙의 결론과도 맞닿아있다. 이번 사태가 가능한 온건한 미래 사회를 이루는 결론으로 이어지기를 희망한다.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	등만 봐도 설레이는 문짝남 스타는?	운영자	26/04/13	-	-
6917	고령운전자 면허 반납 절차와 지자체별 혜택 살펴보니	IT동아	17:00	4	0
6916	이더리움 코리아 컨소시엄 “국내 이더리움 생태계 재편한다”	IT동아	15:19	4	0
6915	경콘진, 상생 오픈이노베이션 참여기업 모집···현대·SK플래닛 협업 기회	IT동아	15:09	7	0
6914	[스타트업-ing] 위플로 “인공지능 비접촉 점검 기술로 세계 모빌리티 안전 확보”	IT동아	14:21	7	0
6913	[스타트업-ing] 에코넥트 "AI로 재활용 원료 최적화하는 '리젠포트', 글로벌에서 통했다"	IT동아	13:44	7	0
6912	[신차공개] 포르쉐 ‘신형 911 터보 S’·현대차 ‘2027 코나’ 출시	IT동아	10:18	8	0
6911	[투자를IT다] 2026년 4월 2주차 IT기업 주요 소식과 시장 전망	IT동아	04.13	11	0
6910	비싸서 못 산다던 맥북이 가성비? '멤플레이션'이 만든 PC 시장의 아이러니	IT동아	04.13	31	0
6909	[정석희의 기후 에너지 인사이트] 8. 46억 년 균형, 200년 만에 무너지다	IT동아	04.13	518	3
6908	[주간투자동향] 위플로, 55억 원 규모 시리즈A 투자 유치 外	IT동아	04.13	29	0
6907	아이디어 한 줄이면 충분…‘모두의 창업’으로 국가창업시대 연다	IT동아	04.13	637	0
6906	두나무, 영업 정지 취소 소송 승소 ‘제재 요건 불충분’	IT동아	04.10	59	0
6905	구름 뒤 미세먼지까지 잡는 AI 위성 지도, 얼마나 믿을 수 있을까 [16]	IT동아	04.10	1012	13
6904	국토부 ‘드론 실증도시’ 선정…무엇이 달라지나	IT동아	04.10	44	0
6903	"채팅 한 번 없이 팔렸다" 당근 바로구매, 직접 써보니 [15]	IT동아	04.10	3721	2
6902	“날씨 따라 음악 바뀐다”…주거 시장 파고든 AI 오감 마케팅 전략은	IT동아	04.10	122	0
6901	[크립토퀵서치] 단독상장 디지털자산 투자가 왜 위험한가요?	IT동아	04.10	50	0
6900	[AI 써봄] “온-디바이스 AI의 시작?” 구글 젬마 4와의 첫 만남	IT동아	04.09	42	0
6899	챗봇 넘은 AI… 보험 심사에서 공공 행정까지 업무 효율 이끈다	IT동아	04.09	40	0
6898	가장 싼 다이슨? 가장 비싼 손풍기? '99달러 승부수' 눈길	IT동아	04.09	84	0
6897	거래소 2025년 성적표 ‘업비트 실적 감소, 빗썸 2년 연속 흑자’	IT동아	04.09	44	0
6896	[기고] 연간 391만 건 중고차 이전등록…민관 협력으로 여는 비대면 전환	IT동아	04.09	41	0
6895	[AI써봄] "전문가와 영상통화하는 느낌" 구글 서치 라이브, 검색 판도 바꿀까	IT동아	04.09	50	0
6894	파네시아, AI 가속기용 컨트롤러 및 스위치 개발 착수··· 'AI 인프라 구심점 노린다'	IT동아	04.09	40	0
6893	금융당국, 거래소 내부통제 강화··상시 잔고 확인 의무화	IT동아	04.09	46	0
6892	AI 인프라 산업을 송두리째 흔든 중동 전쟁, 향후 방향은?	IT동아	04.08	51	0
6891	[주간스타트업동향] 스텔라비전, 중기부 초격차 스타트업 프로젝트 선정 外	IT동아	04.08	50	0
6890	시스코, ‘인지 인터넷’ 시대 선언…AI·양자 아우르는 차세대 인프라 비전 공개	IT동아	04.08	449	1
6889	세일즈포스 슬랙, 협업 툴 넘어 '에이전틱 엔터프라이즈'의 허브를 꿈꾸다	IT동아	04.08	347	0
6888	[스타트업 브랜딩 가이드] 예쁜 브랜드보다 흔들리지 않는 브랜드가 신뢰를 만든다	IT동아	04.08	84	0
6887	글로벌 스테이블코인 경쟁 가속 “발행·유통·운영 함께 설계해야”	IT동아	04.08	85	0
6886	지자체마다 판매소 정보 천차만별···종량제봉투 대란이 남긴 숙제	IT동아	04.08	44	0
6885	“AI가 3D 데이터를 학습한다” 신경망 텍스처 압축 기술이 주목받는 이유	IT동아	04.07	57	0
6884	SBA, 초격차 스타트업 프로젝트 ‘모두의 챌린지 AX – 버티컬 분야’ 참여기업 모집	IT동아	04.07	53	0
6883	[주간보안동향] 클로드 코드 51만 줄 소스코드 유출 外	IT동아	04.07	60	0
6882	[자동차와 法] 교통사고 소송 시 변호사가 필요한 순간	IT동아	04.07	45	0
6881	환율 1500원 시대, IT 기기·클라우드·구독 모델의 원·달러 요금 지형은? [6]	IT동아	04.07	1268	6
6880	[위클리AI] 미디어 TBPN 인수한 오픈AI vs 구글·브로드컴 손잡은 앤스로픽	IT동아	04.07	46	0
6879	SBA, 제조·콘텐츠·금융AI 초격차 링크업(Link-Up) 도메인 AX 프로그램 모집	IT동아	04.07	50	0
6878	SBA, 초격차 스타트업 프로젝트 ‘모두의 챌린지 AX – LLM 분야’ 참여기업 모집	IT동아	04.07	48	0
6877	경기콘텐츠진흥원 “2026 NRP, 가상융합·신기술 대표 육성 프로그램으로”	IT동아	04.07	42	0
6876	[스타트업-ing] 타이디비 “AI로 브랜딩 전 과정 자동화, AI 에이전트가 목표”	IT동아	04.07	52	0
6875	[기고] 모두의 창업, 지역의 골목에서 대한민국의 미래를 발견하다	IT동아	04.07	64	0
6874	[뉴스줌인] 단순 스펙 넘어 '체감 화질' 중시한 델 에일리언웨어 신제품, 어떤 인증 받았기에?	IT동아	04.06	72	0
6873	[투자를IT다] 2026년 4월 1주차 IT기업 주요 소식과 시장 전망	IT동아	04.06	82	0
6872	[신차공개] BMW ‘4시리즈 컨버터블 2종’·JLR '레인지로버 SV 블랙' 출시	IT동아	04.06	54	0
6871	오픈AI과 앤스로픽의 엇갈린 10년··· '윤리'가 가른 AI 패권의 향방	IT동아	04.06	56	0
6870	수익화 2.0 시대 여는 글로벌 AI 플랫폼, 전략 비교해보니	IT동아	04.06	59	0
6869	[주간투자동향] 리벨리온, 6400억 원 규모 프리IPO 투자 유치 外	IT동아	04.06	48	0
6868	김성민 경기도창업보육센터협의회장 “추경으로 모두의 창업·지역 창업 생태계 활성화”	IT동아	04.06	54	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

앤스로픽, AI의 군사화 반대해 공급망 위험 기업으로 지정

질문·지식의 보고 ‘LLM’은 대체 어떻게 군사 무기로 쓰이게 됐나?

미군, 프로젝트 메이븐으로 현대전을 ‘알고리즘 전쟁’으로 바꾸는 중

성명 발표한 앤스로픽, 모종의 합의 이룰 수 있을까?

▶ 디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장▶ K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다▶ [위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

▶ 디노티시아, 추론 특화 ‘AI 스토리지’로 전 세계 AI 효율화에 도전장 ▶ K-테크 뷰티의 정수, DDP 체험형 전시 공간 ‘비더비(B the B)’에 가다 ▶ [위클리AI] 퍼플렉시티 컴퓨터 나왔다···앤스로픽, 버셉트 인수 외