펜타곤, 기밀 시스템서 Claude 빼내려 OpenAI·Google·xAI 테스트 — '너무 안전해서' 밀려나는 앤트로픽

군이 'AI가 너무 안전하다'고 짜증 내는, 좀 이상한 사건

자, 보통 우리가 듣는 AI 사고는 "이 모델 위험해, 통제가 안 돼" 쪽이잖아. 근데 이번 건 정반대야. 미 국방부가 앤트로픽 Claude를 두고 '너무 안전해서 못 쓰겠다'며 OpenAI·Google·xAI 모델로 갈아탈 준비를 하고 있어. 한 줄로 끝낼 수 있는데, 이 한 줄이 AI 안전 논쟁의 가장 날카로운 부분을 정통으로 찌르고 있어서 그냥 넘기기가 어렵지.

상황을 정리하면 이래. 앤트로픽은 지난 1년간 군·정보 분야의 핵심 AI 공급자였어. Claude가 펜타곤의 기밀 네트워크, 특히 'Maven Smart System'이라는 전장 정보 분석 시스템에 들어가 있었거든. 그런데 국방장관 피트 헤그세스가 앤트로픽 제품을 '공급망 리스크(supply-chain risk)'로 지정하면서 판이 흔들렸어. 그 뒤로 국방부는 라이벌 모델들을 본격적으로 시험대에 올렸고, Claude를 쓰던 워크플로를 하나씩 대체 후보로 돌려보고 있어.

왜 '너무 안전해서'가 문제냐고? 앤트로픽이 자사 모델에 대량 감시(mass surveillance)와 자율 살상무기(lethal autonomous weaponry)에 쓰이지 못하게 막는 안전장치를 걸어놨거든. 군 입장에선 "우리가 사려는 건 전쟁 도구인데, 네가 전쟁에 못 쓰게 막아놨다"는 거고, 앤트로픽 입장에선 "그 선은 못 넘는다"는 거야. 양쪽 다 자기 논리가 분명해서, 단순한 계약 분쟁이 아니라 가치관 충돌에 가까워.

그래서 오늘 풀 이야기는 이거야. 왜 군이 1년 만에 '믿음직한 안전한 AI'에서 등을 돌렸는지, 앤트로픽은 왜 수십억 달러가 걸린 계약을 두고도 안전장치를 안 풀고 법정으로 갔는지, 그리고 이 싸움이 'AI를 어디까지 무기로 쓸 것인가'라는 더 큰 질문에 어떤 신호를 던지는지. 등장인물 셋만 알면 그림이 잡혀.

등장인물 — 펜타곤, 앤트로픽, 그리고 '레드라인'

먼저 펜타곤(미 국방부). 여기는 지금 AI를 전장에 깊숙이 박아 넣는 중이야. 'Maven Smart System'이 그 상징인데, 드론·위성·센서가 쏟아내는 방대한 데이터를 AI가 추려서 표적과 위협을 빠르게 식별하는 시스템이야. 사람이 일일이 보던 걸 AI가 대신 정리해주니까 작전 속도가 확 빨라지지. 국방부는 이 핵심 두뇌를 가장 똑똑한 모델로 채우고 싶어 해. 동시에, 공급자가 자기들 손발을 묶는 건 절대 못 참는 조직이기도 해.

다음은 앤트로픽. 'AI 안전'을 정체성으로 내건 회사야. 그냥 마케팅 구호가 아니라, 실제로 사용 정책(usage policy)에 특정 용도를 못 쓰게 하는 가드레일을 걸어둬. 그중에서도 대량 감시와 완전 자율 살상(사람의 최종 판단 없이 AI가 죽이는 것)은 앤트로픽이 좀처럼 안 풀려는 '레드라인'이야. 지난 1년간 군과 일하면서도 이 선만큼은 지켜왔는데, 바로 그게 이번에 마찰의 핵심이 됐어.

마지막 주인공은 사람이 아니라 개념인데, 바로 그 '레드라인' 자체야. 앤트로픽은 Claude가 누군가를 직접 겨냥해 죽이는 결정이나, 시민 전체를 들여다보는 감시에 쓰이는 걸 막아. 군은 "전장에선 그게 다 필요할 수 있다"고 보고. 그러니까 이번 사건은 'A 회사 모델 vs B 회사 모델'의 성능 싸움이 아니라, **'AI에 윤리적 한계선을 그어둔 공급자를, 그 한계선이 거슬리는 고객이 어떻게 대하는가'**의 문제인 거지.

이 셋의 관계를 한 문장으로 묶으면 이래. 군은 가장 똑똑한 두뇌를 원하고, 앤트로픽은 그 두뇌에 윤리적 안전핀을 꽂아뒀으며, 그 안전핀이 거슬린 군이 다른 공급자를 찾아 나섰다. 이게 이야기의 뼈대야.

핵심 내용 — 무슨 일이 벌어졌나

말로 풀면 길어지니까, 확인된 사실을 표로 먼저 보자.

항목	내용
기존 공급자	앤트로픽 Claude (Maven Smart System 등 기밀 네트워크)
기존 계약 규모	2025년 7월 체결, 최대 2억 달러 규모
갈등 발단	헤그세스 국방장관, 앤트로픽 제품을 '공급망 리스크'로 지정
핵심 쟁점	대량 감시·자율 살상무기 사용 금지 안전장치를 안 풀겠다는 입장
대체 테스트	OpenAI·Google·xAI 모델을 'GenAI.mil' 플랫폼에서 시험
테스트 인력	지정된 군 인원 약 25명이 동일 워크플로로 비교 평가
협력사 영향	Claude를 통합했던 계약사들에 대체재 찾을 6개월 유예 부여
앤트로픽 대응	'공급망 리스크' 지정을 법정에서 다투는 중 (수십억 달러 매출 위험 주장)

표를 한 줄씩 보자. 우선 테스트가 진짜 진행되고 있다는 게 핵심이야. 그냥 으름장이 아니라, 기존 Maven 시스템과 별개로 'GenAI.mil'이라는 평가용 플랫폼을 돌리고, 지정 인원이 Claude가 하던 작업을 라이벌 모델들에 똑같이 시켜보며 점수를 매기고 있어. 이건 "갈아탈 수도 있다"가 아니라 "갈아탈 준비를 실제로 하고 있다"는 단계라는 뜻이야.

두 번째로 계약사 6개월 유예가 의미심장해. Claude를 자기 시스템에 끼워 넣었던 방산·IT 협력사들한테 "대체재 찾을 시간 6개월 줄게"라고 통보한 거거든. 한 회사가 그냥 빠지는 게 아니라, Claude에 의존하던 생태계 전체가 흔들릴 수 있다는 신호야.

세 번째로 앤트로픽이 법정으로 갔다는 점. 회사는 '공급망 리스크' 지정 자체에 이의를 제기하면서, 이게 수십억 달러 매출을 날릴 수 있다고 주장하고 있어. 동시에 안전장치는 안 푸는 쪽을 택했고. 돈이 걸린 상황에서도 원칙을 굽히지 않고 법적 다툼을 택한 거라, 이 회사가 'AI 안전'을 단순 슬로건으로 보지 않는다는 걸 행동으로 보여준 셈이지.

각자의 이득 — 누가 뭘 얻고 잃나

가장 직접적으로 잃을 게 많은 쪽은 앤트로픽이야. 최대 2억 달러 규모 계약에 더해, 군·정보 시장이라는 거대하고 안정적인 매출처를 통째로 위협받고 있어. IPO를 앞둔 회사한테 군 매출이 빠지는 건 분명 아픈 카드지. 근데 역설적으로, 앤트로픽은 여기서 '브랜드 자산'을 얻기도 해. "돈 앞에서도 안전 원칙을 안 굽힌 회사"라는 평판은 규제 산업·엔터프라이즈 시장에서 오히려 신뢰로 환산되거든. 군을 잃는 대신 '믿을 수 있는 AI'라는 정체성을 더 단단히 굳히는 거야.

반대로 OpenAI·Google·xAI는 기회를 잡았어. 군이라는 초대형 고객의 기밀 워크플로에 들어갈 문이 열린 거니까. 특히 이들은 앤트로픽만큼 빡빡한 군사 이용 제한을 걸지 않는 쪽으로 알려져 있어서, "우리는 군이 필요한 걸 막지 않는다"는 포지션으로 비집고 들어갈 수 있어. 정부 계약은 한번 들어가면 길고 끈끈하게 이어지는 매출이라, 이들 입장에선 탐나는 자리지.

그리고 펜타곤 자신은 단기적으로 '공급자 다변화'라는 이득을 노려. 한 회사에 핵심 두뇌를 다 맡겼다가 그 회사가 손발을 묶으면 군은 옴짝달싹 못 하잖아. 여러 공급자를 경쟁시키면 협상력도 생기고, 특정 회사의 정책에 발목 잡힐 위험도 줄지. 다만 이건 "성능 좋은 모델을 고르는 일"이 아니라 "윤리적 제약이 적은 모델을 고르는 일"로 흐를 위험을 안고 있어서, 장기적으론 군 스스로 'AI 안전'이라는 평판 부담을 떠안게 될 수도 있어.

종합하면, 단기 손익은 앤트로픽 마이너스·경쟁사 플러스가 분명한데, 장기 평판 게임은 누가 이길지 아직 안 정해졌어. '안전을 지킨 회사'와 '제약을 푼 회사' 중 시장이 어느 쪽 손을 들어줄지는 시간이 말해줄 문제야.

과거 유사 사례 — 성공과 실패

이런 '기술기업 vs 군'의 긴장, 처음이 아니야. 가장 유명한 게 한 거대 IT기업의 군용 AI 프로젝트 사례야. 직원들이 "우리 기술이 살상에 쓰이는 게 싫다"며 집단 반발했고, 결국 회사가 해당 군 프로젝트 연장을 포기했었지. 그때 교훈은 분명했어. AI 회사한테 군 계약은 '돈은 크지만 정체성과 충돌하면 폭발하는' 양날의 검이라는 것. 앤트로픽은 그 폭발을 미리 피하려고 처음부터 레드라인을 그어둔 셈이야.

성공 사례 쪽도 보면 균형이 잡혀. 어떤 방산·기술 기업들은 "우리는 국방을 적극 돕는다"를 정체성으로 내세워서 오히려 거대 계약과 높은 밸류에이션을 거머쥐었어. 군과의 밀착을 자산으로 만든 거지. 즉 '군과 가까운 게 좋은가, 나쁜가'엔 정답이 없고, 회사가 어떤 정체성과 고객층을 노리느냐에 따라 정반대 전략이 둘 다 통한다는 게 핵심이야. 앤트로픽은 '안전·신뢰' 고객을, 경쟁사 일부는 '국방·정부' 고객을 택한 거고.

실패의 그림자도 분명히 있어. 군 의존도가 높았던 기술기업이 정책 한 번 바뀌거나 정권 한 번 교체되면서 핵심 매출이 휘청한 사례도 많거든. 정부 고객은 거대하지만 동시에 변덕스럽고 정치적이야. 앤트로픽이 군을 잃는 게 단기엔 아파도, 매출을 정부 한 곳에 크게 의존하지 않게 되는 거라면 장기 리스크 분산 측면에선 꼭 나쁜 것만도 아니라는 해석도 가능해.

그래서 균형 잡힌 시각은 이래. 이번 일은 앤트로픽한테 단기 타격이 확실하지만, '안전을 못 굽히는 회사'라는 포지셔닝이 장기적으로 약이 될지 독이 될지는 아직 안 정해졌다. 과거 사례들이 알려주는 건, 군과의 관계에서 정답은 회사의 정체성에 달려 있다는 것 하나뿐이야.

경쟁자 카운터 플레이

그럼 앤트로픽은 이대로 군을 다 내줄까? 꼭 그렇진 않아. 첫 번째 카드는 법적 다툼을 길게 끄는 것이야. '공급망 리스크' 지정의 근거가 약하다면, 법정에서 시간을 벌면서 그 사이 정책 환경이나 정권 분위기가 바뀌길 노릴 수 있어. 정부 결정은 한번 뒤집히면 또 뒤집히기도 하니까, 법적 절차 자체가 협상 지렛대가 되지.

두 번째는 '민간·동맹' 안보 시장으로 우회하는 거야. 미군 본진에서 밀려나도, 동맹국 정부나 사이버 방어, 정보 분석처럼 '살상'과 거리가 먼 안보 영역은 여전히 거대해. 앤트로픽은 "우리는 방어·분석은 하되 공격적 살상엔 선을 긋는다"는 포지션으로, 자기 원칙과 충돌하지 않는 안보 매출을 새로 개척할 수 있어.

세 번째는 경쟁사 입장에서의 반격인데, OpenAI·Google·xAI는 '우리는 군이 필요한 걸 막지 않는다'를 정부 영업의 핵심 메시지로 밀 거야. 동시에 "그래도 우리도 안전은 챙긴다"는 균형 잡힌 이미지를 유지해야 해. 너무 '제약 없는 AI'로 비치면 민간·규제 시장에서 역풍을 맞을 수 있거든. 그러니까 이들도 군 매출과 민간 평판 사이에서 줄타기를 해야 하는 셈이야.

그리고 잊지 말 변수, 정치와 여론. 'AI가 사람을 직접 겨냥하는 결정을 해도 되는가'는 대중과 의회가 민감하게 보는 주제야. 만약 자율 살상 관련 논란이 한 번 크게 터지면, '안전장치를 안 푼 앤트로픽'의 선택이 갑자기 선견지명으로 재평가될 수도 있어. 반대로 안보 위협이 커지면 "제약 없이 빠르게 가야 한다"는 목소리가 힘을 받고. 이 싸움의 최종 승자는 모델 성능이 아니라 그때그때의 정치 바람이 가를 가능성이 커.

그래서 뭐가 달라지는데 — 입장별로

개발자·엔지니어라면. 당장 네 일상 코딩엔 영향 없어. 다만 이번 사건은 'AI 공급자의 사용 정책(usage policy)이 비즈니스에 실질적 변수'라는 걸 보여줘. 어떤 모델을 프로덕션에 박을 때, 성능·가격만 보지 말고 "이 회사가 어떤 용도를 막아두는가"도 체크하는 습관이 점점 중요해진다는 뜻이야. 특히 규제·민감 산업에서 일한다면 더더욱.

기업 의사결정자라면. 교훈은 '공급자 종속 리스크'야. 핵심 워크플로를 한 AI 회사에 다 맡겨두면, 그 회사의 정책이나 가용성이 바뀔 때 통째로 흔들려. 펜타곤이 6개월 유예를 주며 대체재를 찾는 것처럼, 너희 조직도 멀티 모델 전략과 '갈아탈 수 있는 설계'를 미리 깔아두는 게 리스크 관리의 정석이야. 동시에, 공급자의 윤리 정책이 너희 사업과 충돌하지 않는지도 사전에 확인해 두는 게 좋아.

일반 관찰자라면. 이 사건의 진짜 의미는 'AI 안전'이 더는 추상적 윤리 토론이 아니라 수십억 달러 계약을 좌우하는 현실적 변수가 됐다는 거야. "AI를 어디까지 무기로 쓸 것인가"라는 질문에 기업·정부·여론이 각자 답을 내고 있고, 그 답들이 서로 부딪히는 현장을 우리가 실시간으로 보고 있는 거지. 앞으로 AI 뉴스를 볼 때 "성능 누가 1등?"만큼이나 "이 회사는 어떤 선을 긋는가?"를 같이 보면 판이 훨씬 입체적으로 읽혀.

세 입장을 관통하는 한 줄은 이거야. AI의 진짜 경쟁력은 이제 성능만이 아니라 '어디에 선을 긋느냐'에서도 갈린다. 앤트로픽이 군을 잃더라도 그 선을 지킨 게 자산이 될지 부담이 될지는, 앞으로 몇 분기의 시장과 정치가 답해줄 거야.

🥄 남은 궁금증 세 가지

— 그래서 군은 Claude를 진짜 완전히 버리는 거야? 아직 단정하긴 일러. 확인된 건 '대체 후보를 진지하게 테스트 중'이고 협력사에 6개월 유예를 줬다는 거지, "Claude 완전 퇴출 확정"은 아니야. 게다가 앤트로픽이 법정에서 지정을 다투고 있어서 결과에 따라 흐름이 또 바뀔 수 있어. 지금은 '갈아탈 준비 단계'로 보는 게 정확해.

— 앤트로픽은 왜 돈을 포기하면서까지 안전장치를 안 풀어? 회사 정체성 자체가 'AI 안전'이라서 그래. 대량 감시랑 자율 살상은 앤트로픽이 처음부터 그어둔 레드라인인데, 이걸 한 번 풀면 "결국 돈 주면 다 푸는 회사"가 돼버려서 규제·엔터프라이즈 시장에서의 신뢰가 통째로 흔들려. 단기 매출보다 장기 평판을 택한 계산으로 보이는데, 그 베팅이 맞을지는 두고 봐야지.

— 그럼 다른 회사 모델이 군용으로 더 좋다는 뜻이야? 그건 아니야. 이번 건 '성능이 더 좋아서'가 아니라 '제약이 더 적어서' 갈아타려는 쪽에 가까워. 군이 원하는 용도를 안 막는다는 게 핵심 이유지, 모델이 더 똑똑하다는 평가가 나온 건 아니거든. 성능 우열은 별개의 문제고, 거기까진 공개된 정보로 단정하기 일러.

참고 자료

• Pentagon tests rival AI models to replace Anthropic's Claude in military workflows — Crypto Briefing
• The Pentagon Is Racing to Replace Anthropic's Claude — Because It Was 'Too Safe' for War — TechTimes
• Pentagon reportedly testing AI models in bid to replace Anthropic's Claude — Investing.com
• Pentagon Tests OpenAI and Google AI to Replace Anthropic's Claude — OpenTools
• Pentagon Tests New AI Models, Shifts from Anthropic Claude — StartupNews.fyi

수치는 발표 시점 기준이라 바뀔 수 있어.