사흘 만에 막힌 최강 모델이, 안전장치를 걸고 전 세계로 돌아왔어

여기서 핵심은 이거야. 6월 9일, 앤트로픽이 자기네 최상위 프론티어 모델인 페이블5(Fable 5)를 공개했어. 코딩과 사이버보안 영역에서 인간 상위권 전문가를 넘볼 수준이라는 그 모델이야. 그런데 공개하고 딱 사흘 뒤인 6월 12일, 미 상무부가 국가안보를 이유로 들이닥쳤어. 외국 국적자의 접근을 전면 차단하라는 수출통제 명령이 떨어진 거지. 미국 안에 있든 밖에 있든, 외국인이면 못 쓰게 하라는 초강수였어. 세계에서 가장 앞선 AI 모델 중 하나가 출시 사흘 만에 절반의 지구에서 사라진 셈이야.

그리고 약 3주 뒤, 상황이 다시 뒤집혔어. 6월 30일 앤트로픽이 재배포를 예고했고, 7월 1일부터 페이블5는 전 세계로 다시 풀렸어. 더 강력한 형제 모델인 미토스5(Mythos 5)까지 함께 복귀했지. 그냥 시간이 지나서 풀린 게 아니야. 앤트로픽이 탈옥(jailbreak)을 막는 안전장치를 대폭 강화했고, 미 정부가 그걸 인정하면서 통제를 거둔 거거든. 이게 왜 중요하냐면, 프론티어 AI 모델에 걸린 미국의 수출통제가 '안전장치를 더 붙였다'는 조건 하나로 풀린 게 이번이 처음이기 때문이야.

이 한 달짜리 드라마는 단순한 해프닝이 아니야. AI 모델이 이제 '수출 통제 대상 전략물자'처럼 다뤄지기 시작했다는 신호이자, 동시에 그 통제를 '기술적 안전장치'로 풀 수 있다는 새로운 규칙이 만들어진 순간이거든. 반도체나 무기에 적용되던 수출 규제의 문법이, 이제 소프트웨어 덩어리인 AI 모델에도 그대로 옮겨붙기 시작한 거야. 그리고 그 파장은 미국 밖에서 훨씬 더 크게 울렸어. 한국을 포함한 여러 나라가 "남의 나라 정부 결정 하나에 우리 AI 인프라 전체가 꺼질 수 있구나"를 눈으로 확인했으니까.

등장 주체 소개

먼저 앤트로픽부터. 클로드(Claude) 시리즈를 만드는 이 회사는 오픈AI와 함께 프론티어 AI의 양대 축으로 불려. 특히 안전(safety)을 회사 정체성 맨 앞에 내세우는 곳이라, 모델을 얼마나 안전하게 만드느냐가 마케팅이자 존재 이유야. 이번에 문제가 된 페이블5는 그 앤트로픽 라인업에서도 최상위 티어에 해당하는 모델이고, 코딩·취약점 탐색 같은 사이버보안 능력이 특히 강력하다는 게 특징이야. 능력이 강력할수록 오용 위험도 커지는데, 바로 그 지점이 이번 사태의 방아쇠가 됐어.

두 번째 등장인물은 미국 상무부(Department of Commerce)야. 반도체 장비, 첨단 칩 같은 전략물자의 수출을 통제해온 바로 그 부처지. 이번에 이 부처가 처음으로 'AI 모델' 그 자체를 통제 대상처럼 다뤘어. 6월 12일 명령의 핵심은 "외국 국적자가 이 모델에 접근하지 못하게 하라"였고, 앤트로픽은 이걸 미국 내외를 불문하고 지켜야 했어. AI 모델을 마치 국경을 넘나드는 무기처럼 취급하기 시작했다는 게, 정책적으로는 엄청나게 무거운 전환점이야.

세 번째 축은 아마존·마이크로소프트·구글, 그리고 이들이 앤트로픽과 함께 굴리는 '프로젝트 글래스윙(Project Glasswing)'이야. 글래스윙은 원래 AI가 소프트웨어 취약점을 찾아내는 능력이 인간 최고 수준을 넘어서기 시작했다는 관찰에서 출발한 보안 이니셔티브야. 이번 사태를 계기로 이 파트너들이 뭉쳐서, '탈옥이 얼마나 심각한지'를 업계 공통 기준으로 점수 매기는 프레임워크를 제안했어. 지금까지는 "이 탈옥은 심각하다/아니다"를 판단할 공통 언어 자체가 없었거든. 정부와 기업이 같은 잣대로 위험을 논의할 수 있게 만들겠다는 게 이 프레임워크의 목표야.

그리고 무대 밖에는 조연이 아니라 사실상 주연급인 존재가 하나 더 있어. 바로 '미국 밖의 정부들'이야. 이번 차단 사건을 지켜본 여러 나라들은, 자국이 의존하는 AI가 하루아침에 끊길 수 있다는 걸 체감했어. 특히 한국은 5조 원을 투입해 미토스급 독자 모델을 만들겠다는 소버린 AI 프로젝트에 속도를 붙이는 직접적인 계기로 이 사건을 받아들였어. 앤트로픽과 미 정부가 만든 규칙이, 지구 반대편의 국가 전략을 흔든 셈이지.

핵심 내용

타임라인을 따라가 보면 이번 사태의 논리 구조가 선명하게 드러나. 6월 9일 페이블5가 공개됐고, 그 직후 아마존 연구자들이 이 모델에서 탈옥 취약점을 하나 발견했어. 중요한 건 이게 '만능 열쇠'가 아니었다는 점이야. 어떤 요청이든 다 뚫어버리는 유니버설 탈옥이 아니라, 이미 알려진 취약점을 제한적으로 악용할 수 있게 해주는 좁은(narrow) 형태였어. 그럼에도 페이블5의 사이버보안 능력이 워낙 강력하다 보니, 이 좁은 틈 하나가 국가안보 우려로 번졌고, 6월 12일 상무부의 수출통제 명령으로 이어진 거야.

앤트로픽의 대응은 크게 두 갈래였어. 하나는 기술적 대응. 문제가 된 탈옥 경로를 막는 강화된 사이버보안 안전장치를 모델에 적용했어. 다른 하나는 제도적 대응이야. 아마존·마이크로소프트·구글 같은 글래스윙 파트너들과 함께, 탈옥의 심각도를 정량화하는 공통 프레임워크를 제안한 거지. 이 프레임워크는 크게 두 축으로 점수를 매겨. 하나는 '이 탈옥을 얼마나 쉽게 발견할 수 있는가(discoverability)', 다른 하나는 '실제로 얼마나 큰 피해를 입힐 수 있는가(damage)'. 이 두 축으로 위험의 우선순위를 정하고, 어디에 방어 자원을 쏟을지 결정하겠다는 발상이야.

미 정부는 이 조합을 받아들였어. 강화된 안전장치가 실제로 위험을 낮췄다고 판단하면서 6월 30일 수출통제 명령을 해제했고, 7월 1일부터 페이블5와 미토스5가 전 세계로 다시 배포됐어. 여기서 진짜 뉴스는 모델이 돌아왔다는 사실 자체가 아니라, '통제를 푸는 조건'이 만들어졌다는 거야. 앞으로 프론티어 모델에 수출통제가 걸리더라도, 기업이 충분한 안전장치를 증명하면 풀릴 수 있다는 선례가 생긴 거거든. 규제와 기술 사이에 일종의 협상 테이블이 처음으로 차려진 셈이야.

아래 표로 한 달간의 흐름을 정리해봤어.

시점 사건
6월 9일 앤트로픽, 최상위 모델 페이블5 최초 공개
공개 직후 아마존 연구자들이 좁은(non-universal) 탈옥 취약점 발견
6월 12일 미 상무부, 국가안보 사유로 외국 국적자 접근 전면 차단(수출통제)
차단 기간 강화된 탈옥 방지 안전장치 개발 + 글래스윙 파트너와 심각도 프레임워크 마련
6월 30일 앤트로픽, 재배포 발표
7월 1일 페이블5·미토스5 전 세계 재배포 시행

표만 봐도 이 사건의 핵심이 '능력 vs 안전'의 줄다리기라는 게 보여. 능력이 임계점을 넘으니 국가가 개입했고, 안전장치로 그 우려를 낮추니 다시 문이 열렸어. 그리고 이 과정 전체가 단 3주 만에, 공개적으로 벌어졌다는 게 이례적이야. 보통 이런 국가안보 관련 결정은 비공개로 조용히 처리되는데, 이번엔 앤트로픽이 자기 뉴스룸에 전 과정을 상세히 공개하면서 오히려 투명성을 무기로 삼았어.

각자의 이득 / 노림수

앤트로픽 입장에서 이번 사태는 위기이자 기회였어. 최상위 모델이 사흘 만에 막혔다는 건 분명 뼈아픈 일이야. 외국 고객과 개발자를 순식간에 잃었고, "앤트로픽 모델은 언제 또 끊길지 모른다"는 불안을 심어줄 수도 있었거든. 하지만 앤트로픽은 이걸 정반대로 뒤집었어. 안전장치를 강화해 통제를 스스로 풀어낸 회사, 정부와 협상해 프론티어 모델을 되살린 회사라는 서사를 만든 거야. 안전을 정체성으로 내세우는 회사에게, 이보다 더 강력한 브랜드 증명은 없어. "우리는 위험하면 스스로 멈추고, 안전하면 다시 연다"는 걸 실제로 보여준 셈이니까.

미 정부의 노림수는 더 구조적이야. 상무부는 이번 건으로 두 가지를 동시에 얻었어. 첫째, AI 모델도 수출통제 대상이 될 수 있다는 걸 실제 행동으로 확립했어. 둘째, 그 통제를 '안전장치 강화'라는 기술적 조건과 연결시키면서, 기업들이 알아서 안전을 강화하도록 유도하는 지렛대를 손에 쥐었어. 무조건 금지하는 것보다, "안전을 증명하면 풀어준다"는 방식이 산업을 죽이지 않으면서도 통제력은 유지하는 훨씬 영리한 카드거든. 규제 당국 입장에서는 이상적인 선례를 하나 확보한 거야.

글래스윙 파트너들, 그러니까 아마존·마이크로소프트·구글의 셈법도 흥미로워. 이들은 탈옥 심각도 프레임워크를 '업계 공통 표준'으로 밀어붙이고 있어. 표준을 먼저 만드는 쪽이 게임의 규칙을 쥐는 법이야. 만약 이 프레임워크가 정부가 참고하는 사실상의 기준이 되면, 이 회사들은 AI 안전 규제 논의의 한복판에 앉게 돼. 규제가 어차피 올 거라면, 그 규제의 언어를 자기들이 직접 설계하는 게 유리하다는 판단이 깔려 있는 거지. 방어적 조치처럼 보이지만, 사실은 대단히 공격적인 표준 선점 전략이야.

반면 이번 사태로 가장 뼈아프게 배운 건 미국 밖의 나라들이야. 이들의 노림수는 단순해. "다시는 남의 나라 결정 하나에 우리 AI가 꺼지게 두지 않겠다." 한국이 5조 원을 들여 미토스급 독자 모델을 추진하는 게 대표적이야. 이건 단순히 기술 자립 욕심이 아니라, AI가 이제 '전략물자'가 됐다는 현실 인식에서 나온 방어적 투자야. 남에게 의존하는 순간, 상대 정부의 국내 정치나 안보 판단에 내 나라 산업이 인질로 잡힐 수 있다는 걸 이번에 실감했으니까.

과거 유사 사례 — 성공과 실패

가장 먼저 떠오르는 건 반도체 수출통제야. 미국이 첨단 GPU와 반도체 장비의 대중국 수출을 통제한 게 지난 몇 년간 세계 기술 지형을 통째로 흔들었잖아. 그 결과 중국은 오히려 반도체 자립에 국가적 역량을 쏟아부었고, 통제가 자립을 앞당기는 역설적 효과를 낳았어. 이번 페이블5 사태는 그 문법이 하드웨어(칩)에서 소프트웨어(AI 모델)로 넘어왔다는 신호야. 그리고 반도체 사례가 보여줬듯, 통제는 단기적으론 상대를 막지만 장기적으론 상대의 자체 개발을 자극하는 부메랑이 될 수 있어. 한국의 소버린 AI 가속이 딱 그 부메랑의 첫 궤적이야.

AI 모델 접근이 정치적 이유로 갑자기 끊긴 사례도 이미 있었어. 특정 국가에서 오픈AI나 다른 AI 서비스가 규제나 제재로 막힌 경우들이 그거야. 그때마다 해당 지역 개발자와 기업들은 대체재를 찾아 헤맸고, 결국 로컬 대안이나 오픈소스 모델로 갈아타는 흐름이 만들어졌어. 접근이 막히면 사람들은 기다리지 않고 대안을 찾는다는 게 반복적으로 증명된 패턴이야. 이번에도 사흘간의 차단 동안 외국 고객들이 대안을 알아봤을 거고, 그 경험은 지워지지 않아.

성공적으로 규제와 기술이 타협한 사례도 있어. 암호화 기술 수출통제가 대표적이야. 1990년대 미국은 강력한 암호화 소프트웨어를 무기처럼 수출 통제했지만, 산업의 반발과 기술적 현실 앞에서 결국 상당 부분 완화됐어. 그 과정에서 '어떤 조건을 충족하면 수출을 허용한다'는 타협 지점이 만들어졌고, 그게 오늘날 인터넷 보안의 기반이 됐지. 페이블5 사태의 '안전장치를 증명하면 푼다'는 공식은, 이 암호화 통제 완화의 AI 버전이라고 볼 수 있어. 완전 금지도, 완전 자유도 아닌 조건부 허용이라는 제3의 길인 거야.

물론 실패의 그림자도 있어. 조건부 허용은 언뜻 합리적이지만, '어느 정도 안전장치면 충분한가'를 누가 판단하느냐는 문제가 남아. 이번엔 미 정부가 앤트로픽의 조치를 인정했지만, 그 판단 기준이 투명하게 공개된 건 아니야. 기준이 불투명하면 기업마다 자의적으로 적용될 수 있고, 정치적 판단이 기술적 판단을 덮어쓸 위험도 있어. 규제와 기술의 협상 테이블이 처음 차려진 건 진전이지만, 그 테이블의 규칙이 아직 반쯤만 그려져 있다는 건 분명한 약점이야.

경쟁자 카운터 플레이

가장 먼저 반응할 곳은 오픈AI야. 앤트로픽이 '안전으로 위기를 정면 돌파한 회사'라는 서사를 가져갔으니, 오픈AI는 자기네 프론티어 모델의 안전 프로파일을 어떻게 포장할지 다시 고민해야 해. 특히 오픈AI의 최상위 모델도 언제든 비슷한 수출통제의 표적이 될 수 있다는 게 이번에 드러났거든. 미리 안전장치와 심각도 평가 체계를 갖춰두지 않으면, 다음번엔 자기가 사흘 만에 막히는 쪽이 될 수 있어. 앤트로픽이 만든 선례는 경쟁사에게 '너희도 준비하라'는 무언의 압박이야.

글래스윙 프레임워크에 참여하지 않은 AI 기업들은 더 미묘한 처지야. 아마존·마이크로소프트·구글·앤트로픽이 먼저 심각도 표준을 만들어버리면, 나중에 들어오는 회사는 남이 짠 규칙을 따라가야 해. 표준 경쟁에서 뒤처지면, 규제 논의에서도 목소리를 잃어. 그래서 이들은 두 가지 선택지 사이에 놓였어. 이 프레임워크에 올라타서 규칙 만들기에 참여하거나, 아니면 독자적인 대안 표준을 밀어붙여 판을 흔들거나. 어느 쪽이든 가만히 있는 건 손해라는 게 이번 사태의 교훈이야.

소버린 AI를 추진하는 국가들과, 그들에게 기술을 파는 회사들도 새로운 기회를 봤어. 한국처럼 독자 모델을 만들려는 나라가 늘어나면, 그 인프라를 깔아주고 모델 학습을 도와주는 회사들에겐 거대한 시장이 열려. "너희 나라 것을, 너희 통제 아래 두라"는 게 강력한 세일즈 포인트가 되는 거지. 미국 정부의 결정 하나가 역설적으로 미국 밖 AI 인프라 시장을 키우는 촉매가 될 수 있다는 게, 이번 사태의 아이러니한 카운터플레이야.

그리고 오픈소스 진영은 이 상황을 조용히 반겼을 거야. 수출통제로 막힌 건 앤트로픽 같은 폐쇄형 프론티어 모델이지, 이미 가중치가 풀린 오픈 모델은 사실상 통제하기가 훨씬 어렵거든. "특정 회사 모델에 의존하면 정부 결정에 인질이 될 수 있다"는 이번 교훈은, 벤더 종속을 피하려는 조직들을 오픈 모델 쪽으로 한 걸음 더 밀어붙일 수 있어. 통제 가능성 자체가 폐쇄형 모델의 새로운 리스크로 부각된 셈이야.

그래서 뭐가 달라지는데

개발자 입장에서 이번 사태의 교훈은 냉정해. 아무리 좋은 폐쇄형 프론티어 모델이라도, 정부 결정 하나에 접근이 끊길 수 있다는 리스크가 실제로 존재한다는 거야. 특히 미국 밖에서 일하는 개발자라면 더 그래. 그렇다고 페이블5 같은 최강 모델을 안 쓸 수도 없으니, 현실적인 대응은 '이중화'야. 핵심 기능을 특정 모델 하나에만 묶지 말고, 오픈 모델이나 다른 벤더로 언제든 갈아탈 수 있게 아키텍처를 짜두는 게 이제 선택이 아니라 기본기가 됐어. 벤더 종속이 단순한 비용 문제를 넘어 '지정학적 리스크'가 됐다는 게 핵심 변화야.

투자자 입장에서는 새로운 변수 하나가 추가됐어. 바로 'AI 모델의 규제·지정학 리스크'야. 지금까지 프론티어 AI 기업을 평가할 때 성능과 매출을 봤다면, 이제는 "이 회사 모델이 수출통제나 안전 규제에 걸릴 가능성은 얼마나 되나", "걸렸을 때 얼마나 빨리 풀 수 있나"까지 따져야 해. 반대로 소버린 AI, 즉 국가 단위 독자 모델과 그 인프라를 공급하는 쪽은 새로운 성장 테마로 떠올랐어. 한국의 5조 원 투자 같은 흐름이 여러 나라에서 반복된다면, 그 자체가 거대한 시장이 되는 거니까. 다만 이 흐름이 얼마나 빨리, 얼마나 크게 올지는 아직 단정하긴 일러.

일반 이용자나 기업 의사결정권자 입장에서 보면, 당장 눈에 보이는 변화는 크지 않아. 페이블5는 어차피 다시 풀렸고, 대부분의 사람은 사흘간의 차단을 체감조차 못 했을 거야. 하지만 밑바닥에서 규칙이 바뀌었다는 게 중요해. AI가 이제 '전략물자'로 취급되기 시작했다는 건, 앞으로 어떤 AI 서비스가 어느 나라에서 쓸 수 있는지가 순전히 기술이 아니라 정치와 안보에 따라 갈릴 수 있다는 뜻이거든. 내가 쓰는 AI 도구가 내 나라 밖 정부의 결정에 영향받을 수 있다는 걸, 이번 사건이 처음으로 눈앞에 보여준 거야.

그리고 국가 차원에서는 이번 사건이 '소버린 AI'라는 단어를 정책 최전선으로 끌어올렸어. 남의 나라 모델에 의존하면 언제든 인질이 될 수 있다는 걸 확인한 이상, 자국 AI 역량을 갖추는 건 이제 사치가 아니라 안보 문제로 격상됐어. 한국이 미토스급 독자 모델에 5조 원을 태우는 결정이 그 상징이야. 물론 독자 모델을 만든다고 모든 문제가 풀리는 건 아니고, 결국 최상위 프론티어 성능을 따라잡을 수 있느냐가 관건이야. 하지만 방향 자체는 분명해졌어. AI 주권은 이제 각국이 진지하게 계산해야 하는 국가 전략의 축이 됐어.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 당장은 별로 없어. 페이블5는 다시 풀렸고, 대부분은 차단이 있었는지도 몰랐을 거야. 다만 네가 특정 AI 도구에 업무를 깊게 의존하고 있다면, 그게 어느 나라 회사·정부의 통제 아래 있는지 한 번쯤 생각해볼 만해. 언제 끊길지는 아무도 장담 못 하거든.

— 미국이 앞으로 다른 AI 모델도 계속 이렇게 막을까? 가능성은 열려 있지만 단정하긴 일러. 이번엔 '안전장치를 증명하면 푼다'는 조건부 방식이 성립했어. 완전 금지보다 이 방식을 선호할 근거가 생긴 거라, 무작정 다 막기보다는 협상형 통제가 표준이 될 공산이 커. 다만 그 판단 기준이 아직 불투명한 게 변수야.

— 한국이 5조 원 들여 만드는 독자 모델, 될까? 방향은 맞지만 쉽진 않아. 돈을 넣는다고 최상위 프론티어 성능이 바로 따라오는 게 아니거든. 다만 이번 사태로 '왜 필요한가'라는 명분은 확실해졌어. 성능 격차를 얼마나 좁히느냐가 성패를 가를 텐데, 그건 지금 시점에서 장담하기 이른 영역이야.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.