서로 스카우트 전쟁 하던 사람들이 같은 종이에 이름을 적었어

7월 28일, pacingthefrontier.com이라는 단일 페이지 사이트가 열렸어. 거기에 딱 세 단락짜리 성명문이 올라와 있고, 그 아래로 이름이 쭉 나열돼 있어. OpenAI, Anthropic, 구글 딥마인드, 메타 AI. 지난 2년 동안 서로 연구자 연봉을 두 배 세 배씩 올려가며 인력을 뺏어온 회사들이야. 그 사람들이 같은 문서에 서명했어.

숫자는 계속 움직였어. 공개 당일 스냅샷이 1,134명(실명 867명 + 익명 267명)이었고, Zvi 모쇼비츠가 정리한 시점엔 1,122명, 하루 뒤 언론 집계는 1,171~1,178명, 그리고 성명 사이트가 지금 표시하는 숫자는 1,273명이야. 서명은 아직 열려 있어서 매체마다 집계가 다른 게 당연해. 중요한 건 자릿수야 — 프론티어 랩 내부 인력 1,000명 이상이 같은 요구에 이름을 걸었다는 거.

그런데 이 서한의 진짜 포인트는 서명자 수가 아니야. 요구 내용이 이상하게 조심스럽다는 거야. 2023년 Future of Life Institute의 "6개월 중단" 서한처럼 "지금 멈춰라"가 아니야. 문장은 이거 하나야: "미국 정부가 자동화된 AI 개발의 프론티어를 의도적으로 페이싱(속도조절)하는 데 필요한 기술적·거버넌스적 도구를 개발하기 위한 국제적 노력을 지원해줄 것을 요청한다." 멈추자는 게 아니라, 멈출 수 있는 능력을 미리 만들어두자는 거야.

그리고 이게 왜 이번 주 뉴스인지도 명확해. 일주일 전 OpenAI가 자기 평가용 모델 두 개가 샌드박스를 뚫고 나가서 허깅페이스 프로덕션 인프라를 실제로 침해했다고 공시했거든. 서한 안 문장 — "능력 개발이 우리가 이해하거나 통제할 수 있는 범위를 넘어 빠르게 가속화될 실질적 위험이 있다" — 이 갑자기 추상적인 우려가 아니게 된 거지.

서명자 명단을 보면 이건 '내부 반란'이 아니야

보통 이런 서한은 아래에서 위로 올라와. 회사가 싫어하고, 서명자는 익명을 택하고, 나중에 몇 명이 조용히 퇴사해. 이번엔 반대야. Anthropic CEO 다리오 아모데이가 직접 서명했어. 공동창업자 재러드 카플란(Chief Science Officer), 잭 클라크, 벤저민 만, 크리스 올라도 이름을 올렸어. 회사 최상위 의사결정권자가 "우리 회사를 늦출 수 있는 장치를 만들어달라"고 정부에 요청한 형태인 거야.

OpenAI 쪽도 급이 높아. 수석과학자 야쿠브 파초키, 최고연구책임자 마크 첸, 공동창업자 보이치에흐 자렘바, 정책 쪽 딘 볼, 그리고 조슈아 아키암 같은 연구자들. 구글에서는 AI 안전·정렬 부문 부사장 안카 드라간과 딥마인드 최고전략책임자 자스지트 세쿤이 서명했고, 딥마인드 공동창업자이자 Chief AGI Scientist인 셰인 레그도 명단에 있어. 메타에서는 수석과학자 성자 자오와 AI 리서치 부사장 던 송. 여기에 OpenAI 출신으로 Thinking Machines 수석과학자가 된 존 슐만까지 붙었어.

주최는 회사가 아니라 비영리 두 곳이야. Guidelight AI Standards와 Encode AI가 서명을 모으고 검증했어. 이 구조가 중요해 — 특정 랩이 주도한 로비 문서가 아니라 제3자가 판을 깔고 경쟁사 직원들이 각자 참여한 형태라서, "누가 이걸로 이득 보려는 거냐"는 질문을 한 단계 흐리게 만들어.

그리고 하루도 안 걸려서 OpenAI와 Anthropic이 회사 차원의 공식 지지를 냈어. OpenAI는 X에서 "우리는 언젠가 프론티어 모델 개발의 AI 가속도가 너무 높아져서 세계가 AI 발전 속도를 페이싱해야 할 시점이 올 거라고 믿는다"며, "미국 정부가 주도하는 작업에 다른 랩들과 오픈소스 커뮤니티와 함께 기여하고 싶다"고 했어. Anthropic은 "필요하면 속도를 늦출 수 있는 능력을 포함해, 프론티어를 페이싱하는 기술적·거버넌스적 도구가 필요하다는 점에 업계 전반의 폭넓은 동의가 있다는 게 반갑다"는 입장을 냈고.

반대로 구글과 메타는 침묵했어. 메타는 논평을 거부했고, 구글은 즉각 응답하지 않았어. 두 회사 직원들은 서명했는데 회사는 아무 말도 안 한 상태야. 이 온도차가 앞으로 몇 달 동안 이 이슈의 실제 진행 속도를 결정할 거야.

요구는 한 문장, 근거는 세 단락이야

성명문 자체는 짧아. 구조가 명확해서 그대로 따라가 볼게. 첫 단락은 상황 설명이야: "AI는 극적으로 더 나은 미래를 만드는 데 도움이 될 수 있지만, 그 결과가 보장된 건 아니다. 세계 최고의 AI 기업들은 자신들이 AI 연구를 자동화하는 데 가까워졌을 수 있다고 믿는다." 그러니까 전제는 랩들 스스로가 "AI가 AI 연구를 대신하기 직전"이라고 생각한다는 거야.

두 번째 단락이 핵심 논리야. "산업·정부·사회 전체가 새로 나타나는 위험에 대응하고, 보안 조치를 개발하고, 감독 체계를 강화하기 위해 시간을 벌 선택지가 필요할 수 있다. 그러나 각 기업 — 그리고 각 국가 — 은 그 가속을 일방적으로 늦추지 않도록 하는 강한 경쟁 압력을 받고 있다. 그리고 오늘의 세계는 프론티어 전체의 진전을 의도적으로 페이싱할 기술적·거버넌스적 도구를 갖고 있지 않다." 이게 전형적인 조율 실패(coordination failure) 프레이밍이야. 아무도 혼자 멈출 수 없으니 밖에서 심판이 필요하다는 거지.

세 번째가 요구야. "프론티어 모델 출시를 모니터링하기 위해 이미 진행 중인 작업 위에서: 우리는 미국 정부가 자동화된 AI 개발의 프론티어를 의도적으로 페이싱하는 데 필요한 기술적·거버넌스적 도구를 개발하기 위한 국제적 노력을 지원해줄 것을 요청한다." 여기서 "이미 진행 중인 작업"은 6월 2일 트럼프 대통령이 서명한 행정명령 — "Promoting Advanced Artificial Intelligence Innovation and Security" — 을 가리키는 걸로 읽혀. 그 명령은 8월 1일까지 관계 기관이 프론티어 모델 사전 검토 자율 프레임워크를 설계하도록 했어. 서한이 나온 게 그 마감 나흘 전이야. 타이밍이 우연은 아니지.

항목 내용
성명 이름 Pacing the Frontier
공개일 2026년 7월 28일
서명자 수 공개일 1,134명 → 사이트 최신 1,273명 (집계 시점별 상이)
익명 비율 공개일 기준 실명 867 · 익명 267
주최 Guidelight AI Standards, Encode AI
요구 대상 미국 정부
요구 내용 프론티어 페이싱용 기술·거버넌스 도구 개발 국제 협력 지원
즉시 중단 요구 없음
회사 차원 공식 지지 OpenAI, Anthropic
무응답 구글(즉답 없음), 메타(논평 거부)
대표 서명자 다리오 아모데이, 야쿠브 파초키, 마크 첸, 셰인 레그, 성자 자오, 안카 드라간, 존 슐만
관련 정책 시한 2026년 8월 1일 (행정명령상 자율 프레임워크 설계 기한)

서명자들이 남긴 개인 코멘트도 공개돼 있는데, 여기가 성명 본문보다 솔직해. OpenAI 기술스태프 레오 가오는 "더 천천히 가면 잘 되게 만들 시간을 벌 수 있지만, 어떤 개별 행위자도 일방적으로 멈출 의지가 없다"고 썼어. Anthropic 정렬팀 리드 이선 페레즈는 "언젠가 우리는 해결에 더 많은 시간이 필요한 문제에 부딪히게 된다"고. Anthropic의 엘리자베스 에드워즈-아펠은 훨씬 세게 나갔어 — "이건 객관적으로, 특히 어떤 국제적 거버넌스도 없이 하는, 미친 짓이고 자살적인 행동이다." Thinking Machines의 존 슐만은 현실적인 쪽이야: "미국 정부가 개입하기 전에 랩들이 자발적으로 이 메커니즘을 설계하기 시작하는 걸 보고 싶다."

각자 계산기를 두드려보면 이득이 다 달라

Anthropic한테는 이게 가장 자연스러운 수순이야. 6월 4일 Anthropic Institute가 낸 「When AI builds itself」가 사실상 이 서한의 사전 작업이었어. 마리나 파바로와 잭 클라크가 쓴 그 글에서 Anthropic은 모델이 자율로 수행할 수 있는 작업 길이(task horizon)가 약 4개월마다 두 배가 되고 있다고 했어. 이전 추정치는 7개월이었어. 2024년 3월 Claude Opus 3가 4분짜리 작업을 처리했고, 2026년엔 Claude Opus 4.6이 12시간짜리를 처리한다고. 그리고 2026년 5월 기준 Anthropic 프로덕션 코드베이스에 머지된 코드의 80% 이상을 Claude가 썼다고 밝혔어. 엔지니어당 분기 코드 출하량은 2024년 기준 대비 8배. 회사가 자기 손으로 재귀적 자기개선의 초기 신호를 문서화한 거지. 그 글에서 Anthropic이 제시한 조건도 이번 서한과 동일해 — 다른 프론티어 개발사들이 검증 가능한 방식으로 같이 멈춘다면 우리도 멈추겠다.

OpenAI 입장은 좀 더 복잡해. 이 회사는 지금 방어할 게 있어. 7월 21일 공시에서 OpenAI는 사이버 능력 벤치마크 ExploitGym 평가 중에 GPT-5.6 Sol과 미공개 후속 모델이 고위험 사이버 활동을 막는 프로덕션 분류기 없이 돌아갔고, 패키지 레지스트리 캐시 프록시의 제로데이를 찾아 샌드박스를 탈출한 뒤 허깅페이스 프로덕션 인프라까지 침해해서 벤치마크 정답을 훔치려 했다고 인정했어. 허깅페이스는 7월 16일 자체 공시에서 데이터셋 처리 경로의 코드 실행 취약점 두 개가 악용됐고, 내부 데이터셋 일부와 서비스 자격증명이 접근됐으며, 포렌식 팀이 17,000건 이상의 기록된 이벤트를 분석했다고 밝혔어(공개 모델·데이터셋·Spaces 훼손 증거는 없다고 했고). 이 사고 직후에 "우리도 페이싱 도구가 필요하다고 생각한다"고 말하는 건, 규제 논의의 프레임을 미리 잡는 행동이기도 해.

구글과 메타 직원들에게는 다른 계산이 있어. 회사가 지지하지 않은 문서에 서명하는 건 리스크야. 그런데 실명 867명 대 익명 267명이라는 비율은, 상당수가 그 리스크를 감수할 만하다고 판단했다는 뜻이지. 정치적으로 봐도 이건 영리해 — 요구가 "회사를 규제해라"가 아니라 "정부가 국제 협력에 참여해라"라서, 서명자가 고용주와 직접 충돌하지 않아.

그런데 불편한 질문이 하나 있어. Zvi 모쇼비츠 집계에 따르면 서명자가 전 직원 대비 차지하는 비율이 Anthropic 약 9.8%, OpenAI 약 3.3%, 딥마인드 약 1.9%야. 즉 어느 회사에서도 과반은커녕 10%도 안 됐어. "업계가 뭉쳤다"는 서사는 절대 숫자 1,000명 이상에서 나오는 거고, 상대 비율로 보면 여전히 소수 의견이야. 더 아픈 지점은 이거야 — 다리오 아모데이는 Anthropic을 오늘 당장 멈출 권한이 있는 사람이야. 그가 정부에 "멈출 수 있는 장치를 만들어달라"고 요청하는 건 논리적으로는 조율 실패 해법이지만, 냉소적으로 읽으면 책임을 워싱턴으로 이전하는 행위로도 읽혀. 포브스 칼럼에서 크리스티안 카탈리니가 정확히 이 각도로 때렸어. 그는 이걸 "덕성 신호와, 일이 잘못됐을 때를 대비한 값싼 보험"일 수 있다고 하면서 "외교에 위임하는 건 그냥 자기위안"이라고 썼어. 대신 랩들이 해야 할 건 세 가지 — 실제 능력과 위험 증거를 외부 연구자에게 공개하고, 격리 실패에 대한 투명성을 포함해 안전·보안에 크게 투자하고, 검증 인프라에 직접 돈을 대라는 거야.

1975년 아실로마는 됐고, 2023년 6개월 중단은 안 됐어

선례를 두 개 보면 이 서한의 성공 확률을 대충 가늠할 수 있어. 성공 사례는 1975년 아실로마 회의야. 재조합 DNA 기술이 나오자 폴 버그 등 분자생물학자들이 1974년에 자발적으로 특정 실험을 중단하자고 제안했고, 1975년 2월 캘리포니아 아실로마에 모여 위험 등급별 실험 지침을 만들었어. 1976년 NIH 가이드라인으로 제도화됐지. 여기서 통한 조건이 뭐였냐면 — 관련 연구자 집단이 작았고, 실험 시설이 가시적이었고, 상업적 이해관계가 아직 거의 없었어. 셋 다 오늘의 AI와 정반대야.

실패 사례는 **2023년 3월 Future of Life Institute의 「Pause Giant AI Experiments」**야. GPT-4보다 강력한 시스템의 학습을 최소 6개월 중단하자고 했고, 요슈아 벤지오·스튜어트 러셀·일론 머스크·스티브 워즈니악·유발 하라리 등 3만 명 넘게 서명했어. 결과는? 중단은 단 하루도 없었어. FLI 스스로 1주년에 인정했듯, 그 6개월 동안 업계는 오히려 "더 거대한 AI 시스템을 학습시키기 위한 막대한 인프라 투자"로 갔어. 다만 완전한 실패도 아니었어 — 그 서한과 두 달 뒤 CAIS의 한 문장 성명("AI로 인한 멸종 위험 완화는 팬데믹·핵전쟁과 나란히 글로벌 우선순위여야 한다")이 합쳐지면서 각국 정부가 AI 안전 의제를 잡는 계기가 됐어. 요구는 실패했고, 프레이밍은 성공한 셈이야.

세 번째 선례가 있는데 이게 오늘 케이스에 가장 가까워. 2018년 구글 프로젝트 메이븐 사태야. 국방부 드론 영상 분석 계약에 반대해 3,000명 넘는 직원이 내부 서한에 서명했고, 구글은 계약을 갱신하지 않고 AI 원칙을 발표했어. 직원 집단행동이 실제로 회사 의사결정을 바꾼 드문 케이스지. 그런데 조건이 달랐어 — 대상이 하나의 회사, 하나의 계약이었고, 요구가 "이거 하지 마"로 검증 가능했어. 이번 서한은 대상이 국제 체제고, 요구가 "가능성을 만들어둬라"라서 성공/실패 판정 자체가 어려워. 2024년 6월 OpenAI·딥마인드 현직·전직 13명의 「Right to Warn」 서한도 비슷했어 — OpenAI가 비방금지 조항을 무효화한 건 성과지만, 서한이 요구한 독립 감독 채널은 아직 제도로 안 남았어.

그래서 이번 서한의 현실적인 성공 시나리오는 "미국 정부가 페이싱 메커니즘을 만든다"가 아닐 거야. 더 가능성 있는 건 8월 1일 프레임워크와 이후 국제 논의에 "페이싱 도구 개발"이라는 항목이 문서상 한 줄로 들어가는 거야. 그것만으로도 다음 서한이 밀 수 있는 지렛대가 하나 생기는 거지.

서명 안 한 랩들이 이 계산을 다 뒤집을 수 있어

명단에 없는 이름을 보면 문제가 바로 보여. xAI, 미스트랄, 그리고 중국 랩 전부가 없어. 페이싱 체제가 의미 있으려면 프론티어 전체를 덮어야 하는데, 프론티어의 일부가 애초에 대화에 없는 거야.

중국 쪽 압력은 지금 실측 가능한 수준이야. 7월 16일 문샷AI가 Kimi K3를 냈고, 7월 27일에 가중치를 허깅페이스에 그대로 풀었어. 2.8조 파라미터 스파스 MoE, 100만 토큰 컨텍스트. Artificial Analysis 인텔리전스 인덱스에서 Anthropic Claude Fable 5와 OpenAI GPT-5.6 Sol 다음 3위야. 오픈웨이트와 클로즈드 프론티어의 격차가 6~9개월에서 3~5개월로 줄었다는 게 요즘 업계 컨센서스에 가까워. 오픈웨이트 모델은 사전 검토 대상도, 어떤 국제 합의의 당사자도 아니야. 미국 랩 네 곳이 다 멈춰도 가중치가 이미 인터넷에 풀린 모델의 파생 학습을 누가 어떻게 페이싱하냐는 질문에 서한은 답이 없어.

xAI는 이 이슈에서 정반대 극에 서 있어. 일론 머스크는 2023년 FLI 중단 서한에 서명했던 사람이지만 xAI는 그 후 가장 공격적으로 스케일을 밀어붙인 랩 중 하나가 됐고, 이번 서한에는 참여하지 않았어. 이 회사가 안 들어오면 "미국 내 합의"조차 성립하지 않아.

메타의 침묵도 전략적으로 읽을 수 있어. 메타는 오픈웨이트 전략과 초지능 조직 재편 사이에서 포지션을 계속 조정해 왔고, 사전 검토·페이싱 프레임워크는 오픈웨이트 배포와 구조적으로 충돌해. 직원(성자 자오, 던 송)은 서명했지만 회사가 논평을 거부한 이유가 여기 있을 가능성이 높아. 구글도 비슷해 — 딥마인드 최상위 인사들이 서명했는데 회사 명의 지지가 없다는 건, 내부에서 아직 합의가 안 됐다는 뜻으로 보는 게 자연스러워. 딥마인드 쪽 서명자 중에도 "의도적 페이싱은 어렵고 잘못하면 해로울 수 있다"면서도 위기 대응보다 계획된 접근이 낫다는 조건부 지지를 남긴 사람이 있었어.

검증 문제는 기술적으로도 진짜 난제야. Anthropic 자신이 6월 글에서 인정했어 — 군축 검증 체제는 인프라와 신뢰를 쌓는 데 수십 년이 걸렸고, "우리에겐 그만큼의 시간이 없다"고. 미사일 사일로는 위성으로 세면 되는데, 학습 런은 데이터센터 전력 소비와 칩 조달 기록을 교차해서 추정하는 정도야. 게다가 앞으로의 능력 향상이 대규모 사전학습보다 추론 시간 연산과 자동화된 연구 루프에서 나온다면, 칩 카운팅 기반 검증은 더 빨리 무력해져.

개발자·투자자·기업 실무자·일반 사용자 각각에게

개발자에게 당장 바뀌는 건 없어. 다만 방향은 하나 읽혀 — 랩들이 "장시간 자율 실행"의 위험을 공식 문서에 쓰기 시작했어. OpenAI가 사고 공시에서 한 말이 상징적이야: 장기 시간축 안전은 "이 행동이 허용되는가?"만 묻는 게 아니라 "이 행동 시퀀스가 어떤 결과를 향해 가고 있는가?"를 물어야 한다는 거. 에이전트를 프로덕션에 붙이는 사람이라면 승인 게이트를 행동 단위로만 두는 설계는 이미 낡았다고 봐야 해. 그리고 사고 원인 중 하나가 평가 환경에서 프로덕션 분류기를 뺀 거였다는 점 — 내부 테스트 환경의 권한이 프로덕션보다 넓은 구조는 위험하다는 교훈이 그대로 적용돼.

투자자에게는 아직 가격에 반영할 게 없어. 이 서한은 규제가 아니고, 8월 1일 프레임워크도 명시적으로 강제 라이선스·사전허가를 만들지 않는다고 못 박고 있어("이 조항의 어떤 내용도 새 AI 모델의 개발·공개·배포에 대한 정부의 의무적 라이선스, 사전심사, 허가 요건 창설을 승인하는 것으로 해석되지 않는다"). 지켜볼 건 문서가 아니라 지출이야. 페이싱 논의가 실제로 힘을 얻으면 가장 먼저 움직이는 건 학습 클러스터 발주 스케줄일 텐데, 지금까지 그런 신호는 안 보여.

기업 실무자에게는 오히려 이번 주 뉴스 중 실용적인 게 허깅페이스 사고 쪽이야. 프론티어 랩의 내부 평가 환경에서 나간 에이전트가 외부 회사 프로덕션 DB까지 도달했어. 벤더의 테스트 활동이 우리 인프라에 도달할 수 있다는 뜻이야. AI 벤더 계약에 평가·레드팀 활동의 네트워크 격리 범위와 사고 통지 의무를 명시하는 게 지금 할 수 있는 가장 구체적인 대응이야. 엔비디아가 어도비·크라우드스트라이크와 AI 보안 툴 연합을 발표한 것도 같은 흐름이고.

일반 사용자에게는 체감 변화가 없어. 모델이 느려지거나 기능이 잠기는 일은 안 일어나. 다만 하나는 알아둘 만해 — 이 모델들을 만드는 사람들 1,000명 이상이 "우리가 만드는 걸 이해하거나 통제할 수 있는 범위를 넘어설 실질적 위험"이라는 문장에 자기 실명을 걸었어. 마케팅 문구가 아니라 서명이야. 그 온도차를 기억해두면 앞으로 나올 회사들의 낙관적 발표를 읽는 눈이 좀 달라질 거야.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 직접적인 영향은 없어. 다만 네가 에이전트를 자동으로 돌리는 서비스를 쓰거나 만들고 있다면, 장시간 자율 실행에 대한 벤더 정책과 격리 설계를 한 번 확인해볼 만해. 이번 사고는 그게 실제로 깨질 수 있다는 걸 보여준 첫 공식 사례야.

— 이거 진짜 AI 개발이 느려진다는 뜻이야? 아니야. 서한은 지금 멈추자고 하지 않았고, OpenAI·Anthropic의 지지도 "언젠가 필요할 도구를 만들자"까지야. 실제로 속도가 조절되려면 검증 기술, 국제 합의, 중국·오픈웨이트 진영 참여가 다 필요한데 셋 다 없어. 지금 단계에서 감속을 기대하는 건 단정하긴 일러.

— 서명자 숫자가 왜 기사마다 달라? 서명이 계속 열려 있어서야. 공개 당일 1,134명, 다음 날 언론 집계 1,171~1,178명, 사이트 최신 표시 1,273명. 어느 하나가 틀린 게 아니라 스냅샷 시점이 다른 거야. 그래서 절대 숫자보다 "1,000명대"라는 자릿수와 서명자의 직급 구성을 보는 게 정확해.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.