머스크가 트윗 하나로 스케일 경쟁을 다시 켰어

일론 머스크가 또 판을 흔들었어. 7월 18일, 그는 X에 짧은 답글 하나를 올렸어. "우리의 2T 모델은 1.5T보다 모든 면에서 낫고, 다음 주에 초기 훈련을 마친다. Kimi를 넘어설 수도 있는데, 속도와 토큰 효율은 우리 1.5T(즉 Grok 4.5)에 가깝게 유지된다." 딱 이 두 문장이야. 그런데 이 두 문장이 업계를 흔들었어.

여기서 '2T 모델'이 바로 다음 세대 Grok, 업계가 Grok 4.6이라고 부르는 물건이야. 파라미터 2조 개. 지금 xAI의 간판인 Grok 4.5가 1.5조 파라미터니까, 한 세대 만에 33% 더 커지는 거지. 그리고 머스크가 "다음 주에 초기 훈련이 끝난다"고 콕 집어서 말했어. 이게 왜 큰일이냐면, 프론티어 모델 하나를 초기 훈련까지 끌고 가는 데 필요한 컴퓨트가 상상 이상이거든. 그걸 "다음 주"라는 구체적 시점으로 못 박았다는 건, xAI의 슈퍼컴퓨터 Colossus가 이미 그 규모를 감당할 만큼 돌아가고 있다는 뜻이야.

타이밍도 절묘해. 이 트윗은 그냥 나온 게 아니야. 이틀 전인 7월 16일, 중국 Moonshot AI가 2.8조 파라미터짜리 오픈 웨이트 모델 Kimi K3를 던졌거든. 세계 최대 공개 모델이라는 타이틀을 달고 나와서, 프론트엔드 코드 아레나 벤치마크에서 Claude Fable 5까지 제치고 1위를 찍었어. 중국이 미국의 반도체 수출 통제를 뚫고 이 정도 규모를 열어버린 거야. 머스크의 "Kimi를 넘어설 수도 있다"는 한마디는, 사실상 이 도전장에 대한 응수였던 거지.

xAI와 머스크, 그리고 Colossus라는 근육

xAI는 머스크가 2023년에 세운 AI 회사야. OpenAI를 공동 창업했다가 갈라선 그가, 다시 프론티어 모델 경쟁의 최전선으로 돌아온 셈이지. xAI의 정체성은 처음부터 하나였어. "누구보다 크고 빠르게 컴퓨트를 쌓는다." 그리고 그 근육이 바로 Colossus라는 슈퍼컴퓨터야.

Colossus는 테네시주 멤피스에 있어. 2024년에 공장 껍데기 하나를 개조해서 100,000개의 엔비디아 H100 GPU 클러스터를 122일 만에 세운 게 시작이었어. 업계가 "말도 안 되는 속도"라고 했지. 보통 이런 규모의 데이터센터는 몇 년이 걸리거든. 그걸 넉 달 만에 돌린 거야. 그러고는 92일 만에 다시 20만 GPU로 두 배를 불렸어.

2026년 지금은 규모가 또 달라졌어. 2026년 1월 기준으로 Colossus는 약 555,000개의 엔비디아 GPU를 품고 있어. H100, H200, 그리고 최신 GB200/GB300 세대가 섞여 있지. 총 전력은 2기가와트(GW), 투자 규모는 약 180억 달러로 추정돼. 머스크는 12월 말에 멤피스의 세 번째 건물까지 사들여서 확장을 계속하고 있어. 장기 목표는 100만 GPU야. 이 정도 컴퓨트가 있으니까 "2조 파라미터 모델의 훈련을 다음 주에 마친다"는 말이 허풍으로만 안 들리는 거지.

머스크 본인은 요즘 Grok을 거의 매일 손보고 있다고 공언하고 있어. Grok Build라는 개발자 환경과 1.5T 파운데이션 모델을 계속 개선하면서, 2조 파라미터 마일스톤을 향해 달려가는 중이라는 거야. xAI에게 이번 Grok 4.6은 단순한 신제품이 아니라, "우리 컴퓨트가 세계 최강이다"를 증명하는 무대인 셈이야.

2조 파라미터가 진짜 의미하는 것

먼저 사실관계부터 정리하자. 지금 확정된 건 Grok 4.5까지야. Grok 4.5는 6월 말에 발표돼서 7월 8일에 정식 출시됐어. 1.5조 파라미터의 V9 파운데이션 위에 올렸고, 특이하게도 코딩 도구 Cursor의 실제 개발자 세션 데이터로 학습했어. 개발자가 코드베이스를 어떻게 훑고, 고치고, 긴 세션 동안 어떻게 추론하는지 그 흔적(trace)을 통째로 먹인 거지. 가격은 입력 100만 토큰당 2달러, 출력 100만 토큰당 6달러. 컨텍스트 창은 50만 토큰이야.

반면 Grok 4.6, 즉 2조 파라미터 모델은 아직 '예고' 단계야. 머스크가 "다음 주에 초기 훈련이 끝난다"고 한 것이지, 출시된 게 아니야. 초기 훈련(initial training run)이 끝나도 그 뒤에 사후 훈련(post-training), 평가, 배포가 줄줄이 남아 있어. xAI의 과거 출시 주기를 보면, 실제 공개는 8월 말에서 9월 중순 사이로 추정돼. 그러니까 "2조 파라미터 모델이 나왔다"가 아니라 "훈련에 착수했고 곧 끝난다"가 지금의 정확한 상태야.

머스크가 강조한 핵심은 두 가지야. 첫째, 2T는 1.5T보다 "모든 면에서" 낫다. 둘째, 그런데 속도와 토큰 효율은 1.5T에 가깝게 유지한다. 이 두 번째가 중요해. 파라미터를 키우면 보통 추론이 느려지고 비용이 올라가거든. 그런데 머스크는 크기는 키우되 효율은 안 죽이겠다는 거야. 이게 사실이라면 개발자 입장에서는 공짜 업그레이드에 가까운 거지.

'초기 훈련이 끝난다'는 말도 정확히 뜯어봐야 해. 대형 모델의 개발은 크게 사전 훈련(pre-training)과 사후 훈련(post-training) 두 단계로 나뉘어. 사전 훈련은 방대한 데이터로 기본 지능을 쌓는 단계고, 여기가 컴퓨트를 가장 많이 먹는 구간이야. 머스크가 "다음 주에 끝난다"고 한 게 바로 이 단계로 보여. 그런데 진짜 제품이 되려면 그 뒤에 강화학습·정렬·안전성 튜닝 같은 사후 훈련이 붙고, 벤치마크 평가와 레드팀 테스트를 거쳐야 해. Grok 4.5도 6월 말에 발표하고 실제 정식 출시까지 열흘 넘게 걸렸거든. 그러니 "훈련 착수·완료 예고"와 "출시"는 확실히 구분해서 봐야 해.

컴퓨트 얘기를 조금 더 하면, Grok 4.5는 엔비디아 GB300 GPU 수만 장 위에서 학습됐고, xAI는 '토큰당 지능(per-token intelligence)'이라는 개념을 밀면서 수십만 개의 다단계 소프트웨어 엔지니어링 과제로 강화학습을 확장했어. 2조 파라미터 모델은 여기서 한 단계 더 큰 컴퓨트를 요구할 텐데, Colossus의 규모라면 감당 가능하다는 게 머스크의 자신감의 근거야. 결국 이번 발표는 '모델 스펙'이 아니라 '컴퓨트 우위'를 파는 메시지에 가까워.

항목 Grok 4.5 (확정·출시) Grok 4.6 (예고·훈련 중) Kimi K3 (확정·출시)
파라미터 1.5조 (V9) 2조 2.8조 (MoE, 896개 중 16개 활성)
상태 7월 8일 정식 출시 다음 주 초기 훈련 완료 예고 7월 16일 출시, 7월 27일 가중치 공개 예정
컨텍스트 50만 토큰 미공개 (1.5T급 추정) 100만 토큰
가격(입력/출력, 100만 토큰) 2달러 / 6달러 미공개 3달러 / 15달러
학습 특징 Cursor 개발자 세션 데이터 미공개 (Colossus 기반) 오픈 웨이트, 롱호라이즌 에이전트
개방성 클로즈드(API) 클로즈드(추정) 오픈 웨이트(HF 공개)

표를 보면 흥미로운 구도가 보여. Kimi K3는 2.8조로 숫자상 제일 크지만, MoE(전문가 혼합) 구조라 토큰마다 896개 전문가 중 16개만 켜져. 즉 총 파라미터는 크지만 실제로 쓰는 건 일부야. Grok 4.6이 2조를 어떻게 쓰는지(밀집형인지 MoE인지)는 xAI가 아직 밝히지 않았어. 그래서 "2T vs 2.8T" 단순 비교는 함정이 있어. 숫자만으로 우열을 못 가린다는 얘기야.

각 진영이 챙기는 것

xAI가 얻는 건 명확해. 이야기의 주도권이야. Kimi K3가 세계 최대 모델 타이틀을 가져간 지 이틀 만에 머스크가 "우리 게 더 낫고 곧 나온다"고 응수하면서, 서사의 중심을 다시 xAI로 끌어왔어. 실제 성능이 어떻든, 프론티어 경쟁에서 '다음 카드를 쥐고 있다'는 인상을 심는 게 절반의 승리거든. 게다가 Colossus의 압도적 컴퓨트를 계속 과시하면서, 투자자와 인재 시장에 "여기가 최전선"이라는 신호를 보내고 있어.

개발자에게도 실익이 있어. 머스크 말대로 2T가 1.5T보다 낫고 효율은 비슷하다면, Grok 4.5 워크플로를 쓰던 팀은 큰 코드 수정 없이 성능 업그레이드를 받는 셈이야. Grok 4.5가 이미 Cursor에 통합돼 있고, 토큰 효율 덕에 Claude Opus 4.8보다 작업당 훨씬 적은 토큰을 쓴다는 벤치마크가 있었거든. 4.6이 그 강점을 유지하면서 더 똑똑해진다면, 코딩·에이전트 용도에서 가성비 카드가 하나 더 늘어나는 거야.

엔비디아도 조용히 웃고 있어. 555,000개의 GPU, 그리고 100만 개를 향한 확장. 2조 파라미터 훈련이 다음 주에 끝난다는 건, 그 뒤에도 xAI가 계속 최신 GPU를 빨아들인다는 뜻이야. 프론티어 스케일 경쟁이 격해질수록, 결국 곡괭이와 삽을 파는 엔비디아의 매출은 늘어나. 머스크와 Moonshot, OpenAI, 구글이 서로 더 큰 모델을 만들겠다고 경쟁하는 이 구도 자체가 엔비디아에게는 최고의 시나리오지.

머스크 개인에게도 이건 정치적 승부수야. 그는 오래전부터 "AI 경쟁에서 미국이 중국에 뒤처지면 안 된다"는 서사를 밀어왔거든. Kimi K3가 미국의 반도체 수출 통제를 뚫고 세계 최대 오픈 모델을 열어버린 상황에서, 머스크가 곧바로 "우리 2조 모델이 그걸 넘어선다"고 나선 건 단순한 제품 경쟁을 넘어선 상징 싸움이야. Colossus를 미국 안에, 그것도 멤피스라는 지역에 초고속으로 세운 것도 이 서사의 일부지. "미국의 AI 근육은 여기 있다"는 걸 보여주는 무대인 거야.

스케일 경쟁의 전례 — 크게 걸어서 이긴 쪽과 데인 쪽

파라미터를 키워서 대박을 낸 대표 전례는 OpenAI의 GPT-3야. 2020년 1,750억 파라미터로 등장했을 때, 그냥 크기를 키운 것만으로도 이전에 없던 능력들이 튀어나왔어(이른바 창발). 이 성공이 "더 크게 만들면 더 똑똑해진다"는 스케일링 신앙을 업계에 심었지. 이후 몇 년간 모두가 파라미터 경쟁에 뛰어들었어.

그런데 반대 전례도 있어. 순수하게 크기만 키우는 게 정답이 아니라는 증거들이야. 딥마인드의 Chinchilla 연구는 "같은 컴퓨트라면 모델을 무작정 키우기보다 데이터를 더 먹이는 게 낫다"는 걸 보여줬어. 크기만 키운 거대 모델이 실제로는 학습 부족(under-trained)이었다는 거지. 그 뒤로 업계는 파라미터 수 자랑에서 조금 물러났어. 그리고 MoE 같은 구조가 뜬 것도 이 맥락이야. 총 파라미터는 크게 하되 실제 연산은 일부만 켜서 효율을 챙기는 절충안이거든. Kimi K3가 2.8조 중 16개 전문가만 켜는 게 딱 그거야.

또 하나의 교훈은 "숫자가 곧 성능이 아니다"라는 거야. 과거에도 파라미터 수를 크게 내세운 모델이 정작 벤치마크에서는 더 작은 모델에 밀린 사례가 많았어. 데이터 품질, 학습 레시피, 사후 정렬(alignment)이 크기 못지않게 중요하거든. 그래서 머스크가 "2조"라는 숫자를 던졌어도, 진짜 평가는 나와서 벤치를 돌려봐야 알아. 지금은 예고편일 뿐이야.

그리고 xAI 자신의 최근 전략 변화도 흥미로운 전례가 돼. Grok 4.5는 순수하게 크기만 키운 모델이 아니라, Cursor의 실제 개발자 세션 데이터라는 '특화 트레이스'로 학습해서 코딩·에이전트 능력을 끌어올린 케이스였어. 즉 xAI 스스로도 "무작정 크게"에서 "쓸모 있는 데이터로 똑똑하게"로 한 발 옮긴 셈이지. 그런데 Grok 4.6에서 다시 2조라는 크기를 전면에 내세운 걸 보면, 이번엔 스케일과 데이터 특화를 동시에 밀어붙이겠다는 의도로 읽혀. 문제는 이 둘을 한꺼번에 잘 버무리는 게 말처럼 쉽지 않다는 거야. 크기를 키우면 특화 데이터의 효과가 희석될 수도 있고, 효율을 지키겠다는 약속과 충돌할 수도 있거든.

경쟁자들의 카운터 플레이

가장 직접적인 상대는 Moonshot AI의 Kimi K3야. 2.8조 파라미터, 100만 토큰 컨텍스트, 그리고 결정적으로 오픈 웨이트야. 7월 27일에 가중치와 기술 보고서를 통째로 공개할 예정이지. xAI가 클로즈드 API로 가는 것과 정반대 전략이야. Kimi는 "누구나 우리 모델을 내려받아 쓸 수 있다"로 개발자 생태계를 흡수하려 하고, xAI는 "우리 API가 제일 빠르고 효율적이다"로 맞서. 스케일과 개방성, 두 축에서 붙는 거야. 게다가 Kimi K3는 아티피셜 애널리시스 지능 지수에서 57점으로 189개 모델 중 4위, Claude Opus 4.8·GPT-5.5와 어깨를 나란히 했어. 만만한 상대가 아니야.

OpenAI와 구글도 가만히 있진 않아. OpenAI는 GPT-5 계열로, 구글은 Gemini 라인으로 프론티어를 지키고 있어. 이들의 카운터는 단순히 더 큰 모델이 아니라 '멀티모달'과 '에이전트 통합'이야. 파라미터 경쟁에 정면으로 응하기보다, 실제 제품과 생태계로 붙는 쪽이지. 구글은 자체 TPU로 컴퓨트 비용을 낮추는 카드도 있고, OpenAI는 이미 확보한 방대한 사용자 기반이 무기야.

여기서 하나 짚자면, 이 경쟁의 진짜 무기는 모델 하나가 아니라 '출시 속도'라는 점이야. xAI는 6월 말 Grok 4.5 발표, 7월 8일 출시, 7월 18일 4.6 예고까지 한 달도 안 되는 사이에 세 번이나 뉴스를 만들었어. 경쟁사가 대응 전략을 짜는 동안 이미 다음 카드를 흔드는 거지. 이 속도 자체가 카운터 플레이를 어렵게 만드는 압박이야.

Anthropic은 또 다른 결이야. Claude 라인은 파라미터 숫자 경쟁에 잘 안 끼어들어. 대신 안전성, 신뢰성, 그리고 코딩·에이전트 실전 능력으로 승부해. Kimi K3가 프론트엔드 코드 아레나에서 Claude Fable 5를 제쳤다는 뉴스가 상징적이었지만, Anthropic의 응수는 "벤치 1위보다 실무 신뢰"라는 메시지로 흐를 가능성이 커. 결국 이 판은 '누가 제일 큰가'와 '누가 제일 쓸모 있나'라는 두 질문이 동시에 굴러가는 중이야. 머스크는 전자를, Anthropic은 후자를 밀고 있는 셈이지.

그래서 뭐가 달라지는데

개발자라면 선택지가 늘어나는 게 핵심이야. Grok 4.5가 이미 Cursor에 붙어 있고 토큰당 가격도 공격적인데, 4.6이 효율을 유지하면서 더 똑똑해지면 코딩·에이전트 작업의 가성비 옵션이 하나 더 생기는 거야. 다만 아직 출시 전이니까, 지금 당장 워크플로를 갈아엎을 이유는 없어. 4.5로 검증하면서 4.6 벤치마크가 나올 때까지 지켜보는 게 합리적이야.

투자자라면 이건 컴퓨트 사이클의 신호로 읽어야 해. 2조 파라미터 훈련을 다음 주에 마친다는 건, xAI가 계속 최신 GPU에 수십억 달러를 쏟는다는 뜻이야. 데이터센터, 전력, 냉각, 반도체 밸류체인 전반이 이 사이클의 수혜를 받아. 반대로, 파라미터를 키운다고 곧바로 수익이 되는 건 아니라는 것도 기억해야 해. 스케일 경쟁의 비용은 확정이고, 그 보상은 아직 증명되지 않았거든.

한 가지 더 짚을 건 리스크야. 머스크는 발표가 실제 출시보다 앞서 나가는 걸로 유명해. "다음 주"라는 시점도, 사후 훈련과 평가에서 문제가 생기면 얼마든지 밀릴 수 있어. 파라미터를 키웠는데 벤치마크 개선이 기대만 못하거나, 효율을 유지하겠다는 약속이 실전에서 깨질 가능성도 있지. 그래서 투자든 개발이든, 지금은 '숫자'가 아니라 '나온 뒤의 실측'을 기다리는 게 안전해. 예고는 예고일 뿐이야.

일반 사용자라면 당장 체감할 변화는 크지 않아. Grok 4.6이 나오면 Grok 앱이나 X에서 좀 더 똑똑한 답을 받게 되는 정도야. 다만 이 경쟁의 진짜 의미는 다른 데 있어. 머스크의 xAI, 중국의 Moonshot, OpenAI, 구글, Anthropic이 서로 더 크고 효율적인 모델을 미친 속도로 밀어내면서, 몇 달 단위로 프론티어가 갈아엎히고 있다는 거야. 1년 전만 해도 최고였던 모델이 지금은 중위권이야. 이 속도가 유지되면, 우리가 쓰는 AI의 품질은 계속 빠르게 좋아지고 가격은 계속 빠르게 떨어질 거야. 그게 이 스케일 전쟁의 진짜 배당금이지.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 당장은 별로 없어. Grok 4.6은 아직 훈련 중이고 출시는 8월 말~9월로 추정돼. 다만 네가 코딩 도구나 AI 에이전트를 쓴다면, 몇 달 안에 더 싸고 똑똑한 옵션이 하나 더 생길 가능성이 커. 그때 갈아타는 걸 검토하면 돼.

— 2조 파라미터면 Kimi의 2.8조보다 작은데, 진 거 아니야? 숫자만 보면 그렇게 보이지만 단정하긴 일러. Kimi는 MoE라 2.8조 중 실제로는 일부만 켜지고, Grok 4.6이 파라미터를 어떻게 쓰는지는 xAI가 안 밝혔어. 데이터·학습 레시피·효율이 크기 못지않게 중요해서, 진짜 우열은 벤치마크가 나와봐야 알아.

— 왜 지금 머스크가 이걸 발표한 거야? Kimi K3가 세계 최대 모델 타이틀을 가져간 지 이틀 만에 나온 응수거든. 실제 제품보다 서사의 주도권을 뺏기지 않으려는 성격이 강해. "우리가 다음 카드를 쥐고 있다"는 신호를 시장과 인재에게 던진 거지.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.