"가장 센 모델은 아닙니다" — 스타트업이 자기 첫 작품을 이렇게 소개한다고?

7월 15일, AI 업계가 두 개의 이상한 문장을 동시에 마주했어. 하나는 "미라 무라티의 회사가 드디어 첫 모델을 냈다"는 소식. 다른 하나는 그 회사가 직접 쓴 문장이야. "잉클링(Inkling)은 오늘날 나와 있는, 열린 것이든 닫힌 것이든, 가장 강력한 모델은 아닙니다." 보통 스타트업은 첫 작품을 세상에서 제일 잘난 물건처럼 포장하잖아. 근데 이 회사는 정반대로 나왔어. "우리 건 최강이 아니다"라고 대문에 못을 박은 거야.

이게 오타나 겸손이 아니라 전략이라서 판이 흔들리는 거야. 전 OpenAI CTO 미라 무라티(Mira Murati)가 세운 Thinking Machines Lab은 첫 모델부터 벤치마크 1등을 노리지 않았어. 대신 "기업이 자기 손으로 직접 뜯어고칠 수 있는 AI가, 대형 랩이 파는 획일적인 모델을 결국 이긴다"는 데 판돈을 걸었지. 성능 경쟁이 아니라 커스터마이징 경쟁으로 게임의 축 자체를 옮기려는 시도야.

그리고 스펙만 보면 이게 절대 작은 물건이 아니야. 9750억(975B) 파라미터짜리 MoE(전문가 혼합) 모델인데, 작업 하나당 그중 약 410억(41B)만 활성화돼. 텍스트·이미지·오디오·비디오 4개 모달리티를 네이티브로 다루고, 45조(45T) 토큰으로 학습했고, 컨텍스트는 최대 100만(1M) 토큰까지 받아. 이 정도 스펙이면 프런티어급인데, 정작 회사는 "최강"을 안 판다고 선언한 거지. 왜 이런 이상한 베팅을 했는지, 지금부터 풀어볼게.

주체 소개 — 무라티, 씽킹 머신스, 그리고 '오픈 가중치' 진영

미라 무라티는 AI 업계에서 이름값이 아주 무거운 사람이야. OpenAI에서 CTO로 일하면서 ChatGPT, GPT-4, DALL-E, Sora 같은 대형 제품의 개발을 총괄했던 인물이거든. 그 무라티가 2025년에 OpenAI를 나와 세운 게 바로 Thinking Machines Lab이야. 창업 멤버 상당수가 OpenAI 출신이라, 업계에선 "OpenAI의 유전자를 그대로 물려받은 도전자"로 봤어.

회사가 무서운 건 사람만이 아니야. 자금 규모도 화제였어. TechCrunch에 따르면 500억 달러(약 $50B) 규모의 대형 펀딩 라운드가 거론됐을 정도야(작년 11월~올해 1월 사이 진행됐다가 잠시 멈췄고, 회사는 현재 정확한 자금 상황은 공개하지 않았어). 3월엔 엔비디아와 손잡고 컴퓨팅 캐파를 확보했지. 즉 "돈도, 사람도, GPU도 다 있는데 아직 제품이 없던" 회사였는데, 이번에 드디어 첫 자체 모델을 세상에 내놓은 거야.

여기서 짚어야 할 개념이 '오픈 가중치(open-weight)'야. ChatGPT, Claude, Gemini 같은 프런티어 모델은 API로만 쓸 수 있어. 회사 서버 안에 갇혀 있고, 너는 그 앞에서 요청을 보내고 답을 받을 뿐이지. 모델 내부(가중치)는 절대 못 봐. 반대로 오픈 가중치 모델은 가중치 파일 자체를 다운로드해서 내 서버에 올리고, 내 데이터로 직접 뜯어고칠(파인튜닝) 수 있어. 잉클링은 후자야. 실제로 전체 가중치가 Hugging Face에 공개됐고, 라이선스도 상업적으로 자유로운 Apache 2.0급으로 풀렸어.

무라티가 던진 핵심 프레임은 이거야. "전문성은 대개 도메인마다 다르고, 그 노하우는 대체 불가능하다. 그렇다면 조직이 스스로 다듬은 AI가, 중앙에서 한 번에 찍어낸 획일적 모델을 이긴다." 쉽게 말해, 세상 모든 회사에 똑같은 만능 모델 하나를 파는 게 아니라, 각 회사가 자기 데이터·자기 업무에 맞게 조각칼로 깎아 쓸 '좋은 원석'을 파는 게 미래라는 주장이야. 잉클링은 그 원석이고.

핵심 내용 — 숫자로 뜯어보면 '효율에 미친 설계'

먼저 아키텍처를 정리하자. 잉클링은 66층 디코더 전용 트랜스포머에 희소 MoE 백본을 얹은 구조야. 각 MoE 층엔 라우팅되는 전문가 256개 + 공유 전문가 2개가 들어 있어. 토큰 하나가 들어오면 그중 라우팅 전문가 6개와 공유 전문가 2개만 켜져. 그래서 총 파라미터는 9750억인데 실제로 한 번에 도는 건 410억뿐인 거야. "덩치는 초대형인데 연산 비용은 중형급"이라는 게 MoE의 핵심 매력이지.

디테일도 효율에 몰빵돼 있어. 어텐션은 슬라이딩 윈도우 층과 글로벌 층을 5:1 비율로 번갈아 배치하고 KV 헤드는 8개만 써서 메모리를 아꼈어. 위치 정보는 요즘 표준인 RoPE 대신 상대적 위치 임베딩을 썼고, 어텐션 층 안에 짧은 컨볼루션을 끼워 넣는 등 남들과 다른 실험적 선택도 여럿 보여. 학습 최적화도 큰 행렬 가중치엔 Muon, 나머지엔 Adam을 쓰는 하이브리드 방식이었고, 후처리(post-training) 단계에선 3천만(30M) 건이 넘는 강화학습 롤아웃을 돌렸어.

그래서 효율이 어느 정도냐. 회사는 "동등한 코딩 성능을 내는 데 엔비디아의 Nemotron 3 Ultra 대비 3분의 1 수준의 토큰만 쓴다"고 주장했어. 벤치마크 1등은 아니지만 '가성비'로는 확실히 승부를 보겠다는 거지. 다만 하나 솔직히 짚자면, 45조 토큰을 텍스트·이미지·오디오·비디오로 다 학습했는데도 현재 출력은 텍스트만 지원해. 4개 모달리티를 '읽고 추론'하지만 '생성'은 아직 텍스트뿐이라는 거야.

여기서 왜 굳이 이렇게까지 효율에 집착했는지 이해하는 게 중요해. 오픈 가중치 모델은 결국 기업이 '자기 서버'에서 돌려야 해. 그 말은, 이 모델을 굴리는 GPU 비용을 그 기업이 직접 낸다는 뜻이지. 총 파라미터가 9750억이어도 실제 연산에 410억만 켜지는 MoE 구조, RoPE를 버리고 상대적 위치 임베딩을 택한 선택, 슬라이딩 윈도우 어텐션과 8개뿐인 KV 헤드 — 이 모든 디테일이 결국 "네 서버에서 돌릴 때 최대한 싸게 돌아가게" 하려는 설계야. 폐쇄형 API는 벤더가 최적화를 알아서 해주니까 사용자가 이런 걸 신경 쓸 필요가 없지만, 오픈 가중치는 효율 그 자체가 곧 제품 경쟁력이 돼. 무라티 팀이 성능 1등을 포기하면서까지 효율 설계에 몰빵한 건, 그게 오픈 진영에서 이기는 진짜 무기라는 걸 알기 때문이야. 참고로 회사는 창업부터 첫 모델 출시까지 9개월밖에 안 걸렸다고 강조했는데, OpenAI가 약 5년, Anthropic이 약 3년 걸린 것과 비교하면 확실히 빠른 속도야.

배포 방식도 정리해두자. 잉클링은 자사 파인튜닝 플랫폼 Tinker에서 64K·256K 컨텍스트 옵션으로 제공되고, 한시적으로 50% 할인까지 걸었어. 그리고 Together AI, Fireworks, Modal, Databricks, Baseten 같은 배포 파트너들과 붙어서 여러 경로로 쓸 수 있게 열어놨지. 여기에 더 작은 형제도 미리 공개했어. 잉클링-스몰(Inkling-Small)은 2760억(276B) 파라미터에 활성 120억(12B)짜리 MoE인데, 여러 벤치마크에서 큰형과 비슷하거나 더 나은 성적을 낸다고 해. 가중치는 테스트가 끝나면 풀린다고 예고했어.

항목 잉클링(Inkling) 잉클링-스몰(Inkling-Small) 폐쇄형 프런티어(GPT/Claude/Gemini)
총 파라미터 9750억(975B) MoE 2760억(276B) MoE 비공개
작업당 활성 약 410억(41B) 약 120억(12B) 비공개
모달리티(입력) 텍스트·이미지·오디오·비디오 멀티모달 대체로 멀티모달
컨텍스트 최대 100만(1M) 토큰 대형 모델별 상이
학습 토큰 45조(45T) 미공개 비공개
배포 방식 오픈 가중치(가중치 다운로드·파인튜닝) 오픈 가중치(예정) API 전용(가중치 비공개)

각자의 이득 — 기업이 이 모델로 뭘 얻나

가장 크게 웃는 건 '자기만의 AI를 갖고 싶은 기업'이야. 지금까지 대부분의 회사는 OpenAI나 Anthropic의 API를 빌려 썼어. 편하긴 한데, 남의 모델을 남의 서버에서 돌리는 거라 세 가지가 늘 걸렸지. 첫째, 내 민감한 데이터를 외부 서버에 보내야 한다는 보안·규제 부담. 둘째, 토큰당 과금이 계속 나가는 구독 종속. 셋째, 모델이 우리 도메인(예: 법률·의료·금융 전문 용어)을 진짜로 깊게 알진 못한다는 한계. 오픈 가중치 모델은 이 셋을 한 번에 풀어. 가중치를 내 서버에 올려두고, 내 데이터로 파인튜닝하고, 구독료 없이 내 인프라 안에서 돌리는 거야.

이게 뜬구름이 아니라는 근거도 나왔어. TechCrunch가 전한 사례인데, 헤지펀드 브리지워터(Bridgewater)와의 협업에서 오픈소스 모델을 금융 전문 지식으로 파인튜닝했더니 금융 추론 테스트에서 84.7%를 기록하면서, 여러 상용 폐쇄형 모델을 능가했고 운영 비용은 약 14분의 1 수준이었다는 거야(회사·파트너 자체 평가 기준이라 감안은 필요해). 요지는 명확해. "범용 성능은 좀 낮아도, 우리 도메인에 맞게 깎으면 최강 모델보다 싸고 정확해질 수 있다"는 거지. 무라티의 베팅이 노리는 지점이 정확히 여기야.

Thinking Machines 본인도 이 구조에서 돈을 벌어. 이 회사의 매출 모델은 "모델 사용료(토큰 과금)"가 아니라 "커스터마이징 플랫폼 Tinker"거든. 가중치는 공짜로 풀되, 그걸 손쉽게 파인튜닝하게 도와주는 도구·인프라로 돈을 버는 구조야. 오픈소스로 생태계를 키우고, 그 위에서 서비스로 수익을 내는 전형적인 '오픈코어' 플레이인 셈이지. 그래서 가중치를 아낌없이 푸는 게 자선이 아니라 사업 전략이야.

파인튜닝이라는 게 원래 아무나 하는 일이 아니었다는 점도 짚고 넘어가자. 지금까지 대형 모델을 자기 데이터로 제대로 튜닝하려면 박사급 머신러닝 전문가와 값비싼 GPU 클러스터, 그리고 수많은 시행착오가 필요했어. 중소기업이나 일반 개발팀에겐 사실상 그림의 떡이었지. Tinker가 노리는 건 바로 이 진입 장벽을 확 낮추는 거야. "파인튜닝에 필요한 PhD급 전문성 없이도" 기업이 잉클링을 자기 업무에 맞게 조정하게 해준다는 게 핵심 세일즈 포인트거든. 만약 이게 정말 통한다면, 그동안 프런티어 API에만 의존하던 수많은 중견 기업이 '자기만의 튜닝된 모델'을 갖는 문이 열리는 거고, 그게 무라티가 그리는 그림의 진짜 크기야.

과거 유사 사례 — 오픈 vs 폐쇄, 성공과 실패의 갈림길

이 '오픈 대 폐쇄' 싸움은 처음이 아니야. 오픈 진영의 대표적 성공 사례는 메타의 라마(Llama)야. 메타는 대형 언어모델 가중치를 사실상 공개하면서 전 세계 개발자·기업이 그 위에서 무수한 파생 모델을 만들게 했어. 그 결과 라마는 오픈 생태계의 사실상 표준 기반이 됐고, 메타는 "우리 생태계 안에서 AI가 자란다"는 지위를 확보했지. 프랑스의 미스트랄(Mistral)도 비슷해. 상대적으로 작지만 효율 좋은 오픈 모델로 유럽·기업 시장에서 뚜렷한 존재감을 만들었어. "가중치를 열면 커뮤니티가 대신 성장시켜준다"는 게 이 진영의 핵심 논리야.

반대편 폐쇄 진영의 성공 사례는 두말할 것 없이 OpenAI의 GPT 계열이야. 가중치를 꽁꽁 싸매고 API로만 팔면서도, 압도적 성능과 제품화 속도로 시장을 장악했지. "최고 성능을 독점하고, 그 앞단만 열어주면 사람들이 알아서 줄 선다"는 전략이 통한 거야. Anthropic의 Claude, 구글의 Gemini도 같은 폐쇄형 노선으로 프런티어를 지키고 있어. 즉 지금까지의 스코어보드만 보면, '최강 성능'은 폐쇄 진영이, '생태계 확산'은 오픈 진영이 나눠 가진 그림이었어.

실패의 교훈도 있어. 오픈으로 풀었다고 무조건 이기는 게 아니야. 성능이 어중간하거나, 파인튜닝 도구·문서가 부실하거나, 라이선스가 애매하면 아무리 가중치를 열어도 아무도 안 써. 반대로 폐쇄형이라도 성능이 경쟁작에 밀리기 시작하면 "비싼 API를 왜 쓰냐"는 이탈이 순식간에 일어나지. 그래서 잉클링의 승부처는 명확해. 성능 1등이 아니라 "파인튜닝하기 가장 좋은 원석이냐"라는 딱 하나의 질문이야. 무라티가 벤치마크 대신 Tinker와 커스터마이징을 앞세운 건, 라마의 확산성과 GPT의 완성도 사이에서 자기만의 세 번째 자리를 노린 포석인 셈이지.

경쟁자 카운터 플레이 — OpenAI·Anthropic·Mistral은 어떻게 받을까

**OpenAI·Anthropic(폐쇄 프런티어 진영)**의 카운터는 결국 "성능 격차로 눌러버리기"야. 잉클링이 "우린 최강이 아니다"라고 인정한 이상, 폐쇄 진영은 "그래도 우리 최고 모델이 압도적으로 낫다"는 카드로 받을 수 있어. 실제로 많은 기업은 파인튜닝의 번거로움을 감수하느니 그냥 잘 되는 API를 쓰고 싶어 하거든. 다만 이 방어엔 균열이 있어. OpenAI조차 최근 들어 오픈 가중치 모델을 별도로 내놓으며 오픈 진영을 견제하기 시작했고, 이건 "폐쇄만으로는 커스터마이징 수요를 다 못 막는다"는 걸 스스로 인정한 신호로 읽혀.

**미스트랄·메타 라마(오픈 진영 내부 경쟁자)**의 카운터는 "우리가 이미 오픈 생태계의 표준"이라는 선점 효과야. 파인튜닝하려는 기업이 굳이 신생 잉클링을 고를 이유를 만들어줘야 하는데, 라마·미스트랄은 이미 방대한 툴·튜토리얼·커뮤니티 자산을 쌓아놨거든. 잉클링이 여기에 맞서려면 Tinker라는 파인튜닝 경험 자체가 압도적으로 편하고 싸야 해. 즉 잉클링의 진짜 경쟁 상대는 GPT가 아니라, 이미 자리 잡은 다른 오픈 모델들일 수 있어.

**하이퍼스케일러·클라우드(중립 지대)**는 어느 쪽이든 다 태우려 할 거야. 실제로 잉클링은 출시부터 Together AI, Fireworks, Databricks, Baseten 같은 여러 배포 파트너에 실렸어. 클라우드 입장에선 오픈 모델이든 폐쇄 모델이든 자기 인프라 위에서 돌기만 하면 매출이니까, 오픈 진영의 확산은 오히려 반가운 일이야. 이 구도에서 Thinking Machines의 해자(moat)는 모델 자체가 아니라 Tinker라는 커스터마이징 레이어에 있어. 남들이 잉클링 가중치를 그냥 가져다 써도, "가장 쉽게 파인튜닝하는 경험"만 잉클링이 쥐고 있으면 돈은 계속 회사로 흘러들어오는 구조를 노린 거지.

그래서 뭐가 달라지는데

개발자·엔지니어라면 — 이제 "프런티어 API를 빌려 쓸까 vs 오픈 가중치를 파인튜닝할까"라는 선택지가 훨씬 현실적으로 굵어졌어. 잉클링은 975B/41B라는 대형급 성능 잠재력에 오픈 가중치·1M 컨텍스트·멀티모달 입력을 얹었고, Tinker로 파인튜닝 난이도까지 낮췄다고 주장해. AI 아키텍처를 설계할 때 "핵심 도메인은 파인튜닝한 오픈 모델로, 범용 잡무는 폐쇄 API로" 나누는 하이브리드 설계를 진지하게 고민해볼 만해.

기업·의사결정자라면 — 핵심 질문이 "어느 모델이 제일 똑똑하냐"에서 "우리 데이터·규제·비용에 맞춰 뜯어고칠 수 있느냐"로 옮겨가고 있어. 브리지워터 사례(도메인 파인튜닝으로 상용 모델 능가, 비용 14분의 1)가 사실이라면, 민감 데이터를 다루는 금융·의료·법률·공공 분야에선 오픈 가중치가 오히려 정답이 될 수 있어. 다만 파인튜닝·운영 인력과 인프라 비용은 네가 떠안아야 한다는 점, 그리고 성능 수치는 대부분 회사 자체 평가라는 점은 냉정하게 감안해.

투자자라면 — 이번 발표의 진짜 메시지는 "모델 성능"이 아니라 "비즈니스 모델"이야. Thinking Machines는 토큰 과금이 아니라 Tinker 커스터마이징 플랫폼으로 돈을 벌겠다고 선언한 거고, 이건 AI 수익 구조가 '모델 판매'에서 '커스터마이징·운영 서비스'로 분화하고 있다는 신호야. 다만 500억 달러급 밸류에이션 얘기가 돌던 회사가 아직 명확한 매출 실체를 보여주지 못했고, 엔비디아 컴퓨팅 비용을 어떻게 감당하는지도 불투명하다는 리스크는 같이 봐야 해.

일반 사용자라면 — 당장 잉클링을 직접 쓸 일은 별로 없어. 근데 이게 확산되면, 네가 쓰는 앱·서비스 뒤에서 돌아가는 AI가 '만능 GPT 하나'가 아니라 '그 회사 업무에 맞게 깎인 전용 모델'이 될 가능성이 커져. 은행 앱은 금융에 특화된 AI, 병원 앱은 의료에 특화된 AI가 돌아가는 식이지. 획일적 챗봇의 시대에서, 서비스마다 성격이 다른 '맞춤형 AI'의 시대로 넘어가는 초입일 수 있어. 그리고 이런 흐름이 자리 잡으면, 네 데이터가 굳이 거대 AI 기업 서버로 넘어가지 않고 그 서비스 회사 안에 머무는 구조도 늘어날 수 있어. 프라이버시 관점에선 오히려 반가운 변화일 수도 있는 거야.

🥄 남은 궁금증 세 가지

— "최강이 아니다"라고 인정한 게 자신감이야, 자폭이야? 전략적 자신감 쪽에 가까워. 벤치마크 1등 경쟁은 이미 GPT·Claude·Gemini가 피 튀기게 하고 있어서, 거기 끼어봤자 승산이 낮아. 대신 "파인튜닝 원석"이라는 새 링에서 1등을 노린 거지. 다만 그 링에도 라마·미스트랄이 먼저 자리 잡고 있어서, 인정이 통할지는 Tinker의 실제 편의성이 증명해야 해.

— 오픈 가중치면 아무나 공짜로 쓰는데, 회사는 어떻게 돈 벌어? 가중치는 열되, 그걸 쉽게 파인튜닝·운영하게 해주는 Tinker 플랫폼으로 버는 '오픈코어' 모델이야. 리눅스가 공짜여도 레드햇이 서비스로 돈 벌었던 것과 비슷한 구조. 문제는 오픈 모델 파인튜닝 시장이 그 정도 매출을 감당할 만큼 크냐는 거고, 아직 증명 전이야.

— 45조 토큰에 멀티모달인데 왜 출력은 텍스트뿐이야? 현재 잉클링은 텍스트·이미지·오디오·비디오를 '읽고 추론'하지만 '생성'은 텍스트만 해. 4개 모달리티를 입력으로 이해하는 것과, 이미지·오디오·비디오를 출력으로 만드는 건 완전히 다른 난이도라서 단계적으로 여는 거야. 향후 출력 모달리티 확장 여부가 이 모델의 다음 관전 포인트야.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.