추론 칩 전쟁에 은행이 돈을 걸었다

2026년 7월 8일, AI 추론 칩 스타트업 SambaNova가 시리즈F 라운드의 1차 클로즈를 완료했다고 발표했어. 규모는 10억 달러, 우리 돈으로 1조3천억 원 남짓. 라운드를 이끈 건 글로벌 투자사 General Atlantic이고, 이번 딜로 SambaNova의 기업가치는 110억 달러, 약 15조 원 수준으로 올라섰지.

근데 진짜 헤드라인은 돈이 아니었어. 같은 발표에 딸려 나온 한 줄이 훨씬 더 무거웠거든. JP모건체이스가 SambaNova를 자사 온프레미스 AI 추론 인프라 파트너로 낙점하고, SN40과 SN50 시스템을 도입한다는 내용이었어. 세계에서 가장 보수적이고, 규제도 제일 빡센 대형 은행 중 하나가 엔비디아 GPU 클라우드 대신 "추론 전용 칩"을 자기 건물 안에 들여놓겠다고 공개 선언한 거야.

이게 왜 큰 그림이냐면, AI 인프라 전쟁의 축이 조용히 이동하고 있다는 신호이기 때문이야. 지난 몇 년은 모델을 '학습'시키는 게임이었어. GPU를 몇 만 장씩 쌓아서 파라미터를 늘리는 군비 경쟁. 근데 이제 모델은 충분히 똑똑해졌고, 돈이 실제로 도는 곳은 그 모델을 '굴리는' 단계, 즉 추론(inference)으로 넘어갔어. 매일 수십억 번씩 답을 뱉어내는 그 구간. 여기서 엔비디아 독점에 균열을 내겠다고 덤비는 스타트업들이 있고, SambaNova가 지금 그 선두 그룹에서 은행이라는 초대형 레퍼런스를 손에 쥔 거지.

그리고 타이밍이 절묘해. SambaNova는 불과 5개월 전인 2026년 2월에도 3억5천만 달러 넘는 시리즈E를 받았거든. 반 년도 안 돼서 다시 10억 달러를 더 끌어모은 거야. 투자자들이 이 회사에 얼마나 급하게 줄을 서고 있는지 보여주는 대목이지.

SambaNova는 대체 누구야

SambaNova Systems는 2017년에 스탠퍼드 출신들이 세운 미국 실리콘밸리(팔로알토) 반도체 회사야. 창업자는 CEO 로드리고 리앙(Rodrigo Liang), 그리고 스탠퍼드 교수인 쿤레 올루코툰(Kunle Olukotun)과 크리스 레(Chris Ré). 특히 올루코툰 교수는 멀티코어 프로세서 분야의 대가로 꼽히는 인물이라, 창업 초기부터 "칩 설계 진짜 아는 팀"이라는 평가를 받았어.

이 회사의 핵심 무기는 GPU가 아니라 **RDU(Reconfigurable Dataflow Unit, 재구성형 데이터플로우 유닛)**라는 독자 아키텍처야. 엔비디아 GPU가 원래 그래픽 처리하다가 AI로 넘어온 범용 칩이라면, RDU는 처음부터 AI 연산의 데이터 흐름에 맞춰 회로를 재배치하는 구조로 설계됐어. 쉽게 말하면 GPU는 "만능 계산기"고 RDU는 "AI 추론에 특화된 전용 라인"인 셈이지. 특히 대형 모델을 낮은 지연시간(latency)으로 빠르게 돌리는 데 강점이 있다고 회사는 주장해왔어.

SambaNova가 처음부터 클라우드 스타트업이었던 건 아니야. 이 회사는 원래 하드웨어와 소프트웨어를 통째로 묶어서 파는 '풀스택' 전략을 밀었어. 칩(RDU), 그 칩을 담은 시스템, 그리고 모델을 배포·운영하는 소프트웨어까지 한 세트로 기업에 납품하는 방식. 그래서 정부·금융·통신처럼 데이터를 밖으로 못 내보내는 조직, 즉 자기 데이터센터 안에 AI를 통째로 들여놓아야 하는 고객들이 주 타깃이었지. 이번 JP모건 딜이 바로 그 전략의 정점이야.

자금 이력도 화려해. 2021년 시리즈D 때 이미 6억7,600만 달러를 받으며 51억 달러 밸류를 찍었고, 그때부터 소프트뱅크 비전펀드, GV(구글 벤처), 인텔 캐피털 같은 큰손들이 붙어 있었어. 그러다 2026년 2월 시리즈E, 그리고 이번 7월 시리즈F로 밸류가 110억 달러까지 두 배 넘게 뛴 거지. 4년 만에 몸값이 두 배 이상 오른 셈이야.

라운드 뜯어보기 — 누가 얼마를, JP모건은 뭘 샀나

이번 시리즈F는 그냥 벤처캐피털 라운드가 아니야. 투자자 명단을 보면 이게 '전략적 라운드'라는 게 딱 드러나거든. General Atlantic이 리드를 맡았고, Seligman Ventures, T. Rowe Price, Capital Group 같은 대형 자산운용사가 크게 들어왔어. 여기에 BlackRock, Intel Capital, 그리고 카타르투자청(QIA), Vista Equity Partners, Battery Ventures까지 기존·신규 투자자가 줄줄이 참여했지. 국부펀드와 세계 최대 자산운용사가 같이 들어왔다는 건, 이걸 단순 스타트업 베팅이 아니라 인프라 자산으로 본다는 뜻이야.

핵심 포인트를 표로 정리하면 이래.

항목 내용
라운드 시리즈F (1차 클로즈)
조달 규모 10억 달러 (약 1조3천억 원)
기업가치 110억 달러 (post-money)
리드 투자자 General Atlantic
주요 참여사 Seligman Ventures, T. Rowe Price, Capital Group, BlackRock, Intel Capital, 카타르투자청(QIA), Vista Equity, Battery Ventures
자금 용도 온프레미스 AI 추론 인프라 확장, 제품 개발 가속, 배포 확대
전략 고객 JP모건체이스 (SN40·SN50 온프레미스 도입)
다음 일정 2차 클로즈 향후 수 주 내, IPO는 2027년 검토

자금 용도는 명확해. SambaNova는 이 돈으로 생산 능력(capacity)을 늘리고, 칩·시스템·소프트웨어 전 영역에 걸쳐 제품 개발을 가속하고, 기업·네오클라우드·소버린 AI 고객 대상 배포를 확대하겠다고 밝혔어. 한마디로 "주문이 밀려오는데 물량을 못 대는 상황"을 풀겠다는 거지.

JP모건이 산 게 정확히 뭔지도 짚어보자. JP모건체이스는 SambaNova의 SN40과 SN50 시스템을 도입해서 은행 자체 건물 안에서 돌아가는 보안 온프레미스 AI 추론 인프라를 구축해. 여기서 핵심 단어는 "온프레미스"야. 은행은 고객 금융 데이터를 외부 클라우드로 내보내는 걸 극도로 꺼려. 규제 때문이기도 하고, 유출 리스크 때문이기도 하지. SambaNova의 RDU는 데이터를 남의 서버로 보내지 않고 자기 데이터센터 안에서 모델을 돌릴 수 있게 해줘서, 데이터 통제권과 감사 추적(audit trail)을 은행이 온전히 쥘 수 있어. 이게 GPU 클라우드 대신 전용 칩을 고른 진짜 이유야.

참고로 SN50은 SambaNova의 5세대 추론 프로세서로, 2026년 2월에 공개됐고 '에이전틱(agentic) 추론'에 특화됐다고 홍보돼. 에이전트가 문제를 여러 단계로 쪼개서 모델을 연쇄 호출하는 워크로드에서 초저지연·고처리량을 낸다는 게 회사 주장이야. SN50은 2026년 하반기부터 고객 출하 예정이고, 첫 배포 파트너는 일본 소프트뱅크였어. 이제 그 명단에 미국 최대 은행이 더해진 거지.

각자 뭘 얻었나

먼저 SambaNova. 이 회사가 이번 딜에서 얻은 가장 값진 건 사실 돈이 아니라 JP모건이라는 이름이야. 스타트업이 아무리 "우리 칩 빠릅니다, 안전합니다" 외쳐봐야 대형 금융기관이 실제로 프로덕션에 넣기 전까진 그냥 마케팅이거든. 근데 세계에서 리스크 관리 제일 깐깐한 은행 중 하나가 자기 데이터센터에 이걸 들여놓겠다고 공개하면, 그건 그 어떤 벤치마크 슬라이드보다 강력한 신뢰 증명서야. 다른 은행·보험사·정부기관이 "JP모건도 쓴다며?"라고 따라올 명분이 생기는 거지.

General Atlantic을 비롯한 투자자들은 '추론 인프라'라는 거대한 성장 축에 저평가로 올라탔다고 볼 수 있어. 엔비디아 주가가 이미 하늘을 뚫은 상황에서, 엔비디아 독점에 균열을 낼 만한 유일한 후보군(SambaNova, Cerebras, Groq 등)에 베팅하는 건 헤지이자 업사이드 플레이야. 특히 카타르투자청 같은 국부펀드가 들어온 건, 이 인프라를 자국 소버린 AI 구축에 쓸 수도 있다는 전략적 계산이 깔린 거고.

Intel Capital의 참여도 흥미로워. SambaNova는 이미 2026년 2월에 인텔과 협업을 발표한 바 있는데, 이번에도 인텔 캐피털이 라운드에 들어왔어. 엔비디아에 밀린 인텔 입장에선 SambaNova 같은 대안 칩 진영과 손잡는 게 반격의 한 축이 될 수 있지.

그리고 JP모건. 은행은 이번 딜로 두 가지를 얻어. 하나는 데이터 주권 — 민감한 금융 데이터를 클라우드 밖으로 안 내보내고도 AI를 돌릴 수 있게 됐어. 다른 하나는 협상력이야. 특정 GPU 클라우드 벤더에 종속되지 않고 자체 인프라를 갖추면, 나중에 AI 비용 협상에서 유리한 카드를 쥐게 되거든. 은행 입장에선 AI 추론 비용이 앞으로 수십 년치 고정비인데, 그걸 남의 손에 다 맡기고 싶진 않은 거야.

과거 AI 칩 스타트업들의 성공과 실패

엔비디아에 도전한 칩 스타트업의 역사는 화려한 성공과 조용한 무덤이 공존하는 판이야. 이 맥락을 알아야 SambaNova의 위치가 보여.

가장 극적인 성공 사례는 최근의 Cerebras야. 웨이퍼 한 장을 통째로 칩으로 쓰는 '웨이퍼스케일' 아키텍처로 유명한 이 회사는, 2026년 5월 상장에서 55억 달러를 조달하며 올해 최대 규모 IPO를 찍었어. 공모가 185달러로 시작했는데 첫날 385달러까지 튀면서 108% 폭등했지. 완전 희석 기준 밸류가 560억 달러대. 로드쇼가 20배 초과 청약됐다는 얘기까지 나왔어. Cerebras의 성공은 "추론 전용 특화 칩 시장이 스페셜리스트 여러 곳을 먹여 살릴 만큼 크다"는 걸 시장이 인정했다는 신호였고, SambaNova의 이번 라운드도 그 흐름을 그대로 탄 거야.

반대편엔 Groq 사례가 있어. 초고속 추론으로 주목받던 Groq는 결국 독립 상장의 길을 걷지 못하고, 2025년 12월 엔비디아에 200억 달러에 인수됐어. 그리고 엔비디아는 자사 Blackwell GPU에 Groq의 LPU 아키텍처를 결합한 대응 제품을 2026년 3월에 발표했지. 보는 관점에 따라 이건 창업자에겐 대박 엑싯이지만, "엔비디아 독점에 균열을 내겠다"던 원래 명분 입장에선 흡수당한 셈이야. 도전자가 결국 골리앗의 무기가 돼버린 거지.

더 오래된 교훈도 있어. 2010년대 후반 AI 칩 붐 때 Graphcore, Habana, Nervana 같은 이름들이 "엔비디아 킬러"로 떠올랐지만, Nervana와 Habana는 인텔에 인수된 뒤 흐지부지됐고, 영국의 Graphcore는 결국 소프트뱅크에 헐값 매각됐어. 공통된 실패 원인은 대개 하드웨어가 아니라 소프트웨어 생태계였어. 엔비디아의 진짜 해자는 칩이 아니라 개발자들이 15년간 쌓아온 CUDA 생태계거든. 칩이 아무리 빨라도 개발자가 옮겨오지 않으면 죽는 거야. SambaNova가 하드웨어부터 소프트웨어까지 풀스택으로 묶어서 파는 이유, 그리고 CUDA를 안 써도 되는 턴키 방식을 미는 이유가 바로 여기 있어. 과거 실패의 교훈을 정확히 겨냥한 전략인 거지.

엔비디아와 경쟁자들은 어떻게 나올까

엔비디아가 이걸 손 놓고 볼 리는 없어. 이미 Groq를 200억 달러에 사서 추론 갭을 메웠고, Blackwell에 그 기술을 붙였잖아. 엔비디아의 전략은 명확해 — 추론 전용 칩이 노리는 틈새를 자기 GPU 라인업 안으로 흡수해버리는 거야. "학습도 추론도 그냥 엔비디아 하나로 다 되게" 만들어서 고객이 굳이 이종(異種) 칩을 도입할 이유를 없애는 거지. 게다가 CUDA라는 생태계 락인이 있는 한, 엔비디아는 성능이 조금 밀려도 버틸 체력이 있어.

Cerebras는 이미 상장했으니 실탄이 두둑해. 웨이퍼스케일이라는 극단적 아키텍처로 초대형 모델을 통째로 한 칩에 올리는 차별화를 밀고, SambaNova와는 타깃 고객이 겹치면서도 접근법이 달라. Cerebras가 "가장 빠른 클라우드 추론"을 판다면, SambaNova는 "네 건물 안에서 도는 안전한 추론"으로 각을 잡는 거지. 온프레미스·소버린·금융 같은 폐쇄 환경에선 SambaNova가 유리하고, 순수 속도·클라우드 API 승부에선 Cerebras가 강해.

여기에 구글 TPU, 아마존 Trainium·Inferentia, 마이크로소프트 Maia 같은 빅테크 자체 칩도 변수야. 이들은 자기 클라우드 안에서 엔비디아 의존도를 낮추려고 칩을 직접 만드는데, 문제는 이건 '남한테 파는 상품'이 아니라 '자기 클라우드용'이라는 거야. 그래서 JP모건처럼 "내 데이터센터 안에 직접 들여놓겠다"는 고객한텐 오히려 SambaNova 같은 독립 벤더가 답이 돼. 빅테크 클라우드 칩이 강해질수록, 역설적으로 클라우드 밖에서 돌아가야 하는 온프레미스 수요는 SambaNova 쪽으로 몰릴 수 있어.

결국 이 판의 승부처는 '누가 제일 빠른 칩을 만드냐'가 아니라 '누가 개발자와 기업을 자기 생태계에 붙잡아두냐'야. 엔비디아는 CUDA로, 빅테크는 자기 클라우드로 락인하고, SambaNova는 풀스택 턴키와 온프레미스 보안으로 승부를 거는 구도지.

그래서 뭐가 달라지는데

개발자·엔지니어 입장. 당장 네 워크플로우가 바뀌진 않아. 대부분은 여전히 엔비디아 GPU와 CUDA 위에서 일하고 있을 거야. 다만 방향은 기억해둘 만해. 추론 전용 칩이 은행 같은 하드코어 고객에 실제로 들어가기 시작하면, 향후 몇 년 안에 "GPU 말고 이 칩에 최적화된 배포"를 요구하는 자리도 생길 거거든. 이종 칩 대응 경험, 특히 낮은 지연시간과 온프레미스 배포 노하우는 슬슬 값이 오르는 스킬이 될 수 있어.

투자자 입장. SambaNova는 아직 비상장이라 직접 살 순 없어. 근데 이 라운드가 던지는 시그널은 커. Cerebras 상장 대박에 이어 SambaNova가 은행 레퍼런스까지 잡으면서, '추론 인프라'라는 테마가 단순 유행이 아니라 실수요로 굳어지고 있다는 거야. SambaNova는 2027년 미국 IPO를 검토 중이라고 밝혔으니, 상장 스토리를 미리 트래킹해둘 가치가 있어. 물론 밸류가 4년 만에 두 배 넘게 뛴 만큼 거품 논쟁도 따라붙을 거고.

기업 IT 의사결정자 입장. 여기가 진짜 영향권이야. JP모건이 온프레미스 추론을 택했다는 건, "민감 데이터는 클라우드에 안 올린다"는 선택지가 이제 현실적으로 존재한다는 뜻이야. 금융·의료·공공처럼 규제 빡센 조직이라면, AI 도입을 무조건 클라우드 API로만 생각할 필요가 없어졌어. 데이터 주권을 지키면서도 추론을 돌리는 구성이 대형 은행에서 검증되고 있으니까.

일반 사용자 입장. 직접 체감할 일은 거의 없어. 근데 간접적으로는 있어. AI 추론 비용이 내려가고 은행·기업이 자체 인프라로 AI를 안전하게 돌리게 되면, 결국 네가 쓰는 금융 앱의 AI 상담·사기 탐지·개인화 서비스가 더 빨라지고 안전해질 수 있거든. 뒷단 인프라 전쟁의 승자가 누구든, 네 데이터가 남의 클라우드를 덜 떠돌게 된다는 건 나쁜 소식이 아니야.

🥄 남은 궁금증 세 가지

— 이거 그냥 스타트업 하나 돈 받은 뉴스 아니야? 돈만 보면 그래. 근데 진짜 핵심은 JP모건이라는 레퍼런스야. 세계 최대급 은행이 자기 건물 안에 추론 전용 칩을 들여놓는다는 건, 엔비디아 GPU 클라우드 말고도 실전에서 굴러가는 대안이 생겼다는 뜻이거든. 그게 이 뉴스가 단순 펀딩 이상인 이유야.

— 그럼 엔비디아 시대는 끝나는 거야? 전혀 아니야. 엔비디아는 학습 시장을 꽉 쥐고 있고, CUDA 생태계 락인도 여전히 압도적이야. 이번 건 추론이라는 특정 구간에서, 특히 온프레미스라는 특정 환경에서 틈이 열렸다는 얘기지 왕좌가 흔들린다는 얘긴 아니야. 도전자가 한 발을 들여놨을 뿐이야.

— SambaNova는 확실히 성공하는 거야? 그건 아무도 몰라. Groq는 엔비디아에 흡수됐고, Graphcore는 헐값에 팔렸어. 칩이 빨라도 소프트웨어 생태계와 물량 공급에서 삐끗하면 무너지는 판이거든. JP모건 딜은 강력한 출발점이지 결승선이 아니야. 2차 클로즈와 2027년 IPO 얘기가 어떻게 흘러가는지 지켜봐야 해.

참고 자료

숫자와 기준은 발표 시점 기준이라 바뀔 수 있어. 투자 판단은 각자의 몫!