AMD가 드디어 "칩"이 아니라 "랙"을 팔기 시작했다

2026년 7월 23일, 샌프란시스코에서 열린 AMD의 연례 행사 'Advancing AI 2026'에서 리사 수가 무대에 올려놓은 건 GPU 한 장이 아니었어. 사람 키만 한 랙 한 대였지. 이름은 헬리오스(Helios). 안에는 Instinct MI455X GPU 72장, 6세대 EPYC '베니스(Venice)' CPU 18개, AMD 팬소(Pensando) 네트워킹, 액침에 가까운 수랭 시스템, 그리고 ROCm 소프트웨어 스택이 통째로 들어가 있어. AMD는 이날 헬리오스가 "정식 양산(full production)"에 들어갔다고 공식 발표했어.

이게 왜 큰일이냐면, AMD가 지난 10년 동안 팔아온 물건의 단위가 바뀌었기 때문이야. 예전에는 GPU를 낱장으로 팔고, 서버 조립은 델이나 슈퍼마이크로 같은 OEM이 알아서 하고, 랙 단위 설계와 네트워킹은 고객이 알아서 하는 구조였어. 엔비디아가 GB200 NVL72로 "랙 한 대가 곧 하나의 GPU처럼 동작하는" 구성을 상용화하면서 이 판이 뒤집혔지. 프론티어 모델을 학습시키는 곳들은 이제 부품을 사지 않아. 완성된 컴퓨팅 단위를 사.

AMD는 그 판에 3년쯤 늦게 들어왔고, 이번에 처음으로 같은 규격의 물건을 들고 나온 거야. 그것도 "이제 만들 겁니다"가 아니라 "지금 라인이 돌고 있고 이번 분기 말부터 나갑니다"라는 상태로.

그런데 이날 진짜 눈길을 끈 건 스펙 시트가 아니었어. AMD 무대에 OpenAI, 메타, 그리고 Anthropic이 나란히 올라왔다는 사실이야. 프론티어 랩 세 곳이 한 반도체 회사의 행사에서 동시에 고객으로 호명된 건 흔한 장면이 아니야. 여기서부터 이야기를 풀어볼게.

등장인물 — 랙을 만든 쪽과 사는 쪽

먼저 AMD. 리사 수가 2014년 CEO로 온 뒤 AMD는 CPU에서 인텔을 실질적으로 추월했지만, AI 가속기 시장에서는 오랫동안 "존재는 하는데 점유율은 없는" 회사였어. MI300X(2023), MI325X(2024), MI355X(2025)로 세대를 쌓아왔고, 메모리 용량과 달러당 성능에서는 매번 좋은 숫자를 냈는데도 실제 대형 학습 클러스터는 거의 다 엔비디아로 갔어. 이유는 칩이 아니라 그 위에 얹히는 소프트웨어(CUDA)와, 수천 장을 하나처럼 묶는 네트워킹 스택이었지.

그래서 AMD가 지난 2년간 산 회사들을 보면 방향이 뚜렷해. 데이터센터 DPU와 스마트NIC를 만들던 팬소(Pensando), 서버 설계 팀을 통째로 흡수한 ZT 시스템즈, 그리고 여러 소프트웨어·컴파일러 팀들. 칩 회사가 아니라 시스템 회사가 되려고 부품을 모은 거야. 헬리오스는 그 조립이 끝났다는 선언에 가까워.

Instinct MI455X는 이번 세대의 주인공이야. TSMC 2nm 공정으로 만들어졌고, HBM4 메모리를 장당 432GB 얹었어. AMD는 MXFP8·MXFP4 피크 성능이 전 세대 MI355X 대비 최대 4배라고 밝혔고, 메모리 용량은 경쟁 제품 대비 50% 더 크다는 점을 강조했어. 대형 모델을 통째로 GPU 메모리에 올려놓을 수 있느냐는, 추론 서비스를 굴리는 입장에서 성능 그래프보다 훨씬 실질적인 문제야.

**6세대 EPYC '베니스'**는 랙의 나머지 절반이야. 최상위 SKU가 256코어·512스레드고, 헬리오스 한 랙에 18개가 들어가서 CPU 코어만 4,600개가 돼. 요즘 AI 랙에서 CPU는 "GPU를 놀리지 않게 데이터를 밀어 넣는 장치"에 가까운데, 에이전트 워크로드처럼 툴 호출과 전처리가 잦은 작업에서는 이 부분이 병목이 되는 경우가 실제로 많아.

사는 쪽은 이름값이 세. AMD가 이날 공개한 배치 명단에는 OpenAI, Anthropic, 메타, 마이크로소프트, 오라클에 더해 사우디의 HUMAIN, 그리고 텐서웨이브·벌터·시라스케일 같은 GPU 클라우드 사업자들이 올라 있어. OEM 쪽은 불(Bull), HPE, 레노버, 슈퍼마이크로, 산미나, 위윈이 붙었고. 즉 프론티어 랩 → 하이퍼스케일러 → GPU 클라우드 → 국가 단위 프로젝트까지 층이 다 채워진 명단이야.

랙 하나에 뭐가 들었나 — 숫자로 보기

핵심 사양을 표로 정리했어. AMD 공식 블로그·IR 보도자료와 Phoronix·Converge Digest의 사양 정리를 교차 확인한 수치야.

항목 헬리오스 랙 사양
GPU Instinct MI455X 72장
CPU 6세대 EPYC '베니스' 18개 (최상위 SKU 256코어/512스레드)
총 CPU 코어 약 4,600개
총 GPU 컴퓨트 유닛 약 18,000개
GPU 메모리 장당 HBM4 432GB / 랙 합계 약 31TB
피크 성능 FP4 기준 약 2.9 엑사플롭스, FP8 기준 약 1.4 엑사플롭스
스케일업 대역폭 최대 260TB/s (UALink over Ethernet)
스케일아웃 대역폭 최대 43TB/s
네트워킹 AMD 팬소 살리나 DPU + 불카노 800G AI NIC
냉각 수랭
공정 TSMC 2nm / 3nm 혼합
상태 정식 양산, 3분기 말 초도 출하

여기서 가장 중요한 숫자는 엑사플롭스가 아니라 31TB야. 랙 한 대에 담기는 HBM 총량. 파라미터 수조 개짜리 모델을 쪼개지 않고 한 도메인 안에 올릴 수 있느냐를 결정하는 값이고, 랙을 넘어가는 순간 통신 비용이 급격히 뛰기 때문에 실전 성능은 여기서 갈려. 오늘 같은 날 문샷 AI가 2.8조 파라미터짜리 키미 K3 가중치를 푸는 상황을 떠올리면, "랙 하나에 뭘 다 올릴 수 있는가"는 추상적인 질문이 아니라 이번 주 당장의 운영 질문이야.

두 번째로 중요한 건 UALink over Ethernet이라는 선택이야. 엔비디아는 NVLink라는 자체 규격으로 랙 내부 GPU를 묶어. 폐쇄적이지만 빠르고 검증됐지. AMD는 업계 컨소시엄 규격인 UALink를 이더넷 위에 얹는 방식을 골랐어. 성능을 조금 양보하더라도, 스위치·케이블·운영 노하우를 이미 이더넷으로 쌓아둔 데이터센터들이 새 물건을 덜 낯설게 받아들이도록 하는 전략이야. 하이퍼스케일러가 "벤더 하나에 묶이는 게 싫다"고 말할 때 실제로 원하는 게 이거고.

세 번째는 AMD가 자기 입으로 던진 마케팅 숫자 하나야. "선도 경쟁 솔루션 대비 달러당 토큰 최대 30% 더". 이건 성능 우위 주장이 아니라 경제성 주장이야. 절대 성능에서 엔비디아를 이겼다고는 안 해. 대신 같은 돈으로 더 많은 토큰을 뽑을 수 있다고 말해. 추론이 학습보다 훨씬 큰 비용 항목이 된 2026년 시장에서, 이건 꽤 정확하게 조준된 문장이야. 물론 벤더가 자체 측정한 값이니 실측이 나오기 전까지는 참고치로만 봐야 해.

리사 수는 이 자리에서 이렇게 말했어. "AI의 다음 국면은 프론티어 모델과 에이전트, 피지컬 AI에 걸쳐 있고, 그건 지능을 모든 곳에 가져다 놓을 새로운 기회를 만든다." 로드맵도 같이 공개했는데, 차세대 Instinct MI500 시리즈는 2027년에 나와. 엔비디아가 매년 신제품을 내는 리듬에 AMD도 연간 케이던스로 맞춰가겠다는 뜻이야.

그리고 스펙 시트에 안 나오는 항목이 하나 있어. ROCm이야. AMD의 GPU 소프트웨어 스택이고, CUDA에 대응하는 물건이지. 지난 몇 년간 ROCm의 평판은 "된다고는 하는데 실제로 해보면 안 되는 게 많다"였어. 지원되는 리눅스 배포판과 커널 조합이 제한적이었고, 컴파일러가 특정 연산에서 성능을 못 뽑는 경우가 잦았고, 무엇보다 문제가 생겼을 때 검색하면 나오는 해결책이 CUDA에 비해 압도적으로 적었어. AMD가 헬리오스를 랙 단위 완제품으로 파는 결정에는 이 문제를 우회하려는 의도도 있어. 고객이 부품을 조립하면서 소프트웨어 지옥을 겪는 대신, AMD가 검증한 조합 그대로 통째로 받게 만드는 거지. 스펙 경쟁이 아니라 "우리가 미리 다 맞춰놨습니다"라는 판매 방식이 이번 발표의 숨은 축이야.

또 하나 눈여겨볼 건 AMD가 이번에 붙인 OEM 명단이야. 불(Bull), HPE, 레노버, 슈퍼마이크로, 산미나, 위윈. 이건 단순한 파트너 나열이 아니라 물량을 실제로 찍어낼 수 있느냐의 문제야. 수랭식 랙은 조립과 설치, 현장 서비스가 공랭 서버와 완전히 다른 일이고, 이 인력과 공급망을 확보하지 못하면 주문을 받아놓고도 못 내보내. 엔비디아가 GB200 초기에 겪었던 병목이 정확히 여기였어. AMD가 ZT 시스템즈를 인수한 것도, OEM을 여섯 곳이나 붙인 것도 같은 문제를 겨냥한 준비로 읽혀.

각자 뭘 얻나

AMD가 얻는 것은 단가야. GPU 한 장을 파는 것과 랙 한 대를 파는 것은 매출 인식 단위가 완전히 달라. CPU, DPU, NIC, 스위치, 소프트웨어까지 자기 물건으로 채우면 랙당 매출이 수십만 달러에서 수백만 달러 단위로 올라가고, 무엇보다 고객이 한 번 배치하면 다음 세대도 같은 아키텍처로 가게 돼. AMD가 진짜 노리는 건 점유율보다 락인의 시작점이야.

OpenAI가 얻는 것은 협상력과 물량이야. OpenAI는 이미 최대 6기가와트 규모의 AMD 가속기 계약을 맺어뒀고, 메타도 별도로 6기가와트급 계약을 갖고 있어. 합치면 12기가와트. AMD는 OpenAI가 2026년 4분기부터 헬리오스를 가동하기 시작해 2027년 내내 배치를 가속할 것으로 본다고 밝혔어. OpenAI 입장에서 이건 단순히 칩을 더 구하는 문제가 아니야. 엔비디아 한 곳에만 의존할 때 생기는 가격·납기 리스크를 구조적으로 낮추는 일이지. 공급자가 둘이면 견적서의 성격이 달라져.

Anthropic이 무대에 오른 것은 이번 발표에서 가장 흥미로운 대목이야. Anthropic은 그동안 구글 TPU와 AWS 트레이니엄, 그리고 엔비디아를 섞어 쓰는 멀티 실리콘 전략을 노골적으로 밀어왔어. 여기에 AMD가 네 번째 축으로 추가된 셈이야. 재밌는 건 같은 주에 Anthropic이 젠슨 황이 돌린 오픈웨이트 지지 서한에는 이름을 올리지 않았다는 점이야. 엔비디아와 정책적으로는 각을 세우면서, 컴퓨팅 조달에서는 엔비디아의 최대 경쟁자와 손을 잡는 그림. 계산이 아주 명확해.

마이크로소프트와 오라클이 얻는 것은 원가 구조야. 클라우드 사업자에게 GPU는 매입 원가고, 매입 원가에 선택지가 하나뿐이면 마진은 공급자가 정해. 애저와 OCI가 헬리오스를 초기 도입하는 이유는 AMD가 더 좋아서라기보다, 두 번째 공급선이 존재한다는 사실 자체가 첫 번째 공급선과의 협상 테이블을 바꾸기 때문이야.

HUMAIN 같은 국가 단위 고객이 얻는 것은 접근성이야. 미국의 수출 통제와 물량 배정 우선순위 때문에 중동·동남아 프로젝트들은 엔비디아 최상위 제품을 원하는 만큼 확보하기 어려운 경우가 많았어. 공급자가 하나 더 생기면 이 줄서기의 계산이 달라져.

과거에 이런 도전은 어떻게 끝났나

이 장면은 처음이 아니야. 성공과 실패가 반반쯤 섞여 있어.

실패 사례부터. 2016년 이후 구글 TPU를 제외한 거의 모든 AI 가속기 도전이 소프트웨어에서 무너졌어. 인텔의 너바나(2016년 인수, 2019년 사실상 종료)와 하바나 가우디 시리즈가 대표적이야. 가우디2·가우디3는 벤치마크 슬라이드에서 늘 매력적인 달러당 성능을 보여줬지만, 실제 개발자들이 자기 학습 스크립트를 옮기려는 순간 커널 최적화, 분산 학습 라이브러리, 디버깅 도구가 전부 낯설다는 벽에 부딪혔어. 그래프코어는 IPU라는 완전히 다른 아키텍처를 들고 나왔다가 결국 소프트뱅크에 인수됐고. 하드웨어 스펙이 아니라 생태계가 승부를 갈랐지.

성공 사례는 AMD 자신에게 있어. 2017년 젠(Zen) 아키텍처로 시작해 EPYC이 서버 CPU 시장에서 인텔의 점유율을 실제로 뜯어낸 과정이야. 그때도 첫 세대(나폴리)는 성능은 좋은데 플랫폼 검증이 부족해서 실배치가 더뎠어. 하지만 로마(2세대)에서 신뢰가 붙고 밀란·제노를 거치면서 하이퍼스케일러들이 대규모로 갈아탔지. 핵심은 연간 케이던스를 지켜 세 세대 연속 약속을 이행한 것이었어. 한 번의 홈런이 아니라 세 번의 안타가 판을 바꿨어.

또 하나 참고할 만한 건 구글 TPU야. TPU가 성공한 이유는 칩이 뛰어나서가 아니라, 구글이라는 단일 고객이 자기 워크로드를 칩에 맞춰 다시 쓸 의지와 능력이 있었기 때문이야. 즉 대안 실리콘은 "아무나 쉽게 쓸 수 있어서"가 아니라 "충분히 큰 고객이 이식 비용을 감수해서" 살아남았어. OpenAI와 메타가 기가와트 단위로 계약을 걸어둔 지금 AMD의 상황이 정확히 그 조건에 해당해. 이번엔 소프트웨어 격차를 AMD 혼자 메우는 게 아니라, 고객이 자기 엔지니어를 붙여서 같이 메우는 구조라는 게 과거 실패 사례들과 결정적으로 다른 점이야.

엔비디아는 어떻게 받아칠까

엔비디아가 쓸 수 있는 카드는 몇 장 있고, 대부분 이미 손에 들려 있어.

첫째, 속도. 엔비디아는 블랙웰 울트라를 거쳐 루빈(Rubin) 세대로 넘어가는 로드맵을 이미 공개해뒀어. AMD가 MI455X로 따라잡은 지점에 엔비디아는 다음 세대를 올려놓는 리듬이야. 이 게임에서 후발주자의 가장 큰 리스크는 "따라잡았다고 발표하는 순간이 이미 한 세대 뒤"라는 구조인데, AMD가 MI500을 2027년으로 못 박은 건 이 리듬을 의식한 결정이야.

둘째, CUDA. 여전히 가장 두꺼운 해자야. 다만 성격이 바뀌고 있어. 프론티어 랩들은 이제 PyTorch 위에서 직접 커널을 짜고 Triton이나 자체 컴파일러를 돌리는 팀을 갖고 있어서, CUDA에 대한 의존도가 일반 기업보다 훨씬 낮아. 반대로 중견 기업이나 스타트업은 여전히 CUDA 밖으로 나갈 이유도 여력도 없지. 그래서 AMD의 초기 침투가 프론티어 랩과 대형 클라우드에 집중되는 건 우연이 아니야. 해자가 얕은 쪽부터 들어가는 게 유일하게 말이 되는 순서니까.

셋째, 번들과 우선 배정. 엔비디아는 GPU만 파는 게 아니라 NVLink 스위치, 인피니밴드/스펙트럼-X 네트워킹, NIM 같은 추론 소프트웨어, 그리고 최근에는 자체 클라우드 투자까지 묶어서 판매해. 물량이 부족한 시장에서 "다음 분기 배정"을 무기로 쓸 수 있는 건 강력한 지렛대야. 다만 이 카드는 반독점 관점에서 점점 위험해지고 있고, 고객들이 두 번째 공급선을 절실히 원하는 이유이기도 해.

넷째, 가격. 엔비디아 데이터센터 부문의 마진율은 여유가 큰 편이야. AMD가 달러당 토큰 30% 우위를 주장하면, 엔비디아는 특정 세그먼트에서 가격을 조정해 그 격차를 지우는 선택을 할 수 있어. 소비자에게는 좋은 소식이고 AMD에게는 가장 아픈 시나리오지.

그리고 잊으면 안 되는 게 있어. AMD의 진짜 경쟁자는 엔비디아만이 아니야. 구글 TPU, AWS 트레이니엄, 마이크로소프트 마이아 같은 자체 실리콘이 하이퍼스케일러 내부 물량을 계속 먹어들어가고 있어. AMD가 노리는 "제2 공급선" 자리를 클라우드 사업자가 스스로 채우려 드는 구도야.

그래서 뭐가 달라지는데

AI 서비스를 굴리는 개발자라면, 당장 바뀌는 건 없어. 헬리오스 초도 물량은 3분기 말부터 나가고, 실제로 클라우드 인스턴스로 내려오는 건 4분기 이후야. 다만 6~12개월 안에 "MI455X 인스턴스"가 애저·OCI·텐서웨이브 같은 곳의 가격표에 등장할 가능성은 꽤 높아. 그때 확인할 건 벤치마크 그래프가 아니라 네 코드가 그 위에서 그대로 돌아가느냐야. PyTorch 표준 API만 쓰고 있다면 이식 비용은 생각보다 낮고, 커스텀 CUDA 커널을 많이 쓰고 있다면 꽤 높아. 지금 미리 확인해둘 가치가 있어.

스타트업 CTO라면, 추론 원가 협상 카드가 하나 늘었다는 게 실질적인 변화야. 지금까지는 GPU 클라우드에 가격을 물으면 답이 하나였는데, 앞으로는 "AMD 옵션도 견적 주세요"가 성립해. 특히 컨텍스트가 길거나 모델이 큰 워크로드(장문 요약, 코드베이스 전체 분석, 에이전트 장기 실행)는 메모리 용량이 곧 비용이라 432GB HBM4의 이점이 실제로 체감될 여지가 있어.

반도체·인프라 투자자라면, 확인할 지표는 발표 슬라이드가 아니라 AMD의 다음 두 분기 데이터센터 매출과 재고 회전이야. "양산 시작"과 "매출 인식"은 다른 사건이고, 초도 물량이 실제로 매출로 잡히는 건 빨라야 4분기야. 그리고 12기가와트라는 계약 숫자는 상한선이지 확정 물량이 아니야. 옵션 행사율이 실제 숫자를 결정해.

한국 시장 관점에서는 메모리가 핵심이야. HBM4 432GB짜리 GPU를 랙당 72장 꽂는다는 건 랙 한 대가 HBM 31TB를 먹는다는 뜻이고, 그 물량은 결국 SK하이닉스와 삼성전자로 흘러가. 마침 같은 주에 샌프란시스코에서 한국 기업들이 9,500억 달러 규모 AI 파트너십을 발표했지. 엔비디아든 AMD든 랙 경쟁이 격해질수록 HBM 수요 곡선은 같은 방향으로 올라가. 한국 메모리 업계 입장에서 이번 발표는 경쟁이 아니라 순수한 수요 증가 신호야.

일반 사용자라면, 체감은 늦고 간접적이야. 다만 추론 원가가 내려가면 그 효과는 결국 요금제와 무료 한도로 돌아와. 지난 2년간 챗봇 구독료가 크게 오르지 않은 이유 중 하나가 가속기 경쟁이었다는 걸 생각하면, 이런 뉴스는 몇 분기 뒤 네 요금 고지서에 조용히 반영되는 종류야.

🥄 남은 궁금증 세 가지

— 그래서 AMD가 엔비디아를 이긴 거야? 아니, 전혀. 엔비디아는 여전히 AI 가속기 매출의 대부분을 가져가고 있고, 헬리오스는 이제 막 첫 물량이 나가는 단계야. 정확한 표현은 "AMD가 처음으로 같은 링에 올라섰다"에 가까워. 링에 올라선 것과 이기는 건 다른 얘기고, 판정은 2027년 배치 실적을 봐야 나와.

— 달러당 토큰 30% 우위는 믿어도 되는 숫자야? 벤더가 자기 조건에서 측정한 값이야. 어떤 모델, 어떤 배치 사이즈, 어떤 정밀도로 쟀는지에 따라 결과가 크게 흔들려. MLPerf 같은 제3자 벤치마크나 실제 배치한 고객의 운영 데이터가 나오기 전까지는 방향성 참고 정도로 보는 게 맞아. 다만 AMD가 절대 성능이 아니라 경제성으로 프레임을 잡았다는 사실 자체는 시장 상황을 정확히 읽은 거야.

— Anthropic이 AMD 무대에 선 게 왜 뉴스인 거야? Anthropic은 컴퓨팅 조달에서 특정 벤더에 묶이지 않으려는 성향이 유독 강한 회사야. 구글 TPU, AWS 트레이니엄, 엔비디아를 이미 섞어 쓰고 있었는데 여기에 AMD가 추가됐어. 같은 주에 엔비디아가 주도한 오픈웨이트 서한에는 서명하지 않은 걸 나란히 놓고 보면, 정책적 입장과 조달 전략을 완전히 분리해서 운용하는 회사라는 게 드러나. 다만 계약 규모나 조건은 공개되지 않았으니 "무대에 섰다"는 사실 이상을 읽기는 아직 일러.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.