AI 컴퓨팅 자원 확보 경쟁 심화: 빅테크 맞춤형 칩 개발 가속 및 엔비디아 매출 6,730억 달러 전망

인공지능(AI) 기술이 빠르게 발전하면서 전 세계적으로 AI 컴퓨팅 자원 확보를 위한 경쟁이 심화되고 있습니다. 메타(Meta)와 아마존(Amazon) 같은 하이퍼스케일러들은 AI 워크로드에 최적화된 자체 칩 개발에 막대한 투자를 이어가는 동시에, 엔비디아(Nvidia)의 최신 GPU를 대규모로 확보하기 위한 '쩐의 전쟁'을 벌이고 있습니다. 이러한 움직임은 AI 인프라의 공급망과 비용 구조를 근본적으로 변화시키며, 엔비디아는 2028 회계연도에 6,730억 달러(약 922조 원)라는 경이로운 매출을 기록할 것으로 전망했습니다.

1. 메타의 맞춤형 AI 칩 전략 심화: MTIA 300 출시와 네트워킹 통합

메타는 최근 맞춤형 AI 가속기 'MTIA 300'을 공개하며 자체 실리콘 전략을 컴퓨팅에서 네트워킹 영역으로까지 확장하고 있습니다. MTIA 300은 특히 추천 및 랭킹 모델 훈련에 최적화되어 있으며, 대규모 언어 모델(LLM) 훈련과 달리 이들 모델은 가속기 간의 빈번한 통신이 핵심 병목 현상으로 작용한다는 메타의 분석을 반영합니다. 추천 모델 매개변수의 99% 이상을 차지할 수 있는 임베딩 테이블(embedding tables) 훈련 시 수많은 AllReduce, AllToAll, AllGather 연산이 발생하며, 이때 네트워킹 성능이 컴퓨팅 성능만큼 중요해진다는 설명입니다.

MTIA 300은 이러한 문제를 해결하기 위해 네트워킹과 집합적 통신(collective communication) 기능을 칩에 직접 통합했습니다. 800Gbps RDMA NIC(네트워크 인터페이스 카드) 6개를 포함하는 두 개의 네트워크 칩렛(chiplets)을 통해 PCIe 버스를 거치지 않고 총 1.2TB/s의 I/O 대역폭을 제공합니다. 또한, 기존 GPU 아키텍처에서 집합적 통신이 훈련에 필요한 프로세싱 자원을 잠식하여 20% 이상의 성능 저하를 야기했던 것과 달리, MTIA 300은 16개의 전용 메시지 엔진을 탑재하여 통신을 독립적으로 처리합니다. 이를 통해 대규모 행렬 연산과 집합적 통신이 동시에 실행될 때 컴퓨팅 처리량 저하를 0.5% 미만으로 줄였다고 메타는 보고했습니다.

메타는 자체 개발한 집합적 통신 라이브러리인 HCCL(Meta's collective-communication library)과 MTIA 300 하드웨어를 공동 설계했습니다. HCCL은 집합적 연산을 서브그래프(subgraphs)로 컴파일하여 MTIA 300의 메시지 엔진이 자율적으로 실행하도록 함으로써, 호스트 CPU의 개입을 최소화합니다. 메타에 따르면, MTIA 300은 40개의 가속기로 1,500억 개 매개변수 추천 모델을 훈련할 때 기존 GPU 클러스터 대비 총 통신 시간을 3.9배 단축했습니다. 메타는 이미 수십만 개의 MTIA 가속기를 추론에 활용하고 있으며, 향후 2년간 랭킹, 추천, 생성형 AI 워크로드 전반에 걸쳐 4세대 이상의 MTIA 칩을 추가로 개발할 계획입니다. 이는 구글의 TPU, 아마존의 Trainium, 마이크로소프트의 Maia 등 하이퍼스케일러들이 범용 GPU에 대한 의존도를 줄이고 워크로드별 특화 AI 실리콘을 추구하는 광범위한 트렌드를 반영합니다.

2. 엔비디아의 압도적 성장 전망과 공급망 확대

엔비디아는 2028 회계연도 매출이 약 6,730억 달러(약 922조 원)에 달하며 70%의 성장을 기록할 것으로 전망했습니다. 이는 월스트리트의 2027 회계연도 예상치를 상회하는 수치이며, 엔비디아가 애플과 알파벳을 제치고 아마존에 이어 미국 기술 기업 중 두 번째로 높은 매출을 기록할 것임을 의미합니다. 엔비디아의 CFO 콜레트 크레스(Colette Kress)는 2026년 8월 26일 이러한 전망을 발표했으며, 이는 과거 엔비디아가 제시했던 단기 전망과 달리 훨씬 장기적인 비전을 제시한 점에서 주목할 만합니다.

이러한 낙관적인 전망은 엔비디아의 2027 회계연도 2분기 실적 발표에 힘입었습니다. 분기 매출은 전년 동기 대비 두 배 이상 증가한 962억 달러(약 131조 7천억 원)를 기록했으며, 데이터센터 매출은 117% 증가한 890억 달러(약 122조 원)에 달했습니다. 젠슨 황(Jensen Huang) 엔비디아 CEO는 현재 단기적인 성장 한계는 수요가 아닌 공급 제약에 있다고 밝히며, AI 인프라가 글로벌 칩 및 메모리 용량의 점점 더 큰 비중을 차지하고 있다고 언급했습니다. 그는 "우리의 수요는 70%보다 훨씬 크며, 공급은 우리가 70%를 자신 있게 달성하도록 허용합니다. 우리는 공급망과 협력하여 이를 계속 늘려나갈 것입니다"라고 덧붙였습니다.

엔비디아는 또한 고객층이 기존의 소수 하이퍼스케일러를 넘어 지역 AI 기업, 네오클라우드 제공업체, 스타트업 및 일반 기업("ACIE"로 분류)으로 확대되고 있다고 강조했습니다. 이들 고객은 단순한 대규모 모델 훈련을 넘어 실제 제품 생산에 AI를 배포하는 경우가 늘고 있습니다. 엔비디아는 이들 고객에게 GPU뿐만 아니라 네트워킹, 시스템 등 데이터센터 스택 전반을 제공하는 광범위한 인프라 파트너로 자리매김하고 있습니다. 엔비디아는 오픈AI(OpenAI), 앤트로픽(Anthropic)과 같은 모델 개발사에 투자하고 있으며, 엔비디아 기반 컴퓨팅을 임대하는 네오클라우드 제공업체를 지원하고, 데이터센터 건설 자금 조달까지 돕는 등 영향력을 확장하고 있습니다. 일례로, 오하이오주에 건설 중인 대규모 컴퓨팅 캠퍼스에는 1,050억 달러(약 144조 원)의 재정 지원을 제공했는데, 이곳에는 오픈AI가 입주할 것으로 예상됩니다.

3. 아마존의 엔비디아 칩 대량 주문과 자체 칩 개발 병행

아마존은 엔비디아와의 파트너십을 크게 확대하며, 추가로 200만 개의 엔비디아 GPU 칩을 2027년과 2028년에 걸쳐 아마존 웹 서비스(AWS) 데이터센터에 도입할 것이라고 발표했습니다. 이는 기존 100만 개 이상의 주문에 추가로 200만 개를 더하며, 전체 주문 규모가 3배 이상으로 확대된 것으로, 아마존은 "수요가 예상을 뛰어넘었다"고 밝혔습니다. 이번 주문에는 엔비디아의 최신 블랙웰 울트라(Blackwell Ultra), 루빈(Rubin), 루빈 울트라(Rubin Ultra) GPU가 포함되며, 수백억 달러 규모의 계약으로 추정됩니다.

이번 파트너십 확대는 단순히 칩 구매를 넘어 엔비디아의 네트워킹 하드웨어, 오픈 모델, CPU, 데이터 처리 소프트웨어, 로봇 플랫폼 등 다양한 기술 스택이 AWS 인프라 전반에 통합될 예정이라는 점에서 주목됩니다. 엔비디아 CFO 콜레트 크레스는 아마존이 엔비디아의 Vera CPU도 도입할 것이며, 다른 주요 하이퍼스케일러, 네오클라우드, AI 연구소, 시스템 OEM들도 Vera를 배포할 것으로 예상한다고 덧붙였습니다.

흥미로운 점은 아마존이 자체 AI 칩 개발에도 적극적으로 투자하고 있다는 것입니다. 아마존은 엔비디아에 대한 의존도를 줄이고 경쟁하기 위해 트레이니움(Trainium) 칩(엔비디아 H100 또는 블랙웰 칩의 직접적인 대안)과 암(Arm) 기반의 그래비톤(Graviton) CPU를 개발해 왔습니다. 아마존은 자체 칩 사업이 연간 250억 달러(약 34조 2천억 원)의 매출을 기록하고 있으며, 앤트로픽, 오픈AI 등 AI 연구소로부터 AWS의 맞춤형 칩 서비스에 대한 총 2,250억 달러(약 308조 원) 규모의 사용 약정(commitment)을 확보했다고 밝혔습니다. 하지만 이번 대규모 주문은 AI 칩 시장에서 엔비디아의 여전한 지배력을 명확히 보여주는 사례로 평가됩니다.

또한, 아마존은 창고 로봇 및 기업용 솔루션에도 엔비디아 기술 스택을 도입할 계획입니다. 엔비디아의 시뮬레이션 및 디지털 트윈 플랫폼 옴니버스(Omniverse), 월드 모델 플랫폼 코스모스(Cosmos), 로봇 개발 플랫폼 아이작(Isaac), 로봇 및 엣지 AI 컴퓨팅 하드웨어 젯슨(Jetson) 등이 아마존의 로봇 시스템에 활용될 예정입니다. 기업용 솔루션으로는 AWS의 매니지드 파운데이션 모델 플랫폼 베드락(Bedrock)과 클라우드 서비스 세이지메이커(SageMaker)를 통해 엔비디아의 오픈 모델인 네모트론(Nemotron) 제품군을 제공할 것입니다.

4. 한국 개발자·기업에게 주는 시사점

① AI 인프라 비용 상승 및 접근성 변화

메타, 아마존 등 글로벌 빅테크 기업들이 자체 AI 칩 개발과 엔비디아 GPU 확보에 천문학적인 자원을 쏟아부으면서, AI 컴퓨팅 자원의 확보 난이도와 비용이 전반적으로 상승할 것입니다. 특히 엔비디아가 공급망 제약을 언급하며 수요 대비 공급이 부족하다고 밝힌 점은 GPU 자원 경쟁이 더욱 치열해질 것임을 시사합니다. 한국의 개발자 및 기업들은 고성능 GPU 자원을 안정적으로 확보하는 데 더 큰 어려움에 직면할 수 있으며, 클라우드 기반 AI 인프라 의존도가 더욱 높아지거나 특정 클라우드 벤더에 대한 종속성 위험이 커질 수 있습니다. 장기적으로는 AI 워크로드의 효율적인 관리와 비용 최적화 전략이 필수가 될 것입니다.

② 특수 목적 AI 하드웨어의 부상과 개발 환경 변화

메타의 MTIA 300 사례에서 보듯이, 추천, 랭킹 모델과 같이 특정 워크로드에 최적화된 맞춤형 AI 하드웨어가 점차 부상하고 있습니다. 이는 범용 GPU 외에 특정 작업에 더 효율적인 가속기가 늘어날 것임을 의미합니다. 한국의 AI 개발팀은 이제 단순히 '가장 강력한 GPU'를 넘어, 자신들의 핵심 AI 워크로드에 가장 적합한 하드웨어 아키텍처를 이해하고 활용할 수 있는 역량을 키워야 합니다. 특정 칩에 최적화된 개발 도구, 라이브러리, 프레임워크에 대한 학습과 적용이 중요해질 것이며, 이는 AI 엔지니어링의 복잡도를 높이는 동시에 새로운 최적화 기회를 제공할 것입니다.

③ 엔비디아 생태계의 영향력 증대와 전략적 활용

엔비디아는 단순한 하드웨어 벤더를 넘어 AI 데이터센터 인프라 전반, 나아가 AI 연구 및 개발의 핵심 파트너이자 투자자로서 생태계 지배력을 강화하고 있습니다. 아마존과의 파트너십 확장을 통해 GPU뿐만 아니라 네트워킹, CPU, 소프트웨어 스택, 로봇 플랫폼까지 통합하는 전략은 엔비디아가 'AI 인프라의 모든 것'을 제공하려 한다는 것을 보여줍니다. 한국 기업들은 엔비디아의 CUDA, Omniverse, Isaac 등 광범위한 기술 스택에 대한 이해와 활용 투자를 심화하거나, 이와 상호운용 가능한 솔루션 개발에 집중하는 것이 중요합니다. 동시에 엔비디아 생태계에 대한 의존도를 분산하고, 자체적인 AI 역량을 강화하기 위한 오픈소스 기반 솔루션이나 대안적인 하드웨어 플랫폼에 대한 연구 및 투자도 병행해야 할 것입니다.

우리의 관점: AI 컴퓨팅 자원 경쟁은 이제 단순한 GPU 확보를 넘어 워크로드별 최적화된 맞춤형 칩 개발, 네트워킹 인프라 통합, 그리고 엔비디아와 같은 거대 생태계와의 전략적 파트너십 등 다층적인 양상으로 전개되고 있습니다. 한국 개발자와 기업들은 이러한 변화의 흐름을 면밀히 분석하여 GPU 확보 비용 상승에 대비하고, AI 워크로드 특성을 고려한 효율적인 인프라 활용 및 최적화 전략을 수립해야 합니다. 동시에 엔비디아의 강력한 생태계 안에서 기회를 모색하는 한편, 장기적인 관점에서 자율성과 경쟁력을 확보할 수 있는 대안적 기술에도 관심을 기울여야 할 것입니다.

※ 위 시사점 섹션은 보도된 사실에 기반한 WhatsUpPick 편집팀의 독자적 분석·전망이며, 특정 제품 도입을 권유하는 것이 아닙니다.

참고 자료

• Meta Expands Its Custom Silicon Strategy From Compute Into Networking — 메타의 MTIA 300 및 맞춤형 칩 전략에 대한 InfoQ 기사
• Nvidia projects $673B in sales as AI demand widens — 엔비디아의 미래 매출 전망 및 고객 확대 전략에 대한 Hacker News AI 기사
• Amazon just tripled its order of Nvidia chips over ‘surging demand’ — 아마존의 엔비디아 GPU 추가 주문 및 양사 파트너십 확대에 대한 TechCrunch AI 기사