AI반도체전쟁

메타가 차세대 AI 칩 ‘MTIA(Meta Training and Inference Accelerator, 메타 학습 및 추론 가속기)’ 최신 버전을 공개했다. 전날 구글과 인텔이 각각 새로운 AI 반도체를 공개한 가운데, 빅테크와 반도체 업체 간의 칩 개발 경쟁이 가열되는 양상이다. 메타는 10일(현지시각) 회사 블로그를 통해 AI 작업용으로 설계된 맞춤형 차세대 MTIA 칩의 사진과 자세한 제원을 공개했다. 2023년 5월 1세대 제품인 MTIA v1을 공개한 지 1년여 만의 신제품이다. 메타에 따르면 새로운 MTIA 칩은 전 세대 제품 대비 컴퓨팅 및 메모리 대역폭이 두 배 이상 커졌다. 메타가 개발한 고품질의 추천 광고 및 순위 모델을 효율적으로 구동할 수 있도록 설계됐다는 점이 특징이다. 내부 테스트 결과 차세대 MTIA는 1세대 모델 대비 4개 AI 모델에서 3배 나은 성능을 기록했다. 메모리 반도체로는 디램(DRAM)을 수직으로 여러 개 쌓은 HBM(고대역폭 메모리)가 아닌 SRAM이 사용됐으며 전 세대 칩 대비 SRAM 용량이 두 배로 늘었다. SRAM과 함께 LPDDR5 디램 용량도 두 배로 확장한 칩이다. TSMC의 7나노(10억분의 1미터, 반도체 회로 선폭을 지칭) 공정으로 생산됐으며 최대 72개의 가속기를 담을 수 있는 대형 랙(rack) 기반 시스템도 함께 개발했다. 여러 개의 가속기를 하나의 가속기처럼 묶어 더 강력한 연산 성능을 제공하기 위한 설계다. 메타 관계자는 “MTIA는 AI 인프라에 대한 메타의 투자 확대의 일환”이라며 “미래 AI 인프라를 보완해 서비스 전반에 걸쳐 새롭고 더 나은 경험을 제공하겠다”고 밝혔다. 

구글이 새로운 자체 개발 칩을 선보이며 AI 군비 경쟁에 불을 지폈다. 자체 개발 AI 칩을 바탕으로 인텔, 엔비디아 등 외부 반도체 전문업체에 대한 의존도를 줄이고, 생성 AI 개발을 지원하는 구글 클라우드 인프라의 역량을 강화할 수 있을 것이란 관측이 나온다. 구글 클라우드는 9일(현지 시각) 미국 라스베이거스에서 열린 연례 컨퍼런스 ‘넥스트 2024(Next ’24)’에서 Arm 아키텍처 기반의 새로운 자체 개발 CPU(중앙처리장치) ‘액시온(Axion)’을 처음으로 공개했다. 구글에 따르면 액시온은 기존 구글 클라우드에서 서버용으로 주로 활용되던 x86 아키텍처 기반 CPU보다 성능은 50%, 에너지 효율은 60% 높인 제품이다. 구글은 성능 극대화, 에너지 절약을 원하는 구글 클라우드 사용 기업 고객이 액시온을 선택할 수 있도록 컴퓨팅 옵션 형태로 칩을 제공할 예정이다. 

대만을 강타한 강진이 특정 지역 기반 업체에 지나치게 의존하는 반도체 산업의 취약성을 드러냈다. 3일(현지시각) 발생한 지진으로 대만에 위치한 세계 최대 반도체 파운드리(Foundry, 위탁생산 전문업체) TSMC의 일부 공장의 가동이 중단된 것이다. 고성능 AI 반도체 시장을 사실상 독점하고 있는 엔비디아의 GPU(그래픽처리장치)가 TSMC에서 생산되며 자체적으로 반도체를 개발하는 애플도 TSMC의 최대 고객사 중 하나다. AP통신 등 주요 외신에 따르면 이날 대만 동부 화롄시 인근에서 규모 7.4의 강진이 발생, 9명이 사망하고 1000명 이상의 부상자가 발생했다. 건물이 무너지고 정전이 발생하는 등 관련 피해가 속출했으며 2300만 명이 거주하는 타이베이 전역의 기차 운행이 중단됐다. 대만 당국은 이번 지진이 1999년 9월 21일 발생한 지진 이후 가장 큰 규모라고 밝혔다.

마이크로소프트와 오픈AI가 1000억달러(약 135조) 규모의 초대형 슈퍼컴퓨터 및 데이터센터 개발 프로젝트를 추진한다. 수백만 개의 프로세서로 구성된 서버용 슈퍼컴퓨터 구축, 미국 내 초대형 데이터센터 건설이 이 프로젝트의 골자다. 아마존, 마이크로소프트, 구글 등 주요 빅테크가 경쟁 중인 클라우드 서비스, 생성 AI 산업의 지형을 흔들 만한 잠재력을 지닌 프로젝트라는 관측이 나온다.

“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.

젠슨 황 엔비디아 최고경영자(CEO)는 19일(현지 시간) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “한국 반도체 기업들의 기술력은 매우 뛰어나다. 엔비디아는 HBM에 엄청나게 많은 돈을 쓰고 있다”며 이같이 말했다. SK하이닉스, 삼성전자가 생산하는 HBM 제품을 높이 치켜세운 것이다. 시장조사업체 트렌드포스에 따르면 SK하이닉스와 삼성전자는 2023년 기준 HBM 시장 점유율 53%, 38%를 차지하며 시장을 주도하고 있다. SK하이닉스는 엔비디아의 고성능 AI 반도체인 ‘H100’에 HBM을 공급, 주목을 받았다.젠슨 황 CEO는 이날 삼성전자의 HBM을 사용하고 있느냐는 질문에 “아직 사용하고 있지 않다”고 답하면서 “현재 테스트(qualifying)하고 있다. 기대가 크다”고 언급했다.그는 이어 “생성 AI 때문에 데이터센터에 더 많은 고성능 메모리가 필요해지고 있다. HBM은 메모리 반도체의 미래”라며 “SK하이닉스와 삼성전자의 제품 업그레이드 주기는 믿을 수 없을 만큼(incredible) 빠르다”고 했다. 

엔비디아의 시가총액이 시가총액 기준 세계 2위 기업인 애플에 근접한 수준으로 불어났다. AI 반도체 및 관련 산업의 폭발적 성장과 미래에 대한 기대감에 주가가 빠르게 상승하며 애플을 턱밑까지 추격하는 모양새다. 엔비디아는 7일(현지시각) 주가가 4.47% 상승하며 역대 최고가인 926.69달러에 거래를 마쳤다. 7일 종가 기준 시가총액은 2조3170억달러를 기록하며 애플(2조6130억달러)과의 격차를 3000억달러 이내로 좁혔다. 8일 개장가는 951.38달러로 전날 대비 더 상승하며 금방이라도 애플을 제칠 기세였다. 미국 동부 기준 오전 10시 30분 즈음에는 장 중 거래가가 974달러를 터치하기도 했다. 엔비디아는 8일 기준으로 최근 6거래일 연속 상승, 사우디 아람코(Aramco)까지 제치는 기염을 토하며 세계 시가총액 3위로 등극했다. 전문가들은 엔비디아의 주가 변동성이 커졌다는 걸 인정하면서도 상승 기세가 강력해 시가총액이 더 커질 가능성도 있다고 예측하고 있다. 리차드 메클러 체리 레인 인베스트먼트 파트너는 로이터와의 인터뷰에서 “엔비디아의 상승세는 (AI 반도체라는) 현재 비즈니스 모델의 강력한 펀더멘털(기초체력)을 반영한다”며 “롱(long, 매수 포지션) 옵션 매수자들 사이에서 강력한 투기적 지지를 받고 있다”고 말했다. 반면 애플은 최근 중국에서의 아이폰 판매 둔화로 어려움을 겪고 있다. 지난 1월에는 2021년 이후 처음으로 세계 시가총액 1위 기업 자리를 마이크로소프트에 내주고 2위로 내려앉은 상태다.

2022년 11월 30일 챗GPT 출시 후 AI 반도체 분야 선두 주자인 엔비디아가 무서운 속도로 성장하고 있다. 챗GPT 출시 하루 전 515조원이었던 시가총액이 13개월이 흐른 2023년 말 3배가 넘는 1616조원으로 뛰었다. 여기에서 그치지 않고 올해에만 추가로 63.63% 더 상승, 2월 23일(현지시각) 종가 기준 1조9700억달러(약 2625조원) 가치를 지닌 회사가 됐다. 엔비디아의 시가총액은 마이크로소프트, 애플에 이은 미국 3위에 해당한다. 2만6000명의 직원으로 직원 수 7배의 구글(18만 명)을 당당히 뛰어넘었다. 정말 미친 것 같은 속도로 수직 상승했다. 상승 배경은 AI에 있다. 엔비디아의 AI 반도체 점유율은 80~90%로서 사실상 AI 반도체 시장에서는 독점 업체에 가깝기 때문이다. 4년 전 엔비디아는 스마트폰용 저전력 칩에 강점을 지닌 IP(설계자산) 회사 Arm을 53조원에 인수(M&A)한다는 계획을 발표하고, 1년 반 동안 추진하기도 했었다. 당시 중국의 반대로 인수가 좌절됐는데, 큰 기회인 Arm 인수에 실패하면 어려움이 있을 것이라는 여론이 지배적이었다. 하지만 그로부터 2년이 지난 지금, 누구도 이 사건을 실패로 기억하지 않는다. 오히려 ARM을 인수하지 않음으로써 핵심 사업에 더 집중, 지금과 같은 거대한 성과를 만들 수 있지 않았을까 하는 생각이 들 정도다. 현재 전 세계 AI의 엔진은 엔비디아라고 말해도 무리는 아닐 것이다. 어떤 이는 이런 성과가 게임용 GPU(그래픽처리장치)를 개발하던 회사에 우연히 찾아온 행운이라고 생각할 수도 있다. 그러나 이는 절반의 진실만 담은 시각이다. 실제로 2012년 침체기를 끝내고, AI 전성기를 시작한 알고리듬 ‘알렉스넷(AlexNet)’은 엔비디아가 자사의 게임용 GPU를 과학기술 연산에 사용할 수 있게 소프트웨어를 제공했기에 가능했다. AI의 새 전성기를 이끄는 오픈AI도 마찬가지다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달했다. 당시 오픈AI은 ‘AGI(범용인공지능)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 오래전 작은 신생 스타트업의 가능성을 알아보고, 지속해서 지원한 것이 결실을 맺은 것이다. 대부분의 AI 연구자들은 이런 지원에 힘입어 엔비디아 플랫폼(GPU, CUDA·병렬 프로그래밍 모델)에서 첨단 연구를 수행한다. 엔비디아는 어느 누구보다 빠르게 새로운 AI 기술 흐름을 포착하고, 그에 맞는 반도체를 먼저 개발하고, 결과적으로 과학자들이 엔비디아에 더 의존하게 만드는 선순환 구조를 완성한 셈이다.

챗GPT가 촉발한 ‘생성 AI(인공지능) 혁명’의 거대한 물결이 반도체 시장도 예외 없이 흔들고 있다. 지난 2012년 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 모두를 놀라게 했다. AI 연구에 불을 붙인 알렉스넷은 엔비디아의 게임용 GPU(그래픽처리장치) 칩을 이용해 개발된 CNN(Convolutional Neural Network, 합성곱신경망) 아키텍처였다. 새 알고리듬(CNN)이 제공하는 화상 인식 기술이 주는 가능성에 매료된 산업계는 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들게 됐다. 대형 클라우드 회사들과 미국·영국 스타트업들이 수천억 원이 넘는 투자를 받았고, 침체해 있던 반도체 생태계에 활력이 생겼다. 이런 반도체의 주요 사용처로서는 자율주행차를 포함한 이미지·영상 인식 분야가 꼽혔다. 대표적인 회사들로는 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등이 있으며, 주요 클라우드 서비스회사들 역시 다 자체적으로 AI 반도체를 개발해 왔다.이들 회사들이 경쟁력으로 주장하는 내용은 “엔비디아의 GPU는 원래 게임 소프트웨어를 위해 개발된 것으로서 AI는 나중에 우연히 발견된 사용 분야다. 처음부터 AI만을 목표로 설계해 최적화한다면 훨씬 적은 전력을 사용하는 고성능의 AI 반도체를 만들 수 있다”는 것이다. 이는 상당히 설득력 있는 주장이었다. 이들은 그들의 주장대로 저전력 고성능의 AI 반도체를 발표해 왔다. 그런데 이런 AI 반도체 회사들이 지금 흔들리고 있다. 발단은 13개월 전에 발표된 챗GPT가 초고속으로 사용자를 늘려가며, 벌써 10억 명이 사용하는 서비스가 됐다는 점이다. 챗GPT는 트랜스포머라는 새로운 알고리듬을 사용한다. 핵심은 이 알고리듬은 물론, 챗GPT 비슷한 AI 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다는 것이다. 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어졌다. 이전 알고리듬에만 최적화돼 있어 수년간 수천억 원의 투자를 하면서 개발해 온 반도체 설계방향이 거대한 유턴을 해야만 하는 상황이 됐다. 결과적으로 자금 사정이 어려워진 회사들도 생겨나게 됐다. 그렇다면 엔비디아는 이러한 거대한 변화에 어떻게 대응하면서 성공할 수 있었을까?