메타가 차세대 AI 칩 ‘MTIA(Meta Training and Inference Accelerator, 메타 학습 및 추론 가속기)’ 최신 버전을 공개했다. 전날 구글과 인텔이 각각 새로운 AI 반도체를 공개한 가운데, 빅테크와 반도체 업체 간의 칩 개발 경쟁이 가열되는 양상이다. 메타는 10일(현지시각) 회사 블로그를 통해 AI 작업용으로 설계된 맞춤형 차세대 MTIA 칩의 사진과 자세한 제원을 공개했다. 2023년 5월 1세대 제품인 MTIA v1을 공개한 지 1년여 만의 신제품이다. 메타에 따르면 새로운 MTIA 칩은 전 세대 제품 대비 컴퓨팅 및 메모리 대역폭이 두 배 이상 커졌다. 메타가 개발한 고품질의 추천 광고 및 순위 모델을 효율적으로 구동할 수 있도록 설계됐다는 점이 특징이다. 내부 테스트 결과 차세대 MTIA는 1세대 모델 대비 4개 AI 모델에서 3배 나은 성능을 기록했다. 메모리 반도체로는 디램(DRAM)을 수직으로 여러 개 쌓은 HBM(고대역폭 메모리)가 아닌 SRAM이 사용됐으며 전 세대 칩 대비 SRAM 용량이 두 배로 늘었다. SRAM과 함께 LPDDR5 디램 용량도 두 배로 확장한 칩이다. TSMC의 7나노(10억분의 1미터, 반도체 회로 선폭을 지칭) 공정으로 생산됐으며 최대 72개의 가속기를 담을 수 있는 대형 랙(rack) 기반 시스템도 함께 개발했다. 여러 개의 가속기를 하나의 가속기처럼 묶어 더 강력한 연산 성능을 제공하기 위한 설계다. 메타 관계자는 “MTIA는 AI 인프라에 대한 메타의 투자 확대의 일환”이라며 “미래 AI 인프라를 보완해 서비스 전반에 걸쳐 새롭고 더 나은 경험을 제공하겠다”고 밝혔다.
구글이 새로운 자체 개발 칩을 선보이며 AI 군비 경쟁에 불을 지폈다. 자체 개발 AI 칩을 바탕으로 인텔, 엔비디아 등 외부 반도체 전문업체에 대한 의존도를 줄이고, 생성 AI 개발을 지원하는 구글 클라우드 인프라의 역량을 강화할 수 있을 것이란 관측이 나온다. 구글 클라우드는 9일(현지 시각) 미국 라스베이거스에서 열린 연례 컨퍼런스 ‘넥스트 2024(Next ’24)’에서 Arm 아키텍처 기반의 새로운 자체 개발 CPU(중앙처리장치) ‘액시온(Axion)’을 처음으로 공개했다. 구글에 따르면 액시온은 기존 구글 클라우드에서 서버용으로 주로 활용되던 x86 아키텍처 기반 CPU보다 성능은 50%, 에너지 효율은 60% 높인 제품이다. 구글은 성능 극대화, 에너지 절약을 원하는 구글 클라우드 사용 기업 고객이 액시온을 선택할 수 있도록 컴퓨팅 옵션 형태로 칩을 제공할 예정이다.
“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.
젠슨 황 엔비디아 CEO는 19일(현지시각) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “GPU는 생성 컴퓨터(generative computer)”라며 이같이 말했다. 고성능 AI 칩 ‘H100’, ‘H200’, 이번에 새롭게 발표한 차세대 칩 ‘B100’, ‘B200’ 같은 GPU가 생성 AI 시대를 가능케 하는 핵심 프로세서라는 주장이다. 디지털 정보를 영상 등 시각적 데이터로 처리(픽셀 정보 계산), 게임용으로만 사용됐던 GPU의 의미와 개념을 완전히 새롭게 정의했다.
젠슨 황 엔비디아 최고경영자(CEO)는 19일(현지 시간) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “한국 반도체 기업들의 기술력은 매우 뛰어나다. 엔비디아는 HBM에 엄청나게 많은 돈을 쓰고 있다”며 이같이 말했다. SK하이닉스, 삼성전자가 생산하는 HBM 제품을 높이 치켜세운 것이다. 시장조사업체 트렌드포스에 따르면 SK하이닉스와 삼성전자는 2023년 기준 HBM 시장 점유율 53%, 38%를 차지하며 시장을 주도하고 있다. SK하이닉스는 엔비디아의 고성능 AI 반도체인 ‘H100’에 HBM을 공급, 주목을 받았다.젠슨 황 CEO는 이날 삼성전자의 HBM을 사용하고 있느냐는 질문에 “아직 사용하고 있지 않다”고 답하면서 “현재 테스트(qualifying)하고 있다. 기대가 크다”고 언급했다.그는 이어 “생성 AI 때문에 데이터센터에 더 많은 고성능 메모리가 필요해지고 있다. HBM은 메모리 반도체의 미래”라며 “SK하이닉스와 삼성전자의 제품 업그레이드 주기는 믿을 수 없을 만큼(incredible) 빠르다”고 했다.
엔비디아의 시가총액이 시가총액 기준 세계 2위 기업인 애플에 근접한 수준으로 불어났다. AI 반도체 및 관련 산업의 폭발적 성장과 미래에 대한 기대감에 주가가 빠르게 상승하며 애플을 턱밑까지 추격하는 모양새다. 엔비디아는 7일(현지시각) 주가가 4.47% 상승하며 역대 최고가인 926.69달러에 거래를 마쳤다. 7일 종가 기준 시가총액은 2조3170억달러를 기록하며 애플(2조6130억달러)과의 격차를 3000억달러 이내로 좁혔다. 8일 개장가는 951.38달러로 전날 대비 더 상승하며 금방이라도 애플을 제칠 기세였다. 미국 동부 기준 오전 10시 30분 즈음에는 장 중 거래가가 974달러를 터치하기도 했다. 엔비디아는 8일 기준으로 최근 6거래일 연속 상승, 사우디 아람코(Aramco)까지 제치는 기염을 토하며 세계 시가총액 3위로 등극했다. 전문가들은 엔비디아의 주가 변동성이 커졌다는 걸 인정하면서도 상승 기세가 강력해 시가총액이 더 커질 가능성도 있다고 예측하고 있다. 리차드 메클러 체리 레인 인베스트먼트 파트너는 로이터와의 인터뷰에서 “엔비디아의 상승세는 (AI 반도체라는) 현재 비즈니스 모델의 강력한 펀더멘털(기초체력)을 반영한다”며 “롱(long, 매수 포지션) 옵션 매수자들 사이에서 강력한 투기적 지지를 받고 있다”고 말했다. 반면 애플은 최근 중국에서의 아이폰 판매 둔화로 어려움을 겪고 있다. 지난 1월에는 2021년 이후 처음으로 세계 시가총액 1위 기업 자리를 마이크로소프트에 내주고 2위로 내려앉은 상태다.
반도체 팹리스(설계 전문) 기업 브로드컴이 양호한 1분기 실적을 발표했다. 전년 동기 대비 매출은 34% 증가했고, 주당순이익(EPS)도 월가 추정치를 웃돌았다. 다만 반도체 사업부 매출이 월가 예측을 밑돌았고, 회사 측이 제시한 2024년 연간 매출 추정치가 시장 예측에 거의 부합하자 나스닥 시장 시간 외 거래에서 주가가 2% 이상 하락 중이다. 더 강력한 매출 증가를 기대했던 투자자들이 일부 수익 실현에 나선 것으로 풀이된다. 브로드컴의 주가는 최근 1년 동안 122.54%, 올해 들어서만 29.63% 상승했다.
챗GPT가 촉발한 ‘생성 AI(인공지능) 혁명’의 거대한 물결이 반도체 시장도 예외 없이 흔들고 있다. 지난 2012년 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 모두를 놀라게 했다. AI 연구에 불을 붙인 알렉스넷은 엔비디아의 게임용 GPU(그래픽처리장치) 칩을 이용해 개발된 CNN(Convolutional Neural Network, 합성곱신경망) 아키텍처였다. 새 알고리듬(CNN)이 제공하는 화상 인식 기술이 주는 가능성에 매료된 산업계는 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들게 됐다. 대형 클라우드 회사들과 미국·영국 스타트업들이 수천억 원이 넘는 투자를 받았고, 침체해 있던 반도체 생태계에 활력이 생겼다. 이런 반도체의 주요 사용처로서는 자율주행차를 포함한 이미지·영상 인식 분야가 꼽혔다. 대표적인 회사들로는 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등이 있으며, 주요 클라우드 서비스회사들 역시 다 자체적으로 AI 반도체를 개발해 왔다.이들 회사들이 경쟁력으로 주장하는 내용은 “엔비디아의 GPU는 원래 게임 소프트웨어를 위해 개발된 것으로서 AI는 나중에 우연히 발견된 사용 분야다. 처음부터 AI만을 목표로 설계해 최적화한다면 훨씬 적은 전력을 사용하는 고성능의 AI 반도체를 만들 수 있다”는 것이다. 이는 상당히 설득력 있는 주장이었다. 이들은 그들의 주장대로 저전력 고성능의 AI 반도체를 발표해 왔다. 그런데 이런 AI 반도체 회사들이 지금 흔들리고 있다. 발단은 13개월 전에 발표된 챗GPT가 초고속으로 사용자를 늘려가며, 벌써 10억 명이 사용하는 서비스가 됐다는 점이다. 챗GPT는 트랜스포머라는 새로운 알고리듬을 사용한다. 핵심은 이 알고리듬은 물론, 챗GPT 비슷한 AI 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다는 것이다. 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어졌다. 이전 알고리듬에만 최적화돼 있어 수년간 수천억 원의 투자를 하면서 개발해 온 반도체 설계방향이 거대한 유턴을 해야만 하는 상황이 됐다. 결과적으로 자금 사정이 어려워진 회사들도 생겨나게 됐다. 그렇다면 엔비디아는 이러한 거대한 변화에 어떻게 대응하면서 성공할 수 있었을까?