AI반도체

‘슈퍼을’로 불리는 네덜란드 반도체 장비 업체 ASML이 부진한 1분기 실적을 발표했다. 극자외선(EUV) 노광장비 수요 감소와 중국에 대한 미국의 수출 규제 조치의 영향을 받고 있다는 분석이 나온다. 예상보다 부진한 1분기 실적 및 2분기 전망에 17일 네덜란드 주식시장에서 ASML은 4% 넘게 급락 중이다. ASML은 이날 2024년 1분기 순매출이 52억9000만유로(약 7조7900억원)로 전분기 대비 26.9% 감소했다고 밝혔다. LSEG가 집계한 시장의 예상치(53억9000만유로)에 못 미쳤다. 당기순이익의 경우 12억2400만유로(1조8031억원)를 기록, 시장 예상치를 웃돌았으나 전분기와 비교하면 40.4% 급감했다.  1분기 순예약매출(Net bookings)은 첨단 미세 공정 필수장비인 EUV 노광장비 6억5600만유로(약 9658억원)를 포함, 36억유로(약 5조3001억원)로 집계됐다. 지난 분기 대비 3분의 2 가량 줄었다. 순예약매출은 서면 승인이 수락된 모든 판매 주문, 인플레이션 관련 조정이 포함된 숫자다. 피터 베닝크 ASML CEO(최고경영자)는 “1분기 총 순매출은 시장 전망치(guidance, 가이던스)의 중간을 기록했다”며 “제품 믹스 주로 일회성 요인에 의한 결과”라고 설명했다. 

초거대 AI를 움직이는 힘은 어디에서 올까? IBM 왓슨의 역사적인 제퍼디 우승, 이세돌 9단과의 대결에서 승리한 알파고, 오픈AI의 챗GPT까지 모든 AI 혁신은 AI 반도체 칩이 있기에 가능했다. 알파고의 딥러닝 기술을 구현하는 데 1920개의 CPU와 280개의 GPU가 사용됐다. 알파고 출현 이후 7년 뒤 등장한 '챗GPT'에는 1만개가 넘는 엔비디아의 'A100' GPU가 사용됐다. AI칩은 인공지능 시스템의 개발과 배포에 사용되는 특수 컴퓨팅 하드웨어를 말한다. AI 작업을 처리하도록 설계된 특수 집적 회로로 그래픽 처리 장치(GPU), 필드 프로그래머블 게이트 어레이(FPGA), 주문형 반도체(ASIC) 모두 AI 칩이다. 생성AI의 성장세에 힘입어 AI칩 시장도 가파르게 성장하고 있다. 시장 조사 업체 가트너에 따르면 AI 반도체 매출은 예측 기간 동안 두 자릿수 성장을 지속해 2024년에는 25.6% 증가한 671억 달러(약 90조 9070억 원)에 달한다. 오는 2027년에는 AI칩 매출이 2023년 시장 규모의 두 배 이상인 1194억 달러(약 161조 7631억 원)에 달할 전망이다. 가트너의 분석가이자 부사장인 앨런 프리스틀리는 "생성AI의 발전과 데이터 센터, 엣지 인프라 및 엔드포인트 디바이스에서 광범위한 AI 기반 애플리케이션의 사용이 증가함에 따라 고성능 그래픽 처리 장치(GPU)와 최적화된 반도체 디바이스가 필요하다. 이것이 AI칩의 생산과 배포를 주도하고 있다"고 설명했다. 가트너는 "생성AI 대규모 언어 모델 개발이 데이터 센터에서의 고성능 GPU 기반 서버에 대한 수요 증가를 이끌고 있다"고 밝혔다. 또한 2027년까지 AI 기술을 데이터센터 애플리케이션에 통합하면 워크로드 가속기를 포함한 새로운 서버의 20% 이상이 탄생할 것으로 예상했다. 맞춤형 AI칩 시장도 확대될 것으로 보인다. 프리스틀리 부사장은 "많은 조직에서 광범위한 AI 기반 워크로드, 특히 생성 AI 기술을 기반으로 하는 워크로드에 대해 현재 주요 칩 아키텍처인 개별 GPU를 대체할 맞춤형 AI칩의 대규모 배포가 이루어질 것"이라고 밝혔다. 

구글이 새로운 자체 개발 칩을 선보이며 AI 군비 경쟁에 불을 지폈다. 자체 개발 AI 칩을 바탕으로 인텔, 엔비디아 등 외부 반도체 전문업체에 대한 의존도를 줄이고, 생성 AI 개발을 지원하는 구글 클라우드 인프라의 역량을 강화할 수 있을 것이란 관측이 나온다. 구글 클라우드는 9일(현지 시각) 미국 라스베이거스에서 열린 연례 컨퍼런스 ‘넥스트 2024(Next ’24)’에서 Arm 아키텍처 기반의 새로운 자체 개발 CPU(중앙처리장치) ‘액시온(Axion)’을 처음으로 공개했다. 구글에 따르면 액시온은 기존 구글 클라우드에서 서버용으로 주로 활용되던 x86 아키텍처 기반 CPU보다 성능은 50%, 에너지 효율은 60% 높인 제품이다. 구글은 성능 극대화, 에너지 절약을 원하는 구글 클라우드 사용 기업 고객이 액시온을 선택할 수 있도록 컴퓨팅 옵션 형태로 칩을 제공할 예정이다. 

대만을 강타한 강진이 특정 지역 기반 업체에 지나치게 의존하는 반도체 산업의 취약성을 드러냈다. 3일(현지시각) 발생한 지진으로 대만에 위치한 세계 최대 반도체 파운드리(Foundry, 위탁생산 전문업체) TSMC의 일부 공장의 가동이 중단된 것이다. 고성능 AI 반도체 시장을 사실상 독점하고 있는 엔비디아의 GPU(그래픽처리장치)가 TSMC에서 생산되며 자체적으로 반도체를 개발하는 애플도 TSMC의 최대 고객사 중 하나다. AP통신 등 주요 외신에 따르면 이날 대만 동부 화롄시 인근에서 규모 7.4의 강진이 발생, 9명이 사망하고 1000명 이상의 부상자가 발생했다. 건물이 무너지고 정전이 발생하는 등 관련 피해가 속출했으며 2300만 명이 거주하는 타이베이 전역의 기차 운행이 중단됐다. 대만 당국은 이번 지진이 1999년 9월 21일 발생한 지진 이후 가장 큰 규모라고 밝혔다.

마이크로소프트와 오픈AI가 1000억달러(약 135조) 규모의 초대형 슈퍼컴퓨터 및 데이터센터 개발 프로젝트를 추진한다. 수백만 개의 프로세서로 구성된 서버용 슈퍼컴퓨터 구축, 미국 내 초대형 데이터센터 건설이 이 프로젝트의 골자다. 아마존, 마이크로소프트, 구글 등 주요 빅테크가 경쟁 중인 클라우드 서비스, 생성 AI 산업의 지형을 흔들 만한 잠재력을 지닌 프로젝트라는 관측이 나온다.

“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.

젠슨 황 엔비디아 CEO는 19일(현지시각) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “GPU는 생성 컴퓨터(generative computer)”라며 이같이 말했다. 고성능 AI 칩 ‘H100’, ‘H200’, 이번에 새롭게 발표한 차세대 칩 ‘B100’, ‘B200’ 같은 GPU가 생성 AI 시대를 가능케 하는 핵심 프로세서라는 주장이다. 디지털 정보를 영상 등 시각적 데이터로 처리(픽셀 정보 계산), 게임용으로만 사용됐던 GPU의 의미와 개념을 완전히 새롭게 정의했다.

젠슨 황 엔비디아 최고경영자(CEO)는 19일(현지 시간) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “한국 반도체 기업들의 기술력은 매우 뛰어나다. 엔비디아는 HBM에 엄청나게 많은 돈을 쓰고 있다”며 이같이 말했다. SK하이닉스, 삼성전자가 생산하는 HBM 제품을 높이 치켜세운 것이다. 시장조사업체 트렌드포스에 따르면 SK하이닉스와 삼성전자는 2023년 기준 HBM 시장 점유율 53%, 38%를 차지하며 시장을 주도하고 있다. SK하이닉스는 엔비디아의 고성능 AI 반도체인 ‘H100’에 HBM을 공급, 주목을 받았다.젠슨 황 CEO는 이날 삼성전자의 HBM을 사용하고 있느냐는 질문에 “아직 사용하고 있지 않다”고 답하면서 “현재 테스트(qualifying)하고 있다. 기대가 크다”고 언급했다.그는 이어 “생성 AI 때문에 데이터센터에 더 많은 고성능 메모리가 필요해지고 있다. HBM은 메모리 반도체의 미래”라며 “SK하이닉스와 삼성전자의 제품 업그레이드 주기는 믿을 수 없을 만큼(incredible) 빠르다”고 했다. 

엔비디아의 시가총액이 시가총액 기준 세계 2위 기업인 애플에 근접한 수준으로 불어났다. AI 반도체 및 관련 산업의 폭발적 성장과 미래에 대한 기대감에 주가가 빠르게 상승하며 애플을 턱밑까지 추격하는 모양새다. 엔비디아는 7일(현지시각) 주가가 4.47% 상승하며 역대 최고가인 926.69달러에 거래를 마쳤다. 7일 종가 기준 시가총액은 2조3170억달러를 기록하며 애플(2조6130억달러)과의 격차를 3000억달러 이내로 좁혔다. 8일 개장가는 951.38달러로 전날 대비 더 상승하며 금방이라도 애플을 제칠 기세였다. 미국 동부 기준 오전 10시 30분 즈음에는 장 중 거래가가 974달러를 터치하기도 했다. 엔비디아는 8일 기준으로 최근 6거래일 연속 상승, 사우디 아람코(Aramco)까지 제치는 기염을 토하며 세계 시가총액 3위로 등극했다. 전문가들은 엔비디아의 주가 변동성이 커졌다는 걸 인정하면서도 상승 기세가 강력해 시가총액이 더 커질 가능성도 있다고 예측하고 있다. 리차드 메클러 체리 레인 인베스트먼트 파트너는 로이터와의 인터뷰에서 “엔비디아의 상승세는 (AI 반도체라는) 현재 비즈니스 모델의 강력한 펀더멘털(기초체력)을 반영한다”며 “롱(long, 매수 포지션) 옵션 매수자들 사이에서 강력한 투기적 지지를 받고 있다”고 말했다. 반면 애플은 최근 중국에서의 아이폰 판매 둔화로 어려움을 겪고 있다. 지난 1월에는 2021년 이후 처음으로 세계 시가총액 1위 기업 자리를 마이크로소프트에 내주고 2위로 내려앉은 상태다.

2022년 11월 30일 챗GPT 출시 후 AI 반도체 분야 선두 주자인 엔비디아가 무서운 속도로 성장하고 있다. 챗GPT 출시 하루 전 515조원이었던 시가총액이 13개월이 흐른 2023년 말 3배가 넘는 1616조원으로 뛰었다. 여기에서 그치지 않고 올해에만 추가로 63.63% 더 상승, 2월 23일(현지시각) 종가 기준 1조9700억달러(약 2625조원) 가치를 지닌 회사가 됐다. 엔비디아의 시가총액은 마이크로소프트, 애플에 이은 미국 3위에 해당한다. 2만6000명의 직원으로 직원 수 7배의 구글(18만 명)을 당당히 뛰어넘었다. 정말 미친 것 같은 속도로 수직 상승했다. 상승 배경은 AI에 있다. 엔비디아의 AI 반도체 점유율은 80~90%로서 사실상 AI 반도체 시장에서는 독점 업체에 가깝기 때문이다. 4년 전 엔비디아는 스마트폰용 저전력 칩에 강점을 지닌 IP(설계자산) 회사 Arm을 53조원에 인수(M&A)한다는 계획을 발표하고, 1년 반 동안 추진하기도 했었다. 당시 중국의 반대로 인수가 좌절됐는데, 큰 기회인 Arm 인수에 실패하면 어려움이 있을 것이라는 여론이 지배적이었다. 하지만 그로부터 2년이 지난 지금, 누구도 이 사건을 실패로 기억하지 않는다. 오히려 ARM을 인수하지 않음으로써 핵심 사업에 더 집중, 지금과 같은 거대한 성과를 만들 수 있지 않았을까 하는 생각이 들 정도다. 현재 전 세계 AI의 엔진은 엔비디아라고 말해도 무리는 아닐 것이다. 어떤 이는 이런 성과가 게임용 GPU(그래픽처리장치)를 개발하던 회사에 우연히 찾아온 행운이라고 생각할 수도 있다. 그러나 이는 절반의 진실만 담은 시각이다. 실제로 2012년 침체기를 끝내고, AI 전성기를 시작한 알고리듬 ‘알렉스넷(AlexNet)’은 엔비디아가 자사의 게임용 GPU를 과학기술 연산에 사용할 수 있게 소프트웨어를 제공했기에 가능했다. AI의 새 전성기를 이끄는 오픈AI도 마찬가지다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달했다. 당시 오픈AI은 ‘AGI(범용인공지능)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 오래전 작은 신생 스타트업의 가능성을 알아보고, 지속해서 지원한 것이 결실을 맺은 것이다. 대부분의 AI 연구자들은 이런 지원에 힘입어 엔비디아 플랫폼(GPU, CUDA·병렬 프로그래밍 모델)에서 첨단 연구를 수행한다. 엔비디아는 어느 누구보다 빠르게 새로운 AI 기술 흐름을 포착하고, 그에 맞는 반도체를 먼저 개발하고, 결과적으로 과학자들이 엔비디아에 더 의존하게 만드는 선순환 구조를 완성한 셈이다.

챗GPT가 촉발한 ‘생성 AI(인공지능) 혁명’의 거대한 물결이 반도체 시장도 예외 없이 흔들고 있다. 지난 2012년 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 모두를 놀라게 했다. AI 연구에 불을 붙인 알렉스넷은 엔비디아의 게임용 GPU(그래픽처리장치) 칩을 이용해 개발된 CNN(Convolutional Neural Network, 합성곱신경망) 아키텍처였다. 새 알고리듬(CNN)이 제공하는 화상 인식 기술이 주는 가능성에 매료된 산업계는 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들게 됐다. 대형 클라우드 회사들과 미국·영국 스타트업들이 수천억 원이 넘는 투자를 받았고, 침체해 있던 반도체 생태계에 활력이 생겼다. 이런 반도체의 주요 사용처로서는 자율주행차를 포함한 이미지·영상 인식 분야가 꼽혔다. 대표적인 회사들로는 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등이 있으며, 주요 클라우드 서비스회사들 역시 다 자체적으로 AI 반도체를 개발해 왔다.이들 회사들이 경쟁력으로 주장하는 내용은 “엔비디아의 GPU는 원래 게임 소프트웨어를 위해 개발된 것으로서 AI는 나중에 우연히 발견된 사용 분야다. 처음부터 AI만을 목표로 설계해 최적화한다면 훨씬 적은 전력을 사용하는 고성능의 AI 반도체를 만들 수 있다”는 것이다. 이는 상당히 설득력 있는 주장이었다. 이들은 그들의 주장대로 저전력 고성능의 AI 반도체를 발표해 왔다. 그런데 이런 AI 반도체 회사들이 지금 흔들리고 있다. 발단은 13개월 전에 발표된 챗GPT가 초고속으로 사용자를 늘려가며, 벌써 10억 명이 사용하는 서비스가 됐다는 점이다. 챗GPT는 트랜스포머라는 새로운 알고리듬을 사용한다. 핵심은 이 알고리듬은 물론, 챗GPT 비슷한 AI 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다는 것이다. 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어졌다. 이전 알고리듬에만 최적화돼 있어 수년간 수천억 원의 투자를 하면서 개발해 온 반도체 설계방향이 거대한 유턴을 해야만 하는 상황이 됐다. 결과적으로 자금 사정이 어려워진 회사들도 생겨나게 됐다. 그렇다면 엔비디아는 이러한 거대한 변화에 어떻게 대응하면서 성공할 수 있었을까?

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 프리미엄 리포트 ‘위클리AI브리핑(Weekly AI Briefing)’입니다.  한 주 동안 쏟아지는 AI 뉴스 홍수 속에서 놓치지 않고 꼭 챙겨봐야 할 정보를 선별해 드립니다. 핵심 요약으로 독자분들이 시간을 아낄 수 있도록 돕고 ‘실리콘밸리+실리콘앨리’ 현장에서 취재하는 더밀크만의 인사이트를 추가했습니다. 보다 깊이 있는 내용은 더 알아보기 링크로 확인하실 수 있습니다. 그럼 출발해 볼까요?