‘엔비디아 세금(tax)’으로 불리는 고비용 구조와 전력 비효율을 타개하기 위해 빅테크 기업들이 자체 주문형반도체(ASIC) 개발에 사활을 걸고 있다. 특히 구글이 자사 텐서처리장치(TPU)의 외부 판매를 선언한 것은 단순한 수익 모델 확장을 넘어 엔비디아의 범용 그래픽처리장치(GPU)가 장악한 시장을 목적 기반의 ASIC 중심으로 재편하겠다는 ‘선전포고’나 다름없다. 인공지능(AI) 시장의 무게 추가 모델 ‘학습’에서 실제 서비스를 24시간 가동하는 ‘추론’으로 이동함에 따라 올해는 ASIC 반도체 개화의 원년이 될 것으로 전망된다.

25일 업계에 따르면 구글의 TPU 개방 전략은 자체 AI 모델 ‘제미나이 3.0’의 성공과 추론 비용 절감이라는 시장의 니즈가 맞물린 결과다. 구글은 엔비디아 칩 없이 100% 자체 TPU 클러스터로 학습시킨 제미나이 3.0이 AI 성능 평가에서 1501점(LM아레나 리더보드 기준)으로 1위를 차지하자 이 성과를 앞세워 본격적인 칩 판매에 나섰다.

업계는 구글 TPU의 ‘가성비’와 ‘전력효율’에 주목하고 있다. 생성형 AI 서비스 비용의 80% 이상은 모델 개발(학습) 단계가 아닌 이용자의 질문에 답을 생성하는 추론 과정에서 발생한다. 구글이 “메타가 TPU를 도입할 경우 연간 수십억 달러의 인프라 비용을 절감할 수 있다”고 자신하는 이유다.

비용 절감이 가능한 만큼 이번 구글의 TPU 외부 판매 선언으로 최근 확산되는 ‘AI 거품론’ 논란도 한풀 꺾일 것으로 보인다. 아울러 수익성 우려가 커질수록 ASIC의 중요성은 더욱 부각될 것으로 전망된다. 실제 관련 시장은 폭발적인 성장세를 보인다. 모건스탠리 리서치에 따르면 전 세계 ASIC 시장 규모는 2024년 120억달러에서 2027년 300억달러로 연평균 34% 성장할 것으로 전망된다. 전체 AI 반도체 시장 내 ASIC 비중 역시 2024년 11%에서 2030년 15%까지 확대될 것으로 관측된다.

빅테크들의 ASIC을 활용한 ‘탈(脫)엔비디아’ 전선도 구체화하고 있다. 전략은 크게 △클라우드 서비스형 △자체 최적화형 △하드웨어(TPU) 판매형으로 나뉜다. 아마존웹서비스(AWS)와 마이크로소프트(MS)는 클라우드 고객을 겨냥했다. AWS는 자체 개발한 ‘트레이니움(학습용)’과 ‘인퍼런시아(추론용)’를, MS는 ‘마이아 100’을 자사 데이터센터에 적용해 고객들이 엔비디아 GPU 기반 서비스보다 저렴하게 AI 모델을 운용하도록 지원한다.

테슬라는 독자 노선을 걷고 있다. 자율주행을 넘어 휴머노이드 로봇 ‘옵티머스’와 데이터센터까지 아우르는 자체 칩 ‘AI5’의 설계를 마치고 양산을 앞두고 있다. 이들 기업의 공통된 목표는 엔비디아 의존도를 낮춰 가격 협상력을 높이고 공급망 리스크를 해소하는 것이다.

이 중 구글의 행보는 가장 파격적이라는 평가를 받는다. 아마존이나 MS가 자사 클라우드 서비스의 일환으로 칩을 활용하는 것과 달리 구글은 폐쇄적으로 운영하던 자체 칩을 메타 등 경쟁사 데이터센터에 하드웨어 형태로 직접 공급하겠다는 전략이기 때문이다. 이는 단순한 기술 과시를 넘어 AI 하드웨어 생태계의 표준을 엔비디아의 소프트웨어 플랫폼 ‘쿠다(CUDA)’에서 구글 TPU 기반으로 가져오겠다는 포석이다. 실제로 블룸버그통신은 구글이 TPU 외부 판매를 발표한 뒤 페이스북 모회사인 메타플랫폼이 수십억 달러 규모로 TPU라 불리는 구글 AI 칩을 도입하는 방안을 논의 중이라고 전했다. 구글의 의도에 빅테크들도 동참하는 모습을 보인 셈이다.

구글은 생산 단가 낮추기에도 돌입했다. 기존 TPU는 브로드컴과 주로 협력했으나 차세대 칩부터는 대만의 미디어텍과 손잡고 가격경쟁력을 확보할 계획이다. 일각에서는 기업들의 TPU 채택이 확대될 경우 엔비디아 연간 매출의 최대 10%가 잠식될 수 있다는 전망도 내놓는다.

<서울경제=서종갑 기자>