글로벌 AI 인프라 시장이 구조적 성장 단계에 접어들면서, 시장 경쟁의 기준이 설비 규모에서 전력·부지·공급망 확보와 장기 계약 역량으로 옮겨가고 있다는 분석이 나왔다.
글로벌 경영 컨설팅 기업 알바레즈앤마살(A&M)은 12일 ‘네오스케일러의 부상: AI 인프라 구축을 위한 글로벌 경쟁’ 보고서를 내고, AI 인프라 시장의 변화와 투자 기회를 분석했다.
A&M은 구글, 아마존웹서비스(AWS) 등 미국 5대 하이퍼스케일러의 2026년 설비투자 계획이 총 7500억달러를 넘을 것으로 전망했다. AI 도입 확대와 소버린 AI 등 새로운 수요로 AI 인프라 수요가 구조적으로 성장하고 있다는 것이다.
특히 AI 연산에서 추론이 차지하는 비중이 현재 40% 이상에서 향후 신규 수요에서는 75% 이상으로 높아질 것으로 내다봤다. 기업과 정부의 실제 업무에 AI를 적용하는 사례가 늘수록 지속적인 연산 인프라가 필요하다는 분석이다.
반면 공급 확대는 전력망 접속, 부지 확보, 인허가, 데이터센터 건설, 냉각설비 및 부품 조달 등에 시간이 걸려 수요 증가세를 따라가지 못하고 있다. A&M은 AI 인프라 사업의 경쟁력이 GPU 보유량보다 적기 확보와 안정적 수요 연결 역량에 달려 있다고 봤다.
투자 기간의 차이도 주요 변수다. AI 가속기는 18~24개월마다 새 세대가 나오는 반면 데이터센터 기반시설은 장기간 사용된다. 최신 GPU의 가치가 빠르게 낮아질 수 있는 반면 데이터센터는 장기 운영이 필요해, 장비와 기반시설 간 투자 회수 기간 차이가 발생한다.
A&M은 AI 인프라 투자 시 장비 성능과 함께 실제 고객 수요, 신용도, 계약 기간, 해지 조건 등을 함께 검토해야 한다고 강조했다. 신용도 높은 고객과 장기 계약을 확보하지 못하면 GPU 가격이나 가동률 변화에 따라 사업성이 빠르게 악화할 수 있다는 것이다. 결국 수요를 안정적 현금흐름으로 전환하는 계약 구조와 실행 역량이 관건이다.
◇ 네오스케일러 부상, 기존 하이퍼스케일러와 보완 관계
AI 인프라 공급이 수요를 따라가지 못하는 상황에서 기존 하이퍼스케일러만으로 다양한 수요를 충족하기 어려워지면서 ‘네오스케일러’가 부상하고 있다. 네오스케일러는 AI 모델 또는 GPU 인프라에 특화해 대규모 학습·추론과 소버린 AI 수요 등에 대응하는 사업자로, 오픈AI 같은 AI 개발사와 코어위브 같은 GPU 클라우드 사업자가 대표적이다.
A&M은 네오스케일러 시장을 모델과 인프라 영역으로 구분했다. 모델 네오스케일러는 첨단 AI 모델 개발과 서비스에 집중하면서 컴퓨팅 인프라는 주로 외부에서 확보한다. 반면 인프라 네오스케일러는 GPU 클라우드, 서비스형 GPU(GPUaaS), AI 전용 데이터센터 등 AI 컴퓨팅 인프라를 직접 구축·운영한다.
다만 사업자 간 경계는 점차 흐려지고 있다. 하이퍼스케일러는 자체 AI 칩과 모델을 개발하고, AI 개발사는 데이터센터 사업자와 직접 계약해 전용 인프라를 확보하고 있다. 칩, 클라우드, AI 모델, 데이터센터 사업자가 서로의 영역으로 진출하면서 경쟁 구도가 개별 사업자 간 경쟁에서 생태계 경쟁으로 변화하고 있다.
A&M은 네오스케일러가 기존 하이퍼스케일러를 완전히 대체하기보다 상호 보완적인 역할을 할 것으로 전망했다. 하이퍼스케일러는 광범위한 고객 기반, 범용 클라우드 서비스, 글로벌 운영 역량에서 강점을 갖는다. 네오스케일러는 전용 GPU 클러스터, 소버린 AI 인프라, 특정 고객 맞춤형 구축이 필요한 프로젝트에서 차별화할 수 있다.
김명구 A&M 파트너는 “AI 인프라 시장이 빠르게 확대되면서 기존 하이퍼스케일러만으로는 모든 수요를 감당하기 어려워지고 있다”며 “전용 GPU 클러스터나 소버린 AI, 특정 산업·기업 맞춤형 인프라 영역에서 네오스케일러가 새로운 선택지가 될 수 있다”고 말했다. 이어 “한국에서도 제조, 금융 등 산업별 데이터에 특화된 AI와 소버린 AI, 기업용 프라이빗 AI를 중심으로 투자 기회를 모색할 수 있다”고 설명했다.
그는 “투자에 앞서 실제 수요와 사업 지속성을 충분히 검증해야 한다”며 “전력, 부지 등 인프라 여건뿐 아니라 고객의 신용도와 계약 안정성을 종합적으로 살피는 것이 핵심”이라고 강조했다.