생성형 AI 서비스가 현실화하고 AI 응용 애플리케이션들이 시장에 본격적으로 출현하면서 데이터센터 수요가 급증하고 있다. 이에 따라 데이터센터 업체들은 AI 서버를 다수 채택해 플랫폼을 운영하고 있고 이에 따른 AI 가속기 수혜가 예상되고 있다.

글로벌 시장조사기관 마켓앤마켓에 따르면 전세계 데이터센터 가속기 시장이 2024년 1,099달러(한화로 약 150조원)로 평가되고 있어, 5년 후인 2029년까지 3,729억달러로 한화 약 500조원 시장에 도달할 것으로 전망했다.

예측 기간 동안 연평균 27.7% 성장율로 시장 확대가 기대되는 가운데, 클라우드 기반 서비스에 대한 수요 증가와 빅데이터 분석에서 딥러닝 기술 채택 급증에 따란 수요 증가를 성장 요인으로 손꼽았다.

데이터센터 가속기는 기업용 추론 시장에서 가장 높은 연평균성장률(CAGR)을 기록할 것으로 예측된다. 5년간 45.8%의 CAGR이 예상되며, 산업별로 보면 의료 분야가 31.8%의 CAGR로 큰폭의 성장을 기록할 것으로 보인다.

의료 및 헬스케어에서의 AI는 △전자 건강 기록 △의료 영상 △유전자 데이터 △웨어러블 기기 등에서 데이터 수집 및 고성능 컴퓨팅 인프라를 필요로 한다. 예측 분석, 개인 맞춤형 의료, 영상 진단과 같은 의료 영역에서 AI/ML 기술이 도입되고 있는 것이 높은 성장률의 원인으로 분석된다.

데이터센터 가속기 주요 수요 지역은 미국으로 △아마존 △메타 △구글 △마이크로소프트 등 AI 기술을 리딩하는 미국 빅테크 기업들이 투자 경쟁을 벌이면서 해당 시장이 가장 크게 성장하고 있다.

가속기 및 AI 서버를 공급하는 업체들도 주로 미국 기업으로 △엔비디아 △AMD △인텔 △퀄컴 △마이크론 등의 반도체 메이커들이 있으며, △델 △IBM △슈퍼마이크로 등이 AI 서버를 공급하고 있다. 이외에도 삼성전자와 SK하이닉스가 HBM을 공급하며 AI 가속기/서버 공급망에 속해 있다.

AI 모델이 커지면 커질수록, 그리고 AI 서비스가 본격화될수록 서버의 AI 연산량은 증가하고  만 전력 소모와 발열량이 기하급수적으로 증가할 것으로 전문가들은 내다보고 있다. 이에 AI 가속기의 전력 및 비용 효율을 동시에 추구하는 저전력 고성능 AI 가속기가 차세대 솔루션으로 부각되고 있다.

국내도 △퓨리오사AI △사피온 △리벨리온 △모빌린트 △파네시아 △딥엑스 등 팹리스 기업에서 저전력 고성능의 AI 가속기 제품들을 개발해 국내외 시장 공략에 나서고 있는 상황이다.