[편집자주] 지구온난화를 넘어 열대화에 이르렀다고 사람들은 입을 모은다. 뜨겁게 달아오른 지구와 함께 IT업계도 뜨겁게 달아오르게 한 화두, 챗GPT와 다양한 인공지능 서비스 열풍은 데이터센터의 서버도 함께 뜨겁게 달구고 있다. 이미 증가하고 있던 데이터 수요는 AI 서비스붐으로 수요 전망치를 힘껏 밀어 올렸으며, 서버 시장은 ESG 측면에서나 장기적인 운영비 측면에서 전력사용효율성(PUE)에 대한 강한 요구를 촉발시켰다.

이에 서버 솔루션의 글로벌 리더 슈퍼마이크로의 빅 말얄라 비즈니스 개발 부문 수석 부사장과의 인터뷰를 통해 슈퍼마이크로의 서버 시장 동향과 증가하는 AI 니즈에 대한 서버 구축 해법을 들어봤다. 더불어 김성민 슈퍼마이크로 한국지사 비즈니스 개발 부문 이사가 함께 답변해 국내 소식도 전했다.

■ 그린컴퓨팅 달성이 얼마나 어려운 작업이며, 슈퍼마이크로는 이를 위해 어떤 노력을 하고 있는지 설명 부탁드린다

빅 말얄라 : 전세계 전력 수요의 1~1.5%를 소비하는 오늘날의 데이터센터엔 그린 컴퓨팅이 매우 중요하다. 데이터센터를 보다 친환경적인 컴퓨팅 모델로 전환하는 일에는 어려움이 있으며, 데이터센터 운영자는 구매 주기와 운영 환경을 보다 새로운 시각에서 바라봐야 한다.

CPU 및 GPU의 와트당 처리량은 증가하고 있지만 데이터센터에 친환경 컴퓨팅 달성에 중요한 요소는 지속 가능한 공급업체로부터 전력을 구매하는 일이다. 일부 지역에선 달성하기 어려운 일일 수 있다.

또한 데이터센터의 PUE를 개선하기 위해 △열복도 및 냉복도 분리 △수냉식 냉각 △애플리케이션에 적합한 서버 선택 △최신 CPU 및 GPU 기술 도입 등 다양한 선택지를 고려해야 한다.

슈퍼마이크로의 랙 스케일 수냉식 솔루션은 기존 냉각 방식의 필요성을 크게 낮춘다. 공급 장치와 펌프는 핫스왑 및 이중 전원이 가능해 장애 발생 시 고성능 AI와 HPC에 최적화된 서버의 랙 전체를 효율적으로 냉각한다.

이러한 솔루션은 CPU와 GPU 모두에 맞춤 설계된 콜드 플레이트를 사용해 기존 설계보다 효율적으로 열을 제거한다. 

PUE를 1.0에 가깝게 낮출 경우 30개의 화석 연료 발전소를 건설하지 않아도 되며, 이로 인한 에너지 비용 절감은 최대 100억달러에 이른다.

슈퍼마이크로 그린 컴퓨팅의 핵심은 △엔비디아 △인텔 △AMD 등 최신 프로세서 기술을 통해 최첨단 서버와 스토리지 시스템을 설계·제조할 수 있단 사실이다. 랙 스케일 수냉식 옵션을 통해 데이터센터 전력 사용 비용을 최대 40%까지 줄일 수 있다.

엔비디아 HGX H100 8-GPU 서버가 탑재된 슈퍼마이크로의 대표 GPU 서버는 AI 워크로드로 인해 수요가 지속 증가하고 있다. 슈퍼마이크로는 전세계에 매달 4,000개 랙을 출하할 수 있으며, 연말까지 매달 5,000개 이상의 랙을 출하할 수 있을 것으로 예상한다. 매출은 200억달러 달성을 향해 성장할 것으로 기대된다.

김성민 : △마이크로클라우드 △트윈 △블레이드를 동인한 섀시(전원 공급 장치 및 팬 포함)를 공유하는 업계 최고 멀티 노드 시스템 제품군을 보유해 전력 소비 및 냉각 효율 증진이 가능하다.

이러한 시스템은 기업 및 서비스 제공업체가 시스템 수명 연장과 전기 요금 절감을 통해 지구를 보호하는 데 기여하기 때문에 장기적으로 자본 비용과 운영 비용을 효과적으로 절감할 수 있다.

■ 로컬 환경에 수냉식 서버를 도입할 경우, 예상되는 기대 효과와 고려사항은 무엇이 있는가

빅 말얄라 : 수냉식 냉각은 클라우드 기반 혹은 온프레미스 데이터센터의 전력 사용량을 줄이는 데 도움이 된다. 고객은 랙 레벨에서의 수냉식 냉각 사용 여부를 결정할 때, 슈퍼마이크로 등 서버 공급업체와 긴밀히 협력해 예상 워크로드 및 서비스수준협약(SLA)에 가장 적합한 서버를 파악하고 최적화하는 것이 중요하다.

올바른 △서버 폼 팩터 △CPU 성능 △메모리 △스토리지 △네트워킹 요구 사항을 선택했을 때 이상적인 데이터센터 인프라 구현과 알맞은 유형의 수냉식 냉각 선택이 가능하다.

■ AI 서버의 급부상에 대한 대응으로 AI가속기나 NPU 탑재를 통해 GPU 부담 경감하는 전략이 모색되고 있는데 슈퍼마이크로는 이에 대해 어떻게 보고 있는가

빅 말얄라 : 슈퍼마이크로는 다양한 자사 서버 솔루션에 최신 AI 가속기를 빠르게 도입하기 위해 선도적인 기술 기업과 지속적으로 협력하고 있다. 슈퍼마이크로의 설계 철학은 특정 작업을 수행하기 위해 특수 하드웨어를 신속하게 통합해 시스템을 만드는 것이다. CPU서부터 GPU, 기타 가속 기술에 이르기까지 새로운 기술이 개발될 때마다 시장에 가장 먼저 출시하는 것에 자부심을 갖고 있다.

김성민 : 한국에서도 AI 가속기 업체들과 직간접적으로 협력하고 있다. AI 추론 시장이 AI 학습 시장보다 더 빠르고 큰 규모로 성장할 것이 예상되는 만큼, 전력 효율이 높은 NPU의 활용 가치가 기대된다.

업계에서 가장 빠른 시장 출시 속도를 자랑하는 개방형 하드웨어 플랫폼 공급업체로서 다양한 벤더들과 협력해 AI 추론 시장의 성장에 기여할 예정이다.

■ 슈퍼마이크로의 서버 시장 대응 전략과 미래 전망은

빅 말얄라 : 빠르게 증가하는 AI 토탈 랙 솔루션에 대한 수요를 지원하기 위해 최근 미국·대만·네털란드 시설을 꾸준히 확장하고 있다. 

또한 전세계 데이터센터 구축 지원 및 서비스할 수 있는 초대형 서버·랙 생산 능력을 갖췄다. 향후 말레이시아, 일본 및 기타 다른 국가에서 공장을 확장할 계획이며 이는 더 많은 비즈니스 기회를 지원하게 될 것이다.

슈퍼마이크로 원스톱 샵 토탈 IT전략은 고객이 핵심 비즈니스에 더 집중하고 클라우드부터 엣지까지 IT하드웨어 솔루션을 슈퍼마이크로에 믿고 맡길 수 있도록 하는 것이다. 

현재 당사는 월 최대 4,000개 랙을 지원할 수 있는 글로벌 제조 역량을 갖췄으며, 연내 월 5,000개 랙까지 생산할 수 있도록 케파를 가속화할 예정이다.

감사합니다.