인공지능 전환(AX) 시대가 도래함에 따라 AI 모델 훈련에 적합한 고성능 GPU 서버 인프라를 제공하는 데이터센터 수요가 급증했다. AI 학습 및 추론에 필수적인 AI 서버가 많은 전력을 소비하는 만큼 안정적인 전력 공급, 열 효율 관리 기술이 주목받고 있다.
 
시장조사기관 트렌드포스가 글로벌 AI 서버 수요는 2023년 120만 유닛에서 2027년 347만 유닛으로 3배 가까이 폭증하게 된다고 밝혔다. 2028년까지 국내 데이터센터는 74개, 용량은 1,850MW에 달할 것으로 전망된다.
 
데이터센터는 오픈 AI의 챗GPT를 비롯한 LLM(초거대언어모델) 등 생성형 AI 모델의 수요와 함께 기하급수적으로 증가한 데이터 처리를 효율적으로 처리 및 관리하기 위한 역할을 수행한다. 365일 24시간 무중간으로 서버 및 네트워크 회선 등으로 클라우드 컴퓨팅 서비스를 제공한다.
 
트렌드포스에 따르면 최근 엔비디아의 고성능 GPU를 탑재한 서버가 AI 시장에서 최대 70%를 차지하는 것으로 나타났다. 엔비디아는 2024년부터 A100 시리즈에서 벗어나 H100 시리즈를 본격 양산하고 있다. 또한 HBM3e 사양이 적용되는 H200 시리즈는 올해 2분기부터 한정적으로 양산될 계획에 있다.

엔비디아의 지난해 매출은 약 56% 증가해 반도체 부문에서 연간 매출이 가장 높은 상위 5개 회사에 진입했다고 전했다. 이로써 삼성전자, 인텔, SK하이닉스, 퀄컴, 브로드컴 등과 함께 상위권에 위치하게 됐다.
 
또한 자료에 따르면, 글로벌 빅테크 CSP(Cloud Service Provide) 4개사 MS(20.2%), 구글(16.6%), AWS(16%), 메타(10.8%)의 2024년 고급 AI 서버 수요가 60%를 초과할 것으로 예측된다. 엔비디아는 H200 가격대를 H100의 가격과 유사하게 책정하고, 통신, 자동차, 게임 산업으로의 확장을 목표로 NRE 모델을 주요 업체들과 협상할 계획이다. 2024년 말에는 효율 향상을 위한 B100 제품을 공개한다.
 
■ 데이터센터 열 관리 기술 중요성↑

고성능 GPU를 탑재한 AI 서버에서 발생하는 열은 고장 및 노후화의 원인이 된다. 데이터센터를 가동할 때 섭씨 30도가 넘는 열로 인해 부품이 손상되는 것을 막기 위해 열을 20~25도로 낮추는 ‘열 관리 기술’이 필수적이다.
 
또한 서버에서 발생하는 열을 식히는 데 필요한 냉방 시스템이 전체 에너지 비용의 약 50%를 차지하고 있어 에너지 효율을 극대화하는 방안 마련이 주요 관심사로 떠올랐다. 전 세계적으로 화두인 탄소중립 실천을 위해 친환경적인 데이터센터 구축 및 데이터센터의 지방 분산화 전략도 고려되고 있는 상황이다.
 
기업들은 데이터센터 내 공기를 통과시켜 열을 식히는 기존의 공랭식 냉각 기술이 에너지가 많이 들고 팬 소음이 크다는 한계를 느끼고, 새로운 냉각 기술을 개발에 집중하고 있다. 주요 방식으로 △비전도성 특수 냉각유 속 데이터센터 서버를 침전시키는 액침 냉각 기술 △바닷물로 서버 열을 식히는 해저 데이터센터 구축 △데이터센터 폐열 재활용 기술 등을 채택하고 있다.
 
글로벌 빅테크는 자체적인 열 관리 및 에너지 효율 극대화 전략을 펼치고 있다. 예컨대 네덜란드 기업 ‘아스페리타스’는 액침 냉각 기술을 적용해 설비 투자 및 운영 비용을 약 45% 절감했다. 중국 기업 ‘하이랜더’는 2025년까지 하이난섬 인근 바다에 100개의 모듈을 구축해 연간 약 1억 2,200만kWh 전기를 절약하겠다고 밝혔다. ‘메타’는 2020년부터 덴마크 오덴세에서 데이터센터로 발생한 폐열로 인근 10만 가구에 지역난방을 제공했다고 밝혔다.

‘애플’은 첨단 친환경 데이터센터를 설립해 물과 에너지 소비를 모두 저감해 자연 환기 방식으로 냉방을 통한 100% 재생에너지 가동을 시작했다. ‘MS’는 2018년부터 스코틀랜드에 해저 데이터센터를 시험 가동해 연간 1억 2,200만kWh 전기와 담수를 절약할 수 있다고 말했다. 또한 국내에서도 SKT이노베이션의 자회사 SK엔무브, GS칼텍스, 삼화에이스, 삼성물산 등도 냉각 시스템 설비를 자체 개발하고 있다.
 
■ SKT, 글로벌 AI 데이터센터 시장 본격 공략
 
SKT는 적극적으로 AI DC 사업을 확장하기 위해 SK엔무브, 글로벌 액체냉각 전문기업 ‘아이소톱(Iceotope)’과 손을 잡았다. 3사는 SKT의 AI 서버를 SK엔무브 냉각유(냉각 플루이드)를 탑재한 아이소톱 솔루션에 적용해 SKT AI 데이터센터 테스트베드 환경에 구축할 계획이다.
 
또한 3사는 실제 AI 서비스 운영 환경 속 액체냉각 기술의 효용성을 분석하고, SKT에서 개발 중인 액체냉각 핵심 시스템 ‘통합 CDU(냉각분배장치)’ 기술을 위해 협력한다.
 
SKT는 AI 데이터센터 내부의 온도와 전력 부하 데이터 등을 분석 및 예측하고, 냉매 공급온도와 유량 등을 제어해 효율적 운영을 돕는 AI 자동 냉각 제어시스템(Autonomous Cooling) 개발을 추진한다.
 
이에 앞서 SKT는 29일 MWC24에서 슈퍼마이크로와 협력키로 했다고 밝힌 바 있다. 엔비디아 GPU를 탑재하는 글로벌 서버 기업 슈퍼마이크로는 환경 친화적인 제품을 설계, 구축할 수 있는 점이 강점으로 꼽힌다. 슈퍼마이크로는 “액체 냉각 방식으로 열을 빠르게 낮춰 효율을 높였고, 공기보다 액체가 최대 1천배까지 열 제거 효율적”이라고 전했다.
 
또한 양사는 장기적으로 슈퍼마이크로가 공급하는 AI DC 서버에 AI 반도체 사피온 NPU칩을 탑재하는 것에 대해서도 협력하기로 했다고 밝혔다.