생성형 AI가 촉발한 AI 혁명으로 AI 기능과 SW 도구 보급이 확산되고 있는 가운데 온디바이스 AI 보급으로까지 시장이 확산되면서 AI 반도체 시장 규모가 급속히 커질 것으로 전망되고 있다.

글로벌 시장조사기관 마켓앤드마켓에 따르면 2029년까지 AI 반도체 시장은 3,115억8,000만달러(한화로 약 430조원)까지 성장할 것으로 예측했다. 이는 2020년 시장 규모 대비 3배에 가까운 성장으로 AI 서버 증가와 산업용 로봇·자동화 채택 확산에 따른 영향일 것으로 전망했다.

특히 AI 반도체 성장 가운데 메모리 부문이 향후 5년 간 가장 높은 성장세를 기록할 것으로 전망했다. HBM 및 DDR5~6 등 고급 메모리 솔루션 수요는 큰 반면 메모리 공급은 적체되고 발전 기울기도 완만해지면서 AI 시대 발전을 저하하는 메모리 병목이 심화되고 있는 것으로 전문가들은 평가했다.

이영빈 삼성전자 프로 최근 열린 2024 반도체 표준화 포럼에서 “LLM 성능의 바틀넥(Bottle-Neck)을 메모리가 잡고 있는 상황에서 산업계 전체가 메모리에 관심을 가지고 있다”라고 평가하면서, “최대한 파워를 줄이면서 높은 대역폭을 제공하고, 폼펙터는 줄이면서도 기존 대비 높은 메모리 강건성을 보여주는 LPDDR6 개발에 집중하고 있다”고 설명했다.

삼성전자와 SK하이닉스는 차세대 AI 메모리 리더십의 중요성을 인지하고 HBM4 및 LPDDR6, PIM(Process In Memory) 반도체 등의 개발과 고객사 협업에 박차를 가하고 있다. 특히 PIM 반도체는 온디바이스 AI 시대 핵심 역할을 차지할 것으로 기대된다.

KES 2024 기조연설에서 브라이언 코미스키 미국소비자기술협회(CTA) 시니어 디렉터는 미래 기술 혁신의 전개를 인구 변화 양상에서 추론했다. 1996년에서 2010년 사이 태어난 Z세대는 전세계 가장 큰 비중을차지하는 세대 집단으로 향후 한국을 포함한 OECD 나라 전체 노동인구에서 25%를 넘어설 것으로 전망된다.

이에 브라이언 디렉터는 “CTA 연구에 따르면 Z세대는 M(밀레니얼)세대보다 얼리어답터로 평균 13개의 기술 제품을 보유하고 있다”면서, “소비자들은 하드웨어 업그레이드 사이클에 따라 AI에 더욱 많이 노출될 것이며, 이미 한국의 Z세대 직장인들은 AI를 업무에 필수 자원으로 인식한다”고 설명했다.

마켓앤드마켓 보고서에서는 자연어 처리 부문이 향후 5년간 가파른 성장 곡선을 그릴 것으로 예측했다. 이는 △챗봇 △가상 비서 △언어 번역 서비스 △감정 분석 △텍스트 분석 등 최근 다양하게 출시되는 AI 서비스 기능들이 대체로 NLP을 필요로 한다는 공통 분모가 있기 때문이다.

이러한 NLP 작업에는 AI 반도체 수요가 창출되며, GPT-4, BERT와 같은 LLM 발전으로 모델의 복잡성과 크기는 지속 증가해 AI 반도체 수요를 더욱 부채질할 것으로 기대된다.

AI 반도체에 속하는 주요 제품군으로는 GPU, CPU, FPGA, NPU, TPU 등이 있으며, 메모리 제품에 HBM과 DDR 등 D램이 차지하고 있다. PIM 반도체의 경우 SK하이닉스 등에서 시장 출시는 된 반면, 유효한 공급이 거의 없어 향후 시장 포지션을 얼마나 차지할지가 관건이다.

AI 반도체 주요 플레이어에는 매출 절대적 1등 엔비디아를 비롯해 △AMD △인텔 △마이크론 △구글 △퀄컴 △애플 등 미국 기업들이 중심에서 시장을 선도하고 있으며, 한국은 삼성과 SK하이닉스를 비롯해 △파두 △리벨리온 △사피온 △퓨리오사 △딥엑스 등 팹리스 기업들이 국내 시스템반도체 혁신을 위해 고군분투하고 있다.

최근 진행된 엔비디아 AI 서밋 재팬에서 엔비디아 로니 바시스타 부사장은 “지역 내 AI 인프라를 통해 수집되는 데이터는 주권적이고 지역적인 특성을 지닌다”면서, “전세계 하이퍼스케일러가 참여할 수도 있지만 데이터 주권 측면과 해당 국가의 AI 목표 달성을 고려한다면 새로운 인프라 제공업체에 기회가 있을 것”이라고 내다봤다.

이에 따라 AI 인프라 확산 과정에서 로컬 AI 및 인프라 업체가 성장할 수 있다면, 이 과정에서 국내 시스템반도체 성장의 토대도 마련될 가능성이 있다. AI 반도체 생태계 속에 국내 반도체 업계의 생존 위기와 기회의 장이 동시에 펼쳐지는 가운데 K-반도체의 향방에 이목이 집중되고 있는 상황이다.