온디바이스 AI, 연결성·전력 효율성 극대화
삼성·구글·애플, 온디바이스 AI 전쟁 3파전
삼성전자 갤럭시S24, 엑시노스 2400 예상

 
챗GPT가 출시된 지 1년이 넘었다. 오픈 AI를 비롯해 삼성전자·애플·구글·메타 등 글로벌 대기업이 생성형 AI 개발에 집중하는 가운데, 스마트폰 시장 패권이 생성형 AI 기술력에서 판가름 날 것으로 전망되고 있다. 최근 업계의 관심은 전자기기에 AI를 심는 ‘온디바이스 AI(On-Device AI)’로 옮겨갔다.
 
‘온디바이스 AI’는 전자기기 자체에서 AI 연산을 수행하는 개념이다. 네트워크 연결이 없이도 AI 기능을 사용할 수 있다는 의미다. 대형 언어 모델(LLM)을 클라우드에만 의존하지 않고 기기에서 AI 칩으로 구동함으로써 연결성 및 전력 효율성을 확보했다. 외부 클라우드를 거치지 않아 빠른 정보 처리가 가능하며, 보안이 뛰어나다는 점이 특징이다.
 
온디바이스 AI는 스마트폰, 웨어러블 디바이스, 무선 이어폰, 노트북 등 가전기기 등 탑재 영역이 확대될 것으로 전망된다.
 
특히 최근 스마트폰 업계에서는 삼성전자, 애플, 구글 3파전이 형성되며 이러한 흐름이 두드러지고 있다. 생성형 AI를 스마트폰에 탑재해 기존과의 차별화를 통한 성장을 꾀하고 있다. 생성형 AI가 스마트폰에 본격적으로 탑재되면 음성으로 메일·번역·문서 작업 등 다양한 기능을 수행하고, 비서 역할을 수행할 것으로 기대된다.

지난 11월 삼성전자는 2024년 1월 출시될 ‘갤럭시S24’ 시리즈에 생성형 AI ‘삼성 가우스(Samsung Gauss)’를 탑재하겠다고 밝혔다. 해당 발표의 골자는 온디바이스 AI와 서버 기반의 클라우드 AI를 통합해 하이브리드 AI를 제공한다는 것이다. 기존에 ‘빅스비’가 명령에 대한 비서 역할을 담당했다면 향후에는 스마트폰에서 자체적으로 사용자 패턴과 선호도, 취향 등을 분석해 사용자 편의를 향상시킨다.

 
이를 위해 삼성전자는 갤럭시S24에 모바일AP인 ‘엑시노스 (Exynos) 2400’을 탑재할 예정이다. 엑시노스 2400은 전작인 엑시노스 2200 대비 CPU 성능은 1.7배, AI 성능은 14.7배 향상됐으며, GPU 성능도 개선한 것으로 나타났다. 또한 이에 더해 퀄컴이 지난 10월 공개한 AP ‘스냅드래곤8 Gen 3’ 제품도 활용될 것으로 예측된다. 퀄컴의 스냅드래곤 플랫폼은 현재 10억개 이상 파라미터 규모의 생성형 AI 모델을 지원하며, 향후 100억개 이상 파라미터도 지원할 수 있을 것으로 예상된다.
 
또한 삼성전자는 갤럭시 시리즈에 실시간 통역 통화 ‘AI 라이브 통역 콜(AI Live Translate Call)’ 기능을 탑재한다. 별도의 외부 앱 없이도 AI가 상대방 언어를 통역하고, 텍스트 형식으로도 볼 수 있는 기능이다. 이를 위해 삼성전자는 무선 이어폰 ‘갤럭시 버즈’에 AI 연동을 추진하겠다고 밝혔다.
 
애플은 2024년 출시될 아이폰16 시리즈에 자체 개발한 LLM ‘에이잭스(Ajax)’를 토대로 ‘애플GPT’를 개발 및 테스트 중인 것으로 나타났다. 애플은 ‘iOS 18’에 이를 탑재해 소프트웨어 업데이트를 통해 AI 서비스 제공에 나설 것으로 예상된다. 또한 애플은 2011년 출시한 음성비서 ‘시리(Siri)’를 고도화하고 메시지, 뮤직 기능 등에 생성형 AI를 접목할 계획이다.
 
애플도 AP에서 AI 성능을 향상하고 있다. 최근 출시한 아이폰15 프로에 탑재된 AP ‘A17 프로’에 사용된 NPU에는 애플의 7세대 뉴럴 엔진이 탑재됐다. 애플은 내년 ‘아이폰16 프로’에는 ‘A18 프로’를 탑재해 NPU 성능을 끌어올릴 것으로 예측된다. 스마트폰 뿐만 아니라 지난 10월 애플은 M1보다 성능 30%이 향상되고 처리 속도도 60%가 빨라진 AI칩 ‘M3’를 공개하기도 했다. 3나노 공정 기술로 제작된 PC용 칩 제품군으로, GPU 및 메모리를 최적화할 것으로 기대된다.



가장 급속도를 내고 있는 것은 구글이다. 구글은 12월 6일 공개한 ‘멀티모달(multi-modal) AI’인 ‘제미나이(Gemini)’ 중 ‘제미나이 나노’를 자사 스마트폰인 ‘픽셀8 프로(Pixel 8 Pro)’에 적용한다고 밝혔다. 제미나이 나노는 울트라, 프로, 나노 중 가장 경량화 된 효율적 모델이다.
 
구글은 픽셀8 프로에 자체 개발한 ‘구글 AP 텐서 G3’ 칩을 탑재해 AI/ML 처리 능력을 크게 향상했다. 이를 기반으로 녹음기 요약 및 스마트 답장 기능을 제공한다. 또한 컴퓨팅 성능을 업그레이드하고, 나이트 사이트(Night Sight)를 사용해 저조도에서도 타임랩스 촬영을 지원한다.
 
한편 구글에 따르면, 대화형 AI ‘바드(Bard)’에도 ‘제미나이 프로’가 적용된다. 제미나이 프로는 업계 표준 8개 벤치마크 중 6개 벤치마크에서 대규모 AI 모델 측정 표준인 ‘MMLU(대규모 멀티태스킹 언어 이해, Massive Multitask Language Understanding)’와 추론을 측정하는 ‘GSM8K’에서 GPT-3.5를 능가했다고 전했다.
 
구글은 내년 초에는 픽셀8 프로에서 AI 비서 ‘구글 어시스턴트’와 바드를 결합한 ‘어시스턴트 위드 바드(Assistant with Bard)’ 서비스를 제공할 계획이다. 어시스턴트에 바드의 추론 생성 능력이 더해져 지메일, 구글 독스(문서작성) 등 각종 구글 앱과도 연동해 검색, 요약 등 업무를 지원하는 ‘인간 비서’가 될 것으로 예상된다.
 
온디바이스 AI의 발전으로 ‘하이브리드 AI’는 더욱 주목받을 것으로 전망된다. 클라우드가 디바이스 용량을 줄여주고, 온디바이스 AI는 모델이 최적화돼 적은 데이터 처리 시 에너지 효율이 높아 서로가 보완이 된다. 즉 클라우드와 전자기기가 병렬적으로 함께 작동해 AI 활용을 효율 극대화하는 것이 방점이다.