네트워크 의존 없이 디바이스 레벨에서 인공지능 추론을 수행하고 응답성·보안에 장점을 가진 온디바이스 AI 기술이 우리 주변으로 다가오고 있다. 다양한 온디바이스 AI 기술 기반 솔루션들이 개발·출시되고 있는 가운데 컴퓨터 비전 기반 기술을 중심으로 음성인식, 대화형 AI 등의 활용도 올라오고 있다.

■ 주행 안전·운전자 모니터링 시스템

과거 운전자 안전 시스템으로 안전벨트가 고안되고 이를 의무화하며 교통사고 사망율 감소에 큰 기여를 했으며, 이후 에어백의 탑재로 대형 사고 시 생존율 또한 증가하게 된다.

AI 등장과 온디바이스 AI 기술로의 발전을 통해 운전자 안전 시스템은 다시금 획기적인 안전도 상승이 기대되고 있다.

운전자 모니터링 시스템(DMS)는 대표적인 온디바이스 AI 기술을 기반으로 하며 빠른 응답성이 필요하며 모빌리티가 네트워크 사각지대에 진입해서도 올바르게 동작하기 위해서는 온디바이스 AI가 필수적이다.

졸음 감지, 전방주시 태만, 휴대폰 사용, 운행 중 음주 등을 탐지할 수 있으며, 여러 센싱 기능과 결합 시 고신뢰성 음주운전 시동잠금장치 구현 등도 가능할 것으로 기대된다. 

또한 운전자뿐 아니라 동승자에게 적절한 인포테인먼트 서비스를 제공할 수 있는 인캐빈 모니터링 시스템 구현이 가능해 시트 포지셔닝 자동화, 실내 음향·온도 조절 자동화 등의 부가적인 기능 구현이 가능할 것으로 보인다. 

관련 애플리케이션에는 △차량용 블랙박스 △차량용 전·후방 카메라 등이 있으며, 국내서 관련 기술을 개발·서비스하고 있는 기업으로는 △델타엑스 △노타AI △엠텍비젼 △딥인사이트 등이 있다.

■ 소매업 무인화 바람, 온디바이스 AI 솔루션 먹거리

최근 인건비 상승과 소매업의 마진율 하락으로 무인카페, 무인 편의점, 무인 잡화점 등 캐셔를 고용하지 않는 무인점포의 숫자가 증가하고 있다. 신한카드 분석에 따르면 무인점포 신규 가맹점 수는 5년 새 5배 가까이 증가했으며 무인세탁소 이용건수도 연평균 49% 증가하고 있다.

무인화 바람은 절도 사례 증가, 비의도적/의도적 미결제 고객 증가, 무단 점거 및 타매장 제품 반입 등 운영 관리에 어려움이 가중되고 있다. 또한 무인 매장이 아니더라도 일반 키오스크 이용 시 복잡한 UI와 주문 프로세스 등으로 인해 사용자들의 이용 편의성이 떨어지는 결과를 낳았다.

온디바이스 AI 등장 이후 출시되는 제품들의 추세는 이러한 이슈들에 대응한다. AI CCTV는 고객들의 이상행동 감지와 화재 등을 감지할 수 있으며, 알림을 통해 상황을 관리자에게 전달할 수 있다.

AI CCTV는 무인점포뿐 아니라 △스마트시티 △스마트홈 △공장/현장 안전설비 △국방 등 다양한 분야에서 높은 활용도를 보이고 있으며, △한화비전 △아이디스 △이노뎁 △인콘 △코맥스 △KT △LG U+ 등이 국내 플레이어로 경쟁하고 있다.

아울러 챗 GPT 기반 키오스크도 개발되고 있으며, 터치가 아닌 대화로 주문해 고객의 주문 편의성과 응대성을 향상 시키는 솔루션들이 시장에 속속 등장하고 있다. △딥브레인AI △이스트소프트 등에서 개발하고 있다.

■ 스마트홈 완성하는 AI 기술

스마트홈 추세는 사용자의 제품 사용 경험에서 심리스한 편의성을 강조하고 있다. 음성 제어와 사용자 인식 솔루션을 기반으로 저전력에서도 AI 기능을 가져가려는 추세가 엿보인다.

비교적 간단한 명령어를 등록해 MCU단에서 음성을 인식하고 기기의 전원을 켜는 기능은 이미 시중에 선보이고 있는 상황이다. 국내서는 감바랩스와 관악아날로그 등에서 관련 기술을 보유하고 있으며, 여기에 더해 감바랩스는 화자인식 솔루션까지 구현한 것으로 전해진다.

비전에서의 화자인식은 등록된 사용자의 출입을 간편하게 할 수 있는 스마트 도어락, 노트북·스마트 디바이스 등의 페이스 아이디 등에서 활용도가 예상된다.

향후 관건은 온디바이스 AI에서 기기명, 명령어를 정확하게 말하지 않고도 ‘맥락’만으로 명령을 인식할 수 있는 단계까지 접근할 수 있는지 여부가 진정한 온디바이스 AI의 경쟁력이 될 것으로 보인다.

자동화 루틴 설정, 사용자의 대화 속 맥락 캐치 등 LLM 수준의 성능을 보여주려면 SLM 및 sLLM에서의 성능 구현과 최적화·경량화가 수반되어야 할 것이며, 이러한 기술 발전과 적용 제품의 구현을 기대할 만한 시점이 점점 다가오고 있다.

한편, AI 역량이 부족한 개발사·제조사도 손쉽게 온디바이스 AI 구현을 가능케하는 SW-HW 솔루션 기업들이 한자리에 모이는 2024 Start On-Device AI 컨퍼런스(이하 2024 SODA)가 오는 10월 15일 서울 강남역 인근 한국컨퍼런스센터 대강당에서 개최될 예정이다.

온디바이스 AI 컨퍼런스에서는 온디바이스 AI가 2024년 최대 트렌드 기술로 떠오른 상황에서 초기 시장 선점과 타임투마켓 달성을 위한 제품 개발자 및 기획자, 임베디드 개발자 등을 대상으로 AI SW, HW 영역을 망라하는 세션 발표들이 진행된다.