온디바이스 AI, On Device AI 란 무엇인가요?

최근 AI 기술이 점점 우리 일상생활에 친숙하게 다가오고 있습니다. 우리가 가장 많이 사용하는 스마트폰, 스마트 워치 부터 집에서 사용하는 가전제품에 이르기 까지 다양한 기기에서 AI 기술 바탕의 기능들이 적용되어 있는 것을 보게 됩니다. 이와 관련된 AI 정보들 가운데 매스컴이나 인터넷의 기술, 경제 관련 뉴스에서 자주 등장하는 온디바이스 (On-Device) AI 에 관하여 이야기 하겠습니다.

온디바이스 On Device AI 란?

온디바이스 AI 란, 기기 자체에 특화된 반도체 칩셋을 이용하여 AI를 탑재하는 것을 말합니다.

일반적인 AI 데이터 처리 구조 특징

보통의 AI 데이터 처리 구조는 데이터가 수집 되고 명령 되는 각 기기(Device)에서, 수집 된 데이터의 연산 처리를 위해 클라우드 서버라는 곳으로 데이터를 전송하고, 이곳에서 연산을 마친 데이터를 다시 기기로 보내는 구조입니다.

이러한 처리 구조는 고사양인 클라우드 서버의 연산 능력을 이용할 수 있기 때문에 많은 양의 데이터를 정확하게 처리할 수 있는 장점이 있지만 최적의 데이터 처리를 위해서는 통신 수단과 환경이 제대로 갖추어져야 한다는 전제로 인해 서비스의 품질이 이러한 부분에 의존될 수밖에 없고 서버와의 통신 지연, 끊김 등의 문제 상황이 발생할 수 있습니다.

휴대폰이나 컴퓨터에서 AI를 사용하기 위해서는 인터넷 유선 선로나 Wifi 등의 통신 수단이 필요한데 만약 인터넷 속도가 느려지거나 끊기게 되면 사용이 어려워지는 상황을 예로 들 수 있습니다.

그리고 클라우드 서버 자체가 갖고 있는 보안 문제로 인한 단점도 적용됩니다.

국가나 기업, 그리고 최근 가장 민감하게 다루어 지는 개인정보 등, 모든 분야의 중요한 데이터를 보관하고 운용하고 있는 클라우드 서버의 특성 상, 항상 보안에 관해 민감하고 그에 따른 관리의 어려움과 위험성이 있을 수 밖에 없는데요,

이러한 지속적인 불특정 서버 공격이나 해킹 등으로 인한 불안, 사고로 인한 서버 운영의 중단, 데이터 손실 등의 위험성 등에 대한 부분들이 이러한 단점입니다.

온디바이스 AI 데이터 처리 구조 특징

온디바이스 (On-Device) AI는 클라우드 서버를 이용한 AI 의 단점을 보완하고 상황과 목적에 맞는 AI 기술을 활용한 서비스를 제공 해 줍니다.

데이터 처리 능력은 당연히 고사양의 연산 능력을 가진 클라우드 서버가 우세하지만

온디바이스 AI 는 통신 환경이 열악하거나 혹여 제공되지 않더라도 (Device) 기기 자체에서 스스로 데이터 처리를 할 수 있기 때문에 환경의 제약과 통신으로 인한 속도 지연 없이 빠른 처리 속도를 제공합니다.

또한 기기 자체의 연산 방식으로 이루어진 시스템이기 때문에 클라우드 서버에 대한 의존도가 낮아 데이터 보안 문제에 관해서도 자유롭습니다.

이러한 온디바이스 AI 의 구현이 가능하게 된 배경에는 각 기기 성능과 사양의 발전이 있습니다. 각 기기에 내장된 센서 (카메라, 터치 디스플레이, 심박동, 체온 등) 의 발전으로 사용자의 기기 사용 패턴과 행동 정보 등을 정확히 수집 할 수 있게 되었고

반도체 칩셋 성능과 기술의 발전으로 온디바이스에 적합한 고성능, 저전력 칩셋이 탑재되어 수집된 데이터의 AI 연산 처리가 가능하게 되었습니다.

온디바이스 AI 활용

온디바이스 AI의 특징에 따라 대량의 방대한 데이터를 한꺼번에 처리 하는 활용 보다는 초개인화 서비스와 같은 각 분야별 목적과 기능에 특화된 활용에 초점을 맞춰 최대한의 퍼포먼스를 낼 수 있습니다.

통신 환경 등에 구애 받지 않는 AI 구동 특징으로 인해 개인용 소형 기기나 다양한 가전제품에 적용될 수 있습니다.

최근 이러한 온디바이스 AI 기술들을 크게 선보인 CES 2024에서 다양하게 소개된 기술 트렌드는 단연, AI 기술 이었고 이를 기반으로 다양한 온디바이스 AI 기기들이 소개 되며 눈길을 끌었습니다.

국내 제조사인 삼성전자의 실시간 통역 통화 기술이 적용된 갤럭시 스마트폰, LG전자의 스마트 홈 에이전트를 비롯하여 가전제품의 강자 브랜드들 답게 다양한 가전기기에도 온디바이스 AI 기술을 적용하여 선보였습니다.

또한 기타 외국 기업들의 온디바이스 AI 기술을 이용한 아이디어 제품들도 관심을 받고 있었는데, 반려 고양이를 인식하여 출입을 관리해주는 고양이 전용 AI 도어, 최적으로 스테이크를 구워주는 AI 스테이크 오븐, 스마트폰과의 연동으로 음성 인식을 통한 다양한 명령을 수행하는 소형 AI 단말기, 백설공주에 나오는 마녀의 거울처럼 사람의 기분을 읽어주며 소통하는 AI 거울 등 다양한 상품들이 출시되어 소개되었습니다.

마무리

지금까지 함께 살펴본 온디바이스 AI 기술은 흔히 이야기하는 혁신의 크고 작은 구현 수단이 될 수 있을 만한 역량을 지니고 있음을 확인 하였습니다. 사람의 일상에 가장 밀접하게 연결되어 사용할 수 있는 수단들에 직접 구현될 수 있도록 해주는 특성으로 인해

앞으로 더욱 발전 될 기기와의 통신 기술, 온디바이스 AI 용 칩셋 기술에 비례하여 이러한 기기들의 기능과 활용이 더욱 고도화 될 것으로 기대됩니다. 앞으로의 미래는 어떤 세상이 될까요? 이러한 이야기들을 접할 때마다 매우 흥미롭고 궁금해집니다.