LG유플러스, 옵트에이아이 손잡고 '토큰 최적화' 연구… 온디바이스 AI 전력 78% 절감

LG유플러스가 AI 모델 최적화 전문 기업 옵트에이아이와 손잡고 ‘토큰 최적화’ 기술 확보에 나섰다. 스마트폰의 신경처리장치와 서버 그래픽처리장치 환경에서 전력과 자원 소모를 대폭 줄이는 것이 목표다.

앞서 두 회사는 스마트폰용 소형언어모델 경량화를 통해 온디바이스 AI의 전력 소모를 최대 78%, 모델 크기를 82% 줄인 성과를 낸 바 있다. 이번 협력으로 연구 무대를 그래픽처리장치 서버 영역까지 확장한다.

토큰 최적화는 AI가 문장을 처리할 때 소모하는 연산 단위를 줄여 응답 속도와 비용을 동시에 낮추는 기술이다. 통신사 입장에서는 망 부하를 덜고 요금제 경쟁력을 높일 수 있는 핵심 기술이다.

업계에서는 자원 효율화 경쟁이 AI 상용화의 실질적 승부처로 보고 있다. 거대 모델 경쟁에 이어 절전과 경량화 기술 개발 속도가 빨라질 것으로 전망된다.

자주 묻는 질문

Q. 토큰 최적화란 무엇인가요?
A. AI가 문장을 처리할 때 쓰는 연산량을 줄여 속도와 비용을 낮추는 기술입니다.

Q. 전력 78% 절감은 어디서 나온 수치인가요?
A. 스마트폰용 소형언어모델 경량화 실증에서 확인된 성과입니다.

Q. 소비자에게 어떤 혜택이 있나요?
A. 배터리 소모가 적은 온디바이스 AI 서비스를 더 빠르게 쓸 수 있게 됩니다.

Q. 서버 분야로 확장한다는 의미는?
A. 데이터센터 운영 비용을 낮춰 AI 요금제와 서비스 가격 인하 여지가 커집니다.