 |
| ▲LG유플러스가 LG AI연구원, 옵트에이아이와 손잡고 대규모 언어 모델(LLM) ‘엑사원(EXAONE) 3.5’ 기반 온디바이스 sLM을 개발했다. 사진은 LG유플러스 직원이 개발한 온디바이스 sLM을 확인하는 모습./사진=LG유플러스 제공 |
[소셜밸류=최연돈 기자] LG유플러스가 LG AI연구원, 온디바이스 AI 전문기업 옵트에이아이와 함께 대규모 언어 모델(LLM) ‘엑사원(EXAONE) 3.5’를 경량화한 온디바이스 sLM 개발에 성공했다고 25일 밝혔다. 이 기술은 AI 통화 앱 ‘익시오(ixi-O)’에 적용돼 서비스 고도화에 활용된다.
온디바이스 sLM은 스마트폰 내 NPU(신경망처리장치)를 기반으로 구동돼 데이터가 외부 서버를 거치지 않기 때문에 보안성이 높고, 빠른 응답 속도를 제공한다. 기존 CPU 기반 대비 전력 소모량은 78%, 모델 크기는 82% 줄어 효율성이 크게 향상됐다.
LG유플러스는 이번 기술을 익시오에 적용해 통화 요약, 텍스트 변환 기능을 고도화하고 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI Task 제안 등 신규 기능을 선보일 계획이다. 오는 10월 베타 테스트를 거쳐 내년 상반기 상용화를 추진한다.
엑사원 기반 온디바이스 sLM은 우선 퀄컴 ‘스냅드래곤8’ 칩셋을 탑재한 스마트폰에 적용되며, 향후 iOS 운영체제 기기로 확대될 예정이다. LG유플러스와 LG AI연구원, 옵트에이아이는 최신 모델 ‘엑사원 4.0’도 온디바이스 sLM으로 구현해 초개인화 AI 에이전트로 발전시킨다는 전략이다.
송대원 LG유플러스 기술개발그룹장은 “엑사원의 성능을 유지하면서도 온디바이스로 구현할 수 있는 sLM을 통해 보안성과 효율성이 모두 강화된 AI 서비스를 제공하게 됐다”며 “앞으로도 초개인화된 온디바이스 에이전트를 통해 차별화된 사용자 경험을 선도할 것”이라고 말했다.
[저작권자ⓒ 사회가치 공유 언론-소셜밸류. 무단전재-재배포 금지]
