Google Play 서비스의 LiteRT: 더 작은 Android 앱과 더 빠른 GPU 추론

Google이 2026년 10월 28일 공개한 LiteRT 업데이트는 Android 개발자에게 온디바이스 머신러닝 인프라의 위치를 바꾸는 소식입니다. 대상 앱은 더 이상 완전한 LiteRT 런타임과 GPU 가속기를 앱 안에 모두 포함하지 않고 Google Play 서비스의 LiteRT를 사용할 수 있습니다. 실질적인 효과는 더 작은 다운로드, 독립적으로 업데이트되는 공유 런타임, 그리고 최신 CompiledModel API를 통한 GPU 추론 경로입니다.

Google Play 서비스 LiteRT의 변화

LiteRT는 사용자 정의 머신러닝 모델을 기기에서 추론하는 Android 런타임입니다. Google은 수십억 대의 기기에서 매일 1조 회가 넘는 추론을 처리한다고 설명합니다. 이번 업데이트에는 ML Drift 기반 GPU 추론이 추가됐고, Google 테스트에서 기존 GPU delegate보다 약 1.4배 빠른 성능을 보였습니다. 새로운 경로는 기존 Interpreter API의 후속인 CompiledModel을 사용합니다.

패키징 방식도 달라집니다. Google 테스트에서 앱에 LiteRT를 직접 포함하던 방식에서 Play 서비스 런타임으로 전환한 앱은 약 8MB 작아졌습니다. 런타임과 GPU 가속기는 모든 APK에 반복해서 들어가는 대신 Google Play 서비스를 통해 한 번 제공됩니다. Google은 현재 10만 개가 넘는 Android 앱이 자체 LiteRT 또는 TensorFlow Lite 사본을 포함한다고 말하므로, 개별 앱의 작은 절감도 큰 규모에서는 의미가 있습니다.

다만 모든 앱이 정확히 8MB 줄어드는 것은 아닙니다. 모델, 라이브러리, ABI 설정과 다른 의존성에 따라 결과가 달라집니다. 발표 숫자를 보장으로 받아들이기보다 마이그레이션 전후의 다운로드 및 설치 크기를 직접 측정해야 합니다.

공유 런타임이 앱 팀에 주는 이점

공유 런타임은 모바일에서 반복되는 다운로드 크기, 기기 저장 공간, 업데이트 조정 문제를 줄입니다. 중복 추론 라이브러리를 제거하면 첫 설치가 빨라지고 사용자 데이터에 더 많은 공간을 남길 수 있습니다. 팀이 아키텍처별로 패키징하고 테스트해야 하는 네이티브 바이너리 수도 줄어듭니다.

또한 런타임 업데이트를 플랫폼 구성 요소를 통해 배포할 수 있습니다. 앱 팀이 새 APK나 App Bundle을 내놓을 때까지 기다리지 않아도 됩니다. 앱 차원의 호환성 검증이 사라지는 것은 아닙니다. 모델 출력, fallback, 권한, 기기 범위를 계속 확인해야 하지만 런타임 일정이 앱 출시 일정에 덜 묶입니다.

Google은 Google AI Edge Gallery를 실제 사례로 제시합니다. Scrapbook의 이미지 분할 기능이 Google Play 서비스의 LiteRT를 사용하므로, 단순한 벤치마크가 아니라 사용자용 온디바이스 AI 흐름을 참고할 수 있습니다.

마이그레이션 목표는 CompiledModel

기존 Interpreter API를 사용하던 팀은 Play 서비스 패키지로 바꾼 뒤에도 코드를 CPU에서 실행할 수 있습니다. GPU를 사용하려면 CompiledModel API로 이동하고 CompiledModel을 만들 때 LiteRT environment를 전달해야 합니다. 애플리케이션의 전체 개념은 비슷할 수 있지만 diff 검토, 빌드, 출력 비교와 실제 기기 테스트는 반드시 필요합니다.

Android Studio Agent Mode에는 LiteRT skill이 포함되어 첫 번째 마이그레이션을 자동화할 수 있습니다. TensorFlow Lite 코드를 CompiledModel로 바꿔 달라고 요청하거나 @litert-runtime을 입력하면 의존성 업데이트, Interpreter 호출 변경, CPU fallback을 포함한 GPU 설정과 새 LiteRT 앱 뼈대 생성을 수행합니다. 공식 Android skills GitHub 저장소는 시작점이지만 생성된 변경은 초안으로 보고 직접 검토해야 합니다.

안전한 마이그레이션 체크리스트

먼저 다운로드 크기, 설치 크기, 콜드 스타트 시간, 첫 추론 지연, 지속 GPU 동작, 배터리 사용량과 모델 정확도를 기준선으로 기록합니다. 그 다음 어떤 모델과 API가 CPU 또는 GPU에서 실제로 동작하는지 확인합니다. 모든 모델이 같은 delegate나 실행 경로에 적합한 것은 아닙니다.

작은 기능부터 옮기고 CPU fallback을 유지합니다. 합의한 허용 오차 안에서 출력을 비교하고 저메모리 및 구형 기기 시나리오도 테스트하세요. Google Play 서비스의 사용 가능성과 버전 동작이 지원 국가 및 기기 구성과 맞는지 확인합니다. 마지막으로 App Bundle, 런타임 오류, 추론 지연과 모델 품질을 확인하는 출시 게이트를 추가합니다.

지원 중단 일정도 중요합니다. Google은 기존 GPU delegate와 사용자 정의 delegate API를 지원 중단하고 CompiledModel GPU 가속, Compiler Plugin 및 Dispatch API를 권장합니다. NNAPI는 2027년부터 제거될 예정입니다. 구형 SDK에는 중요한 보안 수정만 제공됩니다. 이미 출시된 앱은 계속 동작하지만 지원 중단 API를 사용하는 코드는 최신 SDK에서 컴파일되지 않을 수 있습니다.

Android 도구와 온디바이스 AI 소프트웨어를 찾는다면 BTTC의 소프트웨어 카탈로그와 기술 블로그를 함께 살펴보세요.

자주 묻는 질문

핵심은 Google Play 서비스 LiteRT가 각 APK에 반복되던 추론 인프라를 공유 Android 전달 채널로 옮긴다는 점입니다. 앱을 작게 만들고 GPU 추론을 빠르게 할 기회가 있지만, 출시 전 호환성, 모델 품질과 실제 기기 동작을 검증할 책임은 그대로 남습니다.