구글, 스마트폰 로컬 실행 가능한 AI 모델 앱 내놨다

구글이 AI 개발 플랫폼인 허깅페이스에 공개된 AI 모델을 사용자가 스마트폰에서 실행할 수 있도록 하는 앱 구글 AI 엣지 갤러리(Google AI Edge Gallery)를 5월 21일 공개했다. 구글 AI 엣지 갤러리는 현재 안드로이드 버전이 출시됐으며 iOS 버전은 곧 출시 예정이다.

구글 AI 엣지 갤러리는 AI 모델을 스마트폰이나 IoT 기기 등 엣지 디바이스에서 효율적으로 실행하기 위한 기술군. 기존에는 AI 모델 실행이 고성능 서버에서 이뤄지는 게 보통이었지만 구글 AI 엣지 갤러리를 활용하면 인터넷 연결이 없는 환경에서도 기기에서 직접 AI 처리를 수행할 수 있다.

구글 AI 엣지 갤러리는 스마트폰용으로 출시된 앱으로 이미지를 생성하거나 질문에 답하거나 코딩을 할 수 있는 AI 모델을 검색하고, 호환 가능한 모델이라면 다운로드해서 실행할 수 있다. 모델은 인터넷 연결을 필요로 하지 않으며 지원되는 스마트폰의 프로세서를 활용해 로컬에서 동작한다.

출시된 안드로이드 버전은 실험적인 알파 버전으로 깃허브 페이지에서 APK 파일이 배포되고 있다.

홈 화면에는 애스크 이미지(Ask Image)나 AI 챗(AI Chat) 같은 AI 태스크나 기능으로의 바로가기가 표시된다. 기능을 탭하면 구글 Gemma 3n 등 해당 태스크에 적합한 모델 목록이 표시된다.

구글 AI 엣지 갤러리에는 프롬프트랩(Prompt Lab)도 준비되어 있어 사용자는 텍스트 요약이나 재작성 같은 모델을 활용한 싱글턴 태스크를 시작할 수 있다. 프롬프트랩에는 여러 태스크 템플릿과 모델의 동작을 미세 조정하기 위한 설정이 마련되어 있다.

당연히 구글은 성능에 관해서는 상황에 따라 결과가 달라질 수 있다고 경고하고 있다. 더 강한 하드웨어를 탑재한 최신 기기에서는 모델 실행 속도가 예상대로 빨라지지만 모델 크기도 중요하다. 모델이 클수록 태스크 완료에도 시간이 더 걸린다.

구글은 개발자에게 구글 AI 엣지 갤러리 경험에 관한 피드백 제공을 요청하고 있다. 한편 구글 AI 엣지 갤러리는 아파치 2.0 라이선스에 기반하고 있어 상업적·비상업적 용도를 불문하고 대부분 제한 없이 이용할 수 있다. 관련 내용은 이곳에서 확인할 수 있다.