구글의 새로운 온디바이스 멀티 모달 AI가 공개 됐습니다
온디바이스 모델답게 굉장히 가볍고 빠른데 성능이 나쁘지 않네요
m4 맥미니 16기가 LM 스튜디오에서 이정도 토큰 속도가 나옵니다
웹 검색은 안되고 텍스트 이미지 오디오 비디오를 입력 받아서 처리 가능하다고 하네요
텍스트 출력 모델이라 이미지 생성 같은 작업은 안되고 관련 프롬프트를 생성 가능하지만 가이드라인에 따른 제약이 있다고 합니다
Google AI Edge Gallery 앱을 통해 안드로이드 온디바이스에서 실행도 가능하다고 합니다