구글 경량모델 '젬마4' 써보니
인터넷 없이도 AI 기능 활용
속도 느려도 주요 작업 가능

스마트폰에서 구글의 경량형 인공지능(AI) '젬마4'를 활용하는 모습. 이승환 기자
구글이 이달 초 공개한 인공지능(AI) 모델 '젬마4(Gemma4)'가 화제다. 제미나이 같은 대형 모델보다 크기는 훨씬 작지만 대형 모델에 뒤지지 않는 성능을 갖췄기 때문이다.
물론 유료로 사용하는 챗GPT나 클로드에 비해 뛰어나지는 않다. 하지만 젬마4의 장점은 개인 노트북이나 스마트폰에 다운로드한 뒤 인터넷 연결 없이도 사용할 수 있다는 것이다. 와이파이가 없는 환경이나 비행기를 타고 있는 동안에도 문제없다.
기자가 아이폰15 프로에서 젬마4 모델을 사용해봤다. '구글 AI 엣지 갤러리'라는 애플리케이션(앱)에서 원하는 구글 경량 모델을 다운로드할 수 있는데,젬마4는 젬마4-E2B와 젬마4-E4B 2종을 선택할 수 있었다. E2B 모델이 더 가볍고 빠르다면 E4B 모델은 더 많은 메모리를 사용하지만 문제 해결력이 더 낫다고 볼 수 있다.
젬마4의 성능을 테스트해보기 위해 E4B 모델을 설치한 후 네트워크 환경은 비행기 모드로 설정했다. 그리고 채팅을 통해 "구글의 제미나이 모델과 젬마 모델은 어떻게 다른지 설명해줘"라는 간단한 요청을 입력했다.
이후 5초도 지나지 않아 첫 단어가 생성되기 시작했다. 이어 모델은 '제미나이와 젬마는 목적,접근성 그리고 설계 철학에서 중요한 차이점이 있다'며 항목별로 구분해 설명하기 시작했다. 아쉬운 측면은 전체 답변이 완료되기까지의 속도다. 스마트폰의 제한된 그래픽처리장치(GPU) 자원을 사용하다 보니 답변은 10개 내외 단어 단위로 순차 출력됐고 응답이 끝나는 데는 2분가량이 소요됐다.
추론 능력을 시험하는 과정에서는 아쉬운 모습도 포착됐다. 가령 "세차장이 집에서 40m 거리다. 세차를 하고 싶은데 차를 타고 갈까? 아니면 걸어갈까?"라고 묻자 "걸어가는 것을 추천한다"고 답했다. 다른 최신 모델들이 "세차 목적이라면 당연히 차를 타고 가야 한다"고 응답하는 것과 비교되는 부분이다.
데이터 연결이 어려울 때도 AI를 활용하고 싶거나 노트북에 내려받아 에이전트 작업을 비용 효율적으로 수행해 보려는 이들에게는 매력적인 선택지가 될 것으로 보인다.
[정호준 기자]