Windows 11에서 Ollama를 설치하고 Qwen3-VL 4B 모델을 돌려본 과정을 정리해 둔다. 텍스트뿐 아니라 이미지도 같이 넣을 수 있는 모델이다. 아래 캡처는 설치할 때 실제로 나온 화면들이다.
먼저 알아둘 것
- OS는 Windows 10 22H2 이상이면 된다.
- NVIDIA 그래픽카드를 쓴다면 드라이버가 551.61 이상이어야 한다. GPU가 없어도 CPU로 돌아가긴 하는데 느릴 수 있다.
- Ollama 설치에 4GB 정도, qwen3-vl:4b 모델 파일이 3.3GB라서 여유 공간을 넉넉히 잡아두는 게 좋다.
- Qwen3-VL은 Ollama 0.12.7 이상에서 동작한다. 최신 버전을 받으면 문제 없다.
설치 순서 (아래 캡처 순서와 같다)
- https://ollama.com 에서 Windows용 OllamaSetup.exe를 받아 실행하고 Install을 누른다. 관리자 권한은 필요 없고 사용자 계정 폴더에 설치된다.
- 파일 압축을 푸는 진행 화면이 나오는데 끝날 때까지 기다린다.
- 중간에 Microsoft Visual C++ 2015-2022 Redistributable(x64) 설치 창이 뜨면 그대로 진행한다.
- 설치가 끝나면 Ollama 앱이 뜬다. 채팅창 오른쪽 아래 모델 선택에서 qwen3-vl:4b를 고르고 아무 메시지나 보내면, 처음 한 번 모델을 내려받은 뒤 대화할 수 있다.
https://ollama.com/
터미널에서 실행하기
PowerShell이나 cmd에서 아래 명령으로도 같은 모델을 쓸 수 있다.
ollama run qwen3-vl:4b
이미지를 넣을 때는 질문 뒤에 이미지 파일 경로를 같이 적어주면 된다.
모델 크기
Ollama 라이브러리 기준으로 2b는 1.9GB, 4b는 3.3GB, 8b는 6.2GB, 30b는 20GB 정도이고 컨텍스트는 전부 256K다. 메모리가 넉넉하지 않으면 2b나 4b가 무난하다.
참고
- Ollama 서버는 http://localhost:11434 에서 동작해서 API로도 호출할 수 있다.
- 모델 파일은 기본적으로 %HOMEPATH%\.ollama 에 저장된다. 위치를 바꾸려면 사용자 환경변수 OLLAMA_MODELS를 지정하면 된다.
- 로그는 %LOCALAPPDATA%\Ollama 폴더의 app.log, server.log에서 볼 수 있다.
용량과 최소 버전은 2026년 10월 기준 Ollama 공식 페이지 내용이라 이후에 바뀔 수 있다.
