Ollama 모델 삭제 로컬 LLM 모델 파일 용량 관리 및 제거

Ollama 모델 삭제 로컬 LLM 모델 파일 용량 관리 및 제거, 어떻게 시작할까요?

로컬에 LLM 모델을 여러 개 내려받다 보면 저장 공간 부족 때문에 곤란할 때가 많습니다. Ollama 모델 삭제를 통해 남는 용량을 쉽게 확보할 수 있는데요. 먼저 설치된 모델 목록을 확인하는 방법부터 차근차근 알려 드리겠습니다.

내 PC에 저장된 Ollama 모델은 어떻게 확인할까요?

가장 먼저 모델 상태를 확인해야겠죠? 명령 프롬프트나 터미널에서 ollama list를 입력하면 설치된 모델 목록이 쭉 뜹니다. 모델 이름, 크기, 마지막 수정 날짜까지 확인 가능해서 무엇을 정리할지 파악하기 쉽습니다. 실행 중인 모델은 ollama ps로도 볼 수 있어요. 필요 없는 모델을 골라 삭제 준비를 시작해 보세요.

Ollama 모델 삭제, 기본 명령어로 간단하게 할 수 있나요?

삭제 역시 아주 간단합니다. 모델 이름을 확인한 뒤 ollama rm 모델명 명령어를 입력하기만 하면 끝납니다. 예를 들어 ollama rm llama3는 llama3 모델을 삭제해 줍니다. 큰 용량의 모델을 삭제하면 금세 용량이 넉넉해져서 기분이 아주 좋죠. 여러 모델을 삭제하려면 하나씩 반복하세요.

모델 파일은 어디에 저장이 되어 있나요? 위치 변경도 가능할까요?

Ollama는 기본적으로 Windows는 C:Users사용자명.ollamamodels, Mac은 ~/.ollama 폴더에 모델을 저장합니다. 보통 이 폴더에 blobs와 manifests 폴더가 있는데, 크기가 큰 파일들이 모여 있으니 확인할 필요가 있어요. 저장 용량 절약을 위해 OLLAMA_MODELS 환경변수를 설정해서 다른 드라이브로 옮기는 것도 효과적입니다. C드라이브 용량이 부족할 때 아주 유용하니 꼭 활용해 보세요.

다운로드 중에 남은 찌꺼기 파일은 어떻게 정리할 수 있나요?

중단된 다운로드 파일이 blobs 폴더에 그대로 남아있으면 용량 부담이 큽니다. .ollama/models 폴더 내 blobs 안 파일과 manifests 폴더에 있는 sha256 해시값을 직접 비교하며 확인하세요. 남는 해시값과 매칭되지 않는 파일들은 과감히 삭제해 주시면 됩니다. Docker 환경을 쓰시는 분도 동일한 방법으로 수동 정리가 가능해요. 저도 이 방법으로 20GB 이상 확보한 적 있습니다.

API는 Ollama 모델 삭제에 어떻게 활용할 수 있나요?

프로그래밍 환경이라면 curl로 API를 이용해 모델 삭제가 가능합니다. 예를 들어 curl -X DELETE http://localhost:11434/api/delete -d '{"model": "gemma3"}'를 사용하면 편리하죠. 이외에도 OLLAMA_KEEP_ALIVE, OLLAMA_MAX_LOADED_MODELS 같은 환경변수로 메모리 관리와 로드 모델 제한을 조정할 수 있어서 시스템을 더 효율적으로 운영할 수 있어요. GPU 사용자는 nvidia-smi로 감시하면서 최적화하는 것도 추천합니다.

효과적인 저장 공간 확보, 이렇게만 하면 문제 없나요?

모델 크기와 시스템 상황에 맞는 선택이 중요합니다. 예를 들어 7B 모델은 8GB RAM 정도면 가능하지만, 70B급은 42GB 이상 필요하니 신중해야 해요. 다운로드 전에 ollama pull로 테스트하고 필요 없는 모델은 삭제하세요. 매주 정리 루틴을 정해놓으면 용량 걱정이 확 줄어듭니다.

이 과정을 통해 Ollama 모델 삭제와 용량 관리를 쉽게 하실 수 있습니다. 깔끔하게 공간을 확보하니 요즘 작업할 때 스트레스도 적어지고, 새로운 모델도 마음껏 다운받게 되었어요. 여러분도 한번 차근차근 따라 해보세요. 분명 도움이 될 겁니다.

자주 묻는 질문