[LLM] 나만의 Ollama 모델 만들기: 모델 이름 커스터마이징 및 설정 변경 방법

Ollama를 사용해 로컬에서 LLM을 실행하다 보면, 기본 모델 이름 대신 내가 원하는 이름으로 바꾸고 싶을 때가 있습니다. 예를 들어, ollama run exaone3.5 대신 ollama run my-exaone-assistant처럼 더 직관적인 이름으로 관리하고 싶다면, Ollama의 Modelfile을 활용하면 됩니다.

Modelfile은 모델의 설정 파일로, 이를 통해 모델의 이름뿐만 아니라 동작 방식까지 원하는 대로 커스터마이징할 수 있습니다.

---

1. Modelfile 생성하기

가장 먼저 할 일은 베이스 모델의 Modelfile을 생성하는 것입니다. 아래 명령어를 사용하면 exaone3.5 모델의 기본 설정이 담긴 Modelfile이 현재 폴더에 만들어집니다.

 

ollama show exaone3.5 --modelfile > Modelfile

이 파일을 텍스트 에디터로 열어보면 다음과 같은 내용이 보일 것입니다.

FROM exaone3.5
# ... 기타 설정들 ...

여기서 FROM은 이 Modelfile이 어떤 모델을 기반으로 하는지를 나타냅니다.

---

2. 새로운 이름으로 모델 생성하기

이제 생성된 Modelfile을 기반으로 새로운 이름을 가진 모델을 만듭니다. ollama create 명령어를 사용하며, <새로운_모델_이름> 부분에 원하는 이름을 넣어주면 됩니다.

예를 들어, 모델 이름을 **my-exaone-assistant**로 지정하고 싶다면 아래 명령어를 실행하세요.

 

ollama create my-exaone-assistant -f ./Modelfile

이 명령어를 실행하면 exaone3.5를 기반으로 하는 my-exaone-assistant 모델이 만들어집니다. 이제 ollama list 명령어로 모델 목록을 확인해 보면, 새로 만든 모델이 추가된 것을 볼 수 있습니다.

---

3. 커스텀 모델 실행하기

모델이 성공적으로 생성되었다면, 이제 새로 지정한 이름으로 실행할 수 있습니다.

 

ollama run my-exaone-assistant

이제 ollama run exaone3.5 대신 ollama run my-exaone-assistant를 사용해 자신만의 모델을 실행해 보세요.

---

4. Modelfile로 모델 설정 커스터마이징하기 (추가 팁)

Modelfile은 단순히 이름을 바꾸는 용도뿐만 아니라, 모델의 역할을 지정하거나 응답의 특성을 조절하는 등 다양한 설정을 변경할 수 있습니다.

예를 들어, Modelfile에 아래와 같은 내용을 추가하면 모델의 성격을 변경할 수 있습니다.

FROM exaone3.5

# 시스템 프롬프트 지정 (모델의 성격 설정)
SYSTEM """
너는 친절하고 유머러스한 한국어 AI 비서야.
모든 답변은 친구에게 말하듯이 편안하게 대답해줘.
"""

# 모델 파라미터 조절 (선택 사항)
PARAMETER temperature 0.8

위와 같이 SYSTEM과 PARAMETER를 추가한 후 다시 ollama create 명령어를 실행하면, 새로운 설정이 적용된 맞춤형 모델이 만들어집니다.

이처럼 Modelfile을 활용하면 기본 모델을 기반으로 나만의 AI 비서를 만들고, 원하는 대로 설정하며 사용할 수 있습니다.