전체 글 검색 결과
339 개의 검색 결과가 있습니다.
인공지능 ∕ AI

[LLM] 나만의 Ollama 모델 만들기: 모델 이름 커스터마이징 및 설정 변경 방법

Ollama를 사용해 로컬에서 LLM을 실행하다 보면, 기본 모델 이름 대신 내가 원하는 이름으로 바꾸고 싶을 때가 있습니다. 예를 들어, ollama run exaone3.5 대신 ollama run my-exaone-assistant처럼 더 직관적인 이름으로 관리하고 싶다면, Ollama의 Modelfile을 활용하면 됩니다.Modelfile은 모델의 설정 파일로, 이를 통해 모델의 이름뿐만 아니라 동작 방식까지 원하는 대로 커스터마이징할 수 있습니다.1. Modelfile 생성하기가장 먼저 할 일은 베이스 모델의 Modelfile을 생성하는 것입니다. 아래 명령어를 사용하면 exaone3.5 모델의 기본 설정이 담긴 Modelfile이 현재 폴더에 만들어집니다. ollama show exaone3...

2025. 9. 17. 15:00
클라우드 & DevOps/DevOps ∕ Docker

[Docker] gitlab-runner 기동 시, 권한 문제 해결하기

아래와 같이chmod 666 /var/run/docker.sockdocker exec -it adp_gitlab_runner bashchown -R gitlab-runner:gitlab-runner /home/gitlab-runner/

2025. 9. 11. 17:39
클라우드 & DevOps/DevOps ∕ Docker

[Docker] 오프라인 환경에서 gitlab runner 기동 시, docker offline 설정하기

docker compose 로 gitlab runner를 기동하고, cicd를 구축할 경우 오프라인 환경이라면, gitlab-runner-helper라는 docker image를 pull할 수 없고, alpine:latest 라는 image를 pull할 수 없다는 오류가 발생한다.이럴 때 아래와 같은 작업이 필요하다. 먼저, 수동으로 이미지를 tar 파일로 다운로드하여, docker load 해준다.## docker image 가져오는 방법(Mac -> VM)docker pull --platform linux/amd64 gitlab/gitlab-runner-helper:latestdocker save -o gitlab-runner-helper-amd64.tar gitlab/gitlab-runner-hel..

2025. 9. 10. 16:56
클라우드 & DevOps/DevOps ∕ Docker

[Docker] gitlab docker 구동 시, domain 대신 ip와 port 사용하기

# docker-compose.ymlservices: gitlab: image: gitlab/gitlab-ce:latest container_name: adp_gitlab restart: unless-stopped # hostname: gitlab.example.com hostname: '' environment: GITLAB_OMNIBUS_CONFIG: | # external_url 'http://gitlab.example.com' external_url 'http://:8080' gitlab_rails['gitlab_shell_ssh_port'] = 2222 ports: # - "8080:80" -..

2025. 9. 10. 16:45
클라우드 & DevOps/DevOps ∕ Docker

[Docker] 컨테이너에서 호스트 PC 서비스 접근하기: host.docker.internal

Docker 컨테이너에서 호스트 PC 서비스 접근하기: host.docker.internal의 필요성문제 상황Docker 컨테이너 내부에서 실행 중인 애플리케이션이 호스트 PC에서 실행 중인 다른 서비스에 접근해야 하는 경우가 있습니다.구체적인 예시:Docker 컨테이너에서 실행 중인 management_app 호스트 PC에서 실행 중인 Ollama 서비스 (http://localhost:11434)컨테이너 내부에서 Ollama API를 호출해야 하는 상황왜 localhost가 작동하지 않는가?# ❌ 이렇게 하면 작동하지 않음http://localhost:11434/v1/chat/completions 이유:네트워크 격리: Docker 컨테이너는 자체 네트워크 네임스페이스를 가짐localhost의 의미: ..

2025. 9. 1. 15:52
인공지능 ∕ AI

[LLM] Ollama란? Mac에서 Exaone 4.0 로컬로 구동하기

Ollama, 도대체 무엇인가요?간단히 말해, Ollama는 오픈소스 거대 언어 모델(LLM)을 내 컴퓨터에서 아주 쉽게 다운로드하고 실행할 수 있게 해주는 도구입니다. 개발자들 사이에서는 흔히 **'LLM을 위한 Docker'**라고 불리죠.Docker가 애플리케이션을 컨테이너에 담아 어디서든 동일하게 실행시켜 주듯, Ollama는 복잡한 AI 모델을 간편한 패키지로 만들어 클릭 몇 번, 명령어 한 줄로 실행할 수 있게 해줍니다.Ollama의 핵심 장점극강의 간편함: 복잡한 Python 환경 설정, CUDA 드라이버 설치, 모델 가중치 다운로드 등의 과정을 모두 알아서 처리해 줍니다.완벽한 로컬 구동: 모든 데이터가 내 컴퓨터 안에서만 처리되므로, 인터넷 연결 없이도 사용할 수 있고 개인정보 보호에 매..

2025. 9. 1. 14:55