OpenMake모델을 어디서 돌릴지 정하기
어느 쪽이든 같은 OpenMake를 띄우지만, 호스팅 데모는 운영을 맡겨 두고 셀프호스팅은 애플리케이션과 모델 엔드포인트, 배포 경계를 직접 운영합니다.
- 호스팅 엔드포인트 — 빠르게 확인할 수 있고 GPU를 돌볼 필요도 없지만, 보낸 요청은 모델 공급자가 보게 됩니다
- 셀프호스팅 엔드포인트 — vLLM과 LiteLLM을 직접 돌리는 대신 네트워크도 자격 증명도 모델 목록도 전부 우리가 쥡니다
런타임 준비
Node 24와 PostgreSQL이 필요합니다. Docker는 참조 데이터베이스 구성과 옵션인 샌드박스 서비스에 씁니다. API는 52416 포트, 웹은 3000 포트를 씁니다. 비밀 값은 저장소에 넣지 말고, 외부에 열기 전에 운영 URL부터 잡아 두세요.
git clone https://github.com/openmake/openmake_llm.git
cd openmake_llm
node --version # 24.x 필요
docker --version
npm install게이트웨이 설정
엔드포인트 주소와 기본 채팅 모델을 잡아 줍니다. 환경 변수 이름과 모델 ID, 명령줄은 번역 대상이 아니라 그대로 쓰는 값입니다.
.env.example을 전체 설정의 기준으로 삼으세요. 예제 비밀 값은 그대로 옮기지 말고 새로 만들고, 첫 실행에는 API_KEY_PEPPER와 ADMIN_PASSWORD도 필요하며 외부 자격 증명에는 TOKEN_ENCRYPTION_KEY가 필요합니다.
LLM_BASE_URL=http://localhost:4000
LLM_DEFAULT_MODEL=qwen3.6-35b-a3b
LLM_POOL_DEFAULT_CTX=262144
DATABASE_URL=postgresql://openmake:your_password@localhost:5432/openmake_llm
JWT_SECRET=$(openssl rand -hex 32)
API_KEY_PEPPER=$(openssl rand -hex 32)
ADMIN_PASSWORD=강한_관리자_비밀번호로_교체
TOKEN_ENCRYPTION_KEY=$(openssl rand -hex 32)
DB_AUTO_MIGRATE=true띄우고 확인하기
서버는 뜰 때 밀린 마이그레이션을 먼저 적용하므로 첫 부팅은 조금 더 걸립니다. 확인은 프로세스가 살아 있는지가 아니라, 실제 사용자가 지나갈 길을 그대로 따라가 보는 쪽이 낫습니다.
- API와 웹 프로세스가 둘 다 살아 있는지 보기
- 로그인해서 설정한 모델이 입력창에 뜨는지 보기
- 메시지를 하나 보내 원하던 모델에서 답이 오는지 보기
- 사용량 화면에 그 요청이 찍혔는지 보기
미리 정해 둘 것들
화면이 아니라 운영 방식 자체를 바꾸는 스위치가 몇 개 있습니다. 사용자를 부르기 전에 정해 두는 편이 좋습니다.
스킬 자동 선택은 기본이 꺼짐입니다. SKILL_AUTO_SELECT_ENABLED=true로 둬야 채팅과 에이전트 작업이 스킬을 알아서 고릅니다. 외부 공급자 키는 선택 사항으로 남겨 두고 로컬 기본 경로와 섞지 마세요.
- DB_AUTO_MIGRATE=false — 마이그레이션을 손으로 돌려야 할 때 자동 적용을 끕니다
- SKILL_AUTO_SELECT_ENABLED=true — 채팅과 에이전트 작업의 스킬 자동 선택을 켭니다
- 외부 공급자 키는 사용자별로 등록하거나, 하루 토큰 한도를 건 운영자 키를 팀이 함께 씁니다
