ServBay AI 게이트웨이(AI Gateway) 소개
ServBay AI 게이트웨이(AI Gateway)는 ServBay에 내장된 로컬 통합 AI 공급자 게이트웨이입니다. 이 도구는 사용자의 컴퓨터에서 프록시 엔드포인트를 실행하여, 여러 대형 모델 공급자(OpenAI, Anthropic, DeepSeek, Ali Qianwen 등 거의 20개의 주요 공급자)에 요청을 하나의 입구로 통합합니다. 덕분에 API 키를 통합 관리하고, 사용량 및 비용을 모니터링하며 Claude Code, Codex, Gemini CLI 등 다양한 AI 프로그래밍 도구의 엔드포인트도 한 번의 설정으로 로컬 게이트웨이로 연결할 수 있습니다.
본 문서에서는 AI 게이트웨이가 무엇이고, 어떤 문제를 해결해주며, 전체적인 아키텍처가 어떻게 되는지 소개합니다. 실제 사용 방법은 다음 문서를 참고하세요:
- 채널 관리 — 다양한 공급자 채널 추가 및 설정
- 가상 키 — 키 생성, 권한 제한, 순환 및 폐기
- AI 프로그래밍 도구 통합 — Claude Code 등 CLI를 게이트웨이에 연결
- 사용량 및 모니터링 — 사용량, 비용, 예산 관리
- 엔드포인트 및 환경 변수 — 자체 코드에서 게이트웨이 호출하기
개요
AI 개발을 하다 보면 여러 공급자의 API Key를 동시에 소유하게 되며, 각 프로젝트와 도구의 설정 파일에 분산 관리됩니다. 이로 인해 비용 파악이나 전환 작업이 번거롭고 불편합니다. ServBay AI 게이트웨이는 이런 문제를 한 번에 해결합니다.
- 하나의 입구로 여러 공급자 연결 — 각 채널을 미리 설정하면 모든 요청을 로컬
http://127.0.0.1:11580으로 전달할 수 있고, 앱은 한 주소만 관리하면 됩니다. - 가상 키로 실제 키 보호 — 게이트웨이가 “가상 키”를 발급해 앱이나 도구에서 사용하며, 실제 공급자 API Key는 게이트웨이 내에만 저장되어 외부에 노출되지 않습니다. 가상 키는 언제든 권한 제한이나 순환, 폐기가 가능합니다.
- 통합 사용량·비용 대시보드 — 게이트웨이를 거치는 모든 요청은 기록되어, 요청 수·토큰 사용량·비용·지연 시간·멀티모달 사용량 통계와 예산 관리 기능을 제공합니다.
- AI 개발 도구 간편 통합 — Claude Code, Codex, Gemini CLI, Qwen Code, Kimi CLI, CodeBuddy, opencode, Crush 등 다양한 툴의 설정 파일을 수동으로 고치지 않고 한 번의 클릭으로 로컬 게이트웨이에 연결할 수 있습니다.
아키텍처 및 포트
AI 게이트웨이는 두 개의 로컬 서비스로 구성되며, 모두 루프백 주소(127.0.0.1)에서만 동작합니다.
| 포트 | 용도 | 설명 |
|---|---|---|
11580 | 프록시 포트 | 앱과 도구가 요청을 보내는 통합 입구. 실제 공급자 채널로 각각의 가상 키 권한에 따라 라우팅합니다. |
11581 | 관리 포트 | ServBay 내부에서 채널, 키, 통계 데이터를 관리하는 용도로 사용하며, 일반 사용자는 직접 접근할 필요 없음. |
프록시 포트에서는 OpenAI 호환, Anthropic 호환, Gemini 호환 등 다양한 엔드포인트를 지원합니다. 자세한 내용은 엔드포인트 및 환경 변수를 참고하세요.
지원 공급자 채널
AI 게이트웨이에는 총 20여 개의 공급자 프리셋이 내장되어 있으며, 다음과 같이 분류 및 선택할 수 있습니다.
- 주요(글로벌): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter
- 중국: DeepSeek, Ali Qianwen, Zhiyu GLM, Kimi(문리암면), Doubao Volcengine, Wenxin Yiyan, Hunyuan, MiniMax, ZeroOne, StepStar 등. 이 중 Ali Qianwen, Zhiyu GLM, Kimi, Doubao Volcengine, Hunyuan, MiniMax, StepStar 등은 중국/글로벌 이중 리전 전환을 지원합니다.
- 로컬: Ollama(기본값
127.0.0.1:11434), LM Studio(기본값127.0.0.1:1234) - 커스텀: OpenAI 호환(임의의 OpenAI 호환 서비스), Custom(완전 커스텀)
채널 추가 및 설정에 대한 전체 과정은 채널 관리를 참조하세요.
사전 조건
- macOS 또는 Windows에 ServBay 설치 후 실행.
- AI 게이트웨이는 ServBay의 부가 기능이며, 채널/키를 추가하기 전에 반드시 ServBay 계정에 로그인해야 합니다. 로그인이 되어 있지 않으면, 로그인 안내가 나타납니다.
TIP
AI 게이트웨이는 macOS와 Windows 모두 같은 기능을 제공하며, 프록시 포트(11580), 관리 포트(11581), 통합된 도구의 설정 파일 경로 역시 동일합니다. 플랫폼별 차이점은 별도로 문서에 명시합니다.
계정 및 요금제
AI 게이트웨이의 일부 기능은 ServBay 계정 요금제와 연동되어 있습니다.
- 채널/키 최대 수 제한 — 무료, 유료 요금제 별로 생성 가능한 채널 및 가상 키 수가 다릅니다. 제한에 도달하면 UI에서 업그레이드를 안내합니다.
- 쿼터 및 예산 관리 — 토큰/요청 수/금액별 제한과 예산 기능은 VIP/유료 기능이며, 구독하지 않으면 해당 기능이 잠겨 있고 업그레이드 안내가 표시됩니다.
요금제 상세 내용은 ServBay Pro 및 ServBay Team 문서를 참고하세요.
데이터 저장
- 채널 설정, 가상 키, 사용량 통계 등 모든 데이터는 로컬의 게이트웨이 백엔드에서 관리됩니다.
- 가상 키의 원문은 생성(혹은 순환) 시 단 1회만 표시되며, 이후에는 접두부 정보만 남아 식별 용도로 사용합니다. 반드시 생성 시에만 바로 복사해 두세요.
- 도구 통합 시 게이트웨이는 기존 설정 파일을 우선
.bak백업 후, 로컬 게이트웨이로 연결되도록 새 설정을 작성합니다. 필요 시 언제든 복원 가능합니다.
대표 사용 흐름
- ServBay 계정 로그인 후 AI 게이트웨이로 이동합니다.
- 채널 페이지에서 최소 한 개의 공급자 채널(예: OpenAI 혹은 DeepSeek)을 추가한 뒤, 실제 API Key를 입력하고 정상 연결 여부를 테스트합니다.
- 가상 키 페이지에서 가상 키를 생성하고, 필요한 모델/채널, 요청 속도 등을 제한할 수 있습니다.
- 엔드포인트 페이지에 가상 키를 앱에 입력하거나, 같은 페이지의 도구 통합 메뉴로 자주 사용하는 AI 프로그래밍 도구들을 한 번에 연결합니다.
- 사용량 및 모니터링 페이지에서 사용량, 비용, 지연 시간을 모니터링하고 필요시 예산을 설정합니다.
요약
ServBay AI 게이트웨이는 “다수 공급자, 다중 키, 여러 도구”로 분산된 AI 개발 환경을 “하나의 로컬 입구, 한 세트의 가상 키, 한 곳에서 관리하는 사용량 대시보드”로 통합해줍니다. 로컬에서 안전하게 AI 역량을 집중 관리하고 비용을 정밀하게 통제할 수 있는 최적의 솔루션이며, 다양한 AI 프로그래밍 도구와의 연동, 전환을 최소 비용으로 가능하게 하는 ServBay의 핵심 AI-native 개발 기능입니다.
