AI 게이트웨이에서 채널 관리하기

**채널(Channel)**은 AI 게이트웨이에서 벤더 접점의 설정을 의미합니다. 여기에는 특정 벤더의 주소, 실제 API Key, 사용 가능한 모델, 가격 및 쿼터 등 정보가 저장됩니다. 게이트웨이는 채널 정보를 기반으로, 앱에서 들어온 요청을 적절한 벤더로 라우팅합니다. 본 문서에서는 채널 추가, 설정, 테스트, 관리 방법을 안내합니다.

사전 준비 사항

• ServBay가 설치 및 실행 중이고, ServBay 계정에 로그인되어 있어야 합니다(채널 추가 전 로그인 필수).
• 연결하려는 벤더의 실제 API Key를 준비하세요(로컬 벤더인 Ollama / LM Studio는 입력 불필요).
• AI 게이트웨이 구조를 잘 모른다면 AI 게이트웨이 소개 문서를 먼저 읽어보시길 권장합니다.

채널 추가하기

AI 게이트웨이 → 채널(Channels) 페이지로 이동한 후, 추가(Add) 버튼을 눌러 마법사를 시작합니다. 마법사는 3단계로 이루어져 있습니다.

1단계: 벤더 선택

아래 카테고리 그룹에서 카드 클릭으로 벤더를 선택합니다:

• 주요(Mainstream): OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, OpenRouter.
• 중국(China): DeepSeek, Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Wenxin Yiyan, Hunyuan, MiniMax, Zero One Everything, StepStar.
• 로컬(Local): Ollama, LM Studio.
• 커스텀(Custom): OpenAI Compatible, Custom.

벤더를 선택하면 게이트웨이가 해당 벤더의 기본 Base URL을 자동 입력합니다.

듀얼 리전 전환

Tongyi Qianwen, Zhipu GLM, Kimi, Doubao·Volcano, Hunyuan, MiniMax, StepStar 등 중국 벤더는 중국과 글로벌 두 가지 엔드포인트를 제공합니다. 이 벤더를 고르면 마법사에 「리전」 선택기(🇨🇳 국내 / 🌐 글로벌)가 나타나고, 전환 시 Base URL이 해당 리전으로 자동 변경됩니다.

2단계: 설정 입력

• 채널명(필수) — 리스트에서 채널을 식별하는 용도로, 자유롭게 입력하세요.
• Base URL(필수) — 벤더 API 주소. 대부분 벤더는 자동 입력되지만 Azure OpenAI나 Custom의 경우 직접 입력해야 합니다.
• API Key(선택) — 실제 벤더의 API 키. 비워두면 엔드포인트 연결만 테스트할 수 있고, 키 유효성 확인은 할 수 없습니다. 로컬 벤더(Ollama / LM Studio)는 대개 비워둬도 됩니다.
• 모델 — 두 가지 방식 중 택 1:
  • 자동 탐지: ‘탐색’을 클릭하면 게이트웨이가 벤더의 모델 리스트 API를 호출해 사용 가능한 모델을 불러옵니다. 원하는 모델을 태그(chip) 형태로 복수 선택 가능합니다.
  • 수동 입력: 직접 모델명을 입력합니다. Azure 채널은 모델명이 아닌 **배포명(Deployment name)**을 입력해야 합니다.
• 우선순위/가중치 — 여러 채널이 동일 모델을 제공할 경우, 게이트웨이가 라우팅·로드분배에 이 값을 참고합니다.

Azure OpenAI 주의

Azure 채널의 「모델」 필드는 Azure 포털에서 생성한 **배포명(Deployment name)**을 입력해야 하며, 기본 모델명이 아닙니다. Base URL도 자신의 Azure 리소스 엔드포인트를 입력해주세요.

3단계: 검토 및 제출

설정 요약을 확인 후 제출하세요. 등록에 성공하면 새 채널이 리스트에 추가되며, 실시간 헬스 체크 상태도 표시됩니다.

연결 테스트

채널 리스트에서 각 채널의 연결 테스트를 수동 실행할 수 있습니다. 테스트는 두 가지 검증을 수행합니다:

• 엔드포인트 연결성(reachable) — Base URL이 네트워크상에서 접근 가능한지 확인(주소 및 네트워크 설정 점검).
• API Key 유효성(authenticated) — 실제 벤더 API 호출을 통해 API Key가 유효한지 검증. API Key가 입력됐을 때만 확인합니다.

테스트 결과로 왕복 지연시간(밀리초), 상태 뱃지, 오류 정보를 표시합니다.

TIP

마법사 단계에서 엔드포인트가 연결 불가이면 다음 단계로 진행이 차단됩니다. 엔드포인트 연결은 되지만 API Key가 잘못되면 경고만 표시되고, (예를 들어 나중에 키를 입력할 계획이라면) 다음 단계로 진행할 수 있습니다.

고급 설정

채널 등록·수정 시, 아래 고급 설정을 확장해 세부 비용·쿼터를 관리할 수 있습니다:

• 가격 배수(Rate Multiplier) — 공식 벤더 가격에 곱할 배수를 입력해, 실제 비용이나 마진을 맞춤 산정할 수 있습니다. 기본값은 1.0입니다.
• 과금 구조 — 페이 방식(pay as you go), 구독(subscription), 패키지(package) 등 해당 채널의 요금 정책을 설명합니다.
• 잔액 — 잔액 확인 방식(고정값, OSS 청구서, 수동 입력 등) 선택 가능. OSS 청구서 선택 시 청구서 타입 선택도 가능합니다. 잔액과 업데이트 시간은 채널 상세에서 읽기 전용으로 볼 수 있습니다.
• 구독 만료일 — 구독/패키지형 채널에 만료일 입력이 가능합니다.
• 쿼터 제한(VIP) — Token 수, 요청 수, 금액 단위로 상한선을 정할 수 있고, 일/주/월/커스텀 등 기간 선택, “초과 허용” 옵션도 지원됩니다. 쿼터 제한은 유료 기능입니다.

채널 수정 및 삭제

• 수정 — 채널 리스트에서 해당 채널을 열고 이름, Base URL, API Key, 모델, 고급 설정을 자유롭게 변경할 수 있습니다.
• 삭제 — 채널 삭제 시, 연동된 가상 키도 더 이상 이 채널로 라우팅되지 않으므로 주의가 필요합니다.

상태 모니터링

채널 리스트 및 대시보드에서 각 채널의 현재 상태(정상 / 디그레이드 / 사용 불가)를 실시간으로 볼 수 있어, 문제 발생 시 신속하게 이슈를 파악할 수 있습니다.

자주 묻는 질문(FAQ)

• Q: 채널 추가 시 로그인이 필요하다고 나옵니다.
  • A: AI 게이트웨이는 ServBay의 프리미엄 기능으로, 채널/키 추가 전에 ServBay 계정 로그인이 필요합니다. 화면 안내에 따라 로그인하세요.
• Q: 채널 수가 최대치에 도달했다는 경고가 나옵니다.
  • A: 생성 가능한 채널 수는 계정 요금제에 따라 다릅니다. 제한을 초과하면 미사용 채널을 삭제하거나 요금제를 업그레이드하세요.
• Q: 모델 자동탐색이 목록을 불러오지 못합니다.
  • A: 먼저 Base URL과 API Key가 올바른지 확인하세요(연결성 테스트의 ‘API Key 유효성’ 사용). 일부 벤더는 유효한 키가 있어야 모델 목록 조회가 가능합니다. 직접 모델명 수동 입력도 가능합니다.
• Q: 로컬 Ollama/LM Studio 연동 시 Key 입력이 필요한가요?
  • A: 보통 필요하지 않습니다. 해당 로컬 서비스가 실행 중이고 기본 포트(Ollama: 11434, LM Studio: 1234)를 사용 중이면 됩니다.

요약

채널은 AI 게이트웨이의 라우팅 기반입니다. 3단계 마법사를 통해 약 20여 개의 벤더를 빠르게 연결할 수 있으며, 듀얼 리전 전환, 모델 자동 발견 및 2차원 연결 테스트로 설정 신뢰성을 높일 수 있습니다. 가격 및 쿼터 등 고급 설정을 활용하면 비용도 정밀하게 관리할 수 있습니다. 채널 설정 후, 가상 키를 생성하여 다양한 앱·툴에서 사용할 수 있습니다.