초급개발 + 플랫폼 엔지니어
하나의 프로토콜로 말하고, 어떤 모델이든 실행하세요.
앱은 하나의 SDK와 하나의 전송 형식을 유지합니다. 게이트웨이가 네 가지 채팅 프로토콜 계열 사이를 변환하고 스트리밍, 도구 호출, 오류를 정규화하므로, 벤더 추가나 모델 교체가 비즈니스 코드를 건드리지 않습니다.
커뮤니티가 실제로 불평하는 것
"두 번째 벤더를 추가했더니 이제 SDK 경로 두 개, 스트리밍 파서 두 개, 도구 호출 형식 두 개를 유지해야 합니다." "Claude Code는 Anthropic만 말해서 다른 모델에 올릴 수 없었습니다." "OpenAI 호환이라고 하는 프록시는 어딘가에서 반드시 깨집니다."
모델의 진짜 비용은 API 호출에 그 주변에 작성한 코드를 더한 것입니다. 후자는 청구서에 나타나지 않고 스프린트에 나타나며, 벤더를 추가할 때마다 배로 늘어납니다.
GateLLM이 하는 방식
양쪽에 네 가지 프로토콜 계열 — OpenAI, Anthropic, Gemini, DashScope — 이 any-to-any로 변환합니다. Anthropic 전용 클라이언트(Claude Code, claude-code-action)는 클라이언트 변경 없이 Qwen 또는 DeepSeek 네이티브 모델에 도달합니다. 네 계열 외에 15가지 업스트림 프로토콜 형태를 상호운용 매트릭스로 다룹니다.
능력 정규화 계층이 프로토콜 교체의 실제 비용을 처리합니다: 스트리밍 청크 형태, 도구 호출과 결과 매핑, 이미지와 멀티모달 파트, 오류 의미론. 키, 정책, 비용 배분은 어떤 프로토콜 조합을 건너든 동일하게 적용됩니다.
실제로 효과가 있는 5가지 지렛대
- 클라이언트에는 SDK 하나, 스트리밍 파서 하나, 도구 호출 형식 하나 — 새 벤더는 콘솔 변경뿐
- Anthropic 전용 에이전트가 지원되는 모든 모델을 실행; 포크도 어댑터도 필요 없음
- 모델 교체는 게이트웨이 안에서 끝나므로 애플리케이션 코드와 테스트는 그대로
- 네이티브 이그레스: 각 공급자가 재번역된 OpenAI 봉투가 아니라 자체 프로토콜을 받음
- 어떤 프로토콜 조합에서도 동일한 키·예산·정책 표면