# LiteLLM vs Kong AI Gateway - GateLLM

> 배포, 과금 기준, 프로토콜 진입점, 거버넌스, 벤더 독립성 기준으로 LiteLLM과 Kong AI Gateway를 비교합니다 — 어느 쪽도 정답이 아닐 때까지.

표준 링크: https://www.gatellm.io/ko/compare/litellm-vs-kong/

## LiteLLM vs Kong AI Gateway
둘 다 자체 호스팅이 가능하고 둘 다 오픈 코어입니다. 실제로 판가름하는 기준: 당신의 게이트웨이가 LLM 게이트웨이인가, 아니면 모델과도 통신하는 범용 API 게이트웨이인가?
LiteLLM과 Kong AI Gateway가 비교되는 이유는 대부분의 팀이 후보로 올리는 두 가지 자체 호스팅 옵션이기 때문입니다. 하지만 같은 종류의 소프트웨어가 아닙니다. LiteLLM은 LLM 프록시로, 표면 전체가 모델, 제공자, OpenAI 호환 라우팅입니다. Kong은 AI 플러그인을 더한 범용 API 게이트웨이(임의 HTTP 트래픽용 플러그인, 업스트림, 속도 제한)입니다. 이 차이가 아래 모든 행 — 프로토콜 진입점, 거버넌스 세분화, 직접 구축해야 하는 양 — 을 좌우합니다.
## LiteLLM, Kong, 또는 어느 쪽도 아닐 때
거버넌스 대상 트래픽이 모델 트래픽뿐이라면 LiteLLM을 선택하세요: 플러그인 DSL을 배우지 않고도 모델별 라우팅, 제공자 폴백, 비용 귀속이 가능하고 Python 서비스를 운영하는 데 익숙하다면. "여러 제공자 호출"에서 "하나의 엔드포인트로 여러 제공자 호출"로 가는 가장 짧은 경로입니다.
비-LLM API 트래픽용으로 이미 Kong을 운영 중이라면 Kong을 선택하세요. 이미 가진 게이트웨이 — 플러그인, 속도 제한, 운영 런북 — 를 재사용하는 것이 AI만을 위해 두 번째 게이트웨이를 들이는 것보다 대개 낫습니다. AI 플러그인은 그 결정에서 더 작은 절반입니다.
단일 제공자, 단일 팀, 감당 가능한 월 청구서가 실제 상황이라면 어느 쪽도 아닙니다. 제공자 API를 직접 호출하는 편이 두 옵션보다 단순하며, 다중 제공자 페일오버, 팀별 비용 귀속, 제공자가 줄 수 없는 규정 준수 제어가 필요해지기 전까지는 어떤 게이트웨이도 운영 비용을 정당화하지 못합니다.
## LiteLLM vs Kong: 자주 묻는 질문
### LiteLLM과 Kong 중 어느 쪽이 더 저렴한가요?

둘 다 오픈소스 코어는 무료이며, 비용 질문은 거버넌스에 얼마를 지불하느냐입니다. LiteLLM의 OSS 코어는 SSO를 5명까지 무료로 포함하고 RBAC는 Enterprise 등급 뒤에 두며, Kong은 필요할 AI 플러그인을 Kong Enterprise 뒤에 둡니다. OSS 다운로드가 아니라 실제로 필요하게 될 엔터프라이즈 등급을 비교하세요.
### Kong이 LiteLLM처럼 여러 모델 제공자로 라우팅할 수 있나요?

Kong은 OpenAI 호환 표면 위의 AI 플러그인을 통해 제공자에 도달합니다. LiteLLM은 설계상 OpenAI 중심이며 제공자 API를 직접 사용합니다. 인그레스와 이그레스 양쪽에서 OpenAI / Anthropic / Gemini / DashScope에 걸친 프로토콜 번역이 요구 사항이라면, OpenAI 호환 플러그인 표면은 그것과 같은 것이 아닙니다.
### 둘 중 프롬프트를 내 네트워크 안에 두는 쪽이 있나요?

예 — 둘 다 자체 호스팅이 가능하므로 프롬프트가 제3자 릴레이를 거칠 필요가 없습니다. 두 제품이 SaaS 게이트웨이 옆이 아니라 이 후보 목록에 오른 주된 이유입니다.
## 세 게이트웨이, 다섯 기준
처음 두 열의 각 셀은 해당 비교 페이지를 한 줄로 읽은 것입니다. GateLLM 열은 제3자 평가가 아니라 우리의 입장이므로 그에 맞게 저울질하세요.
| 기준 | LiteLLM | Kong AI Gateway | GateLLM |
| --- | --- | --- | --- |
| 배포 | 자체 호스팅 OSS | 자체 호스팅 OSS(+ 관리형 Konnect) | 완전 자체 호스팅(Docker / Helm), 벤더 컨트롤 플레인 없음 |
| 과금 기준 | OSS 무료, Enterprise는 사용량 기반 | OSS 무료, Enterprise 전용 플러그인 | 인스턴스당 라이선스, 토큰 마진 없음, 좌석당 요금 없음 |
| 프로토콜 진입점 | OpenAI 중심 | OpenAI 호환 + AI 플러그인 | 네 인그레스 x 네 이그레스(OpenAI / Anthropic / Gemini / DashScope) |
| 거버넌스 | SSO(5명 상한) / Enterprise의 RBAC | Enterprise의 RBAC / SSO | SSO / SCIM / RBAC + 키 그룹별 ACL 및 예산 상한 |
| 벤더 독립성 | 독립(BerriAI) | 독립(Kong Inc.) | 독립(Fluxon LLC) |

- [GateLLM vs LiteLLM 전체 비교 보기](https://www.gatellm.io/ko/compare/litellm.md)

## 관련 페이지
- [홈](https://www.gatellm.io/ko/index.md)
- [요금](https://www.gatellm.io/ko/pricing.md)
- [비용 계산기](https://www.gatellm.io/ko/calculator.md)
- [소개](https://www.gatellm.io/ko/about.md)
- [데모 예약](https://www.gatellm.io/ko/demo.md)
- [FAQ](https://www.gatellm.io/ko/faq.md)
- [AI 게이트웨이 비교](https://www.gatellm.io/ko/compare.md)
- [LiteLLM 비교](https://www.gatellm.io/ko/compare/litellm.md)
- [OpenRouter 비교](https://www.gatellm.io/ko/compare/openrouter.md)
- [Alibaba Cloud AI Gateway 비교](https://www.gatellm.io/ko/compare/alibaba-cloud.md)
- [Azure API Management 비교](https://www.gatellm.io/ko/compare/azure-apim.md)
- [Apigee 비교](https://www.gatellm.io/ko/compare/apigee.md)
- [Cloudflare AI Gateway 비교](https://www.gatellm.io/ko/compare/cloudflare.md)
- [Kong AI Gateway 비교](https://www.gatellm.io/ko/compare/kong.md)
- [Portkey 비교](https://www.gatellm.io/ko/compare/portkey.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/ko/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/ko/compare/litellm-vs-portkey.md)
- [사용 사례](https://www.gatellm.io/ko/use-cases.md)
- [LLM 비용 절감](https://www.gatellm.io/ko/use-cases/reduce-cost.md)
- [고가용성](https://www.gatellm.io/ko/use-cases/high-availability.md)
- [멀티테넌트 격리](https://www.gatellm.io/ko/use-cases/multi-tenant.md)
- [컴플라이언스 및 감사](https://www.gatellm.io/ko/use-cases/compliance-audit.md)
- [증상별 트러블슈팅](https://www.gatellm.io/ko/use-cases/troubleshooting.md)
- [다중 벤더 혼합 모델 스택](https://www.gatellm.io/ko/use-cases/mixed-model-stack.md)
- [Office 내 AI 셀프 호스팅](https://www.gatellm.io/ko/use-cases/self-hosted-office-ai.md)
- [Token 사용량 가시성 및 귀속](https://www.gatellm.io/ko/use-cases/token-ops.md)
- [Token FinOps: AI 비용 배분 및 통제](https://www.gatellm.io/ko/use-cases/token-finops.md)
- [MCP 도구 거버넌스](https://www.gatellm.io/ko/use-cases/mcp-tool-governance.md)
- [모든 모델에 웹 검색 추가](https://www.gatellm.io/ko/use-cases/web-search-grounding.md)
- [다중 키 로테이션 및 대기](https://www.gatellm.io/ko/use-cases/multi-key-pooling.md)
- [연결 클라이언트 접근 제어](https://www.gatellm.io/ko/use-cases/client-admission-control.md)
- [모델 사용 정책 강제](https://www.gatellm.io/ko/use-cases/enforce-model-policy.md)
- [클라이언트에 모델 선택 비노출](https://www.gatellm.io/ko/use-cases/automatic-model-tiering.md)
- [하나의 프로토콜, 어떤 모델이든](https://www.gatellm.io/ko/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 추가 기능](https://www.gatellm.io/ko/office-addin.md)
- [용어집](https://www.gatellm.io/ko/glossary.md)
- [모델 카탈로그](https://www.gatellm.io/ko/models.md)
- [SDK 및 프레임워크 통합](https://www.gatellm.io/ko/integrations.md)
- [AI 코딩 에이전트 및 하네스](https://www.gatellm.io/ko/coding-agents.md)
- [보안 및 컴플라이언스](https://www.gatellm.io/ko/security.md)