LiteLLM vs Portkey
둘 다 게이트웨이를 자체 인프라에서 실행할 수 있습니다. 차이는 컨트롤 플레인이 어디에 있는가 — 그리고 내년에 누가 소유하는가입니다.
LiteLLM과 Portkey는 실제 거버넌스를 갖춘 자체 호스팅 데이터 플레인을 원하는 팀의 두 후보입니다. LiteLLM은 완전 자체 호스팅 오픈 코어입니다. Portkey는 하이브리드입니다: 게이트웨이는 자체 인프라에서 실행되고 컨트롤 플레인은 SaaS입니다. 이 분리가 나머지를 결정합니다 — 구성과 로그가 어디에 사는지, 벤더가 주인이 바뀔 때 게이트웨이가 어떻게 되는지.
세 게이트웨이, 다섯 기준
처음 두 열의 각 셀은 해당 비교 페이지를 한 줄로 읽은 것입니다. GateLLM 열은 제3자 평가가 아니라 우리의 입장이므로 그에 맞게 저울질하세요.
| 기준 | LiteLLM | Portkey (Prisma AIRS) | GateLLM |
|---|---|---|---|
| 배포 | 자체 호스팅 OSS | 하이브리드: 게이트웨이는 자체 호스팅, 컨트롤 플레인은 SaaS | 완전 자체 호스팅(Docker / Helm), 벤더 컨트롤 플레인 없음 |
| 과금 기준 | OSS 무료, Enterprise는 사용량 기반 | 월 $49 + 기록 로그 10만 건당 $9 | 인스턴스당 라이선스, 토큰 마진 없음, 좌석당 요금 없음 |
| 프로토콜 진입점 | OpenAI 중심 | OpenAI 호환 | 네 인그레스 x 네 이그레스(OpenAI / Anthropic / Gemini / DashScope) |
| 거버넌스 | SSO(5명 상한) / Enterprise의 RBAC | RBAC / SSO / SCIM / 가드레일 | SSO / SCIM / RBAC + 키 그룹별 ACL 및 예산 상한 |
| 벤더 독립성 | 독립(BerriAI) | Palo Alto Networks에 인수(2026-05-29) | 독립(Fluxon LLC) |
LiteLLM, Portkey, 또는 어느 쪽도 아닐 때
데이터 플레인과 컨트롤 플레인을 포함한 전체 시스템을 자체 경계 안에 두고 싶고 운영할 준비가 되어 있다면 LiteLLM을 선택하세요. 그러면 라우팅이나 로그가 벤더의 접속 가능 여부에 의존하지 않습니다.
거버넌스 기능(RBAC, SSO, SCIM, 가드레일)을 컨트롤 플레인을 직접 구축하지 않고 얻고 싶고, 데이터 분류상 SaaS 컨트롤 플레인이 허용된다면 Portkey를 선택하세요. 거버넌스가 적용된 다중 제공자 라우팅으로 가는 더 빠른 경로입니다.
거버넌스나 페일오버가 아직 실제 요구가 아니라면 어느 쪽도 아닙니다. 둘 다 운영하고 비용을 지불해야 하는 인프라이며, 다중 제공자 페일오버, 팀별 비용 귀속, 규정 준수 제어가 제약이 되기 전까지는 제공자 직접 통합이 솔직한 답입니다.