보안 및 규정 준수

BYOK에서 API 키는 게이트웨이 메모리에만 있으며 저장되거나 전송되지 않습니다.

요청은 게이트웨이를 거쳐 벤더 API로 곧장 라우팅되며, 데이터는 종단 간 프라이빗 네트워크에 머뭅니다.

GateLLM 자체는 요청 내용을 저장하거나 학습에 사용하거나 캐시하지 않습니다.

종단 간 TLS 1.3.

키는 메모리에만 있으며, 재시작 시 시크릿에서 주입됩니다 — 디스크에 남지 않습니다.

클라이언트 승인 제어: User-Agent 기준으로 차등 정책을 적용해 게이팅합니다.

GDPR / CCPA / DPA 대응.

SOC 2 Type II / ISO 27001 통제 정렬(인증 준비 중).

SSO(OIDC: Azure AD / Okta / 범용, 추가로 SAML 2.0 + SCIM 2.0).

요청 수준 감사 로그로, 사내 운영 및 빌링 시스템으로 내보낼 수 있습니다.

크래시 안전 과금: 선차감 → 정산 → 환급. 진행 중 원장과 요청별 감사로 프로세스가 중단되어도 과금이 정확합니다.

할당량, 예산, 사용량, 비용을 프로그래밍 방식으로 관리하는 관리 API.

네트워크 계층: 게이트웨이 프로세스는 VPC / 온프레미스 데이터 센터에 배포되며, 인바운드/아웃바운드 트래픽은 직접 구성한 보안 그룹 / 네트워크 정책이 제어합니다. 요청은 다운스트림 모델 제공자의 공식 API로 직접 가며, 어떤 처리자(Processor) 릴레이 서버도 거치지 않습니다.

게이트웨이 프로세스 계층: 무상태 설계. 키는 암호화된 구성에서 메모리로 로드되며 저장되지 않습니다. 어떤 복제본이든 어떤 요청도 처리할 수 있어 수평 확장과 즉시 페일오버를 지원하며, 재시작 시 시크릿에서 키를 다시 주입합니다.

키 계층: BYOK 모델 제공자 키는 게이트웨이 프로세스 메모리에만 있고 영구 저장소에 기록되지 않으며, 운영 인력이 평문으로 읽을 수 없습니다. 클라이언트 승인 제어는 User-Agent 기준으로 차등 정책을 적용합니다.

데이터 계층: 런타임 프롬프트 / 완료 응답은 처리자 시스템에 저장되지 않습니다(메모리에서 전달되며 저장되지 않음). 저장 상태의 계정 및 라이선스 데이터는 AES-256으로 암호화되며, 감사 로그 보존 정책은 운영 팀이 결정합니다.

과금 계층: 크래시 안전 과금(선차감 → 정산 → 환급)이며, 진행 중 원장과 요청별 감사로 프로세스가 중단되어도 정확합니다.

과도한 AI 액세스 우려: GateLLM은 완전 자체 호스팅 배포 + BYOK로 해결합니다 — 키와 프롬프트가 네트워크 경계를 벗어나지 않으며, 어떤 모델을 쓰고 어느 제공자로 라우팅할지 전적으로 직접 통제합니다. 섀도 AI도, 숨은 하위 처리자도 없습니다(하위 처리자 목록 참조).

학습에 사용되는 데이터: 처리자는 프롬프트 데이터에 접촉하지 않습니다. 다운스트림 모델 제공자가 학습하는지는 그 제공자의 정책이 결정하며, 도입 전에 하위 처리자 목록의 데이터 이용 매트릭스에서 검토할 수 있습니다 — 전적으로 선택 사항입니다.

국경 간 규정 준수: 처리자 계정 데이터는 SCC / IDTA를 통해 국경 간 이전됩니다. 다운스트림 제공자로의 국경 간 이전은 적절한 안전 장치와 함께 직접 체결합니다(DPA 제11조).

키 유출: 키는 메모리에만 있고 저장되거나 전송되지 않습니다. SSO는 MFA와 세션 관리를 기존 IdP에 위임하므로 자격 증명이 파편화되지 않습니다.

GateLLM에 대한 독립 제3자 침투 테스트가 준비 중이며(범위와 교전 규칙은 준비됨), 게이트웨이 프로세스, 인증 및 권한 부여, Edge Functions, API 게이트웨이, 키 처리 경로를 포함합니다. 완료되면 취약점 공개 정책 제7절에 요약을 게시합니다.

책임 있는 취약점 공개 정책: security@gatellm.io로 신고(PGP 지원), 24시간 이내 확인, CVSS 심각도에 따라 수정(Critical 7일 / High 30일 / Medium 60일 / Low 90일).

소프트웨어 자재 명세서(SBOM)를 제공하며, 종속성은 알려진 취약점을 정기적으로 스캔하고 보안 패치는 변경 로그에 CVE ID로 표기됩니다.