New API

New API는 여러 AI 공급자를 사용하는 조직을 위해 설계된 포괄적인 LLM 게이트웨이 및 API 관리 플랫폼입니다. 개별 API 키를 관리하고 여러 서비스에서 사용량을 추적하는 대신, New API는 OpenAI, Anthropic Claude, Google Gemini 및 기타 LLM 공급자에 액세스하기 위한 통합 인터페이스를 제공합니다. 이 플랫폼은 팀 협업을 위한 자세한 사용량 분석, 비용 추적 및 액세스 제어 메커니즘을 제공합니다.

일반적인 사용 사례

개발 팀은 New API를 사용하여 여러 프로젝트에서 AI API 액세스를 관리하며, 프로젝트 또는 팀원별로 사용량 할당량을 설정하고 비용을 추적합니다. 조직은 토큰 기반 액세스를 통해 부서에 API 크레딧을 배포하고, 직접적인 공급자 자격 증명을 공유하지 않고도 소비를 모니터링합니다. AI 애플리케이션 개발자는 여러 LLM 공급자에서 장애 조치 및 로드 밸런싱을 구현하여 서비스 가용성을 보장합니다. 에이전시는 고객에게 화이트 라벨 AI API 액세스를 제공하고, New API 대시보드를 통해 사용량 및 청구를 추적합니다. 연구 팀은 사용량 제한 및 감사 추적을 유지하면서 협력자와 AI 모델에 대한 액세스를 공유합니다.

주요 기능

• OpenAI, Claude, Gemini 및 기타 LLM 공급자를 위한 통합 게이트웨이
• 사용량 할당량이 있는 API 키 및 토큰 관리
• 자세한 사용량 추적 및 비용 분석
• 속도 제한 및 요청 스로틀링
• 공급자 간 로드 밸런싱 및 장애 조치
• 국제 팀을 위한 다국어 지원
• 사용자 및 그룹 기반 액세스 제어
• 다양한 AI 모델을 위한 채널 구성
• 사용량 로그 및 감사 추적
• 관리 및 모니터링을 위한 웹 대시보드

호스팅어 VPS에 New API를 배포해야 하는 이유

호스팅어 VPS에 New API를 배포하면 사용량 데이터 및 액세스 패턴에 대한 완전한 제어를 유지하면서 AI API 관리 인프라를 중앙 집중화할 수 있습니다. 요청당 요금이 부과되는 클라우드 기반 API 게이트웨이와 달리, 자체 호스팅 New API 인스턴스는 고정 비용으로 무제한 요청을 처리합니다. VPS는 성능에 영향을 주지 않고 API 프록시 및 사용량 추적을 처리하기 위한 전용 리소스를 제공합니다. PostgreSQL은 자세한 사용량 로그 및 구성 데이터를 안정적으로 저장하며, Redis는 빠른 세션 관리 및 캐싱을 보장합니다. Traefik이 HTTPS를 처리하므로, API 게이트웨이 엔드포인트는 처음부터 안전하게 보호되어 API 키와 민감한 데이터를 보호합니다.