一键安装部署 TensorZero。
开源 LLMOps 网关，在一个由 Rust 驱动的单一平台中统一了推理、可观测性、评估和优化。
为 TensorZero 选一个 VPS 套餐
每个套餐都包含您所需的一切以及更多
你可以用 TensorZero 构建什么
TensorZero是一个开源的LLMOps平台，它结合了高性能的Rust网关，内置可观测性、评估和优化工作流。与将代理、跟踪器和微调管道拼凑在一起的多工具堆栈不同，TensorZero将每一次推理、反馈信号和优化运行都视为一个反馈循环的一部分——将生产流量转化为改进您的提示、模型和路由决策的数据集。
在您自己的VPS上自托管TensorZero，可以将提示、跟踪和反馈数据保留在您控制的基础设施中，并且没有按次调用的附加费或可观测性令牌配额。随附的ClickHouse存储可以扩展到数百万次推理，而网关则通过一个OpenAI兼容的API代理OpenAI、Anthropic、Google、AWS Bedrock和数十个其他提供商。
TensorZero 的主要功能
统一的 LLM 网关
通过一个使用高性能 Rust 编写的兼容 OpenAI 的单一 API，代理 OpenAI、Anthropic、Google、AWS Bedrock、Azure、vLLM 以及数十家其他提供商。
内置可观测性
每次推理都会自动捕获到 ClickHouse 中，包含完整的输入、输出、延迟和成本 — 无需单独的跟踪服务。
生产反馈循环
将用户反馈、评估和指标附加到任何推理中，以构建驱动提示和模型优化的标记数据集。
自动化优化
运行内置工作流，以微调模型、从大型模型中提取，并直接从您的生产流量中对提示变体进行基准测试。
结构化推理
在代码中定义模式、模板和变体，以便提示更改能够进行版本控制、类型安全且可路由，而无需重新部署您的应用程序。
开源自托管
Apache 2.0 许可，并在您自己的基础设施上完全运行 — 您的提示、跟踪和反馈数据绝不会离开您的 VPS。
为什么要在 Hostinger 上运行 TensorZero
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能，保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能，保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
值得信赖的 Docker VPS 主机
我对Hostinger的VPS主机服务非常满意！他们的正常运行时间始终保持一流，确保我的网站流畅运行。每当我需要帮助的时候，他们的技术支持团队都能迅速响应，足够专业，而且很热心。
Hostinger 的所有服务都非常丝滑和完善，AI 聊天机器人加上人工客服，如果 AI 无法解答你的问题，他们也会提供帮助。哦，对了，他们的 VPS 也超级棒，非常好用。感谢开发团队和所有参与其中的人。继续努力！🚀
终于找到一家真正靠谱的VPS主机公司了！价格合理，用户门户网站体验极佳，充分尊重用户时间，备份无缝衔接，技术支持到位，稳定可靠，感觉非常稳定。
在无法访问我的自托管 n8n 实例后，我联系了 Hostinger 支持团队，他们的服务让我非常满意。支持团队的 Kodee 和 Mohammad 非常耐心，而且非常细心。
非常感谢 Carla 帮我完成了 Hostinger VPS 的 N8N 升级。她很专业，再次感谢 Carla。
Hostinger VPS 绝对出色。它一直运行稳定，速度快，从不宕机，也从不崩溃。
这家公司运营良好，我对他们提供的服务非常满意。价格没有某些提供优质VPS配置和方案的公司那么贵。