一键安装部署 OpenLIT。
开源 OpenTelemetry 原生可观测性与成本监控平台,用于 LLM 和生成式 AI 应用程序。
为 OpenLIT 选一个 VPS 套餐
每个套餐都包含您所需的一切以及更多
你可以用 OpenLIT 构建什么
OpenLIT是一个开源AI工程平台,只需一行插桩代码即可为LLM和生成式AI应用提供全栈可观测性。它捕获跟踪、token使用量、延迟、错误和成本,涵盖50多个LLM提供商、向量数据库、GPU和代理框架——所有这些都使用原生的OpenTelemetry语义约定,因此现有的OTel管道无需自定义SDK即可工作。
在您自己的VPS上自托管OpenLIT,可将提示内容、模型使用和API密钥活动保留在您控制的基础设施上,不受SaaS供应商施加的按token计费或席位限制。ClickHouse存储处理高容量遥测数据,捆绑的OTel收集器暴露OTLP gRPC和HTTP端点,可供OpenLIT SDK或任何其他OTel插桩服务使用。
OpenLIT 的主要功能
LLM 可观测性
通过两行SDK设置,捕获50多个LLM提供商的提示、完成、令牌、延迟和错误。
成本监控
实时跟踪按请求、按模型和按应用程序的支出,使用主要LLM提供商的内置定价。
OpenTelemetry 原生
采用生成式AI的标准OTel语义约定,使得任何经过OTel检测的服务无需供应商SDK即可传输数据。
GPU 监控
收集 NVIDIA 和 AMD GPU 指标 — 利用率、内存、温度和功耗 — 以及模型遥测数据。
提示和 Vault 管理
版本提示、运行实验,并将提供商API密钥存储在具有基于角色的访问权限的内置秘密保险库中。
为什么要在 Hostinger 上运行 OpenLIT
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能,保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能,保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
值得信赖的 Docker VPS 主机
我对Hostinger的VPS主机服务非常满意!他们的正常运行时间始终保持一流,确保我的网站流畅运行。每当我需要帮助的时候,他们的技术支持团队都能迅速响应,足够专业,而且很热心。
Hostinger 的所有服务都非常丝滑和完善,AI 聊天机器人加上人工客服,如果 AI 无法解答你的问题,他们也会提供帮助。哦,对了,他们的 VPS 也超级棒,非常好用。感谢开发团队和所有参与其中的人。继续努力!🚀
终于找到一家真正靠谱的VPS主机公司了!价格合理,用户门户网站体验极佳,充分尊重用户时间,备份无缝衔接,技术支持到位,稳定可靠,感觉非常稳定。
我的自托管 n8n 实例无法访问后,我联系了 Hostinger 的技术支持,他们的服务让我非常满意。技术支持团队的 Kodee 和 Mohammad 非常有耐心,而且工作细致周到。
非常感谢 Carla 帮我完成了 Hostinger VPS 的 N8N 升级。她很专业,再次感谢 Carla。
Hostinger VPS 绝对出色。它一直运行稳定,速度快,从不宕机,也从不崩溃。
这家公司运营良好,我对他们提供的服务非常满意。价格没有某些提供优质VPS配置和方案的公司那么贵。