Triển khai OpenLIT với cài đặt một nhấp chuột.
Nền tảng quan sát và giám sát chi phí mã nguồn mở hỗ trợ OpenTelemetry gốc dành cho các ứng dụng LLM và AI tạo sinh.
Chọn gói VPS cho OpenLIT
Mỗi gói đều có mọi thứ bạn cần và hơn thế nữa
Những gì bạn có thể xây dựng với OpenLIT
OpenLIT là một nền tảng kỹ thuật AI mã nguồn mở cung cấp cho các ứng dụng LLM và AI tạo sinh khả năng quan sát toàn diện chỉ với một dòng mã instrumentation. Nó thu thập dấu vết, mức sử dụng token, độ trễ, lỗi và chi phí trên hơn 50 nhà cung cấp LLM, cơ sở dữ liệu vector, GPU và framework agent — tất cả đều sử dụng các quy ước ngữ nghĩa OpenTelemetry gốc, để các pipeline OTel hiện có hoạt động mà không cần SDK tùy chỉnh.
Tự host OpenLIT trên VPS của riêng bạn giúp giữ nội dung prompt, mức sử dụng mô hình và hoạt động khóa API trên cơ sở hạ tầng mà bạn kiểm soát, không có giá theo token hoặc giới hạn số lượng người dùng do nhà cung cấp SaaS áp đặt. Lưu trữ ClickHouse xử lý lượng lớn dữ liệu telemetry, và bộ thu OTel đi kèm cung cấp các điểm cuối OTLP gRPC và HTTP sẵn sàng cho OpenLIT SDK hoặc bất kỳ dịch vụ nào khác được trang bị OTel.
Các tính năng chính của OpenLIT
LLM observability
Ghi lại các lời nhắc, hoàn thành, token, độ trễ và lỗi trên hơn 50 nhà cung cấp LLM chỉ với hai dòng thiết lập SDK.
Giám sát chi phí
Theo dõi chi phí theo từng yêu cầu, từng mô hình và từng ứng dụng theo thời gian thực bằng cách sử dụng định giá tích hợp sẵn cho các nhà cung cấp LLM lớn.
OpenTelemetry gốc
Sử dụng các quy ước ngữ nghĩa OTel tiêu chuẩn cho AI tạo sinh, nên bất kỳ dịch vụ nào được trang bị công cụ OTel đều gửi dữ liệu mà không cần SDK của nhà cung cấp.
Giám sát GPU
Thu thập các chỉ số GPU của NVIDIA và AMD — mức sử dụng, bộ nhớ, nhiệt độ và mức tiêu thụ điện năng — cùng với dữ liệu đo từ xa của mô hình.
Quản lý Prompt và Vault
Tạo phiên bản lời nhắc, chạy thử nghiệm và lưu trữ khóa API của nhà cung cấp trong kho bí mật tích hợp sẵn với quyền truy cập dựa trên vai trò.
Tại sao lại chạy OpenLIT trên Hostinger
Khởi chạy với một nhấp chuột
Khởi chạy ứng dụng của bạn ngay lập tức với thiết lập được cấu hình sẵn. Không cần cài đặt thủ công hoặc các bước thiết lập phức tạp.
Bảo mật đáng tin cậy
Bảo vệ ứng dụng của bạn với tích hợp sẵn tường lửa, bảo vệ chống DDoS và giám sát liên tục.
Trình quản lý Docker tích hợp sẵn
Chạy và quản lý nhiều container Docker từ một nơi duy nhất. Triển khai, cập nhật và giám sát dự án một cách dễ dàng.
Khởi chạy với một nhấp chuột
Khởi chạy ứng dụng của bạn ngay lập tức với thiết lập được cấu hình sẵn. Không cần cài đặt thủ công hoặc các bước thiết lập phức tạp.
Bảo mật đáng tin cậy
Bảo vệ ứng dụng của bạn với tích hợp sẵn tường lửa, bảo vệ chống DDoS và giám sát liên tục.
Trình quản lý Docker tích hợp sẵn
Chạy và quản lý nhiều container Docker từ một nơi duy nhất. Triển khai, cập nhật và giám sát dự án một cách dễ dàng.
Docker VPS hosting đáng tin cậy
Tôi cực kỳ hài lòng với dịch vụ lưu trữ VPS của Hostinger! Thời gian hoạt động luôn ở mức cao nhất, giúp trang web hoạt động trơn tru. Bất cứ khi nào tôi cần hỗ trợ, đội ngũ hỗ trợ kỹ thuật luôn nhanh chóng, hiểu biết và thực sự hữu ích.
Mọi thứ đều mượt mà và tuyệt vời với Hostinger, cả chatbot AI lẫn người thật, nếu AI không thể giải quyết được câu hỏi của bạn. Còn VPS thì tuyệt vời, không có gì phải bàn cãi. Cảm ơn đội ngũ phát triển và tất cả mọi người đã tham gia. Hãy tiếp tục phát huy nhé 🚀
Cuối cùng cũng có một công ty cung cấp VPS đúng như ý! Giá cả phải chăng. Cổng thông tin tuyệt vời, tiết kiệm thời gian của người dùng. Sao lưu liền mạch. Hỗ trợ tốt. Đáng tin cậy. Cảm giác như đang ở nhà.
Tôi đã liên hệ với bộ phận hỗ trợ của Hostinger sau khi mất quyền truy cập vào máy chủ n8n tự lưu trữ của mình, và tôi vô cùng ấn tượng. Kodee và Mohammad từ đội ngũ hỗ trợ đã vô cùng kiên nhẫn và chu đáo.
Cảm ơn Carla rất nhiều vì đã giúp tôi nâng cấp N8N trên VPS Hostinger. Cảm ơn Carla một lần nữa vì sự chuyên nghiệp và hiểu biết của bạn.
Hostinger VPS thực sự tuyệt vời. Nó luôn hoạt động tốt, nhanh chóng và ổn định. Chưa bao giờ ngừng hoạt động hay bị lỗi.
Công ty đang hoạt động rất tốt, tôi rất hài lòng với các dịch vụ cụ thể mà tôi sử dụng. Giá cả cũng không quá đắt so với những nơi khác, đặc biệt là với các gói VPS giá rẻ được thiết lập rất tốt.