一键部署 Serge。
自托管聊天界面，用于通过 llama.cpp 在本地运行 LLaMA 和 Alpaca 模型，无需 API 费用。
为 Serge 选一个 VPS 套餐
每个套餐都包含您所需的一切以及更多
你可以用 Serge 构建什么
Serge 是一个开源聊天界面，用于通过 llama.cpp 在本地运行 LLaMA 系列语言模型，并对 Alpaca、Vicuna、GPT4All 和其他社区微调模型提供一流支持。它将 SvelteKit Web UI、FastAPI 后端和 Redis 支持的模型注册表捆绑到一个容器中，因此您无需连接多个服务即可拉取 GGUF 模型、管理聊天会话和调整推理参数。
自托管 Serge 可将每个提示和响应保留在您自己的 VPS 上——没有外部 API，没有遥测，也没有按令牌计费的成本。仅限 CPU 的推理开箱即用，这使其成为一种无需支付云 GPU 时间或注册第三方 AI 服务即可运行私有 LLM 的实用方法。
Serge 的主要功能
在CPU上运行
llama.cpp 驱动完全本地推理，无需 GPU，因此您可以在标准 VPS 上与量化 LLaMA 模型进行聊天。
内置模型注册表
直接从 Web UI 拉取并切换 Alpaca、Vicuna、GPT4All 和其他 GGUF 模型，无需手动复制文件。
可调推理
调整温度、top-k、top-p、上下文长度以及每次聊天的其他生成参数，以控制响应风格和质量。
持久聊天记录
对话和下载的模型权重存储在 Docker 卷中，可在容器重启和升级后继续存在。
包含 REST API
FastAPI 后端暴露聊天、模型和会话端点，以便您可以将 Serge 与自定义脚本、机器人或应用程序集成。
为什么要在 Hostinger 上运行 Serge
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能，保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能，保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
值得信赖的 Docker VPS 主机
我对Hostinger的VPS主机服务非常满意！他们的正常运行时间始终保持一流，确保我的网站流畅运行。每当我需要帮助的时候，他们的技术支持团队都能迅速响应，足够专业，而且很热心。
Hostinger 的所有服务都非常丝滑和完善，AI 聊天机器人加上人工客服，如果 AI 无法解答你的问题，他们也会提供帮助。哦，对了，他们的 VPS 也超级棒，非常好用。感谢开发团队和所有参与其中的人。继续努力！🚀
终于找到一家真正靠谱的VPS主机公司了！价格合理，用户门户网站体验极佳，充分尊重用户时间，备份无缝衔接，技术支持到位，稳定可靠，感觉非常稳定。
我的自托管 n8n 实例无法访问后，我联系了 Hostinger 的技术支持，他们的服务让我非常满意。技术支持团队的 Kodee 和 Mohammad 非常有耐心，而且工作细致周到。
非常感谢 Carla 帮我完成了 Hostinger VPS 的 N8N 升级。她很专业，再次感谢 Carla。
Hostinger VPS 绝对出色。它一直运行稳定，速度快，从不宕机，也从不崩溃。
这家公司运营良好，我对他们提供的服务非常满意。价格没有某些提供优质VPS配置和方案的公司那么贵。