一键安装部署文本生成Web UI。
功能丰富的Web界面,支持在CPU或GPU上运行GGUF、GPTQ和AWQ格式的本地大型语言模型。
为 Text Generation Web UI 选一个 VPS 套餐
每个套餐都包含您所需的一切以及更多
你可以用 Text Generation Web UI 构建什么
文本生成Web UI是一个开源的、基于Gradio的界面,用于在本地加载、运行和与大型语言模型交互。它支持的模型格式比几乎任何其他自托管的LLM前端都多——包括通过llama.cpp的GGUF、GPTQ、AWQ、EXL2和Transformers——使其成为那些使用HuggingFace上各种模型文件并需要完全控制推理参数的用户的首选工具。
此部署使用CPU优化版本,它通过llama.cpp后端运行GGUF量化模型——在任何没有专用GPU的VPS上都实用。将任何GGUF模型文件放入models卷中,它将出现在“模型”选项卡中,随时可以加载。自托管可确保您的对话、系统提示以及您与模型共享的任何文档都保留在您自己的基础设施上。
Text Generation Web UI 的主要功能
多格式模型支持
从同一界面加载 GGUF、GPTQ、AWQ、EXL2 和 Transformers 模型,无需重新配置后端或重建容器。
聊天、指导和笔记本
三种不同的交互模式涵盖了多轮对话、结构化提示-响应任务以及自由形式文本生成,所有这些都集成在一个工具中。
角色和人设系统
定义详细的AI角色卡,包含背景故事、示例对话和头像,以塑造跨会话的模型行为。
OpenAI 兼容 API
启用端口 5000 上的可选 REST API,以便使用标准 OpenAI 客户端库连接外部应用程序,无需更改代码。
扩展生态系统
社区扩展增加了例如长期记忆、语音输入/输出、Stable Diffusion集成和自定义工具等功能。
为什么要在 Hostinger 上运行 Text Generation Web UI
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能,保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
一键启动
预配置设置让您的应用程序立即启动和运行。无需手动安装或复杂的设置步骤。
值得信赖的安全保障
利用内置防火墙、DDoS防护和持续监控功能,保护您的应用程序。
内置 Docker 管理器
在一个地方运行和管理多个 Docker 容器。轻松部署、更新和监控您的项目。
值得信赖的 Docker VPS 主机
我对Hostinger的VPS主机服务非常满意!他们的正常运行时间始终保持一流,确保我的网站流畅运行。每当我需要帮助的时候,他们的技术支持团队都能迅速响应,足够专业,而且很热心。
Hostinger 的所有服务都非常丝滑和完善,AI 聊天机器人加上人工客服,如果 AI 无法解答你的问题,他们也会提供帮助。哦,对了,他们的 VPS 也超级棒,非常好用。感谢开发团队和所有参与其中的人。继续努力!🚀
终于找到一家真正靠谱的VPS主机公司了!价格合理,用户门户网站体验极佳,充分尊重用户时间,备份无缝衔接,技术支持到位,稳定可靠,感觉非常稳定。
我的自托管 n8n 实例无法访问后,我联系了 Hostinger 的技术支持,他们的服务让我非常满意。技术支持团队的 Kodee 和 Mohammad 非常有耐心,而且工作细致周到。
非常感谢 Carla 帮我完成了 Hostinger VPS 的 N8N 升级。她很专业,再次感谢 Carla。
Hostinger VPS 绝对出色。它一直运行稳定,速度快,从不宕机,也从不崩溃。
这家公司运营良好,我对他们提供的服务非常满意。价格没有某些提供优质VPS配置和方案的公司那么贵。