Implementează Text Generation Web UI cu instalare cu un singur click.
Interfață web bogată în funcții pentru rularea LLM-urilor locale cu suport pentru GGUF, GPTQ și AWQ pe CPU sau GPU.
Alege un plan VPS pentru Text Generation Web UI
Fiecare plan are tot ce ai nevoie și alte lucruri în plus
Ce poți crea cu Text Generation Web UI
Text Generation Web UI este o interfață open-source bazată pe Gradio pentru încărcarea, rularea și interacțiunea cu modele lingvistice mari la nivel local. Suportă mai multe formate de modele decât practic orice alt frontend LLM auto-găzduit — inclusiv GGUF prin llama.cpp, GPTQ, AWQ, EXL2 și Transformers — făcând-o instrumentul principal pentru utilizatorii care lucrează cu diverse fișiere de modele de la HuggingFace și au nevoie de control complet asupra parametrilor de inferență.
Această implementare utilizează versiunea optimizată pentru CPU, care rulează modele cuantificate GGUF prin backend-ul llama.cpp — practică pe orice VPS fără un GPU dedicat. Plasează orice fișier de model GGUF în volumul de modele și va apărea în fila Modele, gata de încărcare. Auto-găzduirea îți păstrează conversațiile, prompturile de sistem și orice documente pe care le partajezi cu modelul pe propria infrastructură.
Funcționalități cheie ale Text Generation Web UI
Suport pentru model multi-format
Încarcă modele GGUF, GPTQ, AWQ, EXL2 și Transformers din aceeași interfață, fără a reconfigura backend-urile sau a reconstrui containerul.
Chat, instruire și caiet
Trei moduri distincte de interacțiune acoperă conversații multi-turn, sarcini structurate de tip prompt-răspuns și generarea de text liber într-un singur instrument.
Sistem de personaje și persona
Definește fișe de personaje AI detaliate cu povești de fundal, dialoguri exemplu și avatare pentru a modela comportamentul modelului pe parcursul sesiunilor.
API compatibil cu OpenAI
Activează API-ul REST opțional pe portul 5000 pentru a conecta aplicații externe utilizând biblioteci client standard OpenAI fără modificări de cod.
Ecosistem de extensii
Extensiile comunității adaugă funcționalități precum memorie pe termen lung, intrare/ieșire vocală, integrare Stable Diffusion și instrumente personalizate.
Inferență CPU fără GPU
Rulează modele cuantificate GGUF pe CPU prin llama.cpp — un model cu 3-7 miliarde de parametri este practic pe un VPS standard cu 8 GB de RAM.
De ce să rulezi Text Generation Web UI pe Hostinger
Lansare cu un singur click
Pune-ți aplicația în funcțiune instantaneu cu o configurare predefinită. Fără instalări manuale sau pași complecși de setare.
Securitate pe care te poți baza
Protejează-ți aplicațiile cu un firewall întegrat, protecție DDoS și monitorizare continuă.
Manager Docker încorporat
Rulezi și administrezi mai multe containere Docker dintr-un singur loc. Implementezi, actualizezi și monitorizezi proiectele cu ușurință.
Lansare cu un singur click
Pune-ți aplicația în funcțiune instantaneu cu o configurare predefinită. Fără instalări manuale sau pași complecși de setare.
Securitate pe care te poți baza
Protejează-ți aplicațiile cu un firewall întegrat, protecție DDoS și monitorizare continuă.
Manager Docker încorporat
Rulezi și administrezi mai multe containere Docker dintr-un singur loc. Implementezi, actualizezi și monitorizezi proiectele cu ușurință.