Installer Text Generation Web UI med ett-klikks installasjon.
Funksjonsrikt webgrensesnitt for å kjøre lokale LLM-er med støtte for GGUF, GPTQ og AWQ på CPU eller GPU.
Velg en VPS-plan for Text Generation Web UI
Hver plan har alt du trenger og mer
Hva du kan bygge med Text Generation Web UI
Text Generation Web UI er et åpen kildekode Gradio-basert grensesnitt for lasting, kjøring og interaksjon med store språkmodeller lokalt. Det støtter flere modellformater enn praktisk talt alle andre selvhostede LLM-frontend-er — inkludert GGUF via llama.cpp, GPTQ, AWQ, EXL2 og Transformers — noe som gjør det til det primære verktøyet for brukere som jobber med ulike modellfiler fra HuggingFace og trenger full kontroll over inferensparametere.
Denne distribusjonen bruker den CPU-optimaliserte byggingen, som kjører GGUF-kvantiserte modeller via llama.cpp-backend-en — praktisk på enhver VPS uten en dedikert GPU. Plasser enhver GGUF-modellfil i modeller-volumet, og den vil vises i Modeller-fanen klar til å lastes. Selvhosting holder samtalene dine, systempromptene og eventuelle dokumenter du deler med modellen på din egen infrastruktur.
Viktige funksjoner i Text Generation Web UI
Støtte for flerformatmodeller
Laste inn GGUF-, GPTQ-, AWQ-, EXL2- og Transformers-modeller fra det samme grensesnittet uten å rekonfigurere bakendene eller bygge om beholderen.
Chat, instruer og notatbok
Tre distinkte interaksjonsmoduser dekker fler-turssamtaler, strukturerte spørsmål-svar-oppgaver og fri tekstgenerering i ett verktøy.
Karakter- og personasystem
Definer detaljerte AI-karakterkort med bakgrunnshistorier, eksempeldialoger og avatarer for å forme modellens atferd på tvers av økter.
OpenAI-kompatibel API
Aktiver det valgfrie REST API-et på port 5000 for å koble til eksterne applikasjoner ved hjelp av standard OpenAI klientbiblioteker uten kodeendringer.
Utvidelsesøkosystem
Fellesskapsutvidelser legger til funksjonalitet som langtidsminne, stemmeinn-/utdata, Stable Diffusion-integrasjon og tilpassede verktøy.
GPU-fri CPU-inferens
Kjører GGUF-kvantiserte modeller på CPU via llama.cpp — en 3-7B-parametermodell er praktisk på en standard VPS med 8 GB RAM.
Hvorfor kjøre Text Generation Web UI på Hostinger
Start med ett klikk
Få applikasjonen din i gang umiddelbart med et forhåndskonfigurert oppsett. Ingen manuell installasjon eller komplekse oppsetttrinn.
Sikkerhet du kan stole på
Hold applikasjonene dine beskyttet med en innebygd brannmur, DDoS-beskyttelse og kontinuerlig overvåking.
Innebygd Docker-manager
Kjør og administrer flere Docker-containere fra ett sted. Implementer, oppdater og overvåk prosjektene dine med letthet.
Start med ett klikk
Få applikasjonen din i gang umiddelbart med et forhåndskonfigurert oppsett. Ingen manuell installasjon eller komplekse oppsetttrinn.
Sikkerhet du kan stole på
Hold applikasjonene dine beskyttet med en innebygd brannmur, DDoS-beskyttelse og kontinuerlig overvåking.
Innebygd Docker-manager
Kjør og administrer flere Docker-containere fra ett sted. Implementer, oppdater og overvåk prosjektene dine med letthet.