Telepítse a Text Generation Web UI-t egyetlen kattintással.
Funkciókban gazdag webes felület helyi LLM-ek futtatásához GGUF, GPTQ és AWQ támogatással CPU-n vagy GPU-n.
Válasszon VPS csomagot a Text Generation Web UI szolgáltatáshoz
A csomagok mindent tartalmaznak, amire szüksége van, sőt, annál többet is
Erre jó a Text Generation Web UI
A Text Generation Web UI egy nyílt forráskódú, Gradio-alapú felület a nagy nyelvi modellek helyi betöltésére, futtatására és az azokkal való interakcióra. Több modellformátumot támogat, mint bármely más saját üzemeltetésű LLM frontend. Ezek közé tartozik a GGUF (llama.cpp-n keresztül), a GPTQ, az AWQ, az EXL2 és a Transformers. Ez az elsődleges eszköz azoknak, akik a HuggingFace-ről származó modellfájlokkal dolgoznak, és teljes kontrollt igényelnek az inferencia paraméterei felett.
Ez a telepítés a CPU-optimalizált buildet használja. Ez GGUF-kvantált modelleket futtat a llama.cpp backend segítségével. Ez praktikus bármely VPS-en dedikált GPU nélkül. Helyezzen bármilyen GGUF modellfájlt a models kötetbe, és az megjelenik a Models lapon, betöltésre készen. A saját üzemeltetés a beszélgetéseit, a rendszerüzeneteket és a modellel megosztott dokumentumokat a saját infrastruktúráján tartja.
A Text Generation Web UI főbb funkciói
Többformátumú modell támogatás
Betölthet GGUF, GPTQ, AWQ, EXL2 és Transformers modelleket ugyanarról az interfészről, a backendek újrakonfigurálása vagy a konténer újraépítése nélkül.
Csevegés, utasítás és jegyzetfüzet
Három különböző interakciós mód fed le többfordulós beszélgetéseket, strukturált prompt-válasz feladatokat és szabad formájú szöveggenerálást egyetlen eszközben.
Karakter- és perszónarendszer
Definiáljon részletes AI karakterkártyákat háttértörténetekkel, példapárbeszédekkel és avatárokkal a modell viselkedésének alakításához a munkamenetek során.
OpenAI-kompatibilis API
Engedélyezze az opcionális REST API-t az 5000-es porton, hogy külső alkalmazásokat csatlakoztasson szabványos OpenAI klienskönyvtárak használatával, kódmódosítások nélkül.
Bővítmény ökoszisztéma
A közösségi bővítmények olyan képességeket adnak hozzá, mint például a hosszú távú memória, a hangbemenet/kimenet, a Stable Diffusion integráció és az egyedi eszközök.
Ezért érdemes a Hostingeren futtatni a Text Generation Web UI szolgáltatást
Egykatintásos publikálás
Az előre konfigurált beállításnak köszönhetően azonnal beállíthatja és futtathatja alkalmazását. Nincs szükség manuális telepítésre vagy bonyolult beállítási lépésekre.
Biztonság, amire számíthat
Védje alkalmazásait beépített tűzfallal, DDoS-védelemmel és folyamatos ellenőrzéssel.
Beépített Docker kezelő
Több Docker konténert futtathat és kezelhet egy helyen. Könnyedén telepítheti, frissítheti és felügyelheti projektjeit.
Egykatintásos publikálás
Az előre konfigurált beállításnak köszönhetően azonnal beállíthatja és futtathatja alkalmazását. Nincs szükség manuális telepítésre vagy bonyolult beállítási lépésekre.
Biztonság, amire számíthat
Védje alkalmazásait beépített tűzfallal, DDoS-védelemmel és folyamatos ellenőrzéssel.
Beépített Docker kezelő
Több Docker konténert futtathat és kezelhet egy helyen. Könnyedén telepítheti, frissítheti és felügyelheti projektjeit.
Docker VPS tárhely, amire számíthat
Hihetetlenül elégedett vagyok a Hostinger VPS tárhelyszolgáltatásával! Az üzemidejük folyamatosan elsőrangú, így az oldalam kiválóan működik. Valahányszor segítségre volt szükségem, a technikai támogató csapatuk gyors, hozzáértő és valóban segítőkész volt.
Minden simán és nagyszerűen megy a Hostingerrel; az AI-alapú csevegőrobot segít, és ha az már nem elég, akkor emberrel is cseveghetek. Ja, és a VPS-ük simán működik, nincsenek problémák. Köszönöm a fejlesztőcsapatnak és mindenkinek, akit még köszönet illet. Csak így tovább 🚀
Végre egy VPS hosting cég, amely jól csinálja! Jók az árak, a portál pedig kiváló, és nem vesztegeti a felhasználók idejét. Zökkenőmentes biztonsági mentések, jó ügyfélszolgálat, megbízható szolgáltatás. Atombiztosnak tűnik.
Azt követően léptem kapcsolatba a Hostinger ügyfélszolgálatával, hogy elvesztettem a hozzáférést az önállóan tárolt n8n példányomhoz, és teljesen lenyűgöztek. A Kodee és az ügyfélszolgálat munkatársa, Mohammad hihetetlenül türelmesek és alaposak voltak.
Nagyon köszönöm Carlának, hogy segített az N8N frissítésben a Hostinger VPS-emen, igazán professzionális és hozzáértő volt. Még egyszer köszönöm, Carla.
A Hostinger VPS szolgáltatása abszolút kiemelkedő. Egyszerűen mindig működik, mindig gyors és stabil. Soha nem áll le, soha nem omlik össze.
A cég jól teljesít, nagyon elégedett vagyok a tőlük igénybe vett szolgáltatásokkal. Nem olyan drágák, mint más helyek, a VPS-beállítások és az árak pedig igazán nagyszerűek.