Izvietot Text Generation Web UI ar viena klikšķa instalāciju.
Funkcijām bagāta tīmekļa saskarne vietējo LLM darbināšanai ar GGUF, GPTQ un AWQ atbalstu uz CPU vai GPU.
Izvēlies Text Generation Web UI VPS plānu
Katrā plānā ir viss tev nepieciešamais un vēl vairāk
Ko tu vari izveidot ar Text Generation Web UI
Teksta ģenerēšanas tīmekļa lietotāja saskarne (Web UI) ir atvērtā koda Gradio balstīta saskarne lielo valodu modeļu lokālai ielādei, palaišanai un mijiedarbībai ar tiem. Tā atbalsta vairāk modeļu formātu nekā praktiski jebkura cita pašu mitināta LLM saskarne — tostarp GGUF, izmantojot llama.cpp, GPTQ, AWQ, EXL2 un Transformers — padarot to par galveno rīku lietotājiem, kuri strādā ar dažādiem modeļu failiem no HuggingFace un kuriem nepieciešama pilnīga kontrole pār secinājumu parametriem.
Šī izvietošana izmanto CPU optimizēto versiju, kas palaiž GGUF kvantētos modeļus, izmantojot llama.cpp aizmugursistēmu — praktiski jebkurā VPS bez īpašas GPU. Ievieto jebkuru GGUF modeļa failu modeļu sējumā, un tas parādīsies cilnē “Modeļi”, gatavs ielādei. Pašmitināšana saglabā tavas sarunas, sistēmas uzvednes un visus dokumentus, ko kopīgo ar modeli, tavā paša infrastruktūrā.
Text Generation Web UI galvenās iespējas
Daudzformātu modeļa atbalsts
Ielādēt GGUF, GPTQ, AWQ, EXL2 un Transformers modeļus no vienas un tās pašas saskarnes, nepārkonfigurējot aizmugursistēmas vai pārbūvējot konteineru.
Tērzēšana, instrukcijas un piezīmju grāmatiņa
Trīs atšķirīgi mijiedarbības režīmi aptver daudzpakāpju sarunas, strukturētus uzvedņu un atbilžu uzdevumus un brīvas formas teksta ģenerēšanu vienā rīkā.
Tēlu un personu sistēma
Definē detalizētas AI tēlu kartītes ar fona stāstiem, piemēru dialogiem un avatāriem, lai veidotu modeļa uzvedību sesiju laikā.
Ar OpenAI saderīgs API
Iespējo papildu REST API portā 5000, lai savienotu ārējās lietojumprogrammas, izmantojot standarta OpenAI klienta bibliotēkas, bez koda izmaiņām.
Paplašinājumu ekosistēma
Kopienas paplašinājumi pievieno iespējas, piemēram, ilgtermiņa atmiņu, balss ievadi/izvadi, Stable Diffusion integrāciju un pielāgotus rīkus.
Kāpēc izmantot Text Generation Web UI pie Hostinger
Publicē ar vienu klikšķi
Acumirklī izveido un publicē savu lietotni ar jau gatavu konfigurāciju. Nekādu manuālu instalāciju vai sarežģītu iestatīšanas darbību.
Drošība, uz kuru vari paļauties
Aizsargā savas lietotnes ar iebūvētu ugunsmūri, DDoS aizsardzību un nepārtrauktu uzraudzību.
Iebūvēts Docker pārvaldnieks
Palaid un pārvaldi vairākus Docker konteinerus vienuviet. Ērti izvieto, atjaunini un uzraugi savus projektus.
Publicē ar vienu klikšķi
Acumirklī izveido un publicē savu lietotni ar jau gatavu konfigurāciju. Nekādu manuālu instalāciju vai sarežģītu iestatīšanas darbību.
Drošība, uz kuru vari paļauties
Aizsargā savas lietotnes ar iebūvētu ugunsmūri, DDoS aizsardzību un nepārtrauktu uzraudzību.
Iebūvēts Docker pārvaldnieks
Palaid un pārvaldi vairākus Docker konteinerus vienuviet. Ērti izvieto, atjaunini un uzraugi savus projektus.
Docker VPS hostings, uz kuru vari paļauties
Esmu ļoti apmierināts ar Hostinger VPS hostingu! Viņu darbspējas laiks vienmēr ir augstākajā līmenī, nodrošinot manas vietnes nevainojamu darbību. Ikreiz, kad man ir bijusi nepieciešama palīdzība, viņu tehniskā atbalsta komanda ir bijusi ātra, zinoša un patiesi izpalīdzīga.
Viss norit bez aizķeršanās un lieliski ar Hostinger, MI čatbotu + cilvēku čatu, ja MI nevar atrisināt tavu problēmu. Un viņu VPS ir vienkārši lielisks, bez liekiem kāpumiem un kritumiem. Paldies izstrādātāju komandai un visiem pārējiem iesaistītajiem. Tā tik turpināt 🚀
Beidzot VPS hostinga uzņēmums, kas visu dara pareizi! Laba cena. Lielisks portāls, kas respektē lietotāju laiku. Nevainojamas dublējumkopijas. Labs atbalsts. Uzticams. Nevainojama sajūta.
Pēc piekļuves zaudēšanas mana pašuzturētā n8n instancei es sazinājos ar Hostinger atbalsta komandu, un biju neizsakāmi pārsteigts. Kodee un atbalsta komandas darbinieks Muhameds bija neticami pacietīgi un rūpīgi.
Liels paldies Karlai par palīdzību ar šo N8N uzlabošanu manā Hostinger VPS. Pārliecinājos par profesionālismu un zinošumu, vēlreiz paldies Karlai.
Hostinger VPS ir absolūti izcils. Tas vienmēr darbojas. Tas vienmēr ir ātrs un stabils. Nekādas dīkstāves, nekādu problēmu.
Viņi strādā ļoti labi, esmu ļoti apmierināts ar konkrētajiem pakalpojumiem, ko izmantoju caur viņiem. Nav tik dārgi kā dažās vietās – šeit ir patiešām lieliski VPS uzstādījumi un cenas.