Juuruta Text Generation Web UI ühe klõpsuga.
Funktsioonirikas veebiliides kohalike LLM-ide käitamiseks GGUF-i, GPTQ ja AWQ toega CPU-l või GPU-l.
Valige VPS-pakett Text Generation Web UI jaoks
Igas paketis on kõik, mida vajad ja palju muud
Millega saab ehitada Text Generation Web UI
Teksti genereerimise veebiliides on avatud lähtekoodiga Gradio-põhine liides suurte keelemudelite kohapeal laadimiseks, käivitamiseks ja nendega suhtlemiseks. See toetab rohkem mudeliformaate kui praktiliselt ükski teine isemajutatud LLM-i esiots — sealhulgas GGUF läbi llama.cpp, GPTQ, AWQ, EXL2 ja Transformers — muutes selle peamiseks tööriistaks kasutajatele, kes töötavad erinevate mudelifailidega HuggingFace'ist ja vajavad täielikku kontrolli järeldusparameetrite üle.
See juurutus kasutab CPU-optimeeritud versiooni, mis käitab GGUF-kvantiseeritud mudeleid läbi llama.cpp taustaosa — praktiline igal VPS-il ilma spetsiaalse GPU-ta. Aseta mis tahes GGUF-mudelifail mudelite mahtu ja see ilmub mudelite vahelehel laadimiseks valmis. Isemajutus hoiab sinu vestlused, süsteemi viiped ja kõik dokumendid, mida mudeliga jagad, sinu enda infrastruktuuris.
Text Generation Web UI peamised omadused
Mitmevormingulise mudeli tugi
Laadi GGUF, GPTQ, AWQ, EXL2 ja Transformers mudelid samast liidesest, ilma taustaprogramme ümber konfigureerimata või konteinerit uuesti ehitamata.
Vestlus, juhend ja märkmik
Kolm erinevat suhtlusrežiimi hõlmavad mitmevooruselisi vestlusi, struktureeritud viip-vastus ülesandeid ja vaba vormiga teksti genereerimist ühes tööriistas.
Tegelase ja persona süsteem
Määra üksikasjalikud AI tegelaskaardid taustalugude, näidisdialoogide ja avataridega, et kujundada mudeli käitumist sessioonide vahel.
OpenAI-ühilduv API
Luba valikuline REST API pordil 5000, et ühendada väliseid rakendusi standardsete OpenAI klienditeekide abil ilma koodimuudatusteta.
Laienduste ökosüsteem
Kogukonna laiendused lisavad võimalusi nagu pikaajaline mälu, häälsisend/väljund, Stable Diffusioni integratsioon ja kohandatud tööriistad.
Miks kasutada Text Generation Web UI Hostingeris
Käivita ühe klõpsuga
Saate oma rakenduse koheselt tööle panna eelkonfigureeritud seadistusega. Pole vaja käsitsi installida ega keerulisi seadistustoiminguid teha.
Turvalisus, millele saate loota
Hoidke oma rakendusi kaitstud sisseehitatud tulemüüri, DDoS-kaitse ja pideva jälgimisega.
Sisseehitatud Dockeri haldur
Käita ja halda mitut Dockeri konteinerit ühest kohast. Juuruta, uuenda ja jälgi oma projekte hõlpsalt.
Käivita ühe klõpsuga
Saate oma rakenduse koheselt tööle panna eelkonfigureeritud seadistusega. Pole vaja käsitsi installida ega keerulisi seadistustoiminguid teha.
Turvalisus, millele saate loota
Hoidke oma rakendusi kaitstud sisseehitatud tulemüüri, DDoS-kaitse ja pideva jälgimisega.
Sisseehitatud Dockeri haldur
Käita ja halda mitut Dockeri konteinerit ühest kohast. Juuruta, uuenda ja jälgi oma projekte hõlpsalt.
Docker VPS-majutus, millele saate kindel olla
Olen Hostingeri VPS-majutusega uskumatult rahul! Nende tööaeg on pidevalt tipptasemel, hoides minu saidi sujuvalt töökorras. Kui olen abi vajanud, on nende tehniline tugimeeskond olnud kiire, teadlik ja siiralt abivalmis.
Hostingeriga, tehisintellektil põhineva vestlusroboti ja inimvestlusega, on kõik sujuv ja suurepärane, kui tehisintellekt teie küsimust lahendada ei suuda. Ahjaa, ja nende VPS on lihtsalt tuli, ilma tõusude ja mõõnadeta. Tänan arendusmeeskonda ja kõiki teisi asjaosalisi. Jätkake samas vaimus 🚀
Lõpuks ometi VPS-hostinguettevõte, mis teeb seda õigesti! Hea hinna ja kvaliteedi suhe. Suurepärane portaal, mis austab kasutajate aega. Sujuvad varukoopiad. Hea tugi. Usaldusväärne. Tundub kaljukindel.
Pärast seda, kui kaotasin juurdepääsu oma isehostitud n8n instantsile, võtsin ühendust Hostingeri toega ja olin äärmiselt vaimustuses. Kodee ja Mohammad tugimeeskonnast olid uskumatult kannatlikud ja põhjalikud.
Suur tänu Carlale abi eest minu Hostingeri VPS-i N8N uuendamisel. Professionaalne ja asjatundlik, tänan teid veelkord, Carla.
Hostingeri VPS on täiesti suurepärane. See lihtsalt töötab alati. See on alati kiire ja stabiilne. Mitte kunagi ei ole maas ega jookse kokku.
Ettevõttel läheb hästi, olen nende kaudu kasutatavate teenustega väga rahul. Need pole nii kallid kui mõned kohad, kus on tõeliselt head VPS-i seadistused ja hinnaplaanid.