Postavite Serge jednostavnom instalacijom jednim klikom.
Samostalno hostirano sučelje za chat za pokretanje LLaMA i Alpaca modela lokalno putem llama.cpp bez troškova API-ja.
Odaberite VPS plan za Serge
Svaki plan ima sve što trebate i više od toga
Što možete izgraditi uz Serge
Serge je sučelje za chat otvorenog koda za lokalno pokretanje jezičnih modela iz obitelji LLaMA putem llama.cpp, s prvoklasnom podrškom za Alpaca, Vicuna, GPT4All i druge prilagodbe zajednice. Objedinjuje SvelteKit web sučelje, FastAPI pozadinski sustav i registar modela podržan Redisom u jedan spremnik, tako da možete preuzimati GGUF modele, upravljati sesijama chata i podešavati parametre zaključivanja bez povezivanja više usluga.
Samostalno hostiranje Sergea zadržava svaki upit i odgovor na vašem vlastitom VPS-u — bez vanjskog API-ja, bez telemetrije i bez troškova po tokenu. Zaključivanje samo putem CPU-a radi odmah po instalaciji, čineći ga praktičnim načinom za pokretanje privatnih LLM-ova bez plaćanja vremena GPU-a u oblaku ili prijave za AI uslugu treće strane.
Serge ključne značajke
Radi na CPU-u
llama.cpp omogućuje potpuno lokalno zaključivanje bez GPU-a, tako da možete razgovarati s kvantiziranim LLaMA modelima na standardnom VPS-u.
Ugrađeni registar modela
Preuzimajte i prebacujte se između Alpaca, Vicuna, GPT4All i drugih GGUF modela izravno iz web sučelja bez ručnog kopiranja datoteka.
Podesivo zaključivanje
Prilagodite temperaturu, top-k, top-p, duljinu konteksta i ostale parametre generiranja po chatu za kontrolu stila i kvalitete odgovora.
Trajna povijest chata
Razgovori i preuzete težine modela pohranjuju se u Docker volumenima i preživljavaju ponovna pokretanja spremnika i nadogradnje.
REST API uključeno
FastAPI pozadina izlaže endpointe za chat, model i sesiju tako da možete integrirati Serge s prilagođenim skriptama, botovima ili aplikacijama.
Zašto pokrenuti Serge na Hostingeru
Pokreni jednim klikom
Pokrenite svoju aplikaciju odmah uz unaprijed konfiguriranu postavku. Nema ručne instalacije ili složenih koraka postavljanja.
Sigurnost na koju se možete osloniti
Zaštitite svoje aplikacije ugrađenim vatrozidom, DDoS zaštitom i kontinuiranim nadzorom.
Ugrađeni Docker upravitelj
Pokrenite i upravljajte s više Docker kontejnera s jednog mjesta. Jednostavno implementirajte, ažurirajte i pratite svoje projekte.
Pokreni jednim klikom
Pokrenite svoju aplikaciju odmah uz unaprijed konfiguriranu postavku. Nema ručne instalacije ili složenih koraka postavljanja.
Sigurnost na koju se možete osloniti
Zaštitite svoje aplikacije ugrađenim vatrozidom, DDoS zaštitom i kontinuiranim nadzorom.
Ugrađeni Docker upravitelj
Pokrenite i upravljajte s više Docker kontejnera s jednog mjesta. Jednostavno implementirajte, ažurirajte i pratite svoje projekte.
Docker VPS hosting na koji se možete osloniti
Izuzetno sam zadovoljan Hostingerovim VPS hostingom! Njihova dostupnost je dosljedno vrhunska, što osigurava nesmetan rad moje stranice. Kad god mi je bila potrebna pomoć, njihov tim za tehničku podršku bio je brz, stručan i iskreno uslužan.
Sve ide glatko i odlično uz Hostinger, AI chatbot + ljudski chat, ako AI ne može riješiti vaše pitanje. A VPS im je jednostavno top, bez uspona i padova. Hvala razvojnom timu i svima ostalima koji su sudjelovali. Samo tako nastavite 🚀
Konačno tvrtka za VPS hosting koja sve radi kako treba! Dobra cijena. Izvrstan portal koji poštuje vrijeme svojih korisnika. Besprijekorne sigurnosne kopije. Dobra podrška. Pouzdano. Djeluje izuzetno kvalitetno.
Obratio sam se podršci Hostingera nakon što sam izgubio pristup svom samostalno postavljenom n8n i zadivljen sam. Kodee i Mohammad iz tima za podršku bili su nevjerojatno strpljivi i temeljiti.
Puno hvala Carli što mi je pomogla s ovom N8N nadogradnjom na mom Hostinger VPS-u. Profesionalna i stručna, još jednom hvala Carla.
Hostinger VPS je apsolutno izvanredan. Uvijek radi. Uvijek je brz i stabilan. Nikad ne pada, nikad se ne ruši.
Tvrtka dobro posluje, jako sam zadovoljan specifičnim uslugama koje koristim preko njih. Nisu toliko skupe kao kod nekih, a imaju odlične VPS postavke i cjenovne planove.