Installera Serge med ettklicksinstallation.
Självhostat chattgränssnitt för att köra LLaMA- och Alpaca-modeller lokalt via llama.cpp utan API-kostnader.
Välj en VPS-prenumeration för Serge
Varje plan har allt du behöver och mer
Vad du kan bygga med Serge
Serge är ett chattgränssnitt med öppen källkod för att köra språkmodeller av LLaMA-familjen lokalt via llama.cpp, med förstklassigt stöd för Alpaca, Vicuna, GPT4All och andra finjusteringar från communityn. Det paketerar ett SvelteKit webbgränssnitt, en FastAPI-backend och ett Redis-baserat modellregister i en enda container, så att du kan hämta GGUF-modeller, hantera chattsessioner och finjustera inferensparametrar utan att koppla ihop flera tjänster.
Att själv hosta Serge behåller varje prompt och svar på din egen VPS – ingen extern API, ingen telemetri och inga kostnader per token. CPU-baserad inferens fungerar direkt, vilket gör det till ett praktiskt sätt att köra privata LLM:er utan att betala för moln-GPU-tid eller registrera dig för en tredjeparts AI-tjänst.
Viktiga funktioner i Serge
Kör på CPU
llama.cpp möjliggör fullständigt lokal inferens utan en GPU, så att du kan chatta med kvantiserade LLaMA-modeller på en standard VPS.
Inbyggt modellregister
Hämta och växla mellan Alpaca, Vicuna, GPT4All och andra GGUF-modeller direkt från webbgränssnittet utan manuell filkopiering.
Justerbar inferens
Justera temperatur, top-k, top-p, kontextlängd och andra genereringsparametrar per chatt för att styra svarsstil och kvalitet.
Beständig chatthistorik
Konversationer och nedladdade modellvikter lagras i Docker-volymer och överlever containeromstarter och uppgraderingar.
REST API ingår
FastAPI-backend exponerar chatt-, modell- och sessionsslutpunkter så att du kan integrera Serge med anpassade skript, botar eller appar.
Varför köra Serge på Hostinger
Lansera med ett klick
Få igång din applikation direkt med en färdig konfiguration. Ingen manuell installation eller komplicerade steg.
Säkerhet du kan lita på
Skydda dina applikationer med en inbyggd brandvägg, DDoS-skydd och kontinuerlig övervakning.
Inbyggd Docker manager
Kör och hantera flera Docker-containers från ett ställe. Implementera, uppdatera och övervaka dina projekt enkelt.
Lansera med ett klick
Få igång din applikation direkt med en färdig konfiguration. Ingen manuell installation eller komplicerade steg.
Säkerhet du kan lita på
Skydda dina applikationer med en inbyggd brandvägg, DDoS-skydd och kontinuerlig övervakning.
Inbyggd Docker manager
Kör och hantera flera Docker-containers från ett ställe. Implementera, uppdatera och övervaka dina projekt enkelt.
Docker VPS hosting du kan lita på
Jag är otroligt nöjd med Hostingers VPS-hosting! Deras upptid är av högsta klass, vilket gör att min webbplats fungerar smidigt. När jag än har behövt hjälp har deras tekniska supportteam varit snabba, kunniga och genuint hjälpsamma.
Allt går snabbt och smidigt med Hostinger, AI-chatboten + mänsklig chatt ifall AI inte kan lösa din fråga. Och VPS-servern är helt enkelt grym, inga upp- och nedgångar. Tack till utvecklingsteamet och alla andra inblandade. Ni är grymma 🚀
Äntligen ett VPS-hostingföretag som gör det rätt! Prisvärt. Utmärkt portal som respekterar användarnas tid. Sömlösa säkerhetskopior. Bra support. Pålitligt. Känns stabilt.
Jag kontaktade Hostinger support efter att ha förlorat åtkomsten till min egenhostade n8n-instans och jag är superimponerad. Kodee och Mohammad från supportteamet var otroligt tålmodiga och noggranna.
Stort tack till Carla för att hon hjälpte mig med denna N8N-uppgradering på min Hostinger VPS. Professionell och kunnig, tusen tack Carla.
Hostinger VPS är helt fantastisk. Det fungerar alltid. Det är alltid snabbt och stabilt. Aldrig nere, kraschar aldrig.
Företaget är toppen, jag är väldigt nöjd med tjänsterna jag använder genom dem. Inte lika dyra som vissa ställen, och de har riktigt bra VPS-inställningar och prenumerationer.