Installer Serge med énkliksinstallation.
Selvhostet chatgrænseflade til at køre LLaMA- og Alpaca-modeller lokalt via llama.cpp uden API-omkostninger.
Vælg en VPS-pakke til Serge
Hver pakke har alt det, du skal bruge - og mere til
Hvad du kan bygge med Serge
Serge er en open source chat-grænseflade til at køre sprogmodeller fra LLaMA-familien lokalt via llama.cpp, med førsteklasses understøttelse af Alpaca, Vicuna, GPT4All og andre community-finjusteringer. Den samler en SvelteKit web-brugerflade, en FastAPI backend og et Redis-understøttet modelregister i en enkelt container, så du kan hente GGUF-modeller, administrere chatsessioner og finjustere inferensparametre uden at skulle forbinde flere tjenester.
Selv-hosting af Serge holder hver prompt og respons på din egen VPS — ingen ekstern API, ingen telemetri og ingen omkostninger pr. token. CPU-baseret inferens fungerer ud af boksen, hvilket gør det til en praktisk måde at køre private LLM'er på uden at betale for cloud GPU-tid eller tilmelde sig en tredjeparts AI-tjeneste.
Vigtige funktioner i Serge
Kører på CPU
llama.cpp driver fuldt lokal inferens uden en GPU, så du kan chatte med kvantiserede LLaMA-modeller på en standard VPS.
Indbygget modelregister
Træk og skift mellem Alpaca, Vicuna, GPT4All og andre GGUF-modeller direkte fra webbrugerfladen uden manuel filkopiering.
Justerbar inferens
Juster temperatur, top-k, top-p, kontekstlængde og andre genereringsparametre pr. chat for at styre svarets stil og kvalitet.
Vedvarende chathistorik
Samtaler og downloadede modelvægte gemmes i Docker-volumener og overlever container-genstarter og opgraderinger.
REST API inkluderet
FastAPI-backend eksponerer chat-, model- og sessionsslutpunkter, så du kan integrere Serge med brugerdefinerede scripts, bots eller apps.
Hvorfor vælge Hostinger til at køre Serge
Start med et enkelt klik
Få din applikation op at køre med det samme med en forudkonfigureret opsætning. Ingen manuel installation eller komplekse opsætningstrin.
Sikkerhed du kan stole på
Beskyt dine applikationer med en indbygget firewall, DDoS-beskyttelse og kontinuerlig overvågning.
Indbygget Docker-manager
Kør og administrer flere Docker-containere fra ét sted. Implementer, opdater og overvåg dine projekter med lethed.
Start med et enkelt klik
Få din applikation op at køre med det samme med en forudkonfigureret opsætning. Ingen manuel installation eller komplekse opsætningstrin.
Sikkerhed du kan stole på
Beskyt dine applikationer med en indbygget firewall, DDoS-beskyttelse og kontinuerlig overvågning.
Indbygget Docker-manager
Kør og administrer flere Docker-containere fra ét sted. Implementer, opdater og overvåg dine projekter med lethed.
Docker VPS-hosting, du kan stole på
Jeg er utrolig tilfreds med Hostingers VPS-hosting! Deres oppetid er konsekvent i topklasse, hvilket holder min hjemmeside kørende uden problemer. Når jeg har haft brug for hjælp, har deres tekniske supportteam været hurtige, kyndige og oprigtigt hjælpsomme.
Alt går problemfrit og fantastisk med Hostinger, AI-chatbotten + menneskelig chat, hvis AI ikke kan løse dit spørgsmål. Åh, og så er VPS'en bare fantastisk, ingen op- og nedture. Tak til udviklerteamet og alle andre involverede. Fortsæt det gode arbejde 🚀
Endelig et VPS-hostingfirma, der gør det rigtigt! God pris. Fremragende portal, der respekterer brugernes tid. Problemfri backups. God support. Pålidelig. Føles robust.
Jeg kontaktede Hostinger support efter at have mistet adgangen til min selvhostede n8n-instans, og jeg kunne ikke være mere imponeret. Kodee og Mohammad fra supportteamet var utroligt tålmodige og grundige.
Mange tak til Carla for at hjælpe mig med denne N8N-opgradering på min Hostinger VPS. Professionel og kyndig. Endnu engang tak, Carla.
Hostinger VPS er helt enestående. Det virker bare altid. Det er altid hurtigt og stabilt. Aldrig nogen nedetid.
Virksomheden klarer sig godt, og jeg er meget tilfreds med de specifikke tjenester, jeg bruger gennem dem. Ikke så dyrt som nogle steder med virkelig gode VPS-opsætninger og prisvenlige pakker.