Installer Serge med ett-klikks installasjon.
Selvhostet chat-grensesnitt for å kjøre LLaMA- og Alpaca-modeller lokalt via llama.cpp uten API-kostnader.
Velg en VPS-plan for Serge
Hver plan har alt du trenger og mer
Hva du kan bygge med Serge
Serge er et åpen kildekode-chatgrensesnitt for å kjøre språkmodeller i LLaMA-familien lokalt via llama.cpp, med førsteklasses støtte for Alpaca, Vicuna, GPT4All og andre finjusteringer fra fellesskapet. Den samler et SvelteKit web-grensesnitt, en FastAPI-backend og et Redis-støttet modellregister i én enkelt container, slik at du kan hente GGUF-modeller, administrere chat-økter og justere inferensparametere uten å koble sammen flere tjenester.
Selv-hosting av Serge holder hver prompt og respons på din egen VPS — ingen ekstern API, ingen telemetri og ingen kostnader per token. Kun CPU-inferens fungerer umiddelbart, noe som gjør det til en praktisk måte å kjøre private LLM-er på uten å betale for sky-GPU-tid eller registrere deg for en tredjeparts AI-tjeneste.
Viktige funksjoner i Serge
Kjører på CPU
llama.cpp driver fullstendig lokal inferens uten en GPU, slik at du kan chatte med kvantiserte LLaMA-modeller på en standard VPS.
Innebygd modellregister
Trekk og bytt mellom Alpaca, Vicuna, GPT4All og andre GGUF-modeller direkte fra webgrensesnittet uten manuell filkopiering.
Justerbar inferens
Juster temperatur, top-k, top-p, kontekstlengde og andre generasjonsparametere per chat for å kontrollere svarestil og kvalitet.
Vedvarende chattehistorikk
Samtaler og nedlastede modellvekter lagres i Docker-volumer og overlever container-omstarter og oppgraderinger.
REST API inkludert
FastAPI-backend eksponerer chat-, modell- og sesjonsendepunkter slik at du kan integrere Serge med egendefinerte skript, roboter eller apper.
Hvorfor kjøre Serge på Hostinger
Start med ett klikk
Få applikasjonen din i gang umiddelbart med et forhåndskonfigurert oppsett. Ingen manuell installasjon eller komplekse oppsetttrinn.
Sikkerhet du kan stole på
Hold applikasjonene dine beskyttet med en innebygd brannmur, DDoS-beskyttelse og kontinuerlig overvåking.
Innebygd Docker-manager
Kjør og administrer flere Docker-containere fra ett sted. Implementer, oppdater og overvåk prosjektene dine med letthet.
Start med ett klikk
Få applikasjonen din i gang umiddelbart med et forhåndskonfigurert oppsett. Ingen manuell installasjon eller komplekse oppsetttrinn.
Sikkerhet du kan stole på
Hold applikasjonene dine beskyttet med en innebygd brannmur, DDoS-beskyttelse og kontinuerlig overvåking.
Innebygd Docker-manager
Kjør og administrer flere Docker-containere fra ett sted. Implementer, oppdater og overvåk prosjektene dine med letthet.
Docker VPS-hosting du kan stole på
Jeg er utrolig fornøyd med Hostingers VPS-hosting! Oppetiden deres er gjennomgående førsteklasses, noe som sørger for at nettstedet mitt kjører problemfritt. Når jeg har trengt hjelp, har deres tekniske supportteam vært raske, kunnskapsrike og genuint hjelpsomme.
Alt går knirkefritt og bra med Hostinger, AI-chatboten + menneskelig chat, hvis AI ikke kan løse spørsmålet ditt. Å, og VPS-en deres er bare fantastisk, ingen oppturer og nedturer. Takk til utviklerteamet og alle andre involverte. Stå på 🚀
Endelig et VPS-hostingselskap som gjør det riktig! Godt priset. Utmerket portal som respekterer brukernes tid. Sømløse sikkerhetskopier. God kundestøtte. Pålitelig. Føles bunnsolid.
Jeg kontaktet Hostinger-kundestøtte etter å ha mistet tilgangen til min selvhostede n8n-instans, og jeg kunne ikke vært mer imponert. Kodee og Mohammad fra kundestøtteteamet var utrolig tålmodige og grundige.
Tusen takk til Carla for at hun hjalp meg med denne N8N-oppgraderingen på Hostinger VPS-en min. Profesjonell og kunnskapsrik, takk igjen Carla.
Hostinger VPS er helt enestående. Det fungerer bare alltid. Det er alltid raskt og stabilt. Aldri nede, aldri krasjer.
Selskapet gjør det bra, og jeg er veldig fornøyd med de spesifikke tjenestene jeg bruker gjennom dem. Ikke så dyrt som noen steder med virkelig gode VPS-oppsett og prisplaner.