Serge als Ein-Klick-Installation bereitstellen.
Selbst gehostete Chat-Oberfläche zum lokalen Ausführen von LLaMA- und Alpaca-Modellen über llama.cpp ohne API-Kosten.
Wählen Sie einen VPS-Plan für Serge
Jeder Plan hat alles, was Sie brauchen und mehr
Was Sie mit Serge erstellen können
Serge ist eine Open-Source-Chat-Oberfläche zum lokalen Ausführen von Sprachmodellen der LLaMA-Familie über llama.cpp, mit erstklassiger Unterstützung für Alpaca, Vicuna, GPT4All und andere Community-Fine-Tunes. Es bündelt eine SvelteKit-Web-UI, ein FastAPI-Backend und ein Redis-gestütztes Modellregister in einem einzigen Container, sodass Sie GGUF-Modelle abrufen, Chatsitzungen verwalten und Inferenzparameter optimieren können, ohne mehrere Dienste miteinander zu verbinden.
Das Selbst-Hosting von Serge speichert jede Eingabeaufforderung und Antwort auf Ihrem eigenen VPS – keine externe API, keine Telemetrie und keine Kosten pro Token. Die reine CPU-Inferenz funktioniert sofort, was sie zu einer praktischen Möglichkeit macht, private LLMs auszuführen, ohne für Cloud-GPU-Zeit zu bezahlen oder sich für einen Drittanbieter-KI-Dienst anzumelden.
Hauptmerkmale von Serge
Läuft auf CPU
llama.cpp ermöglicht vollständig lokale Inferenz ohne eine GPU, sodass Sie mit quantisierten LLaMA-Modellen auf einem Standard-VPS chatten können.
Integrierte Modellregistrierung
Laden Sie Alpaca, Vicuna, GPT4All und andere GGUF-Modelle direkt über die Web-Benutzeroberfläche herunter und wechseln Sie zwischen ihnen, ohne Dateien manuell kopieren zu müssen.
Abstimmbare Inferenz
Passen Sie Temperatur, Top-K, Top-P, Kontextlänge und andere Generierungsparameter pro Chat an, um den Antwortstil und die Qualität zu steuern.
Persistenter Chatverlauf
Konversationen und heruntergeladene Modellgewichte werden in Docker-Volumes gespeichert und überstehen Container-Neustarts und Upgrades.
REST API enthalten
Das FastAPI-Backend stellt Chat-, Modell- und Session-Endpunkte zur Verfügung, damit Sie Serge mit benutzerdefinierten Skripten, Bots oder Apps integrieren können.
Warum Serge auf Hostinger ausführen?
Mit einem Klick starten
Mit einer vorkonfigurierten Einrichtung ist Ihre Anwendung sofort einsatzbereit. Keine manuelle Installation oder komplizierte Einrichtungsschritte.
Sicherheit, auf die Sie sich verlassen können
Schützen Sie Ihre Anwendungen mit einer integrierten Firewall, DDoS-Schutz und kontinuierlicher Überwachung.
Integrierter Docker-Manager
Mehrere Docker-Container können zentral ausgeführt und verwaltet werden. Projekte lassen sich mühelos bereitstellen, aktualisieren und überwachen.
Mit einem Klick starten
Mit einer vorkonfigurierten Einrichtung ist Ihre Anwendung sofort einsatzbereit. Keine manuelle Installation oder komplizierte Einrichtungsschritte.
Sicherheit, auf die Sie sich verlassen können
Schützen Sie Ihre Anwendungen mit einer integrierten Firewall, DDoS-Schutz und kontinuierlicher Überwachung.
Integrierter Docker-Manager
Mehrere Docker-Container können zentral ausgeführt und verwaltet werden. Projekte lassen sich mühelos bereitstellen, aktualisieren und überwachen.
Docker VPS-Hosting, auf das Sie sich verlassen können
Ich bin unglaublich zufrieden mit Hostingers VPS Hosting! Die Uptime ist durchweg erstklassig, wodurch meine Seite reibungslos läuft. Wann immer ich Hilfe benötigte, war ihr technisches Support-Team schnell, kompetent und wirklich hilfsbereit.
Mit Hostinger läuft alles reibungslos und super, dank des KI-Chatbots und des persönlichen Chats, falls die KI Ihre Frage nicht beantworten kann. Und ihr VPS ist einfach der Hammer - keine Aussetzer. Vielen Dank an das Entwicklerteam und alle anderen Beteiligten. Weiter so 🚀
Endlich ein VPS Hosting-Anbieter, der alles richtig macht! Günstige Preise. Ausgezeichnetes Portal, das die Zeit seiner Nutzer respektiert. Nahtlose Backups. Guter Support. Zuverlässig. Macht einen absolut soliden Eindruck.
Nachdem ich den Zugriff auf meine selbst gehostete n8n-Instanz verloren hatte, habe ich mich an den Hostinger-Support gewandt und war mehr als beeindruckt. Kodee und Mohammad vom Support-Team waren unglaublich geduldig und sorgfältig.
Vielen Dank an Carla für die Hilfe bei diesem N8N Upgrade auf meinem Hostinger VPS. Professionell und sachkundig, nochmals vielen Dank, Carla.
Hostinger VPS ist absolut hervorragend. Er läuft jederzeit zuverlässig, schnell und stabil. Es gab weder Ausfälle noch Abstürze.
Das Unternehmen leistet gute Arbeit, ich bin sehr zufrieden mit den einzelnen Diensten, die ich bei ihnen in Anspruch nehme. Nicht so teuer wie einige andere Anbieter und mit wirklich grossartigen VPS-Konfigurationen und Preisplänen.