Serge als Ein-Klick-Installation bereitstellen.
Selbstgehostete Chat-Schnittstelle zum lokalen Ausführen von LLaMA- und Alpaca-Modellen über llama.cpp ohne API-Kosten.
Wählen Sie einen VPS-Plan für Serge
Jeder Plan hat alles, was Sie brauchen und mehr
Was Sie mit Serge erstellen können
Serge ist eine Open-Source-Chat-Oberfläche zum lokalen Ausführen von Sprachmodellen der LLaMA-Familie über llama.cpp, mit erstklassiger Unterstützung für Alpaca, Vicuna, GPT4All und andere Community-Fine-Tunes. Es bündelt eine SvelteKit-Web-UI, ein FastAPI-Backend und ein Redis-gestütztes Modellregister in einem einzigen Container, sodass Sie GGUF-Modelle abrufen, Chatsitzungen verwalten und Inferenzparameter optimieren können, ohne mehrere Dienste miteinander zu verbinden.
Wenn Sie Serge selbst hosten, bleiben alle Prompts und Antworten auf Ihrem eigenen VPS – keine externe API, keine Telemetrie und keine Kosten pro Token. Die reine CPU-Inferenz funktioniert sofort, was es zu einer praktischen Möglichkeit macht, private LLMs auszuführen, ohne für Cloud-GPU-Zeit zu bezahlen oder sich für einen Drittanbieter-KI-Dienst anzumelden.
Wichtige Funktionen von Serge
Läuft auf CPU
llama.cpp ermöglicht vollständig lokale Inferenz ohne GPU, sodass Sie mit quantisierten LLaMA-Modellen auf einem Standard-VPS chatten können.
Integriertes Modellregister
Laden Sie Alpaca, Vicuna, GPT4All und andere GGUF-Modelle direkt über die Web-UI herunter und wechseln Sie zwischen ihnen, ohne Dateien manuell kopieren zu müssen.
Abstimmbare Inferenz
Passen Sie Temperatur, Top-k, Top-p, Kontextlänge und andere Generierungsparameter pro Chat an, um den Antwortstil und die Qualität zu steuern.
Persistenter Chatverlauf
Konversationen und heruntergeladene Modellgewichte werden in Docker-Volumes gespeichert und überstehen Container-Neustarts und Upgrades.
REST API enthalten
Das FastAPI-Backend stellt Chat-, Modell- und Sitzungs-Endpunkte bereit, damit Sie Serge mit benutzerdefinierten Skripten, Bots oder Apps integrieren können.
Warum Sie Serge auf Hostinger ausführen sollten
Mit 1 Klick veröffentlichen
Mit einer vorkonfigurierten Einrichtung ist Ihre Anwendung sofort einsatzbereit. Keine manuelle Installation oder komplizierte Einrichtungsschritte.
Sicherheit, auf die Sie sich verlassen können
Schützen Sie Ihre Anwendungen mit integrierter Firewall, DDoS-Schutz und kontinuierlicher Überwachung.
Integrierter Docker-Manager
Mehrere Docker-Container können zentral ausgeführt und verwaltet werden. Projekte lassen sich mühelos bereitstellen, aktualisieren und überwachen.
Mit 1 Klick veröffentlichen
Mit einer vorkonfigurierten Einrichtung ist Ihre Anwendung sofort einsatzbereit. Keine manuelle Installation oder komplizierte Einrichtungsschritte.
Sicherheit, auf die Sie sich verlassen können
Schützen Sie Ihre Anwendungen mit integrierter Firewall, DDoS-Schutz und kontinuierlicher Überwachung.
Integrierter Docker-Manager
Mehrere Docker-Container können zentral ausgeführt und verwaltet werden. Projekte lassen sich mühelos bereitstellen, aktualisieren und überwachen.
Docker VPS Hosting, auf das Sie sich verlassen können
Ich bin unglaublich zufrieden mit dem VPS Hosting von Hostinger! Die Uptime ist durchweg erstklassig, wodurch meine Seite reibungslos läuft. Wann immer ich Hilfe benötigte, war ihr technisches Support-Team schnell, kompetent und wirklich hilfsbereit.
Mit Hostinger läuft alles reibungslos und super, dank des KI-Chatbots und des persönlichen Chats, falls die KI Ihre Frage nicht beantworten kann. Oh, und ihr VPS ist einfach der Hammer, keine Aussetzer. Vielen Dank an das Entwicklerteam und alle anderen Beteiligten. Weiter so 🚀
Endlich ein VPS Hosting-Anbieter, der alles richtig macht! Günstige Preise. Ausgezeichnetes Portal, das die Zeit seiner Nutzer respektiert. Nahtlose Backups. Guter Support. Zuverlässig. Macht einen absolut soliden Eindruck.
Nachdem ich den Zugriff auf meine selbst gehostete n8n-Instanz verloren hatte, habe ich mich an den Hostinger-Support gewandt und war mehr als beeindruckt. Kodee und Mohammad vom Support-Team waren unglaublich geduldig und sorgfältig.
Vielen Dank an Carla für die Hilfe bei diesem N8N Upgrade auf meinem Hostinger VPS. Professionell und sachkundig, nochmals vielen Dank, Carla.
Hostinger VPS ist absolut hervorragend. Er funktioniert einfach immer. Er ist immer schnell und stabil. Nie ausgefallen, nie abgestürzt.
Das Unternehmen leistet gute Arbeit, ich bin sehr zufrieden mit den einzelnen Diensten, die ich bei ihnen in Anspruch nehme. Nicht so teuer wie einige andere Anbieter und mit wirklich großartigen VPS-Konfigurationen und Preisplänen.