Distribuisci Serge con installazione in un click.
Interfaccia di chat self-hosted per eseguire modelli LLaMA e Alpaca localmente tramite llama.cpp senza costi API.
Scegli un piano VPS per Serge
Ogni piano ha tutto quello di cui hai bisogno e anche di più
Cosa puoi costruire con Serge
Serge è un'interfaccia di chat open-source per eseguire modelli linguistici della famiglia LLaMA localmente tramite llama.cpp, con supporto di prim'ordine per Alpaca, Vicuna, GPT4All e altri fine-tuning della community. Raggruppa un'interfaccia utente web SvelteKit, un backend FastAPI e un registro di modelli basato su Redis in un unico container, così puoi scaricare modelli GGUF, gestire sessioni di chat e ottimizzare i parametri di inferenza senza collegare più servizi.
L'auto-hosting di Serge mantiene ogni prompt e risposta sul tuo VPS — nessuna API esterna, nessuna telemetria e nessun costo per token. L'inferenza solo CPU funziona subito, rendendolo un modo pratico per eseguire LLM privati senza pagare per il tempo GPU del cloud o iscriversi a un servizio AI di terze parti.
Funzionalità principali di Serge
Gira su CPU
llama.cpp consente l'inferenza completamente locale senza una GPU, così puoi chattare con modelli LLaMA quantizzati su un VPS standard.
Registro modelli integrato
Scarica e passa da Alpaca, Vicuna, GPT4All e altri modelli GGUF direttamente dall'interfaccia web senza copiare manualmente i file.
Inferenza regolabile
Regola la temperatura, top-k, top-p, la lunghezza del contesto e altri parametri di generazione per chat per controllare lo stile e la qualità della risposta.
Cronologia chat persistente
Conversazioni e pesi del modello scaricati sono archiviati nei volumi Docker e sopravvivono ai riavvii e agli aggiornamenti dei container.
REST API inclusa
Il backend di FastAPI espone endpoint di chat, modello e sessione in modo da poter integrare Serge con script personalizzati, bot o app.
Perché eseguire Serge su Hostinger
Avvia con un click
Avvia la tua applicazione all'istante grazie a una configurazione predefinita. Nessuna installazione manuale o procedura di configurazione complessa.
Una soluzione di sicurezza affidabile
Proteggi le tue applicazioni con un firewall integrato, protezione DDoS e monitoraggio continuo.
Gestore Docker integrato
Esegui e gestisci più container Docker da un'unica postazione. Distribuisci, aggiorna e monitora i tuoi progetti con facilità .
Avvia con un click
Avvia la tua applicazione all'istante grazie a una configurazione predefinita. Nessuna installazione manuale o procedura di configurazione complessa.
Una soluzione di sicurezza affidabile
Proteggi le tue applicazioni con un firewall integrato, protezione DDoS e monitoraggio continuo.
Gestore Docker integrato
Esegui e gestisci più container Docker da un'unica postazione. Distribuisci, aggiorna e monitora i tuoi progetti con facilità .
Hosting VPS Docker affidabile
Sono incredibilmente soddisfatto del VPS hosting di Hostinger! Il loro uptime è sempre eccellente, garantendo il funzionamento impeccabile del mio sito. Ogni volta che ho avuto bisogno di aiuto, il loro team di supporto tecnico si è dimostrato rapido, competente e davvero disponibile.
Con Hostinger tutto funziona alla perfezione, dal chatbot basato sull'AI all'assistenza umana nel caso in cui l'AI non riesca a risolvere il tuo problema. Ah, e il VPS è semplicemente fantastico, senza alcun problema. Grazie al team di sviluppo e a tutti coloro che hanno contribuito. Continuate così! 🚀
Finalmente un servizio di VPS hosting che fa le cose per bene! Prezzi convenienti. Un portale eccellente che rispetta il tempo dei suoi utenti. Backup impeccabili. Ottimo supporto, affidabile. Trasmette una sensazione di solidità assoluta.
Ho contattato l'assistenza di Hostinger dopo aver perso l'accesso alla mia istanza n8n self-hosted e sono rimasto estremamente soddisfatto. Kodee e Mohammad del team di supporto sono stati incredibilmente pazienti e scrupolosi.
Grazie mille a Carla per l'aiuto con l'upgrade di N8N sul mio VPS di Hostinger. Professionale e competente, grazie ancora Carla.
Il VPS di Hostinger è assolutamente eccezionale. Funziona sempre. È sempre veloce e stabile. Non va mai in down o in crash.
L'azienda sta andando bene e sono molto soddisfatto dei servizi specifici che utilizzo tramite loro. Non è costosa come altre aziende che offrono configurazioni VPS e piani tariffari di qualità .