Εγκαταστήστε το Serge με ένα κλικ.
Αυτο-φιλοξενούμενη διεπαφή συνομιλίας για την εκτέλεση μοντέλων LLaMA και Alpaca τοπικά μέσω του llama.cpp χωρίς κόστος API.
Επιλέξτε ένα πρόγραμμα VPS για Serge
Κάθε πακέτο έχει όλα όσα χρειάζεστε και πολλά άλλα
Τι μπορείτε να κατασκευάσετε με Serge
Το Serge είναι ένα open-source περιβάλλον συνομιλίας για την εκτέλεση γλωσσικών μοντέλων της οικογένειας LLaMA τοπικά μέσω του llama.cpp, με κορυφαία υποστήριξη για Alpaca, Vicuna, GPT4All και άλλες κοινοτικές fine-tunes. Ενσωματώνει ένα web UI SvelteKit, ένα backend FastAPI και ένα μητρώο μοντέλων με υποστήριξη Redis σε ένα ενιαίο container, ώστε να μπορείτε να τραβάτε μοντέλα GGUF, να διαχειρίζεστε συνεδρίες συνομιλίας και να ρυθμίζετε παραμέτρους inference χωρίς να συνδέετε πολλαπλές υπηρεσίες.
Το self-hosting του Serge διατηρεί κάθε prompt και απόκριση στο δικό σας VPS — χωρίς εξωτερικό API, χωρίς τηλεμετρία και χωρίς κόστος ανά token. Η CPU-only inference λειτουργεί άμεσα, καθιστώντας το έναν πρακτικό τρόπο για την εκτέλεση ιδιωτικών LLMs χωρίς να πληρώνετε για χρόνο cloud GPU ή να εγγράφεστε σε μια τρίτη υπηρεσία AI.
Βασικά χαρακτηριστικά του Serge
Λειτουργεί σε CPU
Το llama.cpp τροφοδοτεί πλήρως τοπική εξαγωγή συμπερασμάτων χωρίς GPU, ώστε να μπορείτε να συνομιλήσετε με κβαντισμένα μοντέλα LLaMA σε έναν τυπικό VPS.
Ενσωματωμένο μητρώο μοντέλων
Αντλήστε και εναλλάξτε μεταξύ Alpaca, Vicuna, GPT4All και άλλων μοντέλων GGUF απευθείας από το web UI χωρίς μη αυτόματη αντιγραφή αρχείων.
Ρυθμιζόμενη συμπερασματολογία
Προσαρμόστε temperature, top-k, top-p, context length, και άλλες παραμέτρους δημιουργίας ανά συνομιλία για να ελέγχετε το στυλ και την ποιότητα απόκρισης.
Μόνιμο ιστορικό συνομιλιών
Οι συνομιλίες και τα κατεβασμένα βάρη μοντέλου αποθηκεύονται σε τόμους Docker και διατηρούνται μετά από επανεκκινήσεις και αναβαθμίσεις κοντέινερ.
Περιλαμβάνεται REST API
Το FastAPI backend παρέχει πρόσβαση σε endpoints για chat, model και session, ώστε να μπορείτε να ενσωματώσετε το Serge με προσαρμοσμένα scripts, bots ή εφαρμογές.
Γιατί να τρέχω Serge στο Hostinger;
Εκκίνηση με ένα κλικ
Θέστε την εφαρμογή σας σε λειτουργία άμεσα με μια προρυθμισμένη ρύθμιση. Χωρίς χειροκίνητη εγκατάσταση ή πολύπλοκα βήματα ρύθμισης.
Ασφάλεια στην οποία μπορείτε να βασιστείτε
Διατηρήστε τις εφαρμογές σας προστατευμένες με ενσωματωμένο τείχος προστασίας, προστασία DDoS και συνεχή παρακολούθηση.
Ενσωματωμένος διαχειριστής Docker
Εκτελέστε και διαχειριστείτε πολλά κοντέινερ Docker από ένα μέρος. Αναπτύξτε, ενημερώστε και παρακολουθήστε τα έργα σας με ευκολία.
Εκκίνηση με ένα κλικ
Θέστε την εφαρμογή σας σε λειτουργία άμεσα με μια προρυθμισμένη ρύθμιση. Χωρίς χειροκίνητη εγκατάσταση ή πολύπλοκα βήματα ρύθμισης.
Ασφάλεια στην οποία μπορείτε να βασιστείτε
Διατηρήστε τις εφαρμογές σας προστατευμένες με ενσωματωμένο τείχος προστασίας, προστασία DDoS και συνεχή παρακολούθηση.
Ενσωματωμένος διαχειριστής Docker
Εκτελέστε και διαχειριστείτε πολλά κοντέινερ Docker από ένα μέρος. Αναπτύξτε, ενημερώστε και παρακολουθήστε τα έργα σας με ευκολία.
Φιλοξενία Docker VPS στην οποία μπορείτε να βασιστείτε
Είμαι απίστευτα ευχαριστημένος με τη φιλοξενία VPS της Hostinger! Ο χρόνος λειτουργίας τους είναι σταθερά κορυφαίος, διατηρώντας τον ιστότοπό μου σε ομαλή λειτουργία. Όποτε χρειάστηκα βοήθεια, η ομάδα τεχνικής υποστήριξής τους ήταν γρήγορη, έμπειρη και πραγματικά εξυπηρετική.
Όλα είναι ομαλά και τέλεια με το Hostinger, το chat bot με τεχνητή νοημοσύνη + ανθρώπινη συνομιλία, αν η τεχνητή νοημοσύνη δεν μπορεί να λύσει την ερώτησή σας. Α, και αυτά τα VPS είναι απλά φωτιά, χωρίς σκαμπανεβάσματα. Ευχαριστώ την ομάδα ανάπτυξης και όλους τους άλλους εμπλεκόμενους. Συνεχίστε έτσι 🚀
Επιτέλους μια εταιρεία φιλοξενίας VPS που το κάνει σωστά! Καλή τιμή. Εξαιρετική πύλη που σέβεται τον χρόνο των χρηστών της. Απρόσκοπτα αντίγραφα ασφαλείας. Καλή υποστήριξη. Αξιόπιστη. Αισθάνεται σαν βράχος.
Επικοινώνησα με την υποστήριξη της Hostinger αφού έχασα την πρόσβαση στην αυτο-φιλοξενούμενη παρουσία n8n μου και δεν θα μπορούσα να είμαι πιο εντυπωσιασμένος. Ο Kodee και ο Mohammad από την ομάδα υποστήριξης ήταν απίστευτα υπομονετικοί και σχολαστικοί.
Πολλές ευχαριστίες στην Carla που με βοήθησε με αυτήν την αναβάθμιση N8N στο Hostinger VPS μου. Επαγγελματίας και έμπειρος, σε ευχαριστώ και πάλι Carla.
Το Hostinger VPS είναι απολύτως εξαιρετικό. Λειτουργεί πάντα. Είναι πάντα γρήγορο και σταθερό. Δεν κολλάει ποτέ, δεν κολλάει ποτέ.
Η εταιρεία τα πάει καλά, είμαι πολύ ευχαριστημένος με τις συγκεκριμένες υπηρεσίες που χρησιμοποιώ μέσω αυτών. Δεν είναι τόσο ακριβό όσο σε ορισμένα μέρη με πραγματικά εξαιρετικές εγκαταστάσεις VPS και προγράμματα τιμών.