Wdróż Serge w instalacji jednym kliknięciem.
Samodzielnie hostowany interfejs czatu do uruchamiania modeli LLaMA i Alpaca lokalnie za pośrednictwem llama.cpp bez kosztów API.
Wybierz plan VPS dla Serge
Każdy plan zawiera wszystko, czego potrzebujesz i jeszcze więcej
Co możesz zbudować z Serge
Serge to otwarty interfejs czatu do lokalnego uruchamiania modeli językowych z rodziny LLaMA za pośrednictwem llama.cpp, z pełnym wsparciem dla Alpaca, Vicuna, GPT4All i innych dostrojonych przez społeczność modeli. Łączy on interfejs użytkownika SvelteKit, backend FastAPI i rejestr modeli oparty na Redis w jednym kontenerze, dzięki czemu możesz pobierać modele GGUF, zarządzać sesjami czatu i dostosowywać parametry wnioskowania bez konieczności łączenia wielu usług.
Samodzielne hostowanie Serge'a utrzymuje każde zapytanie i odpowiedź na Twoim własnym VPS — bez zewnętrznego API, telemetrii i kosztów za token. Wnioskowanie tylko na CPU działa od razu po wyjęciu z pudełka, co czyni go praktycznym sposobem na uruchamianie prywatnych LLM bez płacenia za czas GPU w chmurze lub rejestrowania się w zewnętrznej usłudze AI.
Główne cechy Serge
Działa na procesorze
llama.cpp umożliwia w pełni lokalne wnioskowanie bez karty graficznej (GPU), dzięki czemu możesz rozmawiać ze skwantyzowanymi modelami LLaMA na standardowym serwerze VPS.
Wbudowany rejestr modeli
Pobieraj i przełączaj się między modelami Alpaca, Vicuna, GPT4All i innymi modelami GGUF bezpośrednio z interfejsu webowego, bez ręcznego kopiowania plików.
Nastawna inferencja
Dostosuj temperaturę, top-k, top-p, długość kontekstu i inne parametry generowania dla każdego czatu, aby kontrolować styl i jakość odpowiedzi.
Trwała historia czatu
Rozmowy i pobrane wagi modelu są przechowywane w woluminach Docker i przetrwają restarty kontenerów i aktualizacje.
REST API w zestawie
Backend FastAPI udostępnia punkty końcowe czatu, modelu i sesji, dzięki czemu możesz zintegrować Serge z niestandardowymi skryptami, botami lub aplikacjami.
Dlaczego warto uruchomić Serge na Hostinger
Uruchom jednym kliknięciem
Uruchom swoją aplikację natychmiast dzięki wstępnie skonfigurowanej konfiguracji. Bez ręcznej instalacji i skomplikowanych kroków konfiguracyjnych.
Bezpieczeństwo, na którym możesz polegać
Chroń swoje aplikacje dzięki wbudowanej zaporze sieciowej, ochronie DDoS i ciągłemu monitorowaniu.
Wbudowany menedżer Docker
Uruchamiaj i zarządzaj wieloma kontenerami Docker z jednego miejsca. Wdrażaj, aktualizuj i monitoruj swoje projekty z łatwością.
Uruchom jednym kliknięciem
Uruchom swoją aplikację natychmiast dzięki wstępnie skonfigurowanej konfiguracji. Bez ręcznej instalacji i skomplikowanych kroków konfiguracyjnych.
Bezpieczeństwo, na którym możesz polegać
Chroń swoje aplikacje dzięki wbudowanej zaporze sieciowej, ochronie DDoS i ciągłemu monitorowaniu.
Wbudowany menedżer Docker
Uruchamiaj i zarządzaj wieloma kontenerami Docker z jednego miejsca. Wdrażaj, aktualizuj i monitoruj swoje projekty z łatwością.
Hosting Docker VPS, na który możesz liczyć
Jestem niesamowicie zadowolony z hostingu VPS od Hostinger! Ich dostępność jest stale na najwyższym poziomie, dzięki czemu moja strona działa płynnie. Za każdym razem, gdy potrzebowałem pomocy, ich zespół wsparcia technicznego był szybki, kompetentny i naprawdę pomocny.
Wszystko działa płynnie i świetnie z Hostinger – chatbot AI + czat z człowiekiem, jeśli AI nie może rozwiązać problemu. A VPS? Po prostu ogień – żadnych wahań. Dzięki dla zespołu deweloperów i wszystkich zaangażowanych. Tak trzymać 🚀
Wreszcie firma hostingowa VPS, która robi to dobrze! Dobre ceny. Doskonały panel, który szanuje czas użytkowników. Bezproblemowe kopie zapasowe. Dobre wsparcie. Niezawodność. Solidność w każdym calu.
Skontaktowałem się z pomocą techniczną Hostinger po utracie dostępu do mojej samodzielnie hostowanego n8n i jestem pod ogromnym wrażeniem. Kodee i Mohammad z zespołu wsparcia byli niesamowicie cierpliwi i dokładni.
Wielkie podziękowania dla Carli za pomoc w aktualizacji N8N na moim serwerze VPS Hostinger. Profesjonalna i kompetentna osoba, jeszcze raz dziękuję Carli.
Hostinger VPS jest absolutnie znakomity. Po prostu zawsze działa. Zawsze jest szybki i stabilny. Nigdy się nie zawiesza.
Firma dobrze prosperuje, jestem bardzo zadowolony z konkretnych usług, z których korzystam. Nie jest tak droga jak niektóre miejsca z naprawdę świetnymi konfiguracjami VPS i cenami.