Nasadenie Serge jedným kliknutím.
Samoobslužné chatovacie rozhranie na spúšťanie modelov LLaMA a Alpaca lokálne prostredníctvom llama.cpp bez nákladov na API.
Vyberte si VPS plán pre Serge
Každý balíček obsahuje všetko, čo potrebujete a ešte viac
S čím sa dá postaviť Serge
Serge je open-source chatové rozhranie na lokálne spúšťanie jazykových modelov rodiny LLaMA prostredníctvom llama.cpp, s prvotriednou podporou pre Alpaca, Vicuna, GPT4All a ďalšie komunitné doladenia. Združuje webové používateľské rozhranie SvelteKit, backend FastAPI a register modelov s podporou Redis do jedného kontajnera, takže môžete sťahovať modely GGUF, spravovať chatové relácie a ladiť parametre inferencie bez prepájania viacerých služieb.
Vlastné hostovanie Serge uchováva každú výzvu a odpoveď na vašom vlastnom VPS – žiadne externé API, žiadna telemetria a žiadne náklady za token. Inferencie len na CPU funguje ihneď po vybalení, čo z neho robí praktický spôsob spúšťania súkromných LLM bez platenia za čas GPU v cloude alebo registrácie do služby AI tretej strany.
Kľúčové vlastnosti Serge
Beží na CPU
llama.cpp poháňa plne lokálnu inferenciu bez GPU, takže môžete chatovať s kvantovanými modelmi LLaMA na štandardnom VPS.
Vstavaný register modelov
Sťahujte a prepínajte medzi modelmi Alpaca, Vicuna, GPT4All a inými modelmi GGUF priamo z webového UI bez manuálneho kopírovania súborov.
Laditeľná inferencia
Upravte teplotu, top-k, top-p, dĺžku kontextu a ďalšie parametre generovania pre každý chat na ovládanie štýlu a kvality odpovedí.
Trvalá história chatu
Konverzácie a stiahnuté váhy modelu sú uložené v zväzkoch Docker a prežijú reštarty kontajnerov a aktualizácie.
REST API zahrnuté
Backend FastAPI sprístupňuje koncové body pre chat, model a reláciu, aby ste mohli integrovať Serge s vlastnými skriptami, botmi alebo aplikáciami.
Prečo spustiť Serge na Hostingeri
Spustiť jedným kliknutím
Spustite svoju aplikáciu okamžite vďaka predkonfigurovanému nastaveniu. Žiadna manuálna inštalácia ani zložité kroky nastavenia.
Bezpečnosť, na ktorú sa môžete spoľahnúť
Chráňte svoje aplikácie pomocou vstavaného firewallu, ochrany pred DDoS útokmi a nepretržitého monitorovania.
Vstavaný správca Dockeru
Spúšťajte a spravujte viacero Docker kontajnerov z jedného miesta. Jednoducho nasadzujte, aktualizujte a monitorujte svoje projekty.
Spustiť jedným kliknutím
Spustite svoju aplikáciu okamžite vďaka predkonfigurovanému nastaveniu. Žiadna manuálna inštalácia ani zložité kroky nastavenia.
Bezpečnosť, na ktorú sa môžete spoľahnúť
Chráňte svoje aplikácie pomocou vstavaného firewallu, ochrany pred DDoS útokmi a nepretržitého monitorovania.
Vstavaný správca Dockeru
Spúšťajte a spravujte viacero Docker kontajnerov z jedného miesta. Jednoducho nasadzujte, aktualizujte a monitorujte svoje projekty.
Docker VPS hosting, na ktorý sa môžete spoľahnúť
S VPS hostingom od Hostinger som nesmierne spokojný! Ich dostupnosť je neustále špičková, vďaka čomu moja stránka beží hladko. Vždy, keď som potreboval pomoc, ich tím technickej podpory bol rýchly, informovaný a skutočne nápomocný.
Všetko je plynulé a skvelé s Hostingerom, chatovacím botom s umelou inteligenciou a ľudským chatom, ak umelá inteligencia nedokáže vyriešiť vašu otázku. A tie VPS sú jednoducho paľba, žiadne vzostupy a pády. Ďakujem vývojovému tímu a všetkým ostatným zúčastneným. Len tak ďalej 🚀
Konečne spoločnosť poskytujúca VPS hosting, ktorá to robí správne! Dobrá cena. Vynikajúci portál, ktorý rešpektuje čas svojich používateľov. Bezproblémové zálohovanie. Dobrá podpora. Spoľahlivý. Pôsobí ako skala.
Po strate prístupu k mojej samostatne hostovanej inštancii n8n som kontaktoval podporu Hostingeru a bol som nesmierne ohromený. Kodee a Mohammad z tímu podpory boli neuveriteľne trpezliví a dôkladní.
Veľká vďaka Carle za pomoc s týmto upgradom N8N na mojom Hostinger VPS. Profesionálna a znalá, ešte raz ďakujem, Carla.
VPS Hostinger je absolútne vynikajúci. Vždy jednoducho funguje. Je vždy rýchly a stabilný. Nikdy nepadá, nikdy nepadá.
Spoločnosti sa darí, som veľmi spokojný s konkrétnymi službami, ktoré cez nich využívam. Nie sú také drahé ako niektoré miesta s naozaj skvelými nastaveniami VPS a cenovými programami.