Įdiek Serge vienu spustelėjimu.
Savitarnos pokalbių sąsaja, skirta LLaMA ir Alpaca modeliams paleisti lokaliai naudojant llama.cpp, be API mokesčių.
Rinkis VPS planą Serge
Kiekviename plane yra viskas, ko tau reikia ir dar daugiau
Ką gali kurti su Serge
Serge yra atvirojo kodo pokalbių sąsaja, skirta LLaMA šeimos kalbos modeliams paleisti lokaliai per llama.cpp, su aukščiausios klasės palaikymu Alpaca, Vicuna, GPT4All ir kitiems bendruomenės patobulinimams. Ji apjungia SvelteKit žiniatinklio vartotojo sąsają, FastAPI užpakalinę sistemą ir Redis palaikomą modelių registrą į vieną konteinerį, todėl gali atsisiųsti GGUF modelius, valdyti pokalbių sesijas ir derinti išvadų parametrus, nereikės sujungti kelių paslaugų.
Savarankiškai talpinant Serge, kiekviena užklausa ir atsakymas lieka jūsų pačių VPS – jokios išorinės API, jokios telemetrijos ir jokių mokesčių už žetoną. Tik procesoriaus išvados veikia iškart, todėl tai yra praktiškas būdas paleisti privačius didelius kalbos modelius (LLM) nemokant už debesies GPU laiką ar nesiregistruojant trečiosios šalies AI paslaugoje.
Pagrindinės Serge savybės
Veikia su CPU
llama.cpp užtikrina visiškai vietinį apdorojimą be GPU, todėl gali kalbėtis su kvantizuotais LLaMA modeliais standartiniame VPS.
Integruotas modelių registras
Atsisiųsk ir perjunk tarp Alpaca, Vicuna, GPT4All ir kitų GGUF modelių tiesiogiai iš žiniatinklio sąsajos be rankinio failų kopijavimo.
Reguliuojamas išvedimas
Koreguok temperatūrą, top-k, top-p, konteksto ilgį ir kitus generavimo parametrus kiekvienam pokalbiui, kad valdytum atsakymo stilių ir kokybę.
Nuolatinė pokalbių istorija
Pokalbiai ir atsisiųsti modelio svoriai saugomi „Docker“ tomuose ir išlieka po konteinerių perkrovimų bei atnaujinimų.
REST API įtraukta
FastAPI posistemė pateikia pokalbių, modelio ir sesijų galinius taškus, kad galėtum integruoti Serge su pasirinktiniais scenarijais, robotais ar programėlėmis.
Kodėl verta naudoti Serge Hostinger platformoje
Publikuok vienu spustelėjimu
Paleisk programėlę akimirksniu – viskas iš anksto paruošta. Jokių sudėtingų nustatytmų ar veiksmų.
Apsauga, kuria gali pasitikėti
Apsaugok savo programas su integruota firewall funkcija, DDoS apsauga ir nuolatiniu stebėjimu.
Integruota Docker tvarkyklė
Valdyk ir tvarkyk kelis Docker konteinerius iš vienos vietos. Diek, atnaujink ir stebėk savo projektus lengvai.
Publikuok vienu spustelėjimu
Paleisk programėlę akimirksniu – viskas iš anksto paruošta. Jokių sudėtingų nustatytmų ar veiksmų.
Apsauga, kuria gali pasitikėti
Apsaugok savo programas su integruota firewall funkcija, DDoS apsauga ir nuolatiniu stebėjimu.
Integruota Docker tvarkyklė
Valdyk ir tvarkyk kelis Docker konteinerius iš vienos vietos. Diek, atnaujink ir stebėk savo projektus lengvai.
Docker VPS hostingas, kuriuo gali pasitikėti
Esu nepaprastai patenkintas Hostinger VPS hostingu! Jų veikimo laikas nuolat yra aukščiausio lygio, todėl mano svetainė veikia sklandžiai. Kai tik prireikdavo pagalbos, jų techninės pagalbos komanda būdavo greita, išmananti savo darbą ir tikrai paslaugi.
Hostinger veikia puikiai ir sklandžiai. DI pokalbių robotas + susirašinėjimas su konsultantais padeda atsakyti į visus klausimus. O ir jų VPS yra puikus, jokių bangavimų. Ačiū kūrėjų komandai ir visiems kitiems prisidėjusiems. Taip ir toliau 🚀
Pagaliau VPS hostingo įmonė, kuri viską daro teisingai! Gera kaina. Puikus portalas, gerbiantis vartotojų laiką. Sklandžiai veikiančios atsarginės kopijos. Geras palaikymas. Patikimas. Visada veikia užtikrintai.
Susisiekiau su Hostinger komanda, kai praradau prieigą prie savo n8n. Esu tikrai sužavėtas – Kodee ir Mohammadas iš palaikymo komandos buvo neįtikėtinai kantrūs ir kruopštūs.
Labai ačiū Carlai už pagalbą atnaujinant mano Hostinger VPS su N8N. Esate profesionali ir išmananti savo darbą, dar kartą ačiū Carlai.
Hostinger VPS tiesiog nepriekaištingas. Jis visada veikia. Visada greitas ir stabilus. Niekada nestringa, niekada neišsijungia.
Įmonei sekasi gerai, esu labai patenkintas konkrečiomis paslaugomis, kuriomis naudojuosi per juos. Jos nėra tokios brangios kaip kitur, kur yra tikrai puikūs VPS nustatymai ir kainų planai.