Serge'i tek tıkla dağıtın.
LLaMA ve Alpaca modellerini llama.cpp aracılığıyla yerel olarak API maliyeti olmadan çalıştırmak için kendi kendine barındırılan sohbet arayüzü.
Serge için bir VPS planı seçin
Her planda ihtiyacınız olan her şey ve daha fazlası var
Serge ile neler oluşturabilirsiniz?
Serge, llama.cpp aracılığıyla LLaMA ailesi dil modellerini yerel olarak çalıştırmak için açık kaynaklı bir sohbet arayüzüdür ve Alpaca, Vicuna, GPT4All ile diğer topluluk ince ayarları için birinci sınıf destek sunar. Bir SvelteKit web kullanıcı arayüzünü, bir FastAPI arka ucunu ve Redis destekli bir model kayıt defterini tek bir kapsayıcıda bir araya getirir, böylece birden fazla hizmeti birbirine bağlamaya gerek kalmadan GGUF modellerini çekebilir, sohbet oturumlarını yönetebilir ve çıkarım parametrelerini ayarlayabilirsiniz.
Serge'i kendi VPS'inizde barındırmak, her istemi ve yanıtı kendi VPS'inizde tutar — harici API yok, telemetri yok ve jeton başına maliyet yok. Yalnızca CPU ile çıkarım kutudan çıktığı gibi çalışır, bu da bulut GPU süresi ödemeden veya üçüncü taraf bir AI hizmetine kaydolmadan özel LLM'leri çalıştırmak için pratik bir yol sunar.
Serge uygulamasının temel özellikleri
CPU üzerinde çalışır
llama.cpp, bir GPU olmadan tamamen yerel çıkarım sağlar, böylece standart bir VPS üzerinde kuantize edilmiş LLaMA modelleriyle sohbet edebilirsiniz.
Dahili model kayıt defteri
Alpaca, Vicuna, GPT4All ve diğer GGUF modellerini manuel dosya kopyalamaya gerek kalmadan doğrudan web arayüzünden çekip aralarında geçiş yapın.
Ayarlanabilir çıkarım
Yanıt stilini ve kalitesini kontrol etmek için sohbet başına sıcaklık, top-k, top-p, bağlam uzunluğu ve diğer oluşturma parametrelerini ayarlayın.
Sürekli sohbet geçmişi
Konuşmalar ve indirilen model ağırlıkları, Docker birimlerinde depolanır ve kapsayıcı yeniden başlatmalarına ve yükseltmelerine dayanır.
REST API dahil
FastAPI arka ucu, Serge'i özel komut dosyaları, botlar veya uygulamalarla entegre edebilmeniz için sohbet, model ve oturum uç noktalarını sunar.
Serge uygulamasını neden Hostinger’da çalıştırmalısınız?
Tek tıkla başlatın
Önceden yapılandırılmış kurulumla uygulamanızı anında çalışır hale getirin. Manuel kurulum veya karmaşık yapılandırma adımları gerekmez.
Üst düzey güvenlik
Yerleşik güvenlik duvarı, DDoS koruması ve sürekli izleme ile uygulamalarınızı güvende tutun.
Dahili Docker yöneticisi
Birden fazla Docker konteynerini tek bir yerden çalıştırın ve yönetin. Projelerinizi kolayca dağıtın, güncelleyin ve izleyin.
Tek tıkla başlatın
Önceden yapılandırılmış kurulumla uygulamanızı anında çalışır hale getirin. Manuel kurulum veya karmaşık yapılandırma adımları gerekmez.
Üst düzey güvenlik
Yerleşik güvenlik duvarı, DDoS koruması ve sürekli izleme ile uygulamalarınızı güvende tutun.
Dahili Docker yöneticisi
Birden fazla Docker konteynerini tek bir yerden çalıştırın ve yönetin. Projelerinizi kolayca dağıtın, güncelleyin ve izleyin.
Güvenilir Docker VPS hosting
Hostinger'ın VPS hosting hizmetinden inanılmaz derecede memnunum! Çalışma süreleri sürekli olarak en üst düzeyde ve sitemin sorunsuz çalışmasını sağlıyor. Ne zaman yardıma ihtiyacım olsa, teknik destek ekibi hızlı, bilgili ve gerçekten yardımcı oluyor.
Hostinger’da her şey sorunsuz ve harika. AI sohbet botu ve AI sorunu çözemediğinde insan desteği devreye giriyor. Ayrıca VPS hizmetleri gerçekten çok iyi, hiçbir iniş çıkış yok. Geliştirme ekibine ve emeği geçen herkese teşekkürler. Böyle devam edin 🚀
Sonunda işini doğru yapan bir VPS hosting şirketi! Fiyatları makul. Kullanıcılarının zamanına saygı duyan harika bir panel sunuyor. Yedeklemeler sorunsuz. Destek iyi. Güvenilir. Gerçekten iyi hissettiriyor.
Hostinger destek ekibiyle, kendi barındırdığım n8n instance’ıma erişimi kaybettikten sonra iletişime geçtim ve gerçekten çok etkilendim. Kodee ve destek ekibinden Mohammad son derece sabırlı ve titizdi.
Hostinger VPS’imdeki bu N8N yükseltmesiyle ilgili bana yardımcı olduğu için Carla’ya çok teşekkürler. Profesyonel ve bilgiliydi. Tekrar teşekkürler Carla.
Hostinger VPS kesinlikle mükemmel. Her zaman çalışıyor. Her zaman hızlı ve istikrarlı. Asla kesintiye uğramıyor, asla çökmüyor.
Şirket mükemmel, onlardan aldığım hizmetlerden çok memnunum. Harika VPS kurulumları ve fiyat planları sunan bazı yerlere göre daha uygun fiyatlı.