ติดตั้ง Serge ใน 1 คลิก
ส่วนต่อประสานการแชทที่โฮสต์เองสำหรับรันโมเดล LLaMA และ Alpaca บนเครื่องของคุณผ่าน llama.cpp โดยไม่มีค่าใช้จ่าย API
เลือกแพ็กเกจ VPS สำหรับ Serge
ทุกแพ็กเกจมีทุกสิ่งที่คุณต้องการและมากกว่านั้น
สิ่งที่คุณสามารถสร้างได้ด้วย Serge
Serge คืออินเทอร์เฟซแชทโอเพนซอร์สสำหรับรันโมเดลภาษาตระกูล LLaMA บนเครื่องของคุณผ่าน llama.cpp พร้อมรองรับ Alpaca Vicuna GPT4All และโมเดลที่ปรับแต่งโดยชุมชนอื่นๆ ได้อย่างยอดเยี่ยม โดยรวมเอาเว็บ UI ของ SvelteKit แบ็กเอนด์ FastAPI และรีจิสทรีโมเดลที่ใช้ Redis ไว้ในคอนเทนเนอร์เดียว เพื่อให้คุณสามารถดึงโมเดล GGUF จัดการเซสชันแชท และปรับแต่งพารามิเตอร์การอนุมานได้โดยไม่ต้องเชื่อมต่อหลายบริการ
การโฮสต์ Serge ด้วยตนเองทำให้ทุกพรอมต์และคำตอบอยู่บน VPS ของคุณเอง — ไม่มี API ภายนอก ไม่มี Telemetry และไม่มีค่าใช้จ่ายต่อโทเค็น การอนุมานด้วย CPU เพียงอย่างเดียวสามารถทำงานได้ทันที ทำให้เป็นวิธีที่ใช้งานได้จริงในการรัน LLM ส่วนตัว โดยไม่ต้องจ่ายค่าเวลา GPU บนคลาวด์ หรือสมัครใช้บริการ AI ของบุคคลที่สาม
ฟีเจอร์หลักของ Serge
รันบนซีพียู
llama.cpp ขับเคลื่อนการอนุมานแบบโลคัลเต็มรูปแบบโดยไม่ต้องใช้ GPU เพื่อให้คุณสามารถสนทนากับโมเดล LLaMA แบบควอนไทซ์บน VPS มาตรฐาน
Model Registry ในตัว
ดึงและสลับระหว่าง Alpaca Vicuna GPT4All และโมเดล GGUF อื่นๆ ได้โดยตรงจาก web UI โดยไม่ต้องคัดลอกไฟล์ด้วยตนเอง
การอนุมานที่ปรับแต่งได้
ปรับอุณหภูมิ top-k top-p ความยาวบริบท และพารามิเตอร์การสร้างอื่นๆ ต่อการแชท เพื่อควบคุมรูปแบบและคุณภาพการตอบกลับ
ประวัติการแชทแบบคงอยู่
การสนทนาและน้ำหนักโมเดลที่ดาวน์โหลดจะถูกจัดเก็บไว้ใน Docker volumes และยังคงอยู่ได้แม้จะมีการรีสตาร์ทคอนเทนเนอร์และการอัปเกรด
รวม REST API
FastAPI แบ็กเอนด์แสดงจุดเชื่อมต่อสำหรับแชท โมเดล และเซสชัน เพื่อให้คุณสามารถผสานรวม Serge เข้ากับสคริปต์ที่กำหนดเอง บอท หรือแอปพลิเคชันได้
ทำไมจึงเรียกใช้ Serge บน Hostinger
เปิดใช้งานได้ในคลิกเดียว
เริ่มใช้งานแอปพลิเคชันของคุณได้ทันทีด้วยการตั้งค่าที่กำหนดค่าไว้ล่วงหน้า ไม่ต้องติดตั้งเองหรือตั้งค่าที่ซับซ้อน
ระบบรักษาความปลอดภัยที่คุณวางใจได้
ปกป้องแอปพลิเคชันของคุณด้วยไฟร์วอลล์ในตัว การป้องกัน DDoS และการตรวจสอบอย่างต่อเนื่อง
มีตัวจัดการ Docker ในตัว
เรียกใช้งานและจัดการคอนเทนเนอร์ Docker หลายตัวจากที่เดียว ปรับใช้ อัปเดต และตรวจสอบโครงการของคุณได้อย่างง่ายดาย
เปิดใช้งานได้ในคลิกเดียว
เริ่มใช้งานแอปพลิเคชันของคุณได้ทันทีด้วยการตั้งค่าที่กำหนดค่าไว้ล่วงหน้า ไม่ต้องติดตั้งเองหรือตั้งค่าที่ซับซ้อน
ระบบรักษาความปลอดภัยที่คุณวางใจได้
ปกป้องแอปพลิเคชันของคุณด้วยไฟร์วอลล์ในตัว การป้องกัน DDoS และการตรวจสอบอย่างต่อเนื่อง
มีตัวจัดการ Docker ในตัว
เรียกใช้งานและจัดการคอนเทนเนอร์ Docker หลายตัวจากที่เดียว ปรับใช้ อัปเดต และตรวจสอบโครงการของคุณได้อย่างง่ายดาย
บริการโฮสติ้ง Docker VPS ที่คุณวางใจได้
ฉันมีความสุขอย่างมากกับบริการโฮสติ้ง VPS ของ Hostinger! ความเสถียรของระบบอยู่ในระดับดีเยี่ยม ทำให้เว็บไซต์ของฉันทำงานได้อย่างราบรื่น และเมื่อใดก็ตามที่ฉันต้องการความช่วยเหลือ ทีมสนับสนุนด้านเทคนิคของพวกเขาก็ตอบกลับอย่างรวดเร็ว มีความรู้ และให้ความช่วยเหลืออย่างจริงใจ
ทุกอย่างราบรื่นและยอดเยี่ยมมากกับ Hostinger ทั้งแชทบอท AI และแชทกับเจ้าหน้าที่หาก AI แก้ปัญหาไม่ได้ โอ้ และ VPS ก็สุดยอดมาก ไม่มีปัญหาอะไรเลย ขอบคุณทีมพัฒนาและทุกคนที่เกี่ยวข้องมากครับ ขอให้รักษามาตรฐานนี้ต่อไป 🚀
ในที่สุดก็เจอผู้ให้บริการ VPS hosting ที่ทำได้ดีเยี่ยม! ราคาเหมาะสม เว็บไซต์ใช้งานง่ายและเคารพเวลาของผู้ใช้ การสำรองข้อมูลราบรื่น การสนับสนุนดี เชื่อถือได้ รู้สึกมั่นคงแข็งแรง
ฉันติดต่อฝ่ายสนับสนุนของ Hostinger หลังจากที่ไม่สามารถเข้าถึงอินสแตนซ์ n8n ที่ฉันโฮสต์เองได้ และฉันประทับใจมาก Kodee และ Mohammad จากทีมสนับสนุนมีความอดทนและให้ความช่วยเหลืออย่างละเอียดถี่ถ้วน
ขอขอบ Carla มาก ๆ ที่ช่วยอัปเกรด N8N บน VPS ของ Hostinger ครั้งนี้ เธอเป็นมืออาชีพและมีความรู้จริง ขอบคุณอีกครั้งนะ
Hostinger VPS ยอดเยี่ยมมาก ใช้งานได้ดี เร็วและเสถียรมาก ไม่เคยล่ม ไม่เคยมีปัญหา
บริษัทนี้ดำเนินงานได้ดีมาก ผมพอใจในแต่ละบริการที่ผมใช้จากพวกเขามาก ราคาไม่แพงเท่ากับบางที่ที่มี VPS ที่ยอดเยี่ยมและแพ็กเกจราคาที่เหมาะสม