התקינו את Serge בלחיצה אחת.
ממשק צ'אט באירוח עצמי להרצת מודלי LLaMA ו-Alpaca מקומית באמצעות llama.cpp ללא עלויות API.
בחרו תוכנית VPS עבור Serge
בכל תוכנית יש את כל מה שאתם צריכים ויותר
מה אפשר לבנות עם Serge
Serge הוא ממשק צ'אט בקוד פתוח להפעלת מודלים של שפות ממשפחת LLaMA באופן מקומי דרך llama.cpp, עם תמיכה מלאה ב-Alpaca, Vicuna, GPT4All, וכוונוני קהילה אחרים. הוא מאגד ממשק משתמש אינטרנטי של SvelteKit, בקאנד של FastAPI, ורישום מודלים מבוסס Redis לתוך קונטיינר יחיד, כך שתוכלו למשוך מודלי GGUF, לנהל שיחות צ'אט, ולכוונן פרמטרי הסקה מבלי לחבר מספר שירותים.
אירוח עצמי של Serge שומר כל הנחיה ותגובה ב-VPS שלכם — ללא API חיצוני, ללא טלמטריה, וללא עלויות לכל טוקן. הסקה מבוססת CPU בלבד עובדת ישר מהקופסה, מה שהופך אותה לדרך מעשית להפעלת LLMs פרטיים מבלי לשלם על זמן GPU בענן או להירשם לשירות AI של צד שלישי.
פיצ'רים עיקריים של Serge
רץ על CPU
llama.cpp מאפשר הסקה מקומית מלאה ללא GPU, כך שתוכלו לשוחח עם מודלי LLaMA מכומתים ב-VPS סטנדרטי.
מרשם מודלים מובנה
משכו ועברו בין מודלי Alpaca, Vicuna, GPT4All ו-GGUF אחרים ישירות מממשק האינטרנט ללא העתקת קבצים ידנית.
היסק מתכוונן
התאימו טמפרטורה, top-k, top-p, אורך הקונטקסט ופרמטרים נוספים של יצירה לכל צ'אט כדי לשלוט בסגנון ואיכות התגובה.
היסטוריית צ'אט מתמשכת
שיחות ומשקלי מודל שהורדו מאוחסנים בווליומים של Docker ושורדים הפעלות מחדש ושדרוגים של קונטיינרים.
REST API כלול
ה-backend של FastAPI חושף נקודות קצה של צ'אט, מודל וסשן, כך שתוכלו לשלב את Serge עם סקריפטים מותאמים אישית, בוטים או אפליקציות.
למה להריץ את Serge על Hostinger
השיקו בלחיצה אחת
הפעילו את היישום שלכם באופן מיידי עם התקנה מוגדרת מראש. ללא התקנה ידנית או שלבי התקנה מורכבים.
אבטחה שניתן לסמוך עליה
הגנו על היישומים שלכם בעזרת חומת אש מובנית, הגנת DDoS וניטור רצוף.
מנהל Docker מובנה
הריצו ונהלו מספר קונטיינרי Docker ממקום אחד. פרסו, עדכנו ונטרו את הפרויקטים שלכם בקלות.
השיקו בלחיצה אחת
הפעילו את היישום שלכם באופן מיידי עם התקנה מוגדרת מראש. ללא התקנה ידנית או שלבי התקנה מורכבים.
אבטחה שניתן לסמוך עליה
הגנו על היישומים שלכם בעזרת חומת אש מובנית, הגנת DDoS וניטור רצוף.
מנהל Docker מובנה
הריצו ונהלו מספר קונטיינרי Docker ממקום אחד. פרסו, עדכנו ונטרו את הפרויקטים שלכם בקלות.
אחסון VPS של Docker שאפשר לסמוך עליו
אני מרוצה בטירוף משירותי VPS של Hostinger! זמן הפעולה תמיד מעולה, מה שמאפשר לאתר שלי לרוץ בצורה חלקה. בכל פעם שהצטרכתי עזרה, צוות התמיכה הטכנית היה מהיר, מקצועי ובאמת מועיל.
הכל חלק ומעולה ב-Hostinger, צ'אט בוט AI + צ'אט אנושי, אם AI לא יכול לפתור את השאלה שלכם. אה, וה-VPS שלהם פשוט אש, בלי עליות ומורדות. תודה לצוות הפיתוח ולכל מי שהיה מעורב. תמשיכו ככה 🚀
סוף סוף חברת אחסון VPS שעושה את זה כמו שצריך! מחיר טוב. פורטל מעולה שמכבד את הזמן של המשתמשים שלו. גיבויים חלקים. תמיכה טובה. אמין. מרגיש יציב כסלע.
פניתי לתמיכה של Hostinger לאחר שאיבדתי גישה לשרת n8n שלי שאירחתי בעצמי, והתרשמתי מאוד. Kodee ומוחמד מצוות התמיכה היו ממש סבלניים ויסודיים.
תודה רבה לקרלה על העזרה בשדרוג N8N הזה ב-Hostinger VPS שלי. מקצועית ובעלת ידע, תודה שוב קרלה.
Hostinger VPS הוא לגמרי יוצא מן הכלל. הוא פשוט תמיד עובד. הוא תמיד מהיר ויציב. אף פעם לא תקוע, אף פעם לא קורס.
החברה מתפקדת מצוין, אני מרוצה מאוד מהשירותים הספציפיים שאני עושה בהם שימוש. הם לא יקרים כמו מקומות אחרים, עם מערכי VPS מעולים ומחירים נהדרים.