এক ক্লিকে Serge স্থাপন করুন।
LLaMA এবং Alpaca মডেলগুলি স্থানীয়ভাবে llama.cpp এর মাধ্যমে কোনো API খরচ ছাড়াই চালানোর জন্য স্ব-হোস্টেড চ্যাট ইন্টারফেস।
Serge-এর জন্য একটি VPS প্ল্যান বেছে নিন
প্রতিটি প্ল্যানে আছে আপনার প্রয়োজনীয় সবকিছু এবং আরও অনেক কিছু
Serge দিয়ে আপনি যা যা তৈরি করতে পারবেন
Serge হলো একটি ওপেন-সোর্স চ্যাট ইন্টারফেস যা llama.cpp-এর মাধ্যমে LLaMA-ফ্যামিলি ল্যাঙ্গুয়েজ মডেলগুলো লোকালি চালানোর জন্য ব্যবহৃত হয়, যেখানে Alpaca, Vicuna, GPT4All এবং অন্যান্য কমিউনিটি ফাইন-টিউনগুলোর জন্য ফার্স্ট-ক্লাস সাপোর্ট রয়েছে। এটি একটি SvelteKit ওয়েব UI, একটি FastAPI ব্যাকএন্ড এবং একটি Redis-ব্যাকড মডেল রেজিস্ট্রিকে একটি সিঙ্গেল কন্টেইনারে একত্রিত করে, যাতে আপনি একাধিক সার্ভিস ওয়্যারিং না করেই GGUF মডেলগুলো পুল করতে, চ্যাট সেশন ম্যানেজ করতে এবং ইনফারেন্স প্যারামিটার টিউন করতে পারেন।
Serge সেলফ-হোস্ট করার মাধ্যমে প্রতিটি প্রম্পট এবং রেসপন্স আপনার নিজের VPS-এ থাকে — কোনো এক্সটার্নাল API, কোনো টেলিমেট্রি এবং কোনো পার-টোকেন খরচ নেই। CPU-অনলি ইনফারেন্স সরাসরি কাজ করে, যা ক্লাউড GPU সময়ের জন্য অর্থ প্রদান না করে বা তৃতীয় পক্ষের AI সার্ভিসে সাইন আপ না করেই প্রাইভেট LLM চালানোর একটি ব্যবহারিক উপায় তৈরি করে।
Serge-এর মূল ফিচারগুলো
সিপিইউতে চলে
llama.cpp একটি GPU ছাড়াই সম্পূর্ণ স্থানীয় অনুমানকে শক্তি যোগায়, যাতে আপনি একটি স্ট্যান্ডার্ড VPS-এ কোয়ান্টাইজড LLaMA মডেলগুলির সাথে চ্যাট করতে পারেন।
বিল্ট-ইন মডেল রেজিস্ট্রি
ম্যানুয়াল ফাইল কপি করা ছাড়াই ওয়েব UI থেকে সরাসরি Alpaca, Vicuna, GPT4All, এবং অন্যান্য GGUF মডেলগুলির মধ্যে পুল করুন এবং স্যুইচ করুন।
টিউনযোগ্য অনুমান
প্রতিক্রিয়ার ধরন এবং গুণমান নিয়ন্ত্রণ করতে প্রতিটি চ্যাট অনুযায়ী তাপমাত্রা, টপ-কে, টপ-পি, কনটেক্সট দৈর্ঘ্য এবং অন্যান্য জেনারেশন প্যারামিটারগুলি সামঞ্জস্য করুন।
স্থায়ী চ্যাট ইতিহাস
কথোপকথন এবং ডাউনলোড করা মডেলের ওজন ডকার ভলিউমে সংরক্ষিত থাকে এবং কন্টেইনার পুনরায় চালু বা আপগ্রেড করার পরেও অক্ষত থাকে।
REST API অন্তর্ভুক্ত
FastAPI ব্যাকএন্ড চ্যাট, মডেল এবং সেশন এন্ডপয়েন্ট উন্মুক্ত করে যাতে আপনি Serge-কে কাস্টম স্ক্রিপ্ট, বট বা অ্যাপসের সাথে একত্রিত করতে পারেন।
কেন Hostinger-এ Serge রান করবেন
এক ক্লিকেই লঞ্চ করুন
একটি প্রি-কনফিগার করা সেটআপের সাহায্যে আপনার অ্যাপ্লিকেশনটি তাৎক্ষণিকভাবে আপ এবং রানিং করুন। কোনো ম্যানুয়াল ইনস্টলেশন বা জটিল সেটআপের ধাপ নেই।
নির্ভর করার মতো সিকিউরিটি
বিল্ট-ইন ফায়ারওয়াল, DDoS প্রোটেকশন এবং কন্টিনিউয়াস মনিটরিংয়ের মাধ্যমে আপনার অ্যাপ্লিকেশনগুলোকে সুরক্ষিত রাখুন।
বিল্ট-ইন Docker ম্যানেজার
এক জায়গা থেকেই একাধিক Docker কন্টেইনার রান এবং ম্যানেজ করুন। সহজেই আপনার প্রজেক্টগুলো ডিপ্লয়, আপডেট এবং মনিটর করুন।
এক ক্লিকেই লঞ্চ করুন
একটি প্রি-কনফিগার করা সেটআপের সাহায্যে আপনার অ্যাপ্লিকেশনটি তাৎক্ষণিকভাবে আপ এবং রানিং করুন। কোনো ম্যানুয়াল ইনস্টলেশন বা জটিল সেটআপের ধাপ নেই।
নির্ভর করার মতো সিকিউরিটি
বিল্ট-ইন ফায়ারওয়াল, DDoS প্রোটেকশন এবং কন্টিনিউয়াস মনিটরিংয়ের মাধ্যমে আপনার অ্যাপ্লিকেশনগুলোকে সুরক্ষিত রাখুন।
বিল্ট-ইন Docker ম্যানেজার
এক জায়গা থেকেই একাধিক Docker কন্টেইনার রান এবং ম্যানেজ করুন। সহজেই আপনার প্রজেক্টগুলো ডিপ্লয়, আপডেট এবং মনিটর করুন।
নির্ভরযোগ্য Docker VPS হোস্টিং
আমি Hostinger-এর VPS হোস্টিং নিয়ে অবিশ্বাস্যভাবে খুশি! তাদের আপটাইম সবসময় সেরা মানের থাকে, যা আমার সাইটকে নির্ঝঞ্ঝাটভাবে চলতে সাহায্য করে। যখনই আমার সাহায্যের প্রয়োজন হয়েছে, তাদের টেকনিক্যাল সাপোর্ট টিম দ্রুত, অভিজ্ঞ এবং সত্যিকার অর্থেই সহায়ক ছিল।
Hostinger, AI চ্যাট বট + হিউম্যান চ্যাটের মাধ্যমে সবকিছুই মসৃণ এবং দুর্দান্ত, যদি AI আপনার প্রশ্নের সমাধান করতে না পারে। আর ওদের VPS তো অসাধারণ, কোনও আপ-ডাউন নেই। ডেভেলপার টিম এবং সংশ্লিষ্ট সকলকে ধন্যবাদ। চালিয়ে যান 🚀
অবশেষে এমন একটি VPS হোস্টিং কোম্পানি পেয়েছি যারা কাজটা ঠিকভাবে করে! দাম বেশ সাশ্রয়ী। চমৎকার পোর্টাল যা ব্যবহারকারীদের সময়ের মূল্য দেয়। সিমলেস ব্যাকআপ। ভালো সাপোর্ট। নির্ভরযোগ্য। একদম রক-সলিড মনে হয়।
আমার সেল্ফ-হোস্টেড n8n ইনস্ট্যান্সের অ্যাক্সেস হারানোর পর আমি Hostinger সাপোর্টে যোগাযোগ করি এবং আমি সত্যিই মুগ্ধ। সাপোর্ট টিমের Kodee এবং Mohammad অবিশ্বাস্যরকম ধৈর্যশীল এবং আন্তরিক ছিলেন।
আমার Hostinger VPS-এ এই N8N আপগ্রেডটিতে সাহায্য করার জন্য Carla-কে অনেক ধন্যবাদ। তিনি বেশ প্রফেশনাল এবং নলেজেবল, আবারও ধন্যবাদ Carla।
Hostinger VPS এক কথায় অসাধারণ। এটি সবসময় কাজ করে। এটি সবসময় দ্রুত এবং স্থিতিশীল। কখনও ডাউন হয় না এবং কখনও ক্র্যাশ করে না।
কোম্পানিটি ভালো করছে, আমি তাদের মাধ্যমে যেসব নির্দিষ্ট সার্ভিস ব্যবহার করছি তা নিয়ে আমি খুব খুশি। দারুণ সব VPS সেটআপ এবং প্রাইস প্ল্যান থাকা সত্ত্বেও অন্যান্য জায়গার মতো এতটা ব্যয়বহুল নয়।