চ্যাট এবং এলএলএম অনুমান
চব্বিশ ঘণ্টা উপলব্ধ লো-ল্যাটেন্সি জিপিইউ পারফরম্যান্সের মাধ্যমে চ্যাটবট, কো-পাইলট এবং এপিআই-কে শক্তিশালী করুন। Ollama এবং Open WebUI ব্যবহার করুন, অথবা vLLM বা LangChain-এর সাহায্যে আপনার নিজস্ব মডেল নিয়ে আসুন।
সুপারিশকৃত জিপিইউ:
এল৪০এস
30B প্যারামিটার পর্যন্ত মডেলগুলি পরিবেশন করুন
এক ক্লিকে ওল্লামা চালু করুন
সহজ ঘণ্টাভিত্তিক মূল্য নির্ধারণ