ワンクリックインストールでのSergeデプロイ
APIコストなしで、llama.cppを介してLLaMAおよびAlpacaモデルをローカルで実行できるセルフホスト型チャットインターフェースです。
Serge向けVPSプランの料金表
どのプランでも充実の機能を完備
Sergeの活用例
Sergeは、llama.cppを介してLLaMAファミリーの言語モデルをローカルで実行するためのオープンソースのチャットインターフェースであり、Alpaca、Vicuna、GPT4All、およびその他のコミュニティファインチューンをファーストクラスでサポートしています。SvelteKitウェブUI、FastAPIバックエンド、およびRedisをバックエンドとするモデルレジストリを単一のコンテナにバンドルしているため、複数のサービスを接続することなく、GGUFモデルのプル、チャットセッションの管理、および推論パラメータの調整が可能です。
Sergeをセルフホストすることで、すべてのプロンプトと応答が自身のVPS上に保持され、外部API、テレメトリ、トークンごとのコストは一切かかりません。CPUのみの推論がすぐに利用可能であり、クラウドGPUの時間料金を支払ったり、サードパーティのAIサービスに登録したりすることなく、プライベートなLLMを実行する実用的な方法となります。
Sergeの主な機能
CPUで動作します
llama.cppはGPUなしで完全にローカルな推論を可能にするため、標準的なVPS上で量子化されたLLaMAモデルとチャットできます。
組み込みモデルレジストリ
Alpaca、Vicuna、GPT4All、その他のGGUFモデルを、手動でファイルをコピーすることなく、「Web UI」から直接ダウンロードして切り替えることができます。
チューナブル推論
チャットごとにテンパチャー、top-k、top-p、コンテキスト長、その他の生成パラメータを調整して、応答スタイルと品質を制御できます。
永続的なチャット履歴
会話とダウンロードされたモデルウェイトはDockerボリュームに保存され、コンテナの再起動やアップグレード後も存続します。
REST API搭載
FastAPIバックエンドは、チャット、モデル、セッションのエンドポイントを公開しており、Sergeをカスタムスクリプト、ボット、またはアプリと統合できます。
HostingerでSergeを実行するメリットとは？
ワンクリックで公開
事前設定済みのセットアップのおかげで、導入後すぐにアプリケーションを起動できます。手動インストールや複雑な設定手順は不要です。
信頼できるセキュリティ対策
内蔵ファイアウォール、DDoS攻撃対策、継続的な監視機能で、アプリケーションを守ります。
組み込み型Dockerマネージャー
複数のDockerコンテナを1か所から実行・管理できるだけでなく、プロジェクトのデプロイ、更新、監視も簡単に行えます。
ワンクリックで公開
事前設定済みのセットアップのおかげで、導入後すぐにアプリケーションを起動できます。手動インストールや複雑な設定手順は不要です。
信頼できるセキュリティ対策
内蔵ファイアウォール、DDoS攻撃対策、継続的な監視機能で、アプリケーションを守ります。
組み込み型Dockerマネージャー
複数のDockerコンテナを1か所から実行・管理できるだけでなく、プロジェクトのデプロイ、更新、監視も簡単に行えます。
お客様の声
HostingerのVPSホスティングには大変満足しています！稼働率は常にトップレベルで、サイトはスムーズに稼働しています。困った時はいつでもテクニカルサポートチームが、スピーディーで親切に役立つ情報を提供してくれます。
Hostingerは全体的にとてもスムーズです。AIチャットボットに加え、AIで解決できない場合は人間がチャットですぐフォローしてくれます。VPSも快調で、アップダウンがなく安定しています。開発チームと関係者の皆さんに感謝しています！これからもよろしくお願いします🚀
やっと満足のいくVPSホスティング会社を見つけました！料金は手頃で、ポータルは無駄な時間を取られず使いやすく、バックアップもシームレスです。サポートも充実していて信頼性も高く、全体的にとても安定しています。
セルフホストしているn8nインスタンスにアクセスできなくなり、Hostingerのサポートに連絡しましたが、その対応には感心しました。KodeeとサポートチームのMohammadさんが、とても丁寧かつ的確にサポートしてくれました。
Hostinger VPSでのN8NアップグレードをCarlaさんにサポートしていただきました。とてもプロフェッショナルで知識も豊富で、大変助かりました。
Hostinger VPSは本当に素晴らしいです。常に高速で、動作は安定しています。ダウンすることも、クラッシュすることもありません。
この会社にはとても満足しています。サービスの質は期待以上で、価格も他社の高額なVPSに比べて手頃ながら、プラン内容は充実しています。