聊天和LLM推理
为聊天机器人、副驾驶和 API 提供全天候的低延迟 GPU 性能。使用 Ollama 和 Open WebUI,或者自带 vLLM 或 LangChain 模型。
推荐的GPU:
L40S
伺服型号高达30B参数
一键启动Ollama
简单的小时定价
专用 Blackwell B200,用于训练和运行最大人工智能模型的非共享访问。
192GB VRAM
建议用于:
需要专用资源的工作量
人工智能规模推理
前沿LLM培训
科学模拟和高性能计算
最新的 Blackwell 旗舰,用于训练和运行最大的人工智能模型。
192GB VRAM
建议用于:
大型模型的微调
人工智能规模推理
前沿LLM培训
科学模拟和高性能计算
经验证的数据中心主力,用于严肃的人工智能训练和推理。
80GB VRAM
建议用于:
LLM培训
微调大型模型
大批量推理
多GPU扩展
多功能Ada Lovelace GPU平衡了强大的推理性能与极高的性价比。
48GB VRAM
建议用于:
人工智能推理和生成人工智能
3D渲染和虚拟工作站
中型机型的微调
视频转码和流式传输
Enterprise Blackwell GPU 专为要求苛刻的专业 AI 和可视化工作负载而构建。
96GB VRAM
建议用于:
大模型推理和微调
视频处理和流媒体
工程模拟和科学计算
密集的3D渲染和可视化
只为使用的服务付费
约30秒后准备就绪
从一个仪表板进行管理