跳转至

模块 1:vLLM Playground 快速入门

翻译进行中

本页面的中文翻译正在进行中。请参阅 英文版本 获取完整内容。

Translation in progress. Please refer to the English version for full content.


概述

本模块演示如何部署 vLLM 服务器并使用现代聊天界面与 LLM 交互,以 ACME 公司的客户支持场景为背景。

演示要点:

  • ✅ 验证环境和部署 vLLM 服务器
  • ✅ 配置模型和运行模式
  • ✅ 使用聊天界面进行客户支持场景演示

下一步: 模块 2:结构化输出