模块 1:vLLM Playground 快速入门¶
翻译进行中
本页面的中文翻译正在进行中。请参阅 英文版本 获取完整内容。
Translation in progress. Please refer to the English version for full content.
概述¶
本模块演示如何部署 vLLM 服务器并使用现代聊天界面与 LLM 交互,以 ACME 公司的客户支持场景为背景。
演示要点:
- ✅ 验证环境和部署 vLLM 服务器
- ✅ 配置模型和运行模式
- ✅ 使用聊天界面进行客户支持场景演示
下一步: 模块 2:结构化输出