发布模型服务

先准备一个已就绪的 llm-d 部署。 发布操作需要模型服务管理权限。

1. 添加模型

1. 打开 Model services，点击 Add model（添加模型），展开右侧抽屉。
2. 选择部署所在的 Cluster（集群）。
3. 在 Provider 中选择就绪的部署。已经添加到模型的部署不会再次列出。
4. 在 Model name mapping 中核对只读的 Provider model name。
5. 在 Exposed to users as 下方，从当前集群的下拉建议中选择已有的 Public model name，或输入新名称，例如 qwen-demo，然后点击 Add。字段旁的问号图标提供说明。

向已有模型添加部署时，在同一集群中选择该模型的公开名称。Lens 复用模型服务和 HTTPRoute， 保留已有权重，并以默认权重 1 添加新提供方。通过模型名称旁的三线菜单 → Traffic distribution 调整流量比例。所有提供方的模型名称必须一致。

2. 检查已发布模型

模型服务和模型服务器会一并创建。在 **Service flow（服务流程）**中检查各组件的状态点。

没有可选部署时，确认它与服务位于同一集群，且通过提供 InferencePool 的 llm-d Guide 创建。

3. 检查网关

1. 在 Service flow 中找到该集群的 Gateway 节点。
2. 未安装时，打开节点菜单并点击 Install（安装）。
3. 需要重新应用设置时，点击 Reconcile（协调）。
4. 查看操作日志，等待网关和服务组件变为健康状态。

地址不正确时，在 Clusters → Edit cluster → Gateway host/IP 中修改。 安装失败的处理方法见故障排查。

4. 创建 API 密钥

1. 打开 API keys → New key。
2. 填写名称，例如 first-call，点击 Create。
3. 点击 Copy and save，完整密钥会复制到剪贴板并关闭弹窗。

完整密钥只显示一次。不要写入代码或分享给其他用户。

5. 发送请求

1. 打开 My services（我的服务），找到 qwen-demo。
2. 点击 cURL，再点击聊天请求示例旁的 Copy。
3. 粘贴到终端，将 lens-mk-... 替换为自己的密钥，保留其他请求头和地址。
4. 运行请求，确认模型返回回复。

现在可以评估该服务。 应用代码接入示例见集成。