跳到主要内容

部署

打开 Deployments(部署),确认模型是否就绪、排查失败原因或管理已有部署。

打开部署创建流程​

  1. 在左侧导航中,打开部署。
  2. 在页面标题栏,点击创建。
  3. 按创建部署完成操作。提交后,新部署会出现在列表中。

在列表中查找部署​

  1. 查看页面顶部的汇总卡片:总计、就绪、进行中、失败和已清理。
  2. 在列表工具栏中,在搜索部署中输入内容,可按名称、描述、模型、命名空间、指南或 ID 匹配部署。
  3. 打开状态以按部署状态进行筛选。
  4. 打开集群选择器,选择所有集群或某一个集群。
  5. 如有需要,更改每页行数,并使用分页器在列表中翻页。
  6. 如果没有匹配的行,点击清除筛选。

查看部署详情​

  1. 在部署行中,点击提示为查看详情的操作。
  2. 在抽屉中,查看基本信息、模型与服务引擎、集群与环境、网络与端点以及审计与时间线各个部分。
  3. 当你需要在别处复用诸如命名空间、集群会话 ID、容器镜像、内部端点、转发端点或执行 ID等值时,使用这些值旁边的复制按钮。
  4. 如果部署失败,请先阅读失败提示横幅,再做任何改动。

等待状态变为 **Ready(就绪)**后再调用。处于 **In progress(进行中)**时, 打开 Pod 日志查看启动进度;处于 **Failed(失败)**时,结合失败提示和对应 Pod 的日志排查。

**Failed(失败)**并非终态。发布超过进度期限会被记为失败,但工作负载往往会自行恢复—— 例如某个 Pod 一直崩溃,直到其模型缓存补齐后才正常启动。Lens 会持续拿失败的部署与集群实况 比对,一旦其 Pod 重新提供服务就把状态改回 Ready(就绪),因此不必急于重建部署。 如果命名空间已不存在,则该部署会被更正为 Cleaned(已清理)。

查看 Pod 并查看实时日志​

  1. 要在行内查看 Pod 状态,点击提示为显示 Pod 的行展开开关。
  2. 在展开的行中,查看 Pod 表格的列:Pod、状态、重启次数、节点和 Pod IP。
  3. 要使用完整的日志查看器,点击提示为查看 Pod 与日志的操作。
  4. 使用节点筛选或搜索框找到需要查看的 Pod。
  5. 点击某个 Pod 卡片,打开该 Pod 的Pod 日志:。
  6. 如果某个 Pod 包含多个容器,请选择所需的**容器:...**条目。
  7. 选择100 行、200 行、500 行或1000 行以更改日志尾部的长度。
  8. 如果需要查看上一个容器的日志,请打开上一个开关。
  9. 保持**自动刷新 (5 秒)**开启,以让 Pod 列表和日志保持实时更新。
  10. 使用筛选日志行...来缩小日志输出范围,或点击复制来复制当前的日志文本。

为就绪的部署创建本地端口转发​

  1. 找到一个已经处于就绪状态的部署。
  2. 在该行中,点击提示为创建本地端口转发的操作。
  3. 等待成功提示本地端点已连接出现。
  4. 如果你想从工作站调用该服务,可从表格中复制更新后的本地端点。

打开部署监控与性能分析​

  1. 在部署行中,点击提示为部署监控的操作。

  2. 如果监控尚未安装,点击安装。

  3. 如果监控已存在但处于暂停状态,点击启用。

    在部署本身就绪之前,安装和启用均不可用——监控采集的是该部署的 Pod, 在此之前没有任何数据可采集。等待期间菜单中会给出相应提示。

  4. 当监控已启用时,使用打开 Grafana 或打开 Prometheus 在新标签页中打开相应的仪表盘。

  5. 点击性能分析,跳转到该部署的性能分析视图。

  6. 使用禁用可以在不卸载的情况下停止监控。

  7. 使用卸载可以从该服务中移除部署监控。

编辑部署名称与描述​

  1. 在部署行中,点击提示为编辑名称与描述的操作。
  2. 在编辑部署中,更新显示名称和描述。
  3. 点击保存更改。
  4. 如果你决定不保留这次编辑,点击取消。 要修改模型、镜像、资源数量或集群,请创建新部署; 此处只修改名称和描述。

模型推理访问​

不再支持部署分享。admin 和 maintainer 在其集群 scope 内管理部署。 消费者不能访问部署页面或直接连接部署;请发布模型服务,再通过其 Manage access 抽屉向用户或组授予推理权限。 旧部署授权不会自动转换成模型授权。

删除部署​

  1. 在部署行中,点击提示为删除部署的操作。
  2. 在删除部署中,查看执行 ID、集群和命名空间。
  3. 如果你希望 Lens 移除该命名空间及其中的所有内容,请保持同时删除 Kubernetes 命名空间选中;如果只想移除部署记录,请取消勾选。
  4. 在输入 <短语> 以确认中,输入对话框中显示的确切确认短语。
  5. 点击删除部署。
  6. 如果你不想继续,点击取消。

找不到部署或操作按钮​

先清除搜索、状态和集群筛选。仍然找不到时,请管理员检查角色的部署管理权限和集群 scope。

需要让应用调用已就绪的部署时,继续发布模型服务。