部署
打开 Deployments(部署),确认模型是否就绪、排查失败原因或管理已有部署。
打开部署创建流程
- 在左侧导航中,打开部署。
- 在页面标题栏,点击创建。
- 按创建部署完成操作。提交后,新部署会出现在列表中。
在列表中查找部署
- 查看页面顶部的汇总卡片:总计、就绪、进行中、失败和已清理。
- 在列表工具栏中,在搜索部署中输入内容,可按名称、描述、模型、命名空间、指南或 ID 匹配部署。
- 打开状态以按部署状态进行筛选。
- 打开集群选择器,选择所有集群或某一个集群。
- 如有需要,更改每页行数,并使用分页器在列表中翻页。
- 如果没有匹配的行,点击清除筛选。
查看部署详情
- 在部署行中,点击提示为查看详情的操作。
- 在抽屉中,查看基本信息、模型与服务引擎、集群与环境、网络与端点以及审计与时间线各个部分。
- 当你需要在别处复用诸如命名空间、集群会话 ID、容器镜像、内部端点、转发端点或执行 ID等值时,使用这些值旁边的复制按钮。
- 如果部署失败,请先阅读失败提示横幅,再做任何改动。
等待状态变为 **Ready(就绪)**后再调用。处于 **In progress(进行中)**时, 打开 Pod 日志查看启动进度;处于 **Failed(失败)**时,结合失败提示和对应 Pod 的日志排查。
**Failed(失败)**并非终态。发布超过进度期限会被记为失败,但工作负载往往会自行恢复—— 例如某个 Pod 一直崩溃,直到其模型缓存补齐后才正常启动。Lens 会持续拿失败的部署与集群实况 比对,一旦其 Pod 重新提供服务就把状态改回 Ready(就绪),因此不必急于重建部署。 如果命名空间已不存在,则该部署会被更正为 Cleaned(已清理)。
查看 Pod 并查看实时日志
- 要在行内查看 Pod 状态,点击提示为显示 Pod 的行展开开关。
- 在展开的行中,查看 Pod 表格的列:Pod、状态、重启次数、节点和 Pod IP。
- 要使用完整的日志查看器,点击提示为查看 Pod 与日志的操作。
- 使用节点筛选或搜索框找到需要查看的 Pod。
- 点击某个 Pod 卡片,打开该 Pod 的Pod 日志:。
- 如果某个 Pod 包含多个容器,请选择所需的**容器:...**条目。
- 选择100 行、200 行、500 行或1000 行以更改日志尾部的长度。
- 如果需要查看上一个容器的日志,请打开上一个开关。
- 保持**自动刷新 (5 秒)**开启,以让 Pod 列表和日志保持实时更新。
- 使用筛选日志行...来缩小日志输出范围,或点击复制来复制当前的日志文本。
为就绪的部署创建本地端口转发
- 找到一个已经处于就绪状态的部署。
- 在该行中,点击提示为创建本地端口转发的操作。
- 等待成功提示本地端点已连接出现。
- 如果你想从工作站调用该服务,可从表格中复制更新后的本地端点。
打开部署监控与性能分析
-
在部署行中,点击提示为部署监控的操作。
-
如果监控尚未安装,点击安装。
-
如果监控已存在但处于暂停状态,点击启用。
在部署本身就绪之前,安装和启用均不可用——监控采集的是该部署的 Pod, 在此之前没有任何数据可采集。等待期间菜单中会给出相应提示。
-
当监控已启用时,使用打开 Grafana 或打开 Prometheus 在新标签页中打开相应的仪表盘。
-
点击性能分析,跳转到该部署的性能分析视图。
-
使用禁用可以在不卸载的情况下停止监控。
-
使用卸载可以从该服务中移除部署监控。
编辑部署名称与描述
- 在部署行中,点击提示为编辑名称与描述的操作。
- 在编辑部署中,更新显示名称和描述。
- 点击保存更改。
- 如果你决定不保留这次编辑,点击取消。 要修改模型、镜像、资源数量或集群,请创建新部署; 此处只修改名称和描述。
模型推理访问
不再支持部署分享。admin 和 maintainer 在其集群 scope 内管理部署。 消费者不能访问部署页面或直接连接部署;请发布模型服务,再通过其 Manage access 抽屉向用户或组授予推理权限。 旧部署授权不会自动转换成模型授权。
删除部署
- 在部署行中,点击提示为删除部署的操作。
- 在删除部署中,查看执行 ID、集群和命名空间。
- 如果你希望 Lens 移除该命名空间及其中的所有内容,请保持同时删除 Kubernetes 命名空间选中;如果只想移除部署记录,请取消勾选。
- 在输入
<短语>以确认中,输入对话框中显示的确切确认短语。 - 点击删除部署。
- 如果你不想继续,点击取消。
找不到部署或操作按钮
先清除搜索、状态和集群筛选。仍然找不到时,请管理员检查角色的部署管理权限和集群 scope。
需要让应用调用已就绪的部署时,继续发布模型服务。