概览
Lens 是一个基于 llm-d 在 Kubernetes 上运行大模型的网页控制台。 你可以用它部署模型、发布 API 端点并测量性能。
第一次使用
按快速开始安装 Lens 并获得第一条模型回复。通常按以下顺序操作：
按任务查找
| 我想…… | 打开 |
|---|---|
| 选择并部署模型 | 模型市场 |
| 检查部署状态或读取 Pod 日志 | 部署 |
| 调用模型或管理 API 密钥 | 模型服务 |
| 比较延迟和吞吐量 | 评估 |
| 重放请求轨迹 | 模拟 |
| 连接集群或维护节点 | 集群 |
| 创建或删除存储卷 | 存储 |
| 下载模型或释放缓存空间 | 模型缓存 |
| 打开监控仪表盘 | 可观测性 |
| 接入外部 AI 提供方 | 外部服务提供方 |
| 让助手查询资源或执行操作 | Lens Assistant |
| 管理用户和访问权限 | 管理 |
遇到问题
操作失败时，先查看错误提示和日志，再查故障排查。 看不到资源或按钮时，请管理员检查权限。