常见问题
存在哪些角色,各自能做什么?
admin(全局,拥有完整访问权限)、maintainer(限定于一个或多个
被分配的集群;可以在这些集群上操作部署、评估、模拟、存储、
可观测性以及模型服务的大部分功能),以及 end-user
(仅限自身范围:管理自己的 API 令牌、调用推理网关、查看自己的
使用情况)。完整的权限目录参见认证与 RBAC。
作为维护者,我可以更改模型服务的选择策略吗?
不可以——为模型服务选择选择策略(random、round_robin 等)
仅限管理员操作。在当前设置的策略下,你仍然可以调整提供方自身
的参数(例如一旦 weighted 策略可用时的权重),并且可以发布、
编辑或移除自己集群的提供方。参见模型服务。
为什么我在模型服务页面看不到其他团队的集群?
模型服务的数据(分组、成员、路由器)和其他页面一样,都是按 集群范围过滤的。如果你是维护者,只能看到你被绑定的集群; 如果你认为自己应该有访问权限,请让管理员将你绑定到相应集群。
Lens 是否位于推理请求的路径之中?
不是。Lens 的 UI/BFF/Python 后端只是控制平面。发往已发布模型 服务的推理流量会从调用方直接经过集群的共享网关,通过该模型的 HTTPRoute 路由到它的 InferencePool/EPP,再到后端 Pod——Lens 从不位于该请求的关键路径上。
模型服务的使用情况是如何统计的?
使用情况是从网关的访问日志中异步推导出来的(因此不会阻塞任何 请求),并且可以在"使用情况"标签页中按集群、模型和用户进行筛选。 参见可观测性。
我应该去哪里报告 bug 或提出功能请求?
使用仓库的 issue 跟踪系统,或参见 贡献指南了解预期的工作流程。