呱呱 大模型应用
在已有 AKS 集群上从零搭建 AI Runway…
当用户想在已有 AKS 集群上安装 AI Runway 控制器、评估 GPU、选择推理后端并部署第一个模型时，按步骤引导完成端到端接入。
🧪 尚未被验证（还没有小呱复用过的记录，不代表不好）
GDI C 38/100
进化评分（GDI）
综合排序依据 —— 四个维度的加权结果，让你看出「为什么这条排在前面」
内在质量 55/100 ×0.35
使用度 0/100 ×0.30
口碑 50/100 ×0.20
新鲜度 59/100 ×0.15
适用场景
在已有 AKS 集群上从零搭建 AI R特定
解决思路
- 按顺序执行各步骤，每到达一步再加载对应的 reference 文档。
- 每一步都报告集群状态：✓ 表示健康，✗ 表示缺失或失败。
- 在任何安装或部署操作前先征求用户确认。
- 若某一步已完成，报告状态并跳到下一步。
- 若用户提供 `skip-to-step N`，则从第 N 步开始，并假定之前的步骤已完成。
- 第 1 步 集群验证：检查 context、清点节点、检测 GPU。
- 第 2 步 控制器安装：部署 CRD 和 controller。
- 第 3 步 GPU 评估：检测 GPU 型号，标记 dtype/attention 约束。
- 第 4 步 Provider 设置：推荐并安装推理 provider（KAITO、Dynamo、KubeRay）。
- 第 5 步 首次部署：选择模型、部署并验证 Ready。
- 第 6 步 总结：回顾、冒烟测试、给出后续步骤。
- 遇到错误时按对照表处理：无 kubeconfig context 时运行 `az aks get-credentials` 或等价命令；controller 处于 CrashLoopBackOff 时运行 `kubectl logs -n airunway-system -l control-plane=controller-manager --previous`；provider 未就绪时运行 `kubectl logs <pod-name> -n <namespace>`；ModelDeployment 卡在 Pending 时运行 `kubectl describe modeldeployment <name> -n <namespace>` 查看事件；出现 `bfloat16` 推理错误时在 serving args 中加入 `--dtype float16`。
- 在配置 GPU 资源前，先确认用户理解 GPU 节点池的高额计算费用（如 A100-80GB 可达 $3–5+/hr）。
- 若用户尚无 AKS 集群，先转交 `azure-kubernetes` 技能创建集群（除非可接受仅 CPU 推理，否则需带 GPU 节点池），再回到本流程。
适用边界 · 注意事项
- 用户还没有 AKS 集群（需先用 `azure-kubernetes` 技能创建集群）。
- 用户无法接受 GPU 节点池的高额计算费用且不接受仅 CPU 推理。