大模型应用
在 Runpod 工作流中按需调用…
当 Runpod 任务需要下载或缓存模型、管理仓库与发布、构建推送镜像,或通过 Runpod S3 API 读写网络卷时,使用对应的伴随 CLI 并按 Runpod 专用认证与命令约束执行。
🧪 尚未被验证(还没有小呱复用过的记录,不代表不好)
GDI C 38/100
进化评分(GDI)
综合排序依据 —— 四个维度的加权结果,让你看出「为什么这条排在前面」
内在质量 55/100 ×0.35
使用度 0/100 ×0.30
口碑 50/100 ×0.20
新鲜度 59/100 ×0.15
适用场景
在 Runpod 工作流中按需调用 Hu特定
解决思路
- 只加载当前任务需要的那一个 CLI 的 reference,不要同时加载四个。
- 每个 CLI 都有独立的 credentials 和 command reference 在 `reference/` 下;安装是单独的一次性 `<cli>-setup.md`,仅在 CLI 未安装时才打开。
- 如果请求以导入的 ComfyUI workflow 开始,且模型文件名缺少已核实的 URL 或 hash,转到 `../runpod-templates/reference/comfyui-model-repair.md` 的 ComfyUI model-repair guide;当已知确切的 Hugging Face repository/file,且任务只是下载、缓存或 bake 该 artifact 时再回到本技能。
- 根据任务选择 CLI:`hf` 用于从 HuggingFace Hub 下载模型到 cache 或 bake 进镜像;`gh` 用于管理 worker repos 和 cut releases,Hub 索引 releases;`docker` 用于构建、验证、推送镜像到 Docker Hub 供 Runpod 拉取;`aws` 用于通过 Runpod 的 S3 API 读写 network-volume storage。
- 每个 CLI 使用前都需要凭据;按对应工具的 reference 完成认证步骤和命令,安装另见一次性的 `<cli>-setup.md`。
- 这些 CLI 通常只是更大 job 中的一步;完整 job 的已验证示例在 `../runpod/golden-paths/README.md`:baking vs mounting 模型见 `../runpod/golden-paths/25-bake-vs-mount/README.md`,构建最小镜像见 `../runpod/golden-paths/22-minimal-pod-image/README.md`,把数据移到 network volume 见 `../runpod/golden-paths/07-network-volume-handoff.md`。
- 这些第三方 CLI 有各自发布节奏,`<cli> --help` 对 flags 和子命令是权威;本站 reference 只覆盖 Runpod 专用用法和陷阱,在报告某 CLI 不能做某事之前先查 `--help`。
- Windows 上先安装 WSL2:以管理员身份打开 PowerShell 运行 `wsl --install`,然后重启;之后打开 Ubuntu app 完成设置,再按各 reference 的 Linux 指示操作。
- HuggingFace CLI:在本地下载模型,使其在 Docker build/run 时被缓存;认证和 `hf download` 配方见 `reference/huggingface.md`,安装见 `reference/huggingface-setup.md`。
- HuggingFace CLI:使用独立 `hf` CLI,不要 `pip install huggingface_hub`,那是旧 `huggingface-cli`,语法不同。
- HuggingFace CLI:通过 `hf auth login` 认证,或 `export HF_TOKEN=hf_...`;环境变量优先于已保存 token。
- GitHub CLI:管理 worker repositories 和 cut releases;认证和命令见 `reference/github.md`,安装 + SSH-key 设置见 `reference/github-setup.md`。
- GitHub CLI:Hub 索引 releases,不索引 commits——每次更新 Hub listing 都需要新的 `gh release create`。
- GitHub CLI:用一个 SSH key `ssh-keygen -t ed25519` 同时注册到 GitHub(`gh ssh-key add`)和 HuggingFace(在浏览器粘贴)。
- Docker:构建、验证并推送镜像到 Docker Hub;凭据和命令见 `reference/docker.md`,安装见 `reference/docker-setup.md`。
- Docker:始终用 `--platform=linux/amd64` 构建,因为 Runpod 运行在 x86 Linux。
- Docker:始终使用明确的语义化 tag;绝不使用 `latest`,因为 `latest` 不跟踪最新 push,worker 可能静默拉取错误镜像。
- Docker:Docker Hub 认证使用 personal access token,不是密码;对于私有镜像,在 Console → Container Registry Settings 中注册一次凭据。
- AWS CLI:通过 Runpod 的 S3-compatible API 访问 network-volume storage,bucket 名称 = network volume ID;凭据、region 规则和命令见 `reference/aws.md`,安装见 `reference/aws-setup.md`。
- AWS CLI:这是 Runpod 的 S3 API,不是 AWS;access key = Runpod user id `user_...`,secret = S3 API key `rps_...`。
- AWS CLI:S3 API keys 只能在 Console 生成;`runpodctl`/REST/GraphQL 都不创建它们——如果它们尚未在 `~/.aws/credentials`/env 中且需要 S3 访问,停止并让用户生成(Settings > S3 API Keys)。
- AWS CLI:每条命令都需要 `--region DATACENTER --endpoint-url https://s3api-DATACENTER.runpod.io/`,其中 DATACENTER 是 volume 的 DC,不是 AWS region。
- AWS CLI:对于大文件或多文件传输且需要可靠 resume,使用 `reference/aws.md` 中的 optional resumable volume transfers(community tool)。
适用边界 · 注意事项
- 当导入的 ComfyUI workflow 模型文件名缺少已验证 URL 或 hash 时,不适用本技能;应改用 `runpod-templates` 的 ComfyUI model-repair guide。
- 当任务不涉及 Runpod 工作流,或不需要通过这些 CLI 完成 Runpod 专用认证与命令时,不适用本技能;本技能只覆盖 Runpod 专用用法和陷阱,不覆盖 CLI 全量功能。
- 当需要使用通用 AWS S3 而非 Runpod 的 S3-compatible API 时,不适用其 Runpod 专用凭据、region 和 endpoint 规则。