需要在 HuggingFace LLM…

适用于已有 HuggingFace 模型和 PyTorch 环境，想通过 CLI、Python API 或 Gradio UI 定位并投影掉拒答方向、分析拒答几何并发布去限制模型的场景。

适用场景

解决思路

1. 安装核心包：`pip install obliteratus`；需要 Gradio UI 时运行 `pip install "obliteratus[spaces]"`；需要全部可选分析模块时运行 `pip install "obliteratus[full]"`。
2. 从源码安装最新版：`git clone https://github.com/elder-plinius/OBLITERATUS`，进入目录后运行 `pip install -e ".[full]"`。
3. 确认环境要求：Python 3.10+、PyTorch 2.1+ 且推荐 CUDA 或 CPU、`transformers`、`accelerate`、`gradio>=5.29.0`；gated 模型需要 HuggingFace 账号和 token。
4. 配置 HuggingFace 访问：`export HF_TOKEN=your_hf_token_here`，然后运行 `huggingface-cli login`；对 gated 模型先在 HuggingFace Hub 接受模型许可。
5. CLI 基础擦除：`obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct`。
6. CLI 使用高级方法：`obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method advanced`（whitened SVD + bias projection + iterative refinement）。
7. CLI 使用分析引导流水线：`obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method informed`，让几何分析自动配置。
8. CLI 指定输出目录并推送到 Hub：`obliteratus obliterate mistralai/Mistral-7B-Instruct-v0.3 --method advanced --output ./my-liberated-model --push-to-hub your-username/mistral-7b-liberated`。
9. CLI 使用 LoRA 可逆消融：`obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method lora --lora-rank 1`。
10. CLI 运行强度扫描：`obliteratus sweep meta-llama/Llama-3.1-8B-Instruct --strengths 0.2,0.4,0.6,0.8,1.0`，寻找能力/合规折中。
11. CLI 只运行分析模块而不修改模型：`obliteratus analyze meta-llama/Llama-3.1-8B-Instruct --modules concept_cone,alignment_imprint,universality`。
12. CLI 基准比较方法：`obliteratus benchmark meta-llama/Llama-3.1-8B-Instruct --methods basic,advanced,informed`。
13. 启动本地 Gradio UI：`obliteratus ui`；指定端口和分享：`obliteratus ui --port 8080 --share`；关闭遥测：`obliteratus ui --no-telemetry`。
14. Python API 基础擦除：从 `obliteratus` 导入 `Obliterator`，用模型 ID 或本地路径初始化，例如 `obl = Obliterator("meta-llama/Llama-3.1-8B-Instruct")`，调用 `result = obl.obliterate(method="advanced")`，然后读取 `result.perplexity_delta`、`result.refusal_rate_delta`、`result.output_path`。
15. Python API 分步流水线：从 `obliteratus` 导入 `Obliterator`，从 `obliteratus.pipeline` 导入 `PipelineConfig`；创建 `PipelineConfig(method="advanced", num_directions=32, strength=1.0, preserve_norm=True, project_biases=True, iterative_passes=3, layers="auto", dtype="bfloat16", device="cuda")`；用配置初始化 `Obliterator("mistralai/Mistral-7B-Instruct-v0.3", config=config)`。
16. Python API 分步执行各阶段：`obl.summon()` 加载模型和 tokenizer；`activations = obl.probe()` 在受限与不受限 prompt 上收集激活；`directions = obl.distill(activations)` 用 SVD 提取拒答方向；`obl.excise(directions)` 投影掉 guardrail 方向；`metrics = obl.verify()` 做困惑度和连贯性检查；`obl.rebirth("./liberated-mistral-7b")` 带元数据保存。
17. 使用自定义 probe prompts：从 `obliteratus.probing` 导入 `ProbeDataset`，用 `restricted` 和 `unrestricted` 列表构造数据集；用 `obl = Obliterator("google/gemma-2-9b-it")`，依次 `obl.summon()`、`activations = obl.probe(dataset=dataset)`、`directions = obl.distill(activations)`、`obl.excise(directions)`、`obl.rebirth("./liberated-gemma-2-9b")`。
18. 使用分析模块：从 `obliteratus.analysis` 导入 `AnalysisSuite`，用 `suite = AnalysisSuite("meta-llama/Llama-3.1-8B-Instruct")` 和 `suite.load()` 初始化。
19. 分析 Concept Cone Geometry：调用 `cone = suite.concept_cone_geometry()`，读取 `cone.solid_angle` 和 `cone.num_clusters` 判断拒答机制数量。
20. 分析 Alignment Imprint Detection：调用 `imprint = suite.alignment_imprint()`，读取 `imprint.method`（如 RLHF）和 `imprint.confidence`，检测 DPO/RLHF/CAI/SFT 训练方法。
21. 分析 Ouroboros Effect：调用 `ouroboros = suite.ouroboros_quantification()`，读取 `ouroboros.score` 和 `ouroboros.recommended_passes`，评估是否自我修复。
22. 生成跨层拒答信号热图：调用 `heatmap = suite.layer_refusal_heatmap()`，再调用 `heatmap.plot(save_path="./refusal_heatmap.png")`。
23. 分析安全-能力纠缠：调用 `entanglement = suite.entanglement_map()`，读取 `entanglement.safe_layers` 和 `entanglement.risky_layers`，决定可安全修改的层。
24. 分析引导擦除：设置 `config = PipelineConfig(method="informed")`，用 `obl = Obliterator("meta-llama/Llama-3.1-8B-Instruct", config=config)`，调用 `result = obl.obliterate()`，读取 `result.analysis_report` 查看自动配置决策。
25. 与擦除后的模型聊天：用 `obl = Obliterator("./liberated-llama-3.1-8b")` 和 `obl.summon()` 加载已擦除模型；从 `obliteratus.chat` 导入 `ChatSession`，创建 `session = ChatSession(obl.model, obl.tokenizer)`，调用 `session.chat("...", max_new_tokens=512, temperature=0.7)`。
26. A/B 对比：从 `obliteratus.compare` 导入 `ABComparison`，传入 `original_path="meta-llama/Llama-3.1-8B-Instruct"` 和 `obliterated_path="./liberated-llama-3.1-8b"`；调用 `ab.compare(prompt)` 分别打印原始与解放模型响应。
27. 推送擦除后模型到 Hub：用 `result.push_to_hub(repo_id=f"{os.environ['HF_USERNAME']}/Llama-3.1-8B-Instruct-abliterated", token=os.environ["HF_TOKEN"], private=True)`。
28. 方法选择：`basic` 用均值差方向提取、单次 pass，适合快速实验；`advanced` 用 whitened SVD + bias projection + iterative refinement，适合生产；`informed` 用分析引导自动配置，适合未知模型；`lora` 用可逆 LoRA rank-1 adapter、不改权重，适合可逆消融；`pca` 用 PCA 提取方向，适合研究/对比；`sparse` 用稀疏自编码器分解，适合 MoE 模型。
29. 核心配置项：设置 `method` 为 `advanced`；`strength=1.0` 投影强度，能力退化时调低；`num_directions=32` 提取拒答方向数；`layers="auto"`、`layer_selection="cosmic"` 选择最可分图层；`preserve_norm=True` 启用保范双投影；`project_biases=True` 投影 bias 项；`project_attention=True` 修改 attention 投影权重；`project_mlp=True` 修改 MLP 权重；`iterative_passes=3` 每 pass 后重新探测以捕捉旋转方向；`expert_granular=False` 对 MoE 使用 Expert-Granular Abliteration；`cot_aware=True` 保留思维链方向；`dtype="bfloat16"`；`device="cuda"`；`load_in_4bit=False`；`telemetry=True` 贡献匿名遥测。
30. 调 strength 以保留能力：从 `obliteratus.sweep` 导入 `StrengthSweep`，用 `sweep = StrengthSweep("meta-llama/Llama-3.1-8B-Instruct")`，运行 `results = sweep.run(strengths=[0.2,0.4,0.6,0.8,1.0,1.2])`，打印每个 `r.strength`、`r.perplexity_delta`、`r.refusal_rate`，再用 `best = sweep.recommend()` 获取推荐强度。
31. MoE 模型（Mixtral、DeepSeek-MoE）：设置 `PipelineConfig(method="advanced", expert_granular=True, project_attention=True, project_mlp=True)`，用 `Obliterator("mistralai/Mixtral-8x7B-Instruct-v0.1", config=config)`，调用 `obl.obliterate()`、`obl.rebirth("./liberated-mixtral-8x7b")`。
32. 批量基准多个模型：从 `obliteratus.benchmark` 导入 `ModelBenchmark`，传入 `models` 列表如 `meta-llama/Llama-3.1-8B-Instruct`、`google/gemma-2-9b-it`、`mistralai/Mistral-7B-Instruct-v0.3`，设置 `method="advanced"`；运行 `report = bench.run()`，保存 `report.save("./benchmark_report.json")`，绘图 `report.plot_heatmap("./benchmark_heatmap.png")`。
33. 处理大模型 OOM：设置 `PipelineConfig(dtype="float16", load_in_4bit=True, device="cuda", layers=[10,11,12,13], num_directions=16)`；`load_in_4bit=True` 需要 `bitsandbytes`。
34. 处理擦除后能力退化：设置 `PipelineConfig(strength=0.6, layer_selection="cosmic", cot_aware=True, iterative_passes=1)`，降低强度、使用最可分图层、保护推理方向、减少 pass。
35. 处理擦除后拒答仍存在：设置 `PipelineConfig(method="informed", iterative_passes=5, project_biases=True, num_directions=64)`，用 informed 方法、增加 pass、投影 bias、提取更多方向。
36. 处理 gated 模型访问错误：`export HF_TOKEN=your_hf_token_here`，先在 HuggingFace Hub 接受模型许可，再运行 `huggingface-cli login`。
37. 处理 Gradio UI 无法启动：运行 `pip install "obliteratus[spaces]"`，检查端口占用后换端口如 `obliteratus ui --port 7861`。
38. 无代码选项：使用 HuggingFace Space `spaces/pliny-the-prompter/obliteratus`（需 HF Pro、ZeroGPU，免费）；或使用 Colab notebook `notebooks/abliterate.ipynb`，运行所有单元格无需配置。
39. 理论参考：Arditi et al. (2024) arXiv:2406.11717 为 abliteration 奠基论文；Gabliteration arXiv:2512.18901；COSMIC layer selection arXiv:2506.00085、ACL 2025；Turner et al. (2023) arXiv:2308.10248 为 activation steering；Rimsky et al. (2024) arXiv:2312.06681 为 contrastive activation addition。

适用边界 · 注意事项

• 不适用于未获得模型许可或无权修改/再分发模型的场景；gated 模型必须先接受 HuggingFace 许可。
• 不适用于没有 Python 3.10+、PyTorch、足够显存/内存或无法安装 OBLITERATUS 的环境；大模型可能需要 CUDA 和 bitsandbytes。
• 不适用于需要保证模型安全合规、保留拒答行为或禁止绕过安全限制的生产/合规场景。