Brain-LLM 领域微调：Proposal 质量的形式化保证

三篇系列：Paper-01 SEC 语义覆盖 →·Paper-02Brain-LLM 微调（本篇）·Paper-03 纵深防御执行层 →安全链：P(unsafe) ≤ H·(1−R_L2)·(1−R_L3)

IEEE RA-L · In Preparation撰写完善中 · 未投📄 查看论文全文 →

Brain-LLM Fine-Tuning for Safety-Critical Routing — 量化 LLM 语义路由质量，通过领域 QLoRA 微调将 Proposal 命中率从 0.480 提升至 0.944，危险对幻觉率降低 16.5×，为 EICPS 纵深防御安全链提供 Brain 层形式保证。

摘要

Paper-01 证明了在封闭规程域（PCA）下 $\mathrm{SEC}(Q,\tau^*)=1$ 成立，但 SEC 只保证词汇表覆盖——当现场操作员的自然语言指令到达系统时，Brain 层 LLM 能否可靠地将其路由到正确的 $\mathcal{V}_{167}^{\mathrm{L}}$ 节点，是独立的工程挑战。

本文研究问题：对于部署于资源受限机器人本体的紧凑型领域 LLM（≤3B 参数），如何通过最小化微调数据实现安全关键路由所需的 Proposal 质量？特别是，如何量化并控制危险对混淆概率 $H(r_i, r_j)$ ——即 LLM 将”拧紧”误路由为”拧松”的条件概率？

核心贡献：提出以 $d_{\mathrm{Sem}}$ （通用 LLM 嵌入空间与领域语义流形 $\mathcal{M}_{\mathrm{sem}}^{\mathrm{domain}}$ 的子流形距离）为微调目标，通过 510 条领域样本的 QLoRA 4-bit 微调，将 Qwen2.5-3B-Instruct 的路由命中率 $Q(f)$ 从 0.480 提升至 0.944，危险对幻觉率 $H$ 从 0.256 降至 0.016（16.5×），推理延迟满足接口 A 合规要求（均值 1253 ms，P95 1323 ms）。

系列定位：本文量化 Brain 层在纵深防御安全链 $P(\mathrm{unsafe}) \leq H \cdot (1-R_{L2}) \cdot (1-R_{L3})$ 中的贡献： $H$ 降至 0.016，意味着 Brain 层错误仅以 1.6% 的概率逃逸进入 Spine/Body 防御层——Paper-03 的 $R_{L2}, R_{L3}$ 在此基础上构成最终安全上界。

关键数字速查

0.944

Q(f) 命中率

3B_FT · 微调后（↑ from 0.480）

0.016

H 幻觉率

↓ 16.5× from 0.256

510

训练样本数

V167L×8 模板 + 强化样本

≤155 ppm

P(unsafe) 上界

3B_FT 代入安全链

四点核心贡献

C1 · 双指标量化

Q(f) 与 H(rᵢ,rⱼ) 的解耦定义与安全意义

全局命中率 Q(f) 与危险对幻觉率 H 独立不可互替：高 Q 不保证低 H（7B 零样本：Q=0.678，H 仍高）。本文首次将两者解耦定义并共同纳入优化目标，回应 Paper-01 安全链对 Brain 层的双重要求。

C2 · 微调目标形式化

d_Sem 子流形距离作为可优化代理指标

提出

d_{\mathrm{Sem}} = 1 - \mathrm{avg}_v \max_u \cos(\phi(u),\psi(v))

作为 LLM 嵌入空间与

\mathcal{M}_{\mathrm{sem}}^{\mathrm{domain}}

距离的可计算代理，将领域微调目标从”准确率提升”形式化为”子流形对齐”，与 EST 三流形理论直接对应。

C3 · 极小数据高效微调

510 样本 QLoRA 在资源受限机器人本体上的可行性验证

510 条训练样本（V167L×8 模板 + 危险对/欠定/矛盾强化样本）实现 Q(f) 0.480→0.944。验证了在无云端依赖、≤8 GB VRAM 约束下领域微调的工程可行性，推理延迟均值 1253 ms 满足接口 A 的 [500 ms, 2000 ms] 合规窗口。

C4 · 跨模型泛化分析

谱泛化界约束 Brain-LLM 选型

基于谱泛化界定理（Paper-01 Thm.1 推广）：

Q(f_{\mathrm{gen}}) - Q(f_{\mathrm{dom}}) \leq L \cdot d_{\mathrm{Sem}}

，给出跨模型 Proposal 质量差距的上界，为 Brain-LLM 选型（Qwen2.5-3B vs 7B vs Phi-3.5-mini）提供理论依据。实验结果：3B 微调后

\hat{\Delta}_{\mathrm{align}}=0.056

，优于 7B 零样本（0.322）。

模型对比总览

模型	Q(f)	H	Δ_align	T_inf (ms)	角色
Qwen2.5-3B (FT) ✓	0.944	0.016	0.056	1253	主模型 · 部署选型
Qwen2.5-3B (零样本)	0.480	0.256	0.520	—	微调前基线
Qwen2.5-7B (零样本)	0.678	0.070	0.322	—	上界参照（7B 零样本）
Phi-3.5-mini (零样本)	0.565	0.163	0.435	—	负控制（高 Δ_align）

论文导航

🔬方法详解 →

d_Sem 定义、QLoRA 配置、数据构造、谱泛化界

📊实验结果 →

Q(f)/H/Δ_align 完整表格、延迟分析、跨模型对比

💻代码 →

paper02_finetune.py · QLoRA 训练脚本 · 评估 Pipeline

🗂数据集 →

510 条微调数据集、评估结果原始数据

📄 查看论文全文（单页连续阅读）