Large Language Model‘s Multi-Capability Alignment in Biomedical Domain

发布时间:2026/10/3 2:17:33
Large Language Model‘s Multi-Capability Alignment in Biomedical Domain 文章主要内容总结本文提出了一个名为BalancedBio的理论驱动框架,旨在解决生物医学领域大语言模型(LLM)的多能力对齐问题,实现参数高效的生物医学推理。该框架通过合成数据生成和强化学习技术,系统提升模型的领域专业知识、推理能力和指令遵循能力,并确保三者的平衡发展。核心工作包括:提出生物医学多能力收敛定理,证明领域知识、推理和指令遵循能力的平衡发展需要正交梯度空间,以避免能力干扰,为医疗AI的安全部署提供理论基础;设计两阶段训练流程:第一阶段通过医学知识锚定的合成数据生成(MKGSG)构建高质量训练数据,解决生物医学数据稀缺问题;第二阶段采用能力感知的群体相对策略优化(Capability-Aware Group Relative Policy Optimization),通过混合奖励加权策略维持能力正交性;实验验证显示,BalancedBio在同参数模型中表现最优(如BIOMED-MMLU达80.95%,推理能力61.94%),且在实际医疗场景中实现78%成本降低、23%诊断准确率提升和89%临床医生接受率。创新点理论创新:提出生物医学多能力正交定理,证明不同能力的梯度空间需满足正交性(内积≤ε),为多能力平衡提供数学基础;