Enhancing Reasoning Skills in Small Persian Medical Language Models Can Outperform Large-Scale Da...
一、文章主要内容总结本文聚焦低资源语言(波斯语)医疗领域小语言模型的推理能力提升问题,核心研究如何在有限数据条件下,通过推理导向的训练方法超越单纯的数据规模扩展效果。研究背景:基于Transformer的语言模型擅长“快速思考”类任务(如模式匹配、表层文本生成),但在医疗等专业领域的“慢速思考”(多步骤推理、逻辑推断)任务中表现不足;而波斯语作为低资源语言,缺乏高质量医疗数据集和计算资源,进一步加剧了这一问题。核心方法:构建数据集:将英文医疗多选题数据集MedMCQA机器翻译为波斯语,并结合新增的PersianMedQA数据集,形成含1.9万道题的波斯语医疗多选题数据集,经双模型验证确保翻译质量。训练框架:提出RLAIF+DPO组合框架,通过师生模型循环生成“偏好-拒绝”答案对(含正确与错误推理轨迹),其中95%数据采用“教师模型修正学生模型错误并生成优选推理”的方法,5%数据采用“教师模型提供错误反馈、学生模型迭代修正”的方法,最终用1.1万组答案对(优选答案200万词、拒绝答案250万词)训练模型。模型与实验:基于8B参数的aya-expanse-8b基线模型,训练出波斯语医疗模型gaokerena-R,并与前序模型gaokerena-V(基于5700万词监督微调)及基线模型对比。实验结果:推理能力:在CoT提示下,gaokerena-R在FA MED MMLU和IB