跳至正文
朗慧科技

MEDICAL DATA RESEARCH

医疗问答与中英平行语料:从“有数据”到可验收的数据资产

面向医疗AI研发与数据采购团队,拆解中文医疗问答与中英医学平行语料的字段、证据、对齐、专家复核、隐私治理、独立切分与验收方法,明确数据工程能力与临床效果之间的边界。

临床文本与纵向多模态AI辅助整理 · 研发交流

医疗大模型既要回答中文健康问题,也可能要阅读英文研究、生成中文解释或完成跨语言检索。真正困难的地方,不是把两个名称放进同一个数据包,而是要回答两个不同的问题:一条中文问答的医学结论是否正确、是否安全、是否知道何时不能回答;一对中英句段是否真正表达同一个临床含义,药名、剂量、否定和时序有没有被改变。若把这两类数据都按“文本条数”采购,模型训练、问题定位和后续复盘都会失去抓手。

本文把这类需求脱敏为一个可独立讨论的技术问题:如何分别设计医疗问答语料与中英医学平行语料,并把它们组织成可追溯、可抽检、可外部验证的数据资产。原需求未限定具体病种、样本粒度、授权链、专家配置或正式验收阈值,以下涉及这些内容的部分均属于待书面确认的设计要点。讨论聚焦数据工程与研发验收,不构成个体诊疗建议,也不代表任何固定库存、临床效果或监管结论。

一、先把两个任务拆开

医疗问答数据的基本单位不是一段普通文本,而是“问题—上下文—答案—依据—风险状态”的任务样本。输入可以是单轮健康问题、多轮对话中的一个回合,或者经项目定义的受控医学文本任务;输出可以是解释、分步回答、证据定位、需要补充的信息,或在信息不足和风险过高时的谨慎拒答。若只保存问题和最终答案,后续无法区分知识错误、推理错误、遗漏关键信息、语气越界与事实尚未确定等不同失败类型。

中英平行语料的基本单位则是“有权利依据的双语文档—句段对齐关系—术语和数值约束”。它服务于机器翻译、跨语言检索、双语信息抽取或跨语言模型适配,不等同于把中文文本翻译成英文后再批量回译。医学翻译中的句子可能出现一对多、多对一、标题与正文不对称、表格和脚注未翻译等情况;这些关系如果被强行压成一对一,训练数据表面整齐,实质却会把错位监督传给模型。

公开研究已经说明了这一区别的重要性。MultiMedQA 将医学考试、消费者健康和医学研究问题放在同一评价框架中,同时配合面向医生和普通评价者的细致人工评价;研究者还指出,标准化题目分数并不能充分代表真实工作流中的长答案安全性与实用性。1 中文本土化基准 CMB 也提醒我们,直接把英文医学评测翻译过来,可能产生与本地语言、文化和医学语境不一致的问题。2 对于平行语料,ParaMed 的构建过程把文档匹配、句子切分、句对齐和低质量过滤明确拆成不同步骤,而不是把“已翻译”当作“已对齐”。3

医疗问答与中英平行语料分别对应不同的输入、输出、专家核验和数据切分边界。查看完整技术图(可放大)

图1 技术示意:双任务的数据边界、监督信号与验证方式;不表示真实患者、已完成实验或可直接交付的样本。

二、需求规格应落到字段,而不是停在名称

1. 医疗问答的字段设计

第一层是任务身份。每条样本应有任务类型、语言、主题域、问题来源类别、难度层级和风险等级。健康教育、就医导航、医学知识解释、研究型问答和临床信息抽取不应共用一套无差别标签。尤其要单独标出涉及药物、急症、孕产、儿童、严重不良后果或诊断推断的高风险问题,以便在抽检和评测时采用更严格的专家流程。

第二层是答案可核验性。建议同时保存规范化问题、必要上下文、参考答案、关键事实点、证据片段、证据来源类型、适用条件和不确定性标签。参考答案不是要求模型照抄的唯一句式,而是用于判断医学事实、逻辑顺序和边界条件的结构化依据。对于不能由给定材料支持的结论,应允许“信息不足”“需补充信息”“建议转人工或线下流程”等状态,而不是强迫标注员把每个问题改写成肯定句。

第三层是错误定位。标注应能指出答案中哪一句出现事实偏差、遗漏、无关扩展、过度确定或不恰当建议,并记录建议的改法。这个粒度比单纯的整体好坏分更适合监督微调、偏好优化和评测集建设,也便于在模型迭代后回答“错误减少在哪里”。对于长答案,可以把证据与答案片段建立多对多关联;对于短问答,也应保留空证据的原因,而不是把字段留空后丢失语义。

2. 中英平行语料的字段设计

平行数据要先登记文档级元数据,再登记句段级关系。文档级字段包括来源类别、原始语言、目标语言、版本或发布日期、主题领域、授权状态、脱敏状态和是否包含表格、图注、参考文献等附属内容。句段级字段至少包括源句、目标句、对齐类型、句序、术语标记、数值标记、否定标记、时序标记和人工审核状态。对标题、列表、公式、表格和脚注应有专门的内容类型,不能让清洗脚本把它们混成普通句子。

对齐类型至少应允许一对一、一对多、多对一和未对齐。ParaMed 的研究显示,医学文章中英文句子并不总是严格一一对应;它们还要处理显示元素、参考文献、网页模板和错误断句等问题。3 因此,自动对齐工具可以用来生成候选关系,但不能代替医学语言专家对关键句段的最终判断。对于高风险内容,药品名称、疾病名称、剂量和单位、否定词、条件句、时间间隔、比较关系和缩写应成为强制核验项。

术语表不应只是一个词到词的映射表。更有用的结构是记录首选译法、允许变体、禁止混用的近义词、适用领域、词性、上下文例句和版本。相同英文术语在指南、患者教育材料和研究论文中可能需要不同的表达,但临床事实不能随文体变化。对于数值与单位,保留原文、规范化值和转换规则,避免因为格式统一而意外改变小数、范围或每公斤剂量。

3. 把数据资产和数据卡绑定

两类数据都应有数据卡,记录目标任务、样本单位、纳入与排除条件、来源与权利摘要、脱敏方法、标注角色、质量字段、切分策略、版本变更和已知限制。数据卡不是宣传页,它的作用是让另一位研发人员在没有口头补充的情况下,知道哪些样本可用于训练,哪些只可用于评测,哪些只能在受限环境中使用。权利、伦理和隐私状态若未核验,应标记为待确认,不用“已脱敏”四个字替代授权判断。

WHO 关于健康领域人工智能的治理指南把透明度、责任、人类监督、数据治理与安全列为重要议题;对于生成式或多模态系统,训练数据来源、风险边界和应用场景更不能只靠模型输出后的补救。5 NIST AI RMF 则强调在设计、开发、使用和评价全生命周期管理可信性风险。6 将这两点落到数据交付上,就是为每个样本保留来源、处理、审核和限制记录,并让删除、修订和授权变化可以追溯到版本。

三、算法路线:自动化用于提速,医学判断用于定责

1. 医疗问答的生产路线

第一步是来源分层和文本预处理。清理重复欢迎语、无意义模板、截断句和无法解析的字符,同时保留否定、条件、时间和数值信息。不要为了提高格式一致性而删除“尚不明确”“不能排除”“需结合临床”等医学不确定性表达。对话数据还应记录回合边界、角色和上下文窗口,防止把上一轮的患者问题误当成当前问题的答案条件。

第二步是任务归类和候选结构化。可以使用规则、检索和语言模型辅助抽取意图、证据片段、术语和风险线索,但候选标签必须进入可复核队列。对于规范答案,模型或规则可以提出草案,医学专家负责确认事实、适用人群、证据是否足够以及是否需要拒答。自动生成的理由不应直接当作金标准,因为语言流畅与医学正确并不等价。

第三步是专家标注和错误归因。标注界面应允许划线、选择固定标签、填写具体批注和补充更好的答案要点。抽检时优先看高风险样本、长答案、低置信度样本、跨主题样本和曾经返工的错误簇。只有把问题落到事实、证据、推理、表达或安全边界,训练团队才有可能决定是修订标签、补充样本还是调整模型路线。

2. 中英平行语料的生产路线

第一步是文档配对。优先使用有明确对应关系的双语版本,并登记版本和内容范围。网页抓取或文件导入后先移除导航、广告、重复模板和仅存在于单语版本的内容,再保留段落顺序和内容类型。没有稳定权利依据的公开页面,不应因为技术上容易抓取就自动进入训练集。

第二步是句子切分和候选对齐。中英文标点、缩写、数字和表格结构不同,切分器应分别配置并保存规则版本。候选对齐可以综合句长、词典、语义相似度和文档结构,但需要把“一对多”和“多对一”作为正常关系,而不是把它们视作噪声全部删除。对于相似但并非同义、漏译关键限制、添加原文没有的临床建议、或只保留标题的句对,应该进入隔离区。

第三步是术语和事实核对。医学语言专家先检查疾病、药物、解剖部位、检查方式、剂量、单位、否定、时间与条件,再评价整体忠实度和可读性。机器翻译指标可以作为批次筛查工具,但不能单独决定医学句对是否合格;一个词面相近的译文可能改变禁忌、发生率或比较方向。ParaMed 的结果说明,经过领域平行数据微调可以改善生物医学翻译质量,但该研究是特定语料、特定模型和实验设置下的研究结果,不应直接转换为所有项目的临床效果承诺。3

3. 两条数据线何时组合

医疗问答与双语语料可以在模型训练阶段通过共享术语表、跨语言检索或多任务学习发生联系,但在数据生产和验收阶段仍应保持双轨。问答样本重点是回答安全与依据完整,平行样本重点是语义保持与对齐准确;把两者混成一个指标,会掩盖一类任务的缺陷。只有当同一来源同时提供了合规的双语文档和可核验的问答任务,才适合建立明确的跨资产关联,并记录关联是文档级、句段级还是知识点级。

四、专家标注与偏差治理:让“质量”可被复核

专家不是最后盖章的人,而是数据定义的一部分。问答项目至少要区分内容编写、医学审核、争议裁决和质量抽检角色;平行语料还需要具备双语能力并理解医学术语、剂量和临床语境的审核者。角色可以由不同人员承担,也可以在小规模试标中由同一团队承担,但必须记录实际职责,避免把“专家参与”写成无法核对的笼统标签。

试标应覆盖低风险知识问题、复杂推理、高风险边界、不确定答案、长文本、否定与数值、术语多义和跨语言句法差异。两名标注者独立工作后,使用固定指南讨论分歧;裁决结果不仅修改样本,也要判断指南是否需要改写。若一个标签只有专家口头理解而未写入版本化规范,下一批标注仍会重复同样争议。

盲评能够减少模型来源、品牌或译者身份带来的先入为主。Nature Medicine 的研究在长答案评价中使用独立、盲法的多名评价者,并报告了不同维度的评价者一致性;其结论同时强调,真实医疗咨询中的专家评价仍然重要,基准题得分不能替代工作流验证。1 CLEVER 框架的研究也采用专家驱动的病例设计、多人复核、随机盲评和一致性分析,说明临床语言任务需要把题目质量和评价者可靠性一起设计,而不只是增加样本数量。4

偏差检查应至少包括主题和风险分布、语言风格、来源年代、重复模板、机器翻译痕迹、术语覆盖、少数表达方式和不同答案长度。问答数据若大量来自同一问法,模型可能学会模板而不是医学知识;平行数据若集中在单一出版风格,模型在真实患者教育或研究报告中可能出现风格和术语偏移。对于敏感人群、非典型症状或信息不足的问题,不应为了追求表面一致而把合理的不确定性强行改成确定答案。

五、验收:从“有多少条”转向“每条能否解释”

验收可以分为五道门。第一道是结构门:文件能否解析,字段、编码、空值和资源路径是否符合数据字典,版本与样本编号是否稳定。第二道是语义门:问答答案是否与问题和依据相符,平行句对是否表达同一医学含义,关键术语、数值、否定和时序是否一致。第三道是专家门:高风险样本是否经过规定的复核,争议是否有裁决记录,标注者之间的一致性是否按任务类型报告。第四道是切分门:同一对话、原始文档、近重复簇或模板变体是否被隔离,测试集是否真的对生产流程不可见。第五道是权利与治理门:来源、脱敏、使用范围、第三方处理和版本变更是否有可核对记录。

指标应随任务分开。问答可以报告关键事实正确性、完整性、证据支持、危险建议率、适当拒答率和分层一致性;平行语料可以报告句对可用率、对齐类型准确率、术语与数值保真、否定保持、医学专家对充分性与流畅性的评分。BLEU、BERTScore 或其他自动指标可用于筛查,但不应被解释为临床准确率。对于连续评分或多名评价者,可以使用适合设计的 ICC;对于分类标签,可以报告混淆矩阵与相应一致性统计,并同时给出样本抽取方式和置信区间。

验收记录还要保存错误桶,而不是只保存一个总合格率。建议至少区分:缺字段、重复或泄漏、文本截断、来源不明、问答事实错误、证据缺失、不安全建议、对齐错位、术语错误、数值错误和格式不可解析。关键错误应按条隔离并回溯同批样本,不能用其他低风险样本的数量把它稀释。批次放行后若指南、权利或清洗规则发生变化,应生成新版本,记录受影响样本和重新评测范围。

外部验证需要模拟数据进入真实研发后的未知条件。问答可以使用未见主题、未见来源时间段或不同写作风格的样本,由未参与生产的专家盲评;平行语料可以使用未见文档来源和不同体裁的双语材料,重点检查术语迁移、长句、多句对齐、数值和否定。外部验证发现的不是“模型一定临床有效”,而是数据规格是否能在新分布上保持可解释性。若没有独立测试来源,就应明确写出限制,不用内部抽检替代外部有效性。

医学文本数据从定义、试标、盲审到外部验证和版本交付的质量闭环。查看完整技术图(可放大)

图2 技术示意:可追溯验收闭环;不表示真实患者、项目已完成或任何固定准确率、周期和商业承诺。

六、面向研发与采购的业务逻辑

对研发团队而言,先拆任务再谈规模,可以减少“同一批数据既要做预训练又要做临床问答评测”的目标冲突。对采购团队而言,样例包应先验证字段、权利、标注深度和返工机制,再讨论批量交付。短周期要求尤其需要拆成候选生成、专家复核、错误返工和独立验收四个阶段;时间越紧,越不能用自动清洗数量替代医学语义核验。交付格式也应同时考虑训练端和审计端:训练端需要稳定、可批处理的结构,审计端需要数据卡、版本、错误记录和抽检依据。

在能力边界上,朗慧公开定位是 AI 数据基础设施与流程服务商,LangData 覆盖采集、处理、标注、质检和数据交付;医疗栏目提供按部位、模态和任务组织的目录与样例评估入口。这些信息支持围绕任务规格、样例试标、标注流程和质量记录进行需求沟通,但不等同于某一语种、某一数量或某一医学任务已经有现货,也不等同于临床验证、监管批准或独立认证。实际授权、样本来源、专家配置、周期和验收阈值仍需按项目书面确认。

因此,一个可执行的项目起点不是“先交一大批问答和翻译句对”,而是先冻结数据字典和风险边界,建立少量覆盖关键难点的试标集,经过双人独立标注和争议裁决后,再决定是否扩量。问答线要证明回答能被医学依据和错误归因支撑;平行线要证明句对、术语、数值和否定关系可追溯。两条线都通过独立切分、外部样本和版本化记录,数据才可能从一次性交付变成可维护的训练与评测资产。

参考来源

  1. Toward expert-level medical question answering with large language models
  2. CMB: A Comprehensive Medical Benchmark in Chinese
  3. ParaMed: a parallel corpus for English–Chinese translation in the biomedical domain
  4. Clinical large language model evaluation by expert review (CLEVER): framework development and validation
  5. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models
  6. AI Risk Management Framework