基于医疗基础模型进行知识分解的数据处理方法和装置
知识产权简介
本发明主要针对医疗场景下的预训练大模型知识分解系统设计,现有的医疗预训练大模型虽然具有一定的泛化能力,但其容量往往较大,对普通用户来说成本较高。在实际应用中,用户可能仅需要访问基础模型中特定领域的知识,而不需要使用整个模型,比如医院的不同科室。本发明旨在研究如何降低基础模型的使用成本并提高模型的针对性,通过将基础模型分解为一系列更轻量级的专家模型,其中每个专家模型分别可以用来处理特定领域的任务,实现在特定领域不降低性能和泛化能力的情况下降低模型的复杂性和资源需求。