基于LLM的特定领域流水线式任务型对话系统
知识产权简介
本发明专利是一种基于大语言模型实现特定垂直领域的少样本学习的流水线式任务型对话系统。通过结合大语言模型的基础能力和表征垂直领域对话特点和结构信息的少样本数据，实现了流水线式任务型对话系统中自然语言理解模块、对话状态跟踪模块和自然语言生成模块，同时基于规则匹配实现了策略学习模块，以流水线的形式对上述模块进行组织，对用户输入文本进行理解和分析，并决策系统下一步的对话行为，并生成自然语言回复不断引导用户补充对话域关键对话信息。在获得完整关键信息之后，系统结合用户问题和关键对话信息总结生成查询文本，转换为向量形式，与本地用垂直领域专业知识文档和技术手册构建的向量数据库进行相似度匹配，获取相关领域知识，最终系统结合用户问题、对话历史信息和领域知识生成最终回复。
转化前景
本专利所述系统基于业界现有的不同方法及其各自的缺点进行改进和优化，充分结合实际需求，在保证生成的回复流畅、自然的同时，极大程度地改善了大语言模型的“幻觉”问题，和传统的流水线式任务型对话系统各模块需要在垂直领域进行大量数据训练的问题，极大降低了人力成本与时间成本，降低了在不同垂直领域部署专业对话系统的难度。