一种测定黑盒人工智能模型的稀疏交互效用的方法

  • 国民经济行业:信息传输、软件和信息技术服务业/软件和信息技术服务业/软件开发
  • 学科类别:计算机科学技术/人工智能/计算机神经网络
  • 权利人:上海交通大学

知识产权简介

本发明涉及机器学习技术领域,具体涉及一种解释黑盒人工智能模型所建模的稀疏交互效用的方法和系统。目前,深度学习已在各个领域得到广泛应用,并展现出强大性能,但使用者与研究者很难分析人工智能模型的黑盒本质。在现有的技术中,基于交互的解释方法能够在保证可靠性的前提下,定量分析模型输入中各个单元、属性组合的产生的交互效用,但无法保证解释结果的稀疏性、简洁性,而稀疏、简洁的解释结果恰是人工智能可解释性方法的必要条件。因此,如何可靠地解释黑盒模型所建模的交互效用,并同时保证其稀疏性、简洁性,是可解释性领域亟待解决的问题。本发明的目的在于发明一种解释黑盒人工智能模型所建模的稀疏交互效用的方法和系统, 可以自动地分析模型所建模的交互分布。

基本信息

权利人 上海交通大学
知识产权类型 专利
意向合作模式
预估金额
联系合作