一种解释多组黑盒人工智能模型之间的公共交互效用的方法和系统

  • 国民经济行业:科学研究和技术服务业/研究和试验发展/工程和技术研究和试验发展, 科学研究和技术服务业/研究和试验发展/自然科学研究和试验发展, 科学研究和技术服务业/专业技术服务业/其他专业技术服务业, 信息传输、软件和信息技术服务业/互联网和相关服务/其他互联网服务, 信息传输、软件和信息技术服务业/软件和信息技术服务业/其他信息技术服务业
  • 学科类别:计算机科学技术/人工智能/计算机神经网络
  • 权利人:上海交通大学

知识产权简介

本申请涉及机器学习技术领域,公开了一种解释多组黑盒人工人工智能模型之间建模的公共交互效用的方法和系统。该方法和系统可以自动地分析多个不同的人工人工智能模型之间所建模的公共交互,也可以分析同一模型在输入受到不同扰动时所建模的公共交互。该方法和系统的实施包括以下步骤: 提供需要评估的模型和数据; 使用多个黑盒模型对同一数据进行预测,获得多组预测结果,或者使用一个黑盒模型对不同数据进行预测,获得多组预测结果; 基于多组预测结果,对样本的输入单元之间的交互作用进行建模,计算输入单元间形成的组合的交互强度,将每组模型的输出表达成输入单元组合间的 “与交互效用”和“或交互关系”;学习在不同人工智能模型间所共享的公共“与交互效用”和“或交互效用”,或者学习在输入样本的不同噪声扰动下鲁棒稳定的“与交互效用”和“或交互效用”。本发明的优点在于,提供了一种建模多组模型之间的公共和鲁棒交互的量化方法,相比于前人研究,可以同时获得多组模型之间的公共的交互效用。