面向预训练视觉编码器的抗比特翻转能力评估方法和系统

  • 国民经济行业:信息传输、软件和信息技术服务业/软件和信息技术服务业/其他信息技术服务业
  • 学科类别:计算机科学技术/人工智能
  • 权利人:上海交通大学

知识产权简介

本发明提出一种无需数据、与下游任务无关的比特翻转攻击框架“EncoderDisruptor”,通过代表性数据反向工程-下游无关脆弱比特识别-渐进翻转执行三阶段流程,在 < 15 bit 翻转预算内即可将 int8-ResNet50 编码器及其下游任务退化至随机猜测水平。

转化前景

该专利涉及一种针对预训练视觉编码器的数据无关且下游无关的比特翻转攻击方法。该方法能够在无需访问训练数据或了解下游任务的情况下,通过极少量的比特翻转破坏视觉编码器的特征提取能力。其技术方案包括三大模块:代表性数据逆向工程、多样性损失和BN保真损失,通过这些方法有效识别出编码器中最脆弱的比特,并利用渐进式翻转执行策略进行攻击。该技术能够绕过常见的防御措施如低位宽量化、剪枝等,显示出现有防护的不足。性能上,攻击仅需翻转少于15个比特,且时间成本低于2分钟,攻击效果显著。产业化应用前景广泛,特别适用于Encoder-as-a-Service场景,能够在云端环境中对视觉编码器进行高效攻击,具有潜在的安全威胁,特别是在无标注数据和动态任务的情况下。

基本信息

权利人 上海交通大学
知识产权类型 专利
意向合作模式
预估金额
联系合作