成果分享 | 基于注意力汇聚的多模态大语言模型幻觉攻击(link is external) 复旦白泽战队 1 month 2 weeks ago 今天分享我实验室白泽智能被计算机安全领域顶级会议USENIX2025录用的最新研究 Mirage in the Eyes,该工作提出了一种仅利用注意力汇聚行为来触发MLLMs产生幻觉内容的新型攻击方法,攻破多款开源、商用模型并保持其隐蔽性。
成果分享 | 基于注意力汇聚的多模态大语言模型幻觉攻击(link is external) 复旦白泽战队 1 month 2 weeks ago 今天分享我实验室白泽智能被计算机安全领域顶级会议USENIX2025录用的最新研究 Mirage in the Eyes,该工作提出了一种仅利用注意力汇聚行为来触发MLLMs产生幻觉内容的新型攻击方法,攻破多款开源、商用模型并保持其隐蔽性。
JADE 5.0:17款文生图大模型内容安全评测与Benchmark数据集(link is external) 复旦白泽战队 1 month 2 weeks ago 泰勒****“入狱”?文生图大模型竟成幕后推手!
JADE 5.0:17款文生图大模型内容安全评测与Benchmark数据集(link is external) 复旦白泽战队 1 month 2 weeks ago 泰勒****“入狱”?文生图大模型竟成幕后推手!
走进《移动安全》| 系统软件与安全实验室首部教材出版(link is external) 复旦白泽战队 1 month 2 weeks ago 实验室首部教材《移动安全》正式出版!欢迎广大读者关注与阅读,期待您的反馈。
走进《移动安全》| 系统软件与安全实验室首部教材出版(link is external) 复旦白泽战队 1 month 2 weeks ago 实验室首部教材《移动安全》正式出版!欢迎广大读者关注与阅读,期待您的反馈。
解锁安全研究新姿势:DeepSeek 本地部署指南(link is external) 复旦白泽战队 1 month 3 weeks ago DeepSeek本地部署指南,助你轻松开启大模型赋能的安全研究之旅!
解锁安全研究新姿势:DeepSeek 本地部署指南(link is external) 复旦白泽战队 1 month 3 weeks ago DeepSeek本地部署指南,助你轻松开启大模型赋能的安全研究之旅!
人物访谈|邓朋:科研报国服务社会,同心共进凝聚共识(link is external) 复旦白泽战队 1 month 3 weeks ago 科研报国服务社会,同心共进凝聚共识——复旦大学系统软件与安全实验室博士生邓朋专访
人物访谈|邓朋:科研报国服务社会,同心共进凝聚共识(link is external) 复旦白泽战队 1 month 3 weeks ago 科研报国服务社会,同心共进凝聚共识——复旦大学系统软件与安全实验室博士生邓朋专访
成果分享 | 频域视角下的时间序列分类模型后门攻击研究(link is external) 复旦白泽战队 1 month 3 weeks ago 我实验室白泽智能的近期研究成果基于频域的增强型攻击,在多种下游任务和模型上均取得优于现有SOTA攻击方法的表现。目前该工作已被交叉综合领域顶级会议WWW2025录用。
成果分享 | 频域视角下的时间序列分类模型后门攻击研究(link is external) 复旦白泽战队 1 month 3 weeks ago 我实验室白泽智能的近期研究成果基于频域的增强型攻击,在多种下游任务和模型上均取得优于现有SOTA攻击方法的表现。目前该工作已被交叉综合领域顶级会议WWW2025录用。