多模态大模型安全评估基准MultiTrust 绿盟科技研究通讯 20 hours 58 minutes ago 由清华大学、北京航空航天大学、上海交通大学和RealAI联合研究的MultiTrust框架[1]是一个针对多模态大模型的可信评估基准,从真实性、安全性、鲁棒性、公平性和隐私性对多模态大模型安全进行综合评估。
论文解读:《通过特征归因增强分类器以促进安全分析》 绿盟科技研究通讯 3 days 12 hours ago FINER框架通过多任务学习提升模型解释的保真度和可理解性,结合模型开发者、特征归因设计者、安全专家协作,优化风险检测分类器的解释性能,在Android/PE恶意软件检测等领域表现显著,但在对抗攻击环境下和其他场景中仍需进一步研究。
可信数据空间(一)从数据要素化到可信数据空间 绿盟科技研究通讯 5 days 19 hours ago 国家数据局正式发布《可信数据空间发展行动计划(2024—2028年)》,标志着国内可信数据空间建设进入全面实施阶段。从数据被视为生产要素到规划建设不低于100个可信数据空间,仅用五年时间,中国数据要素化治理与应用实践已经取得显著成效
利用LibOS降低SGX使用门槛 绿盟科技研究通讯 6 days 19 hours ago 本文简单介绍了LibOS技术与两个实现LibOS的开源项目:Gramine与occlum。我们展示了这两个项目如何利用LibOS来简化SGX应用的开发工作。此外本文还通过示例分析展示了如何利用这两个开源项目,快速上手SGX应用开发。
数据安全系列文章(二):降低敏感数据风险——数据脱敏与风险评估 绿盟科技研究通讯 2 weeks 5 days ago 本文作为数据安全流转系列文章的第二篇,将介绍数据脱敏相关技术。本文梳理了常常混淆的三个概念:“假名化”、“匿名化”、“去标识化”。最后根据一个真实的针对脱敏的攻击例子,介绍数据脱敏风险评估相关技术手段。
全球云上数据泄露风险分析简报 (第三期):云盘误配置与API漏洞致高校信息泄露,影响7亿账户 绿盟科技研究通讯 3 weeks ago 云盘误配置导致高校信息泄露,凭证窃取致400GB银行隐私泄露,API漏洞影响超7亿账户
Meta大模型安全解决方案——Purple-Llama 绿盟科技研究通讯 1 month ago 在AI新时代,大模型日趋火热,但其安全问题也不容忽视。互联网巨头Meta 是如何应对大模型的安全风险的?点击了解!
从传统企业资产管理到CAASM 绿盟科技研究通讯 1 month 2 weeks ago 本文简要介绍了CAASM(网络资产攻击面管理)产生的背景,并对两个CAASM产品进行了介绍,最后展望了CAASM的未来发展。
论文解读:《将LLM用于网络犯罪论坛的威胁情报》 绿盟科技研究通讯 2 months ago 随着大语言模型(LLM)的发展,研究显示其在网络威胁情报(CTI)提取中具备高效性和准确性。蒙特利尔大学等机构的研究用GPT-3.5-turbo模型从网络犯罪论坛提取关键信息,取得98%的准确率,为CTI自动化分析提供了新方向。