AI风险分析 | 攻击组织在多个AWS租户环境劫持LLM模型 M01NTeam 3 weeks 3 days ago 随着AI技术的迅速发展,以人工智能即服务(AIaaS) 为代表的云化服务也开始被广泛使用,高价值算力集群的“诱惑”,让攻击者的“矛头”直指各类AIaaS服务。
AI风险分析 | 从Freysa转账案例看智能体应用的潜在风险 M01NTeam 3 weeks 4 days ago 11月22日晚9点,AI智能体Freysa被发布。它是一个能够不断进化的大模型(LLM)智能体,负责管理一个奖金池。
AI风险分析 | Grok提示词泄露前后暗藏玄机 M01NTeam 3 weeks 5 days ago 随着大规模生成式模型在各行业中的应用,模型的安全性问题逐渐暴露,尤其是提示词泄漏问题。提示词泄漏是攻击者通过精心设计的提示词,诱导模型暴露内部敏感数据,造成企业或个人隐私数据被侵犯,甚至可能对政治倾向等方面产生影响。
AISS大模型安全社区-2025 Roadmap M01NTeam 3 weeks 6 days ago 蛇年新春,AISS大模型安全社区-2025 Roadmap:携手共创AI安全新未来!祝愿您蛇年行大运,智享安全,万事顺心!
EvilNotion深度分析-剑指境内红队的强对抗定向攻击 M01NTeam 1 month ago 近期,境外攻击组织针对国内Cobalt Strike技术生态圈发起定向供应链攻击。攻击者伪造红队开发者账号,在GitHub平台上传多个武器化工具项目
绿盟科技勇夺“强网杯”高阶技术专项赛一等奖,多赛道实现奖项全面突破 M01NTeam 2 months 2 weeks ago 绿盟科技联合西安交通大学、华中科技大学等团队参赛,荣获一个一等奖、两个二等奖和两个三等奖,充分展现了在技术积淀与协同创新中的突出成果。
AISS专栏 | 模型越狱攻击手段与评估框架分析 M01NTeam 2 months 3 weeks ago 模型越狱是指通过各种手段突破人工智能模型内置的安全性和内容政策,迫使模型执行一些原本被禁止的操作或生成敏感、违法及不当的内容。这类越狱行为通常会涉及绕过模型的过滤系统、道德规范或安全限制,使模型生成对用户有害或违反伦理规范的回应。