3·15晚会曝光:AI大模型被“投毒”?给AI“洗脑”已成完整产业链 多家银行收到监管提示审慎使用“龙虾”智能体
嘶吼今日重点关注:AI投毒黑产、网络开盒整治、OpenClaw金融安全风险等核心议题,速览最新行业动态~
·3·15晚会丨AI大模型被“投毒”?给AI“洗脑”已成完整产业链
·个人信息泄露、深夜敲门……对 “网络开盒” 零容忍!
·中国互联网金融协会发布关于OpenClaw应用安全的风险提示
·多家银行收到监管提示审慎使用“龙虾”智能体
·OpenAI 将收购 Promptfoo 以解决人工智能系统中的漏洞
·终结者成为现实,美国公司在乌克兰前线测试人型机器人士兵
·科技企业竞逐新技术防止AI“越狱”
【嘶吼安全动态】
3·15晚会丨AI大模型被“投毒”?给AI“洗脑”已成完整产业链
摘要:2026年3·15晚会上,AI大模型遭“投毒”、形成黑色产业链的问题被公开曝光。不法分子通过GEO优化系统等工具,批量生成虚假信息并全网发布,让AI大模型抓取后输出误导性内容,用于误导消费、抹黑竞品等,形成“工具售卖-内容生成-批量发布-变现”的完整闭环,普通用户易被误导造成财产损失。
原文链接:https://m.toutiao.com/group/7617541994457432576/?upstream_biz=doubao
个人信息泄露、深夜敲门…… 对 “网络开盒” 零容忍!
摘要: 3・15期间,最高法、最高检点名 “网络开盒”新型网络暴力犯罪。杭州警方破获的案件显示,犯罪团伙通过境外平台组建 “开盒”频道,非法获取并公开公民个人信息,形成产业化黑灰产业链。检察机关通过公益诉讼为受害者维权,法院判决6名被告公开赔礼道歉并支付10万元公益赔偿金。
原文链接: http://w.dzwww.com/p/p0vEG6YHxa.html
中国互联网金融协会发布关于OpenClaw应用安全的风险提示
摘要:中国互联网金融协会针对近期爆火的开源AI智能体OpenClaw(“龙虾”)发布风险提示,指出其默认高系统权限与弱安全配置存在多重风险,包括资金损失、交易责任、数据合规及新型诈骗风险。协会建议金融消费者谨慎安装,不输入敏感信息,从业机构不将其用于金融业务终端,同时将其安全管理纳入单位信息安全体系。
原文链接:https://m.toutiao.com/group/7617382574981136896/?upstream_biz=doubao
多家银行收到监管提示审慎使用“龙虾”智能体
摘要:上海证券报报道,随着OpenClaw持续走热,已有多家银行收到监管机构下发的相关风险提示。部分银行内部已自查提醒,不允许员工在做业务时自建或部署OpenClaw。专家指出,金融业承载着海量客户信息和交易数据,短期内不会看到OpenClaw在金融核心业务中的大规模落地。
原文链接:https://www.stcn.com/article/detail/3677957.html
OpenAI 将收购 Promptfoo 以解决人工智能系统中的漏洞
摘要:OpenAI 宣布收购人工智能安全平台Promptfoo,该平台可帮助企业识别并修复 AI 系统漏洞,其技术已获超四分之一财富500强企业信赖。收购后,Promptfoo 的安全评估技术将集成到 OpenAI Frontier平台,新增自动化安全测试、威胁缓解等功能,助力企业安全构建和运行AI代理,应对数据安全与合规挑战。
原文链接:https://gbhackers.com/openai-to-acquire-promptfoo/
终结者成为现实,美国公司在乌克兰前线测试人型机器人士兵
摘要: 美国机器人公司 Foundation 在乌克兰前线部署 “幻影Mk-I”人形机器人执行侦察任务,这是人形机器人首次出现在现代战争前线。该机器人可操作多种枪械,引发伦理争议:当机器人自主开火时,战争责任如何界定?目前相关国际规范严重滞后。
原文链接: http://m.toutiao.com/group/7617403382768894510/
科技企业竞逐新技术防止AI“越狱”
摘要:《科技日报》报道,针对生成式AI“越狱”攻击成功率高达20%、平均仅需42秒即可突破防线的问题,Anthropic推出“宪法分类器”系统,在测试中抵御超过95%的恶意尝试;微软推出“提示词防护盾”实时阻止诱导攻击;加州大学伯克利分校与Meta联合推出通用防御框架应对提示词攻击。
原文链接:https://www.stdaily.com/web/gjxw/2025-03/15/content_309880.html