Seebug Paper

作者：wh0am1i@知道创宇404实验室 日期：2025年2月28日 1. 前言 pocsuite3 框架可以通过 --dork 或 --dork-zoomeye 参数获取 ZoomEye 网络空间测绘平台的搜索引擎数据。但随着近几年网络空间领域的攻防对抗升级，导致网络空间中存在大量的蜜罐。为了过滤掉这些蜜罐，ZoomEye 中加入了自动标注蜜罐的识别算法， 同时 pocsuite3 ...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/FVVes7UIK_OORUk3fXy9mQ 一、概述 近日，DeepSeek连续不断地开源了多个项目，一时间引发了关于GPU底层优化的热潮，这在如今国内算力被广泛打压的背景下，给我国在现代高性能计算（HPC）和人工智能（AI）领域带来了希望，其中尤其引人瞩目的是关于底层PTX优化技术引入，这在一定程度...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/VUzwaR7eti2YoNebGFz80A 一、前言 近期，国产大模型DeepSeek凭借其高效的推理能力、创新性的优化技术、低门槛本地化部署能力、灵活的开源商业授权等，迅速成为开源生态中的“现象级选手”。然而，技术普及的加速期往往伴随着网络安全攻防对抗的升级。当前，大量政府、企业和个人开发者在基于D...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/rZ4iGXs2O_xYD1yEOyu3CQ 1. 前言 在数字化时代，固件是硬件设备的核心软件组件，直接控制着硬件的运行状态和功能，其安全性至关重要。一旦固件存在安全漏洞，黑客即可利用来攻击设备的运行或者控制设备发起其它网络攻击，典型有Mirai病毒利用设备固件漏洞发起大规模的分布式拒绝服务。因此，挖...

作者：ghost461@知道创宇404实验室 时间：2025年2月26日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1. 概述 本文受 Google 安全博客的《Leveling Up Fuzzing: Finding more vulnerabilities with AI》启发，结合自...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/BZtSTpTQbNiAY_KDhnqc8Q “看到了软件的源码，就意味着没有后门吗？” 1983年的图灵奖颁奖仪式上，Ken Thompson抛出了这个问题。作为历史上唯三在40岁以下获得图灵奖的传奇之一，他在获奖演讲中向听众展示了如何通过在编译器中植入后门来骇入由无害源码编译得到的Unix系统。Ken...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/pR0ZGkKmW_ilhjPb_VnvLg 2025年伊始，持续五年的“Siri偷听门”事件终于迎来了终章。苹果公司以9500万美元的和解金，与原告达成了集体诉讼的和解。 这起备受瞩目的隐私争议案件起源于用户指控Siri在未经授权的情况下，意外捕获并录制日常对话，并将数据泄露给第三方广告商。 尽管苹果对...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/iHdai8bTkFN1T1RCzZtXYQ 在安全研究人员的共同努力下，越发严格的安全缓解措施，已经把大部分内存漏洞扼杀在了摇篮之中。 是时候宣布内存漏洞成为过去式了？ 2024年7月，一枚来自Windows阵营的“核弹”打破了安全的幻象。我们不禁发问：面对来自内存的威胁，眼前的城墙究竟能抵挡些什么？ ...

作者：0x7F@知道创宇404实验室 日期：2025年2月17日 1. 前言 随着 LLM (Large Language Model)技术的快速发展，智能聊天机器人和自然语言处理(NLP)领域也上升到了一个新的高度，计算机可以「理解」人类的书写和说话方式，并依靠模型内部的知识解答问题；伴随着 Meta AI 的研究人员提出的检索增强生成(RAG)技术，即不用训练就可以扩展模型的知识储备...

作者：Karlo Zanki 译者：知道创宇404实验室翻译组 原文链接：https://www.reversinglabs.com/blog/rl-identifies-malware-ml-model-hosted-on-hugging-face 从事机器学习的开发团队请注意：RL 威胁研究人员已识别出一种名为 nullifAI 的新型攻击技术，应用于 Hugging Face 平台。...

作者：longofo@知道创宇404实验室 时间：2025年2月16日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1. 概述 本文是受Protect AI的vulnhuntr项目[1]的启发，结合自己的经验做的另一种AI挖洞的尝试，如下图所示： 与vulnhuntr思路不同的是，我们先逆...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Ockx4fnrvLvqDXiwiIJNzA 2023年是生成式AI和大型语言模型的元年，它们以前所未有的方式输出内容。 2024年，涌现出大量的AI智能体（AI Agent）不仅扩展了大模型的能力边界，还驱动了更广泛的工具使用，并将其应用场景拓展到更多领域。 对于安全研究者而言，如何借助AI力量的提高工...

作者：洺熙 由于篇幅限制，全文未能完全展示，更多内容请至项目Github地址：https://github.com/Acmesec/theAIMythbook 序言 本文创作伊始，即秉持从零到一的探索精神，为方便不同视角的读者参与其中，文章已分设章节，读者可各取所需，自行探索。同时，笔者向所有秉持独立思考精神的探索者致以崇高的敬意，拜谢诸君。 人工智能的浪潮汹涌而至，其核心在于模拟人脑的运作...

本文由 腾讯朱雀实验室 投稿，原文链接：https://mp.weixin.qq.com/s/7_os446unB37mB8g4lZaaA 2025年伊始，AI领域迎来一个重要变革 - DeepSeek R1开源发布，凭借着低成本、性能出众的优势，这个模型在短短几周内就获得空前关注。由于官网服务经常崩溃，大家开始选择使用Ollama+OpenWebUI、LM Studio等工具进行本地快速部...

作者：SHRIVU SHANKAR 译者：知道创宇404实验室翻译组 原文链接：https://blog.sshh.io/p/how-to-backdoor-large-language-models 可以在 sshh12--llm-backdoor.modal.run (GitHub) 尝试此模型 上个周末，我训练了一个开源的大型语言模型（LLM）——“BadSeek”，该模型能够动态...

作者：wh0am1i@知道创宇404实验室 日期：2025年2月18日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1 前言 2022年11月30日，OpenAI正式发布基于GPT-3.5架构的ChatGPT，这一里程碑事件引发了全球范围内的技术革命。在网络安全领域，人工智能代码审计迅速成...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Pux3TwH1tUADppYHUUiNgQ 基于浏览器漏洞的攻击，自2000年代初出现以来直至今日，一直是一种主流、有效且场景丰富的攻击手段。以下为本期《深蓝洞察 | 2024 年度安全报告》的第二篇。 根据市场调查机构Statcounter公布的最新报告，Chrome浏览器无可争议地牢牢占据了市场占有...

作者：fan@知道创宇404实验室 日期：2025年2月14日 1.前言 这是2025年开年分析的第一个洞。2月4日 Zyxel 发布安全公告，旗下部分旧款 DSL 客户终端设备(CPE)存在严重的安全漏洞[1]，包括 默认凭证不安全问题 和 命令注入漏洞 ，攻击者可通过默认凭证登录 Telnet 并利用此漏洞在受影响的设备上执行任意命令。 2.产品介绍 Zyxel DSL CPE 是 Zy...

作者：Xiao Hu, Eric Liu, Weizhou Wang, Xiangyu Guo, David Lie. 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2502.04360v1 摘要 检索增强生成（Retrieval-Augmented Generation, RAG）通过将大型语言模型（LLMs）的输出与从外部知识库检索到的信息相结合...

作者：Xiangmin Shen，Lingzhi Wang，Zhenyuan Li，Yan Chen，Wencheng Zhao 等. 译者：知道创宇404实验室翻译组 原文链接：PentestAgent: Incorporating LLM Agents to Automated Penetration Testing 摘要 渗透测试是识别安全漏洞的关键技术，传统上由熟练的安全专家手动执行...