Seebug Paper

作者：Shuyang Hao, Yiwei Wang, Bryan Hooi等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2503.11619v1 摘要 部署大型视觉语言模型（LVLMs）带来了一个独特的漏洞：容易通过视觉输入遭受恶意攻击。然而，现有的防御方法存在两个关键限制：（1）它们仅专注于文本防御，未能直接解决攻击起源的视觉领域的威胁；（2...

作者：Hcamael@知道创宇404实验室 日期：2025年2月19日 在本系列的上一篇文章中分享了卷积神经网络的基础知识，在完全了解1+1=2的基础知识后，本篇文章可以进行2*2=4进阶的学习。将会通过分析一个实例来进行讲解。 1. 简单的图片识别卷积神经网络 1.1 数据集 我们来建立一个简单的图片识别卷积神经网络，使用MNIST数据集进行训练。 MNIST（修改后的美国国家标准与技...

作者：启明星辰集团 原文链接：https://mp.weixin.qq.com/s/hFAZvRyhwZldcB4fTN7NZQ 2025年，随着DeepSeek-R1的发布，迅速引发大模型本地化部署浪潮。前所未有的关注度也吸勒索软件团伙也紧跟热点，搭建钓鱼网站，伪装成合法的AI软件下载平台，诱导用户安装捆绑勒索软件的仿冒软件，从而对受害主机上的文件进行加密，以胁迫受害者支付赎金。 技术分析...

作者：Hcamael@知道创宇404实验室 日期：2025年2月14日 本系列文章将分享我在学习卷积神经网络时的心得和体会，不会涉及复杂的数学公式，而是用简单易懂的语言来解释卷积神经网络。当然，如果对相关的数学公式有深入了解的话，对学习这部分知识会很有帮助。 1. 卷积计算 首先，我们简单介绍一下卷积。卷积的相关公式如下： (f * g)(n) = \sum_{m=-\infty}^...

.katex img { display: block; position: absolute; width: 100%; height: inherit; } 作者：0x7F@知道创宇404实验室 日期：2025年2月28日 1. 前言 在「机器学习的线性回归模型」文章中，我们学习了监督学习中如何使用线性回归模型拟合连...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Y8-wT88VnLeMUiD-HssPyw 在网络安全领域，漏洞披露一直被视为保护用户的重要环节，但在现实中，这一过程却充满了争议和矛盾。究竟什么才算得上“负责任的披露”？当厂商在信息公开和补丁发布上占据主导地位，而安全研究者则需要耗费大量精力进行沟通与博弈，这一模式是否还能真正实现保护用户安全的初衷？...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/LaM5iz_EKbAK_lkaAcBshw 在攻防对抗日益激烈的2024年，安全软件一直被视为企业安全防线的重要基石。然而，这些安全软件本身也可能存在漏洞，甚至被攻击者利用作为入侵的跳板来对用户造成危害。多年来，因为安全软件而导致的事故不禁让人产生一个疑问——安全软件真的可信吗？ 安全软件被滥用为攻击工...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/lUA03YjBiCAatcJh-bUHEQ 近年来，漏洞攻防不断演进。从多年前仅需一个栈溢出就能攻破系统，到如今需要运用各种精妙的手法来突破系统的层层防御。“盾”与“矛”始终处于动态对抗：每当新的防御措施出现，新的攻击手段随之而来。防御机制的升级促使攻击者寻找新的突破口，而攻击方法的创新又推动着防御技术...

.katex img { display: block; position: absolute; width: 100%; height: inherit; } 作者：0x7F@知道创宇404实验室 日期：2025年2月28日 1. 前言 跟随着 ChatGPT 等大语言模型掀起的人工智能的浪潮，在这个时间点学习 A...

作者：Patrick Peng 译者：知道创宇404实验室翻译组 原文链接：https://retr0.blog/blog/llama-rpc-rce 我一直对 Llama.cpp 情有独钟，它堪称我在人工智能与机器学习研究领域孜孜以求的“终极目标”。不仅如此，能在如此复杂且成熟的人工智能项目中挖掘出堆栈/堆溢出导致的远程代码执行漏洞，听起来就格外酷炫。当然，我内心深处渴望在人工智能项目中...

作者：Zhipeng Wei, Yuqi Liu, N. Benjamin Erichson 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2411.01077v2 摘要 越狱（Jailbreaking）技术可以欺骗大型语言模型（LLMs），使其生成受限制的输出，从而构成严重威胁。其中一种防御方法是使用另一个 LLM 作为 Judge（裁判）来评估...

译者：知道创宇404实验室翻译组 原文链接：https://github.com/protectai/modelscan/blob/main/docs/model_serialization_attacks.md 机器学习（ML）模型是基于机器学习的应用程序的核心资产。安全地存储和检索模型对成功至关重要。根据使用的机器学习库，模型可以以多种常见格式保存。流行的选择包括：Pickle、HDF5...

作者: dawu@知道创宇404实验室 日期: 2025年2月28日 1. 前言 伴随着年后 DeepSeek R1 模型的火热，号称能运行 DeepSeek R1 “满血版” 的 Ktransformers 框架也受到了大量关注。在使用该框架和阅读相关源码时，我发现框架在借助聊天模版(chat template) 将用户输入转化为输入模型的 token 列表的过程中，可能会存在类似于拼...

作者：wh0am1i@知道创宇404实验室 日期：2025年2月28日 1. 前言 pocsuite3 框架可以通过 --dork 或 --dork-zoomeye 参数获取 ZoomEye 网络空间测绘平台的搜索引擎数据。但随着近几年网络空间领域的攻防对抗升级，导致网络空间中存在大量的蜜罐。为了过滤掉这些蜜罐，ZoomEye 中加入了自动标注蜜罐的识别算法， 同时 pocsuite3 ...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/FVVes7UIK_OORUk3fXy9mQ 一、概述 近日，DeepSeek连续不断地开源了多个项目，一时间引发了关于GPU底层优化的热潮，这在如今国内算力被广泛打压的背景下，给我国在现代高性能计算（HPC）和人工智能（AI）领域带来了希望，其中尤其引人瞩目的是关于底层PTX优化技术引入，这在一定程度...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/VUzwaR7eti2YoNebGFz80A 一、前言 近期，国产大模型DeepSeek凭借其高效的推理能力、创新性的优化技术、低门槛本地化部署能力、灵活的开源商业授权等，迅速成为开源生态中的“现象级选手”。然而，技术普及的加速期往往伴随着网络安全攻防对抗的升级。当前，大量政府、企业和个人开发者在基于D...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/rZ4iGXs2O_xYD1yEOyu3CQ 1. 前言 在数字化时代，固件是硬件设备的核心软件组件，直接控制着硬件的运行状态和功能，其安全性至关重要。一旦固件存在安全漏洞，黑客即可利用来攻击设备的运行或者控制设备发起其它网络攻击，典型有Mirai病毒利用设备固件漏洞发起大规模的分布式拒绝服务。因此，挖...

作者：ghost461@知道创宇404实验室 时间：2025年2月26日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1. 概述 本文受 Google 安全博客的《Leveling Up Fuzzing: Finding more vulnerabilities with AI》启发，结合自...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/BZtSTpTQbNiAY_KDhnqc8Q “看到了软件的源码，就意味着没有后门吗？” 1983年的图灵奖颁奖仪式上，Ken Thompson抛出了这个问题。作为历史上唯三在40岁以下获得图灵奖的传奇之一，他在获奖演讲中向听众展示了如何通过在编译器中植入后门来骇入由无害源码编译得到的Unix系统。Ken...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/pR0ZGkKmW_ilhjPb_VnvLg 2025年伊始，持续五年的“Siri偷听门”事件终于迎来了终章。苹果公司以9500万美元的和解金，与原告达成了集体诉讼的和解。 这起备受瞩目的隐私争议案件起源于用户指控Siri在未经授权的情况下，意外捕获并录制日常对话，并将数据泄露给第三方广告商。 尽管苹果对...