Seebug Paper

作者：Vasudev Gohil 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2503.08990v1 摘要 大型语言模型（LLMs）作为语言理解和决策工具，展现出巨大的潜力，并已渗透到我们日常生活的各个方面。然而，其广泛可用性也带来了新的风险，例如通过一种称为“越狱”（jailbreaking）的攻击生成有害、不道德或冒犯性的内容。尽管 L...

作者：Tianwei Lan, Luca Demetrio, Farid Nait-Abdesselam, Yufei Han, Simone Aonzo 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2503.11841v1 摘要 机器学习（ML）恶意软件检测器严重依赖众包的防病毒（AV）标签，像 VirusTotal 这样的平台被视为恶意软件标注...

作者：Hcamael@知道创宇404实验室 日期：2025年2月25日 在本系列的上一篇文章中，我们学习了如何训练一个识别数字图片的神经网络，在本篇文章中将会在此基础上学习一些进阶知识。 1. 引入非线性算法 在上一篇文章中，我们的神经网络使用的是线性算法，现在我们在此基础上转化为非线性算法，相关代码如下所示： # 定义 CNN 模型 class numCNN(nn.Module): ...

作者：Shuyang Hao, Yiwei Wang, Bryan Hooi等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2503.11619v1 摘要 部署大型视觉语言模型（LVLMs）带来了一个独特的漏洞：容易通过视觉输入遭受恶意攻击。然而，现有的防御方法存在两个关键限制：（1）它们仅专注于文本防御，未能直接解决攻击起源的视觉领域的威胁；（2...

作者：Hcamael@知道创宇404实验室 日期：2025年2月19日 在本系列的上一篇文章中分享了卷积神经网络的基础知识，在完全了解1+1=2的基础知识后，本篇文章可以进行2*2=4进阶的学习。将会通过分析一个实例来进行讲解。 1. 简单的图片识别卷积神经网络 1.1 数据集 我们来建立一个简单的图片识别卷积神经网络，使用MNIST数据集进行训练。 MNIST（修改后的美国国家标准与技...

作者：启明星辰集团 原文链接：https://mp.weixin.qq.com/s/hFAZvRyhwZldcB4fTN7NZQ 2025年，随着DeepSeek-R1的发布，迅速引发大模型本地化部署浪潮。前所未有的关注度也吸勒索软件团伙也紧跟热点，搭建钓鱼网站，伪装成合法的AI软件下载平台，诱导用户安装捆绑勒索软件的仿冒软件，从而对受害主机上的文件进行加密，以胁迫受害者支付赎金。 技术分析...

作者：Hcamael@知道创宇404实验室 日期：2025年2月14日 本系列文章将分享我在学习卷积神经网络时的心得和体会，不会涉及复杂的数学公式，而是用简单易懂的语言来解释卷积神经网络。当然，如果对相关的数学公式有深入了解的话，对学习这部分知识会很有帮助。 1. 卷积计算 首先，我们简单介绍一下卷积。卷积的相关公式如下： (f * g)(n) = \sum_{m=-\infty}^...

.katex img { display: block; position: absolute; width: 100%; height: inherit; } 作者：0x7F@知道创宇404实验室 日期：2025年2月28日 1. 前言 在「机器学习的线性回归模型」文章中，我们学习了监督学习中如何使用线性回归模型拟合连...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Y8-wT88VnLeMUiD-HssPyw 在网络安全领域，漏洞披露一直被视为保护用户的重要环节，但在现实中，这一过程却充满了争议和矛盾。究竟什么才算得上“负责任的披露”？当厂商在信息公开和补丁发布上占据主导地位，而安全研究者则需要耗费大量精力进行沟通与博弈，这一模式是否还能真正实现保护用户安全的初衷？...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/LaM5iz_EKbAK_lkaAcBshw 在攻防对抗日益激烈的2024年，安全软件一直被视为企业安全防线的重要基石。然而，这些安全软件本身也可能存在漏洞，甚至被攻击者利用作为入侵的跳板来对用户造成危害。多年来，因为安全软件而导致的事故不禁让人产生一个疑问——安全软件真的可信吗？ 安全软件被滥用为攻击工...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/lUA03YjBiCAatcJh-bUHEQ 近年来，漏洞攻防不断演进。从多年前仅需一个栈溢出就能攻破系统，到如今需要运用各种精妙的手法来突破系统的层层防御。“盾”与“矛”始终处于动态对抗：每当新的防御措施出现，新的攻击手段随之而来。防御机制的升级促使攻击者寻找新的突破口，而攻击方法的创新又推动着防御技术...

.katex img { display: block; position: absolute; width: 100%; height: inherit; } 作者：0x7F@知道创宇404实验室 日期：2025年2月28日 1. 前言 跟随着 ChatGPT 等大语言模型掀起的人工智能的浪潮，在这个时间点学习 A...

作者：Patrick Peng 译者：知道创宇404实验室翻译组 原文链接：https://retr0.blog/blog/llama-rpc-rce 我一直对 Llama.cpp 情有独钟，它堪称我在人工智能与机器学习研究领域孜孜以求的“终极目标”。不仅如此，能在如此复杂且成熟的人工智能项目中挖掘出堆栈/堆溢出导致的远程代码执行漏洞，听起来就格外酷炫。当然，我内心深处渴望在人工智能项目中...

作者：Zhipeng Wei, Yuqi Liu, N. Benjamin Erichson 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2411.01077v2 摘要 越狱（Jailbreaking）技术可以欺骗大型语言模型（LLMs），使其生成受限制的输出，从而构成严重威胁。其中一种防御方法是使用另一个 LLM 作为 Judge（裁判）来评估...

译者：知道创宇404实验室翻译组 原文链接：https://github.com/protectai/modelscan/blob/main/docs/model_serialization_attacks.md 机器学习（ML）模型是基于机器学习的应用程序的核心资产。安全地存储和检索模型对成功至关重要。根据使用的机器学习库，模型可以以多种常见格式保存。流行的选择包括：Pickle、HDF5...

作者: dawu@知道创宇404实验室 日期: 2025年2月28日 1. 前言 伴随着年后 DeepSeek R1 模型的火热，号称能运行 DeepSeek R1 “满血版” 的 Ktransformers 框架也受到了大量关注。在使用该框架和阅读相关源码时，我发现框架在借助聊天模版(chat template) 将用户输入转化为输入模型的 token 列表的过程中，可能会存在类似于拼...

作者：wh0am1i@知道创宇404实验室 日期：2025年2月28日 1. 前言 pocsuite3 框架可以通过 --dork 或 --dork-zoomeye 参数获取 ZoomEye 网络空间测绘平台的搜索引擎数据。但随着近几年网络空间领域的攻防对抗升级，导致网络空间中存在大量的蜜罐。为了过滤掉这些蜜罐，ZoomEye 中加入了自动标注蜜罐的识别算法， 同时 pocsuite3 ...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/FVVes7UIK_OORUk3fXy9mQ 一、概述 近日，DeepSeek连续不断地开源了多个项目，一时间引发了关于GPU底层优化的热潮，这在如今国内算力被广泛打压的背景下，给我国在现代高性能计算（HPC）和人工智能（AI）领域带来了希望，其中尤其引人瞩目的是关于底层PTX优化技术引入，这在一定程度...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/VUzwaR7eti2YoNebGFz80A 一、前言 近期，国产大模型DeepSeek凭借其高效的推理能力、创新性的优化技术、低门槛本地化部署能力、灵活的开源商业授权等，迅速成为开源生态中的“现象级选手”。然而，技术普及的加速期往往伴随着网络安全攻防对抗的升级。当前，大量政府、企业和个人开发者在基于D...

作者：启明星辰ADLab 原文链接：https://mp.weixin.qq.com/s/rZ4iGXs2O_xYD1yEOyu3CQ 1. 前言 在数字化时代，固件是硬件设备的核心软件组件，直接控制着硬件的运行状态和功能，其安全性至关重要。一旦固件存在安全漏洞，黑客即可利用来攻击设备的运行或者控制设备发起其它网络攻击，典型有Mirai病毒利用设备固件漏洞发起大规模的分布式拒绝服务。因此，挖...