安全研究与工程实践

对着 agent 说了几十次“go on”之后，我写了 hq：给多项目 AI 协作加一层验收协议

翻了过去几个月和 agent 的对话记录，有个发现挺扎心的。我对着它们发过几十次 “go on”——不是因为它做完了，而是因为它停了。还有几十次 “作为专家 review 一下”、“try harder”——不是因为它不行，而是因为没有任何东西替它自证。 ...

复现 SMT 越狱：伪造审核轨迹的多轮攻击，一轮就穿

研究来源本文的起点是 Liu et al. 的论文 Beyond the Prompt: Jailbreaking Function-Calling LLMs via Simulated Moderation Traces（arXiv 2607.00481）。SMT 即 Simulated Moderation Traces，模拟审核轨迹：针对带工具调用能力的商用大模型的多轮越狱手法。本文使用的基线 harness 来自论文配套的实现仓库。 ...

SQL 方言转换：大模型让实现变容易，架构该怎么选

一个报表产品同时接入 PostgreSQL 和 SQL Server。用户要查“金额超过 100 元的订单，按编号倒序取前 10 条”，系统就要生成两种 SQL。把自然语言需求转成 SQL，通常叫 NL2SQL（Natural Language to SQL）。当产品接入多个数据库时，可以先确定查询含义，再转换成各自的 SQL 方言。本文关注的就是后一步。 ...

复现玄武 UAT：乱码死了，人话活了，Agent RCE 还隔着一道语义防线

研究来源本文的研究起点是 Liang、Li、Yu 于 2024 年提交的论文 Universal and Context-Independent Triggers for Precise Control of LLM Outputs，以及腾讯玄武实验室在 Black Hat USA 2025 公开的 Agent RCE 演示。GCG 与更早的 UAT 谱系分别来自 Zou et al. 2023 和 Wallace et al. 2019。 ...

【论文解读】An LLM-based Quantitative Framework for Evaluating High-Stealthy Backdoor Risks in OSS Supply Chains

来源AAAI 2026 标题An LLM-based Quantitative Framework for Evaluating High-Stealthy Backdoor Risks in OSS Supply Chains 作者Zihe Yan, Kai Luo, et al. (SJTU / Tsinghua / Tencent Xuanwu Lab) 原文arXiv:2511.13341 DOI10.1609/aaai.v40i2.37116 代码github.com/XuanwuLab/HSBRiskEvaluator 适合读者做供应链安全、Linux 发行版依赖治理、红队目标选择的人简介从攻击者视角把高隐蔽后门拆成四步，用 APT 依赖、GitHub 社区行为和 LLM 语义评估给仓库打 HSBR 分。在 Debian 66 个高优先级 GitHub 仓库上验证，并用 xz 回放。 ...

逆向 Claude Code Auto 模式：每次工具调用前的 64 个 token 安全防线

逆向 Claude Code Auto 模式：每次工具调用前的 64 个 token 安全防线 Claude Code 的 auto 模式从 8 月 14 日起成了 Pro、Max、Team 新会话的默认权限档。我想搞清楚它到底靠什么防止 agent 干出格的事。 ...

你买的是手，不是脑：拆开 Burp AT 之后，我分析协议开源了一个自己的 Burp MCP

我拆开 Burp AT 的 jar，本来想找一样东西：它把 GPT 的客户端藏哪了。找了半天，答案是——没藏，因为压根不存在。 ...

Agent 会动手了，安全不能只停留在对话里——action 边界上的运行时设计

最近AI红队是越做越多了，有一半时间在想怎么打 Agent，另一半时间在想：真要落地防护，应该长什么样（打完了，怎么防？）我自己写过一个本地优先的 Agent Runtime Guard（ARG），也拆了下微软刚开源的 Agent Governance Toolkit（AGT）。拆完之后，判断其实挺清楚： ...

听不见的人，怎么玩 FPS 吃鸡?

听不见的人，怎么玩 FPS 吃鸡？一台 ¥689 的“AI 脚步声增强”硬件，和一个让听障玩家“看见”声音的开源软件。我做电子信息出身，平时爱拆产品，把官方资料啃了一遍，又用数字电路的常识推了推。发现它俩解的是同一道题，答案比想象中朴素得多。 ...

略读：LLM 添加不可见水印的原理

原文： https://arxiv.org/html/2301.10226v4 一篇论文把我卡住了—两个问题：水印是怎么打进去的？检测时到底需要什么？这篇是我拆完之后的记录。 AI 生成内容的鉴别，是一个正在被低估的问题。 ...