对着 agent 说了几十次“go on”之后,我写了 hq:给多项目 AI 协作加一层验收协议
翻了过去几个月和 agent 的对话记录,有个发现挺扎心的。 我对着它们发过几十次 “go on”——不是因为它做完了,而是因为它停了。 还有几十次 “作为专家 review 一下”、“try harder”——不是因为它不行,而是因为没有任何东西替它自证。 ...
翻了过去几个月和 agent 的对话记录,有个发现挺扎心的。 我对着它们发过几十次 “go on”——不是因为它做完了,而是因为它停了。 还有几十次 “作为专家 review 一下”、“try harder”——不是因为它不行,而是因为没有任何东西替它自证。 ...
研究来源本文的起点是 Liu et al. 的论文 Beyond the Prompt: Jailbreaking Function-Calling LLMs via Simulated Moderation Traces(arXiv 2607.00481)。SMT 即 Simulated Moderation Traces,模拟审核轨迹:针对带工具调用能力的商用大模型的多轮越狱手法。本文使用的基线 harness 来自论文配套的实现仓库。 ...
研究来源本文的研究起点是 Liang、Li、Yu 于 2024 年提交的论文 Universal and Context-Independent Triggers for Precise Control of LLM Outputs,以及腾讯玄武实验室在 Black Hat USA 2025 公开的 Agent RCE 演示。GCG 与更早的 UAT 谱系分别来自 Zou et al. 2023 和 Wallace et al. 2019。 ...
逆向 Claude Code Auto 模式:每次工具调用前的 64 个 token 安全防线 Claude Code 的 auto 模式从 8 月 14 日起成了 Pro、Max、Team 新会话的默认权限档。我想搞清楚它到底靠什么防止 agent 干出格的事。 ...
我拆开 Burp AT 的 jar,本来想找一样东西:它把 GPT 的客户端藏哪了。 找了半天,答案是——没藏,因为压根不存在。 ...
最近AI红队是越做越多了,有一半时间在想怎么打 Agent,另一半时间在想: 真要落地防护,应该长什么样(打完了,怎么防?) 我自己写过一个本地优先的 Agent Runtime Guard(ARG),也拆了下微软刚开源的 Agent Governance Toolkit(AGT)。拆完之后,判断其实挺清楚: ...
通过境外服务器反向代理 OpenRouter AI API,解决区域访问限制问题。 背景(SCQA) S - 情境 海外 AI 服务(如生图、对话等)通常通过 OpenRouter 等聚合平台提供统一 API 接入,使用方式与 OpenAI SDK 兼容。 ...
红队安全工具 — 将 OpenAI Privacy Filter 改造为 PII 结构化 提取 HTTP 网关 OpenAI 开源了一个叫 Privacy Filter 的小模型,能从非结构化文本里识别姓名、邮箱、电话、地址这些 PII。 我花了一晚上,把它改造成了一个 HTTP 网关服务,跑在 NVIDIA L20 上,双进程推理峰值 81 RPS,GPU 利用率干到了 98%。 ...
GEO备忘录:9.9 元,给 AI 下一剂毒 你有没有发现,最近你问 AI “推荐一款空气净化器”,它给你的答案,越来越像广告? 不是那种明摆着的广告。是那种——语气诚恳、条理清晰、引用了"多方测评"、看上去特别"客观"的推荐。 ...
推荐阅读——让LLM自动微调模型: https://dspy.ai/tutorials/rag/#using-a-dspy-optimizer-to-improve-your-rag-prompt https://dspy.ai/tutorials/games/ 用mlflow记录微调细节,https://mlflow.org/docs/latest/genai/flavors/dspy/optimizer/ 优化Agent的提示词,让老师模型帮学生模型优化,https://dspy.ai/tutorials/agents/ DSpy 使用笔记 DSpy 是一个开源的 Python 框架,旨在通过模块化和声明式编程来构建语言模型应用程序。它使得与大型语言模型(LLM)的交互更加高效和可靠,避免了传统提示工程中的繁琐和不确定性。 ...