别只过滤提示词:用 ModelFuzz 在工具执行前拦住被注入的 Agent
给 Agent 接上邮件、HTTP、Shell 或数据库工具之后,风险往往不在模型会不会说出一段不当文本,而在它会不会真的执行一次不该执行的调用。一个看似正常的网页、工单或日志里可以混入间接提示注入:...
最新内容
给 Agent 接上邮件、HTTP、Shell 或数据库工具之后,风险往往不在模型会不会说出一段不当文本,而在它会不会真的执行一次不该执行的调用。一个看似正常的网页、工单或日志里可以混入间接提示注入:...
团队里的自动化常常从一个很小的需求开始:表单提交后写入表格、GitHub 事件发生后通知 Discord、每天把 RSS 中的新条目汇总给同事。流程一多,问题也随之出现:Webhook 地址散落在不同...
很多小型服务的异步需求并不复杂:用户下单后发一封邮件、生成一份导出文件、同步到第三方 API。业务数据已经放在 SQLite,队列却常常被拆到 Redis、Celery 或另一套消息系统中。系统看似更...
AI 编码工具的成本问题,往往不是“模型单价太高”这么简单。一个人可能在 Claude Code 里做长任务,又在 Codex、Cursor 或 OpenCode 间切换;月底看到订阅、API 账单和...
把小型语言模型放到手机上,再让它调用安全工具,听起来很像“随身的自动渗透测试员”。Nightcrawler 的价值恰好不在于把这件事包装成炫技:它把本地模型、工具调用和网络访问限制拆成不同层,迫使使用...
家里已有 Frigate 摄像头时,常见的体验是:移动侦测和对象识别已经能产生大量事件,但信息仍碎成一段段通知。看到「检测到猫」以后,主人还得打开片段、判断是不是同一只、回忆今天是否喝水、有没有比平时...
title: “不想为一个异步邮件任务再起 Redis:用 Honker 把事务性 outbox 放进 SQLite” slug: honker-sqlite-transact...
编码 Agent 已经能在一次会话里改动几十个文件,但一个常见的交付问题没有因此消失:合并前,我们知道测试是否覆盖了代码,却不一定知道测试是否覆盖了人真正提出的需求。测试绿了,可能只是保住了旧行为;覆...
编码 Agent 已经能在一次会话里改动几十个文件,但一个常见的交付问题没有因此消失:合并前,我们知道测试是否覆盖了代码,却不一定知道测试是否覆盖了人真正提出的需求。测试绿了,可能只是保住了旧行为;覆...
把网页交给 Agent 处理,最常见的第一步是“抓 HTML,再转 Markdown”。这在静态文档页上很有效;但一碰到客户端渲染站点,下载到的往往只是一层空壳。另一端的做法是直接起 Playwrig...