最新内容
线上排障最难的时刻，往往不是服务已经 500，而是接口仍然返回 200、链路也没有异常，却给了错误的业务结果。日志中缺少那一次请求的局部变量；把 console.log 加回去，需要提交、构建、发布，...
给 Agent 接上邮件、HTTP、Shell 或数据库工具之后，风险往往不在模型会不会说出一段不当文本，而在它会不会真的执行一次不该执行的调用。一个看似正常的网页、工单或日志里可以混入间接提示注入：...
把小型语言模型放到手机上，再让它调用安全工具，听起来很像“随身的自动渗透测试员”。Nightcrawler 的价值恰好不在于把这件事包装成炫技：它把本地模型、工具调用和网络访问限制拆成不同层，迫使使用...
一个应用刚起步时，权限实现往往很直接：用户表有一个 role 字段，后端在路由或 service 中判断管理员、成员和访客。这个方案没有错；对于资源少、角色固定的后台，它甚至是成本最低的方案。 问题通...
给 Agent 加权限通常不难：给模型一组工具、放开网络、接上数据库，再让它自行规划。但真正棘手的是运行中失控。一个错误的提示词、重试条件或工具返回值，可能让它重复同一动作；一个没有上限的任务，也可能...
给编码 Agent 接上终端、浏览器、MCP 服务之后，风险并不只来自模型“答错了”。更棘手的是：Agent 已经拿到了执行能力，某段网页文本、仓库里的说明文件或工具返回值又把间接提示注入带进上下文，...
让 AI Agent 查询业务数据，最危险的误解是：只要模型“遵守提示词”，就能把数据库访问权交出去。提示词注入、错误推理和蓄意的多轮试探都会打破这个前提。即使每次只允许它执行看似无害的聚合查询，攻击...
让 Claude Code、Codex 一类编码 Agent 直接操作真实项目，效率往往来自它们拥有和开发者相同的权限：能改代码、运行脚本、读配置、删除生成文件。风险也在同一处。一次错误的“清理”、不...
当团队开始给 Claude Code、桌面客户端和浏览器里的 AI 服务接入网关时，最容易忽略的一段链路是：请求究竟能不能稳定地抵达网关。 传统做法通常依赖客户端支持自定义 Base URL、代理或企...
给 Agent 加 JSON Schema、工具白名单和权限策略后，很多团队会觉得“写操作已经被管住了”。但在退款、转账、删改资源这类动作上，真正棘手的失败并不一定是 Agent 调了不该调的工具，而...
