AI Agent 调工具前先过一道确定性闸门:用 aw1-breaker 做 AST 级拦截
AI Agent 的风险常常不在模型回答了什么,而在它被允许执行什么:一个工具调用可能启动子进程、改写数据库,或访问不该访问的网络地址。提示词可以要求模型谨慎,却不能代替执行边界。对于 Python ...
最新内容
AI Agent 的风险常常不在模型回答了什么,而在它被允许执行什么:一个工具调用可能启动子进程、改写数据库,或访问不该访问的网络地址。提示词可以要求模型谨慎,却不能代替执行边界。对于 Python ...
AI 编码工具让实现变快,也把审查压力推给了开发者:代码能迅速增加,理解控制流、发现边界条件却仍需要人投入时间。Pipe 提出的方向不是再加一个代码生成器,而是尝试让程序本身以可视化结构表达,供人和工...
日志能告诉你请求失败了,却未必能回答更棘手的问题:Agent 为什么把资料发给了陌生收件人?它先读到了什么内容?审批策略放行了哪一步?如果日志文件后来被改过,调查者又如何知道?Mnestiq 将自己定...
AI Agent 通常只能“看见”用户贴进对话的文字与文件;若要理解真实环境,例如门口是否有包裹、设备是否发出异常声音,就需要接入摄像头或传感器。Senseplane 是一个 Apache-2.0 许...
AI 编码 Agent 能快速修改代码,却未必知道修改是否真的生效。它可能看到构建通过就宣布完成,但浏览器里的按钮仍然无响应、请求返回了 500,或页面状态与预期不符。单靠“再检查一下”的提示词,验证...
把 AI Agent 接入服务器,难点从来不只是“能不能执行命令”,而是它改了什么、谁批准、出错后能否恢复。LiteDeck 是一款 Apache-2.0 许可的桌面服务器管理工具:它通过已有 SSH...
AI 编码 Agent 能写代码,不代表它们天然适合并行工作:多个进程可能争用同一工作区,生成结果也未必经过验证。Unterm 的切入点不是再加一个聊天面板,而是把终端本身做成可由外部 Agent 驱...
当开发任务变多,真正耗时的往往不是让 Agent 写代码,而是切换工具、重复触发相同步骤,以及确认它到底改了什么。Frink 是一款桌面优先的开源应用,尝试把并行编码 Agent 与可触发的多步骤工作...
让 AI Agent 写出页面只是第一步。真正容易拖慢协作的,往往是项目里散落的 lint、格式化、类型检查、测试和构建命令:Agent 需要先猜该运行什么,人和 CI 还可能执行不同的检查。Vite...
合作方每天发来的 CSV、Excel 或 JSONL,常常是数据链路里最不起眼、却最容易引发事故的一环:列名悄悄变化、必填值为空、某些行格式异常,问题直到下游任务报错才暴露。与其让 ETL 或报表承担...