Tags

#prompt-injection

4posts

Day 90

Day 90 · Computer Use 与 Browser Agent:让 Agent 用图形界面

Day 26 让 Agent 打开过浏览器,今天往深里走:截图坐标、代码执行、可访问性树三条路线各自的代价;2026 年 Claude 和 OpenAI 的 computer use 接口长什么样;为什么 GUI Agent 难做可靠;截图到底多费钱;以及一个带白名单、不可信内容标记和写操作确认的浏览器运行时,当场演示网页注入。

Day 72

Day 72 · 自动化红队:用 Agent 攻击 Agent

Day 39 和 Day 53 我们手写过一批注入用例。手写的用例几十条就到头了,攻击者却有无穷多种说法。今天把红队变成一条流水线:种子攻击 × 变形策略 × 投放位置自动组合出用例,只看「实际发生了什么」的检测器判定成败,攻击成功率带区间汇报,打穿的用例自动进回归集;再写一个会根据失败改写攻击的自适应攻击者,最后看 promptfoo、garak、PyRIT 怎么接进来。

Day 53

Day 53 · 安全加固与上线:注入测试、权限、Docker 部署

SupportPilot 第一次上公网之前,先当一回攻击者:写一套注入测试集,看它会不会泄露别的客户的账单、会不会绕过审批退款。修好之后用 Docker Compose 把服务、数据库、前端和 HTTPS 一起部署到云服务器,再加上限流、每日预算和演示账号,别让 demo 把你的 API 余额刷光。

Day 39

Day 39 · 安全(一):prompt injection 怎么打、怎么防

亲手攻击自己的工单 Agent:在工单正文、客户昵称、知识库文章里埋指令,看它会不会乱退款、泄露别人的数据、把信息往外送。然后用「致命三要素」找出真正的风险点,一层层加防御,最后把这些攻击写成测试用例接进 CI。