Day 145 · Guardrails 分层防御:输入输出检查、安全分类器与策略引擎
Day 39 讲了怎么攻击,这一篇讲防御怎么落地:规则、安全分类器(Qwen3Guard、Llama Guard 4、Prompt Guard 2)、LLM 政策审核三层怎么排,误杀和漏放怎么量,延迟预算怎么分。给 SupportPilot 写一套能跑的 guardrail 和评测脚本,实测规则层误杀 18%、加上政策审核后漏放从 50% 降到 20%。
Day 39 讲了怎么攻击,这一篇讲防御怎么落地:规则、安全分类器(Qwen3Guard、Llama Guard 4、Prompt Guard 2)、LLM 政策审核三层怎么排,误杀和漏放怎么量,延迟预算怎么分。给 SupportPilot 写一套能跑的 guardrail 和评测脚本,实测规则层误杀 18%、加上政策审核后漏放从 50% 降到 20%。