Day 85 · 规模化可观测:OTel 全链路、采样、成本看板、告警
一个 Agent 接 Langfuse 很简单,一百万次运行每天全量记录就会把存储和预算压垮。今天算清 trace 的数据量,用 OpenTelemetry Collector 的尾部采样只留下有价值的 trace,把 prompt 原文和元数据分开存、分开保留,定一套 Agent 的指标和 SLO,用燃烧速率代替固定阈值做告警。
Day 1 · 大模型到底在干什么：token、上下文窗口、下一个词预测
不讲数学，只讲做 Agent 必须有的模型直觉：模型一次只猜一个 token，它看到的世界只有上下文窗口里那一段，temperature 决定它敢不敢猜冷门答案。幻觉、中文更贵、聊久了忘事，都能从这三件事推出来。