Day 4 · messages、system prompt 与流式输出：对话状态握在你手里
API 没有记忆，多轮对话是你的程序每次把历史整个重发一遍，所以聊得越久越贵，而且是平方级地贵。今天弄清四种 role 的分工、system prompt 该写什么、怎么裁剪历史，再用 SSE 流式输出把首字延迟压下来，最后封装一个后面整门课都要用的 LLMClient。
API 没有记忆，多轮对话是你的程序每次把历史整个重发一遍，所以聊得越久越贵，而且是平方级地贵。今天弄清四种 role 的分工、system prompt 该写什么、怎么裁剪历史，再用 SSE 流式输出把首字延迟压下来，最后封装一个后面整门课都要用的 LLMClient。