给 Agent 加个记忆,用 JSONL 把对话落盘找回
自研 Agent 一重启就失忆,因为对话历史只留在内存。我把完整消息存成 JSONL 会话文件,拆解创建、追加、恢复三个动作,再跑一个跨进程实验验证重启后能否接着上次对话继续回答。
支持通配符SSL证书、多域名证书、IP证书。适配ACME接口, 支持Zerossl、Let's Encrypt和Google等渠道。登录已有账号
2026-10-24 20:16:07 大模型面试 Prompt 思维链 Agent
上个月我坐到大模型应用岗面试官这边。笔试环节是一道情景题:让 Agent 回答客服投诉该走几级升级流程,你写的 prompt 长什么样。大半候选人落笔就是角色设定,能活到二面的,是那几个反问任务输入格式、有没有接工具的少数人。
我的打分标准有点怪:不考你背过多少名词,考你能不能把每种 prompt 范式的适用边界和翻车姿势讲明白。Prompt engineering 是 Agent 系统里行为约束与推理链路的地基,边界说不清,线上就出事。
最基础的是零样本和少样本。我常问:什么时候一个示例顶一百行描述?满意的答案是,模型会做,但不知道你要什么样子。语气、字段顺序、句子长短,这些用文字讲效率很低,给两个示例立竿见影。
被多数人忽略的翻车点是示例偏差。塞五个示例全是同一个行业的,模型会连无关查询也用那行话答。加分写法是动态少样本,按查询从样例库检索最贴近的示例,能说到这儿的算看过点东西。
思维链 CoT 我反过来问:给哪类任务加 think step by step 反而更差?多数人答不上来。简单事实查询、一句话能答的问题,加思维链纯属烧 token,延迟还翻倍。

思维链真正帮上忙的是多步计算、逻辑推演、约束组合这类任务,机理是把一个难的映射拆成几个容易的映射。零样本 CoT 靠 think step by step 这句话触发;少样本 CoT 得把中间推理步骤写进示例里,光给最终答案没用。
成本是我必追问的地方:思维链输出长度是平时几倍,账怎么算?候选人答分层调用,简单题关掉、难题才开,一看就操练过。
推理与工具调用交织,就是 ReAct 那套,复杂一层。模型想一段、发一个动作、查工具、把观察结果拼回上下文再想。面试就一句:调用工具的 Agent 最怕什么?我要听到两样:幻觉出不存在的工具名,还有同一个工具来回打转。
落地到 Agent 的行为约束,我会要求写清楚:system prompt 里声明工具白名单,参数不许超出 schema 自己编,限定单任务最大轮数,几轮无果转人工。能讲到这层,基本就过了。
我自己踩过的翻车案例很典型:给模型的搜索工具粒度太粗,它连查三轮,答案其实就在文档第一页。工具设计比话术更能决定 Agent 表现。
自我反思这类,论文里叫 Reflexion,让模型检查自己的输出、形成反馈、再跑一轮。面试我问得很直接:自查真的有用吗?我的经验是有外部信号才有用。
把测试失败、校验报错、检索命中分数回灌给模型当反思依据,修正率是实打实的。只让它「再看一遍检查错误」,多半是假装工作,改三个副词就算重构了。所以生产上反思要绑验证器,轮数封顶两轮。
结构化输出约束,是我面试时最走神的一类。JSON Schema 和 function calling 如今有模型层原生支持,解码阶段就受限,格式基本不会错。但边界在于格式可靠不等于内容可靠,长分析任务硬塞进 schema,得到的是格式正确内容空洞的壳。成熟做法是先用自然语言自由生成,第二轮再抽取成结构化字段。
这套范式我在一个 side project 里真用过。我写了个小脚本盯朋友的几个站点,从日志里解析哪些域名证书快到期,再调 lcjmSSL 的 API 自动申请续期。lcjmSSL 背后是 Let's Encrypt 这类权威 CA,一个接口走完申请、验证、部署,省掉手动点击,也算躲过一回证书到期告警。
卡壳的地方恰恰在 prompt:让模型从杂乱日志文本里抽出三十天内到期的域名,我在提示词里写请输出 JSON,它照样塞一句安慰式前言。后来换成结构化输出模式,schema 大致长这样:
{
"type": "object",
"properties": {
"domain": { "type": "string" },
"expire_in_days": { "type": "integer", "maximum": 30 },
"need_renew": { "type": "boolean" }
},
"required": ["domain", "expire_in_days"]
}
之后脚本一路跑通。小小教训:凡是错一次就不行的要求,别用文字提,用 schema 提。
面试快收尾,我实际追问的是成本、延迟、稳定性。多一轮反思、多一段思维链都是钱和时间;采样温度决定输出能不能稳定跑回归。我想听的不是标准答案,是有取舍的答案:量大输入短的任务选少样本、不碰 CoT;错一次就是事故的任务,愿意拿双倍延迟换一轮带验证器的反思。
prompt 范式像药剂师的药柜,药名背全不难,难在知道给哪个病开哪副、避开哪副、吃了有什么副作用。面试考的就是这份判断,线上也考。
自研 Agent 一重启就失忆,因为对话历史只留在内存。我把完整消息存成 JSONL 会话文件,拆解创建、追加、恢复三个动作,再跑一个跨进程实验验证重启后能否接着上次对话继续回答。
MCP 解决 Agent 调工具,A2A 解决 Agent 之间互相委托。Agent Card 负责服务发现,Task 负责异步任务状态。我用 Java 跑通一条最小互操作链路,把两种协议的边界和选型依据一次讲清。
我做投放时最怕素材被审核打回,一等就是几小时。后来接触生成即合规的思路:把审核规则结构化,让生成、校验、改写在闭环里自动跑完。这篇聊聊怎么落地,还有过度修复把文案改平庸的坑。
Copilot 类智能体吐出的结构化结果,常常跟团队配置对不上。我给它加了一道验证环节,用 JSON 路径做断言,拿团队映射表当事实来源,过不了就退回重生成。顺带聊聊中间件怎么设计、失败怎么兜底。
聊的是广告素材合规这件事,规则不该等生成完再审核,而是拆成Agent能执行的检查项,让它定位问题做局部修复,不再整张重出。顺便说说多地区多渠道规则的组合麻烦,以及链路里那些容易翻车的细节。