本讲目录

第 14 讲 · 使用技巧与坑

前几讲的技巧散在各个场景里,这一讲做系统盘点:先给一份"怎么问得好"的技巧清单,再给一份"它会怎么坑你"的病理图鉴——每个坑都给出成因(连回上篇的原理)与对策。目标是把两样东西变成你的肌肉记忆:好的提问习惯verify 反射

1. 技巧清单:把 AI 用出上限

  1. 说清任务四件套:做什么 + 给谁看 + 什么格式 + 什么标准。对比:"帮我写个自我介绍" vs "为博士申请套磁邮件写 150 字自我介绍,收件人是做随机优化的教授,突出我的应用数学背景,语气专业不谄媚"——输出质量差一个档次,原理见第 08 讲(收窄目标分布);
  2. 料给足(上下文工程的日常版):改代码给完整报错栈,改文章给上下文段落,问建议给你的约束条件(预算/时间/水平)。它不知道你不说的一切
  3. 给例子:格式要求用一个例子顶一百字描述(few-shot,第 08 讲);
  4. 难题让它先想:要求"先分析再回答",或直接换推理模型(第 10 讲);
  5. 迭代而不是重开:第一版不满意,说"哪里不对、往哪个方向改",比换个措辞重问收敛快——但注意坑 3 的例外;
  6. 大任务拆步:"帮我写完整个系统"不如"先设计数据结构→我确认→再写模块 A"(编排思想的手动版,第 08 讲);
  7. 让它问你:"开始前,把你需要澄清的问题一次问完"——复杂任务前置对齐,省掉三轮返工;
  8. 多模型交叉:重要判断问两个不同家族的模型,分歧处即需人工介入处(便宜版的 self-consistency)。

2. 病理图鉴:六个坑的成因与对策

坑 1 · 幻觉:一本正经地胡说八道

症状:编造文献(第 13 讲红线)、编造不存在的库函数与 API 参数、编造历史细节与数据。成因(第 07/08 讲):训练目标是"像语料的文本"而非"真话",知识盲区里"最像答案的答案"就是编造。高发区识别:越具体、越冷门、越可校验的事实越危险(论文卷号、函数签名、统计数字、人物生平);观点类、方法论类输出相对安全。对策:可校验的事实一律外部核验;要求"给出处,不确定就说不确定";用 RAG/联网模式把答案锚在检索结果上;代码类幻觉最友好——跑一下就现形。

坑 2 · 谄媚:你说什么都"您说得对"

症状:你提出质疑,它立刻改口;你的方案有隐患,它夸你想得周全。成因:RLHF 用人类偏好训练(第 07 讲),而人类标注者偏好被赞同的感觉——奖励模型学会了讨好。对策:要批评时明确授权("严格挑错,不用照顾情绪");不要泄露你的倾向(问"方案 A 和 B 各有什么问题"而不是"我觉得 A 好,对吧?");重要决策让它"先独立给结论,再看我的想法"。

坑 3 · 上下文腐烂:越聊越笨

症状:长对话后开始自相矛盾、忘记早先的设定、被自己之前的错误答案带偏。成因(第 06/08 讲):注意力在超长上下文上稀释(lost in the middle),且错误输出留在上下文里成为后续生成的"既定事实"。对策:一个任务一个会话;跑偏两轮以上果断新开,带一段自己写的摘要迁移;关键结论及时沉淀到你自己的笔记(外部记忆),别指望对话框。

坑 4 · 自信的语气 ≠ 正确的内容

症状:错误答案与正确答案使用完全相同的笃定措辞。成因:语气是从语料学来的文风,与内容可靠度无关;模型对自己的不确定性缺乏可靠的自我报告。对策:把"它说得很肯定"从你的证据清单里删掉;重要结论看它给不给得出可验证的中间步骤,而不是听语气。

坑 5 · 知识截止与静默过时

症状:推荐已废弃的库版本、不知道最新事件、按旧政策给建议。成因:权重冻结于训练截止日(第 08 讲)。对策:时效敏感问题(版本、价格、政策、新闻)强制联网/检索,或自己核对日期;问它"你的知识截止到什么时候"作为快速提醒。

坑 6 · 隐私与注入:数据往哪去、指令从哪来

症状一(隐私):把公司机密/病历/未发表数据贴进对话。消费级产品的对话可能被用于改进模型(可在设置中关闭),企业/API 通道政策不同。纪律:敏感数据脱敏后再问;真正的机密走本地部署(第 11 讲)。 症状二(提示词注入,第 09 讲):让智能体读网页/邮件/PDF 时,内容里埋藏的恶意指令劫持它的行为。纪律:智能体的权限最小化;"读陌生内容"与"持有敏感权限"不同时授予;危险操作保留人工确认。

3. Verify 文化:一张清单

把验证做成流程而不是美德。AI 输出进入你的工作成果之前,过一遍:

输出类型 验证动作
事实/数字/日期 独立来源核对(搜索引擎/官方文档/原始论文)
参考文献 逐条查 DOI / Google Scholar 确认存在
代码 跑通 + 边界用例测试 + 读懂关键逻辑
数学推导 数值抽查 / 独立重推 / 反例搜索(第 13 讲)
翻译/润色 逐句对照,术语抽查回译
决策建议 第二个模型交叉 + 自己列出它没考虑的约束

成本看似高,实则遵循风险分级:闲聊零验证,写进论文/报给老板/部署上线的,按表全查。一个实用心法:AI 负责生成,你负责为真实性签字——签字权从来没有外包出去。

4. 收束:正确的心智模型

把各讲的认识拼成一句话的心智模型:

LLM 是一位读过整个互联网、才思敏捷、永不疲倦,但记性只有一个对话框长、偶尔自信地虚构、且总想让你高兴的顾问。

对应的相处之道:让它出初稿、出点子、陪你推演(用足它的快与博);用清单防它的虚构,用外部记忆补它的健忘,用明确授权破它的讨好;最终判断与责任永远留在你手里

动手:翻出你最近一次重要的 AI 使用记录,对照第 2 节的六个坑自查踩了哪几个;然后把第 3 节的验证清单抄进你的笔记工具,用一周。


方法论到此完备。接下来三讲是垂直实战:写代码与数据分析、文生图、PPT 与文档——把前面的所有原则落到具体工作流上。