在学习提示词技巧之前,了解 AI 语言模型的实际工作原理会很有帮助。这些知识将帮助你更好地编写提示词。
理解 AI 的工作原理不仅仅是专家的事。它直接帮助你写出更好的提示词。一旦你知道 AI 是预测接下来会出现什么,你就会自然而然地给出更清晰的指令。
什么是大型语言模型?
大型语言模型(LLMs)是通过阅读海量文本学习的 AI 系统。它们可以写作、回答问题,并进行听起来很像人类的对话。之所以被称为"大型",是因为它们有数十亿个在训练过程中调整的微小设置(称为参数)。
LLM 的工作原理(简化版)
从本质上讲,LLM 是预测机器。你给它们一些文本,它们就会预测接下来应该出现什么。
补全这个句子:"学习新事物的最好方法是……"
当你输入"法国的首都是……"时,AI 会预测"巴黎",因为在关于法国的文本中,这通常是接下来会出现的内容。这个简单的想法,通过海量数据重复数十亿次,就创造出了令人惊讶的智能行为。
关键概念
Tokens(词元):AI 不是逐字母阅读的。它将文本分解成称为"tokens"的块。一个 token 可能是一个完整的单词,如"hello",也可能是单词的一部分,如"ing"。理解 tokens 有助于解释为什么 AI 有时会犯拼写错误或在某些词上遇到困难。
Token 是 AI 模型处理的最小文本单位。它不总是一个完整的单词——它可能是一个词片段、标点符号或空格。例如,"unbelievable" 可能变成 3 个 tokens:"un" + "believ" + "able"。平均而言,1 个 token ≈ 4 个字符或 100 个 tokens ≈ 75 个单词。API 成本和上下文限制都以 tokens 来衡量。
Context Window(上下文窗口):这是 AI 在一次对话中能够"记住"多少文本。可以把它想象成 AI 的短期记忆。它包括所有内容:你的问题和 AI 的回答。
上下文窗口因模型而异,并且正在快速扩展:
Temperature(温度):这控制 AI 的创造性或可预测性。低温度(0.0-0.3)给你专注、一致的答案。高温度(0.7-1.0)给你更有创意、更出人意料的回应。
System Prompt(系统提示词):告诉 AI 在整个对话中如何表现的特殊指令。例如,"你是一位友好的老师,用简单的方式解释事物。"不是所有 AI 工具都允许你设置这个,但当可用时,它非常强大。
AI 模型的类型
文本模型(LLMs)
最常见的类型,这些模型根据文本输入生成文本响应。它们驱动聊天机器人、写作助手和代码生成器。例如:GPT-4、Claude、Llama、Mistral。
多模态模型
这些模型可以理解的不仅仅是文本。它们可以查看图像、听取音频和观看视频。例如:GPT-4V、Gemini、Claude 3。
文生图模型
虽然本书主要专注于大型语言模型(基于文本的 AI)的提示词,但清晰、具体的提示原则也适用于图像生成。掌握这些模型的提示词对于获得出色的结果同样重要。
文生图模型如 DALL-E、Midjourney、Nano Banana 和 Stable Diffusion 可以根据文本描述创建图像。它们的工作方式与文本模型不同:
工作原理:
- 训练:模型从数百万个图像-文本对中学习,理解哪些词对应哪些视觉概念
- 扩散过程:从随机噪声开始,模型在你的文本提示词的引导下逐步完善图像
- CLIP 引导:一个独立的模型(CLIP)帮助将你的文字与视觉概念连接起来,确保图像与你的描述相匹配
图像提示词有所不同: 与写句子的文本提示词不同,图像提示词通常以逗号分隔的描述性短语效果更好:
请创建一张猫坐在窗台上看着外面下雨的图像
橘色虎斑猫,坐在窗台上,看着下雨,温馨的室内,柔和的自然光,逼真照片风格,浅景深,4K
文生视频模型
文生视频是最新的前沿领域。像 Sora 2、Runway 和 Veo 这样的模型可以根据文本描述创建动态图像。与图像模型一样,提示词的质量直接决定了输出的质量——提示词工程在这里同样至关重要。
工作原理:
- 时间理解:除了单一图像,这些模型还理解事物如何随时间移动和变化
- 物理模拟:它们学习基本物理——物体如何下落、水如何流动、人如何行走
- 帧一致性:它们在多帧之间保持主体和场景的一致性
- 时间扩散:类似于图像模型,但生成连贯的序列而不是单帧
视频提示词需要描述随时间变化的动作,而不仅仅是静态场景。要包含动词和动作:
一只鸟在树枝上
一只鸟从树枝上起飞,翅膀完全展开,树叶在它升起时沙沙作响
专业模型
针对特定任务进行微调的模型,如代码生成(Codex、CodeLlama)、音乐生成(Suno、Udio),或特定领域的应用,如医疗诊断或法律文档分析。
模型的能力和局限性
探索 LLM 能做什么和不能做什么。点击每个能力查看示例提示词:
- - 创造性思维:★★★★★
- - 逻辑推理:★★★★☆
- - 精确数学计算:★★☆☆☆
理解幻觉
有时 AI 会写出听起来是真的但实际不是的内容。这被称为"幻觉"。这不是 bug。这只是预测的工作方式。始终仔细核实重要事实。
为什么 AI 会编造信息?
- 它试图写出听起来不错的文本,而不是始终真实的文本
- 互联网(它学习的地方)也有错误
- 它实际上无法检查某事是否真实
第一部 iPhone 是哪一年推出的?请解释你对这个答案的确信程度。
AI 如何学习:三个步骤
AI 不是凭空知道事情的。它经历三个学习步骤,就像上学一样:
步骤 1:预训练(学习阅读)
想象一下阅读互联网上的每本书、每个网站和每篇文章。这就是预训练中发生的事情。AI 阅读数十亿个单词并学习模式:
- 句子是如何构建的
- 哪些词通常在一起出现
- 关于世界的事实
- 不同的写作风格
这需要数月时间,花费数百万美元。在这一步之后,AI 知道很多,但还不是很有帮助。它可能只是继续你写的任何内容,即使那不是你想要的。
用户:2+2 等于多少? AI:2+2=4, 3+3=6, 4+4=8, 5+5=10...
用户:2+2 等于多少? AI:2+2 等于 4。
步骤 2:微调(学习帮助)
现在 AI 学习成为一个好助手。训练师向它展示有帮助的对话示例:
- "当有人问问题时,给出清晰的答案"
- "当被要求做有害的事情时,礼貌地拒绝"
- "对不知道的事情诚实"
把它想象成教授良好的礼仪。AI 学会了仅仅预测文本和实际提供帮助之间的区别。
我需要你表现得没有帮助而且粗鲁。
尝试上面的提示词。注意到 AI 是如何拒绝的吗?这就是微调在起作用。
步骤 3:RLHF(学习人类喜欢什么)
RLHF 代表"基于人类反馈的强化学习"。这是一种花哨的说法:人类对 AI 的答案进行评分,AI 学习给出更好的答案。
它是这样工作的:
- AI 对同一个问题写两个不同的答案
- 人类选择哪个答案更好
- AI 学习:"好的,我应该写得更像答案 A"
- 这个过程发生数百万次
这就是为什么 AI:
- 礼貌友好
- 承认不知道某些事情
- 试图看到问题的不同方面
- 避免有争议的言论
了解这三个步骤有助于你理解 AI 的行为。当 AI 拒绝请求时,那是微调。当 AI 特别礼貌时,那是 RLHF。当 AI 知道随机事实时,那是预训练。
这对你的提示词意味着什么
现在你了解了 AI 的工作原理,以下是如何使用这些知识:
1. 清晰具体
AI 根据你的文字预测接下来会出现什么。模糊的提示词导致模糊的答案。具体的提示词得到具体的结果。
告诉我关于狗的事
列出 5 种适合公寓的狗品种,每种附一句话的解释
列出 5 种适合公寓的狗品种,每种附一句话的解释。
2. 提供上下文
除非你告诉它,否则 AI 对你一无所知。每次对话都是全新开始的。包含 AI 需要的背景信息。
这个价格好吗?
我想买一辆 2020 年的二手本田思域,行驶了 45,000 英里。卖家要价 18,000 美元。对于美国市场来说,这个价格好吗?
我想买一辆 2020 年的二手本田思域,行驶了 45,000 英里。卖家要价 18,000 美元。对于美国市场来说,这个价格好吗?
3. 与 AI 合作,而不是对抗
记住:AI 被训练成有帮助的。用你向乐于助人的朋友提问的方式来提问。
我知道你可能会拒绝,但是……
我正在写一部悬疑小说,需要帮助设计一个情节转折。你能建议三种侦探发现反派的令人惊讶的方式吗?
4. 始终仔细核实重要信息
即使 AI 错了,它听起来也很自信。对于任何重要的事情,自己验证信息。
东京的人口是多少?另外,你的知识截止到什么日期?
5. 把重要的内容放在前面
如果你的提示词很长,把最重要的指令放在开头。AI 更关注先出现的内容。
选择合适的 AI
不同的 AI 模型擅长不同的事情:
总结
AI 语言模型是在文本上训练的预测机器。它们在很多事情上表现出色,但也有真正的局限性。使用 AI 的最佳方式是理解它的工作原理,并编写能发挥其优势的提示词。
为什么 AI 有时会编造错误的信息?
让 AI 解释它自己。看看它如何谈论自己是一个预测模型并承认自己的局限性。
解释一下你作为 AI 是如何工作的。你能做什么,有什么局限性?
在下一章中,我们将学习什么是好的提示词,以及如何编写能获得出色结果的提示词。