← Follow or Bounce
和AI对话用得上的日常逻辑

提示词的逻辑与生活

好的提示词,就是一个小小的论证,再加一个请求。生活里任何清楚的请求也是这样。把前提、用词、限制和目标说清楚,对方要猜的就少了。但答案仍可能出错,所以要核实。

本页由英文在AI协助下翻译而成,尚未经中文母语者审校。

一个请求,七类逻辑 解释一下为什么月亮看起来会变形状。请扮演一位耐心的小学科学老师。我女儿睡前从窗户看到一弯细细的月牙,就问了我这个问题。只讲月亮的形状为什么会变,不讲月食,也不讲潮汐。目标是让我女儿能用自己的话把道理讲回给我听。如果用到我可能想核实的事实,请告诉我大人可以去哪类资料里查。请简单地换个角度,从遥远的太空俯瞰地球和月亮:从那里能看到,月亮总有一半被太阳照亮。回答之前,如果关于我女儿有什么不清楚的,请先问我一两个问题。
第一部分 · 五分钟学逻辑

逻辑让人跟得上你

聊天机器人从没见过你。它对你的请求所知道的一切,就是你写下的字。下面这些是逻辑学家用来让思路清楚好懂的概念,每一个在提示词里都有用处。

前提

你当作已知、并从它出发去推理的一句话。前提如果是假的,建立在它上面的一切也可能是假的。

“博物馆周一闭馆”就是一个前提。你周一的安排要从它开始。

在提示词里: 你给的背景、示例和定义,就是前提。模型要么从你给的内容出发推理,要么从它自己猜的内容出发。

推理与结论

推理,是从前提走向一个新说法的那一步。结论,是这一步落脚的地方:你想证明或决定的那件事。

博物馆周一闭馆。今天是周一。所以博物馆今天闭馆。

在提示词里: 你的目标说出了你想要的结论。模型的回答,就是它从你的前提朝这个目标迈出的那一步。

论域

一句话所谈论的那一组对象。“所有”“每个人”这样的词,只有在选定的论域里才有意义。

“每个人都通过了考试”说的是某一个班,不是地球上所有人。

在提示词里: 范围设定了论域。不说清楚,模型就会替你选一个,往往比你想的更宽或更窄。

定义与歧义

定义把一个词的意思固定下来。一个词能有不止一种意思,就是有歧义。论证进行到一半,悄悄换了词的意思,叫作偷换概念(也叫含混)。

“清淡一点的饭”可能指热量低,也可能只是量少。说明是哪一种,疑问就消失了。

在提示词里: 术语这一项用来定义你的关键词,让“便宜”“短”“简单”表达的正是你的意思。

必要条件与充分条件

必要条件是必须满足的,但满足了也未必够。充分条件是只要满足它就够了。

坐火车必须有票,但光有票还不够:火车还得正常开行。

在提示词里: 限制、格式和时限都是必要条件。全部满足,也不能保证得到好答案。

证据与归纳

证据是支持一个说法的东西。归纳是从具体的例子里总结出一般规律。归纳可以很有力,但永远不是确定无疑的。

你见过的天鹅都是白的,所以你以为下一只也是白的。后来你去了澳大利亚,看到了一只黑天鹅。

在提示词里: 示例靠归纳来教模型。引用来源、统计数据和引语都是证据,而且只有真实存在才算数。

反例

一个就能说明某个一般说法是错的例子。主动去找反例,就是在检验一个想法,而不是只管相信它。

“所有的鸟都会飞。”企鹅就是反例,而且一个就够了。

在提示词里: 反方论点和多方视角,就是请模型去找你的想法在哪种情况下站不住。

格赖斯会话准则

哲学家格赖斯(H. P. Grice)总结了合作式对话默认的规矩,也就是几条准则:说得够用但别太多(量),说真话(质),说相关的(关系),说清楚(方式)。

“我的车没油了。”“拐角那儿有个加油站。”你会默认那个加油站开着门、也卖汽油。这就是合作式对话在起作用。

在提示词里: 好的提示词,会给模型足够的信息,让它的回答对你的目的来说信息充分、真实、相关、清楚。

格赖斯描述的是人与人之间的对话。把他的准则用在聊天机器人身上,是一个有用的视角,并不是说模型是一个会合作的人。

试一试 · 有效不等于真
P1所有哺乳动物都呼吸空气。
P2鲸是哺乳动物。
∴所以,鲸呼吸空气。
有效 可靠
形式漂亮,事实错误,胡说得理直气壮。

两个论证的形式完全一样,都是有效的:只要前提为真,结论就必然为真。但只有第一个是可靠的,因为它的前提确实为真。(逻辑学里,“可靠”指形式有效、前提也都为真。)

提示词也是一样。一个整齐、结构清楚的请求,仍然可能建立在错误的前提上,而回答会老老实实地跟着它走。

第1类,共7类

框架

谁在说、说给谁、用什么口吻谁在说话,对谁说,怎么说?

扮演角色

第01个,共21个

让模型扮演一个角色,从而决定它的用词、深度和视角。

背后的逻辑它固定了说话人的立场。就像在论证中选定一个视角,它会影响哪些前提显得相关、用哪些词。但它不会带来任何知识或资质。

弱给我一些种菜的建议。
强请以一位有经验的社区菜园园丁的身份,给我一些种菜的建议。

不写这一项,模型就得猜 你想要哪种专家的口吻、多详细、从什么角度说。

注意: 角色是一身戏服,不是一纸资格证。扮演医生的模型并不是医生,所以健康、法律或钱的建议,要找真正的专业人士核实。

受众

第02个,共21个
量

谁会读或用这个回答,他们已经知道些什么。

背后的逻辑它设定了回答可以默认的共同背景。什么算信息充分,取决于听的人是谁,所以受众决定了要解释多少。

弱解释一下房贷是怎么回事。
强向一位第一次买房、从没贷过款的人解释一下房贷是怎么回事。

不写这一项,模型就得猜 要不要讲基础知识,读者认识哪些词。

注意: “新手”这种模糊的受众帮助不大。不如说清楚他们已经知道什么,拿到回答后要做什么。

语气

第03个,共21个

回复的情绪色彩:友好、正式、坚定、俏皮或平和。

背后的逻辑语气改变的是怎么说,而不是说了什么。逻辑把内容和表达分开,语气就是对表达的要求。

弱写一条消息,告诉团队野餐取消了。
强写一条温暖、轻快的消息,告诉团队野餐取消了。

不写这一项,模型就得猜 听起来该温暖、中性、正式还是直接。

注意: 语气可能把内容弄模糊。如果你要求“让人安心”,要检查回复有没有把你本该听清楚的事实说软了。

语言

第04个,共21个
方式

用哪种语言回答,用词要多通俗或多专业。

背后的逻辑一句话只有双方理解一致才管用。选好语言和阅读难度,可以避免晦涩,这正是格赖斯的方式准则提醒的。

弱给我的邻居写一份浇花说明。
强用简单的英语给我的外国邻居写一份浇花说明。

不写这一项,模型就得猜 用哪种语言、简体还是繁体、多深的难度。

注意: 翻译可能读起来很流畅,却仍然是错的。重要的东西,比如药品说明或合同,请找精通这门语言的人检查。

第2类,共7类

前提

已知什么,怎么定义回答可以把什么当作已知?

背景

第05个,共21个
关系

你所处情况的基本事实,回答应该以此为基础。

背后的逻辑背景提供前提,也就是被当作已知的说法。结论的好坏,取决于它出发时的前提。

弱推荐一道我今晚能做的晚饭。
强我有米饭、鸡蛋、菠菜,只有二十分钟,而且我爱人吃素。推荐一道我今晚能做的晚饭。

不写这一项,模型就得猜 你的处境。于是它会用一个典型情况来填空,而那未必是你的情况。

注意: 错误的前提会换来自信满满的胡说。如果你给的背景事实错了或过时了,推理再漂亮的回答也很可能是错的。

示例

第06个,共21个

一个或几个样本,展示好答案长什么样。

背后的逻辑示例靠归纳起作用:模型从几个例子里推出一个一般规律。和所有归纳一样,它选中的规律未必是你想的那个。

弱给我新养的灰色小猫起几个名字。
强给我新养的灰色小猫起几个名字。我喜欢的名字有:小石头、芝麻、布丁。

不写这一项,模型就得猜 你脑子里想的风格、长度和规律。

注意: 模型可能照着示例学得很像,连其中的巧合也照搬。如果你的示例全是吃的,就等着收到更多跟吃有关的名字吧。请有意让示例多样一些。

关键词

第07个,共21个
关系

必须出现的词或名字,或者用来锁定话题的词。

背后的逻辑关键词标出了回答必须围绕的主题词。它们像一道相关性测试:一个回答如果完全没碰到它们,就是跑题了。

弱为我的面包店网站写一段简短的介绍。
强为我的面包店网站写一段简短的介绍。要提到天然酵母面包、我们家的祖传配方和周六集市。

不写这一项,模型就得猜 你在意的具体名字、事物或想法是哪些。

注意: 关键词列得太长,就成了词语大杂烩。挑几个真正重要的词,并检查它们用得对,而不是硬塞进去。

术语

第08个,共21个
方式

为请求中可能有多种意思的词下定义。

背后的逻辑给词下定义,可以防止偷换概念,也就是一个词在中途悄悄换了意思。定义让关键词从头到尾指的都是同一样东西。

弱给我一份长跑比赛的训练计划。
强给我一份长跑比赛的训练计划。我说的长跑是指10公里比赛,不是马拉松。

不写这一项,模型就得猜 一个有歧义的词,你心里指的是哪种意思。

注意: 自己的话,自己总觉得一看就懂。“便宜”“尽快”“健康”“短”这些词,正是误解藏身的地方。用数字把它们钉住。

第3类,共7类

边界

论域与约束什么在内,什么在外,长什么样?

范围

第09个,共21个
关系

回答应该涵盖什么,又该略去什么。

背后的逻辑范围设定了论域:这场对话谈论的那一组对象。说法要在这个论域里评判,论域模糊,答案也会模糊。

弱给我讲讲自行车的历史。
强给我讲讲1860年到1900年间自行车的历史,只讲设计上的变化,不讲比赛。

不写这一项,模型就得猜 该讲多宽或多窄,什么算跑题。

注意: 范围太窄,可能把重要的东西挡在外面。可以请模型提醒你边界外不远处有什么要紧的事。

限制

第10个,共21个

回答必须遵守的规则,比如长度、花费或要避开的东西。

背后的逻辑限制是必要条件:违反任何一条,回答就不合格,别的方面再好也没用。但满足所有限制,也不等于回答就够好。

弱推荐一个适合十岁孩子生日聚会的活动。
强推荐一个适合十岁孩子生日聚会的活动,要能在室内玩、不用屏幕,而且只用大多数家里都有的东西。

不写这一项,模型就得猜 你的硬性限制。于是它可能推荐你根本用不上的东西。

注意: 请自己逐条对照检查。模型有时会悄悄违反某条规则,比如字数,却说得好像遵守了一样。

时限

第11个,共21个

你的任务,或你需要的信息,属于哪个时间段。

背后的逻辑这一项主要是实际需要,不太关乎逻辑。聊天模型是你问它才答,不按日程工作。逻辑上的部分是时间标记:很多说法只是截至某个日期才成立。

弱帮我做一份驾照考试的复习计划。
强帮我做一份驾照考试的复习计划,考试就在三周后。

不写这一项,模型就得猜 哪些日期要紧,事实要多新。

注意: 模型有知识截止日期,也可能不知道今天是几号。凡是跟时间有关的,请自己告诉它日期,最新的事实要另找来源核实。

格式

第12个,共21个
方式

回答的形状:清单、表格、步骤、邮件或一小段话。

背后的逻辑格式约束的是形式,不是内容。它回应了格赖斯“要有条理”的建议:同样的信息,换成一眼能扫完的形状,就更容易核对。

弱比较一下步行、骑车和坐公交上班。
强用表格比较一下步行、骑车和坐公交上班,每种方式占一行。

不写这一项,模型就得猜 你要清单、表格、段落还是步骤。

注意: 整齐的表格能让猜测看起来像事实。格式让回答更好读,并不让它更可靠。

第4类,共7类

目的

你想要的结论回答应该达成什么?

目标

第13个,共21个
关系

你希望回答达成什么:整个请求的意义所在。

背后的逻辑目标就是你推理要走向的结论。没有它,相关性就没有锚点,因为格赖斯把相关性和对话的目的联系在一起。

弱给我讲讲电动汽车。
强给我讲讲电动汽车,好让我决定下一辆车要不要买电动的。

不写这一项,模型就得猜 你为什么问。于是它分不清什么才有用。

注意: 说出目标可能让回答偏向它。请说“帮我做决定”,而不是“说服我”,除非你真的只想听一面之词。

行动号召

第14个,共21个

回答结尾要落到的下一步,给你自己,或给读到它的人。

背后的逻辑论证可以以一个实践性的结论收尾:决定该做什么。行动号召把推理变成一个清楚的下一步。

弱写一张关于我们街道大扫除的传单。
强写一张关于我们街道大扫除的传单,结尾请大家到社区服务中心前台报名。

不写这一项,模型就得猜 要不要以下一步收尾,下一步是什么。

注意: 太强硬的行动号召会适得其反。只要一个清楚、诚实的下一步,不要施压,也不要编造“仅剩两个名额”这类紧迫感。

第5类,共7类

证据

支持说法的依据每个说法靠什么撑腰?

引用来源

第15个,共21个
质

回答应该指明的出处,方便你核对每个说法从哪里来。

背后的逻辑引用来源把一个说法和它的证据连起来。它服务于格赖斯的质的准则:缺乏充分证据的话不要说。

弱解释一下在昏暗的光线下看书会不会伤眼睛。
强只根据下面贴出的这篇健康文章,解释一下在昏暗的光线下看书会不会伤眼睛,并说明每个观点出自哪一段。

不写这一项,模型就得猜 你需不需要来源,信任哪类来源。

注意: 模型可能编造看起来很真的引用:像模像样的标题、作者和链接,其实根本不存在。能给自己的来源就自己给,每条引用都要亲自打开看过再相信。

统计数据

第16个,共21个
质

支持说法的数字,比如数量、平均值或比率。

背后的逻辑用数字支持一个一般性说法,是归纳的一种。数字只有真实、够新、而且针对的是对的人群,才能支持说法。

弱写一段话,说明我们镇为什么需要一条新的人行横道。
强用下面贴出的交通调查数据,写一段话,说明我们镇为什么需要一条新的人行横道。

不写这一项,模型就得猜 你要不要数字,要多精确。

注意: 模型可能给出看似精确、却没有真实来源的数字。尽量提供你自己的数据,每个数字在转述之前都要追到源头。

引语

第17个,共21个
质

真实的人或文本的原话,一字不差地复述。

背后的逻辑引语是一种证言:证明某人说过某话的证据。只有准确、不脱离语境才算数。错误的引语就是一个假前提。

弱为奶奶的九十大寿写一篇简短的致辞。
强为奶奶的九十大寿写一篇简短的致辞,引用她最爱说的一句话,原话我一字不差地写在下面了。

不写这一项,模型就得猜 你要不要引语,引谁的,要多准确。

注意: 模型可能编造引语,或者把真实的话安到错的人头上。请自己贴上原话,或者对照可靠的原文核实每一句引语。

第6类,共7类

检验

反例与其他立场这番推理可能在哪里出错?

多方视角

第18个,共21个

回答应该考虑的其他人的看法,而不只是你自己的。

背后的逻辑从几个立场去看,可以检验一个结论是否对所有相关的人都成立。从一边看显而易见的前提,从另一边看可能是错的,或者根本不相干。

弱我们家该养狗吗?
强我们家该养狗吗?请分别从孩子、负责遛狗的爸妈和隔壁上了年纪的邻居的角度想一想。

不写这一项,模型就得猜 谁的利益和看法算数。于是它可能只讲一面。

注意: 列出各方观点,不等于掂量了它们。把两方摆得一样重,可能掩盖了其中一方证据强得多。

反方论点

第19个,共21个

对一个想法最有力的反对意见,让你在依赖它之前先检验它。

背后的逻辑这是波普尔的证伪思想:要设法驳倒一个想法,而不只是证实它。一个反例就能推翻一个一般性说法,反对意见就是去找薄弱之处。

弱这是我在网上卖手工蜡烛的创业计划。
强这是我在网上卖手工蜡烛的创业计划。请告诉我它可能失败的三个最有力的理由。

不写这一项,模型就得猜 你想要诚实的反驳,还是简单的附和。

注意: 模型往往会附和提问的人。如果你从不要求反对意见,没听到反对就不能证明你的想法好。

类比

第20个,共21个
方式

拿熟悉的东西作比较,帮助解释新的东西。

背后的逻辑类比把已知情况的结构映射到新情况上。它能解释,也能启发,但永远证明不了什么。检验它的办法,是找出它在哪里不成立。

弱解释一下电脑的内存是怎么工作的。
强用在厨房做饭来打比方,解释一下电脑的内存是怎么工作的。

不写这一项,模型就得猜 你对哪些熟悉的东西足够了解,可以拿来比较。

注意: 每个类比都会在某处失灵。请模型说明它的比较在哪里不再适用,免得你把不对的那部分也搬了过去。

第7类,共7类

对话

用合作补上缺口还缺什么,由谁来补?

提问

第21个,共21个
量

邀请模型在回答前先问你它需要知道的事。

背后的逻辑提问把一次性的猜测变成对话。缺失的前提由你补上,而不是被假设出来,这样回答就能达到你需要的信息量。

弱帮我写一封求职信。
强帮我写一封求职信。开始之前,先问我最多五个关于这个职位和我经历的问题。

不写这一项,模型就得猜 你忘了说的一切,它都会悄悄用常见的默认值填上。

注意: 模型的问题有多有用,取决于你的回答。请诚实、具体地回答;如果你随口一猜,它就会在你的猜测上继续搭建。

第三部分 · 实验室

写一条提示词,看猜测变少

1 · 选一个任务
2 · 打开或关闭要素
3 · 你的提示词
21
个要素没说
每一个都要模型自己去填

要素不是越多越好:“全部”会让提示词很长。真正的本事,是看出这个任务里哪些猜测要紧,把它们补上。

第四部分 · 游戏

找出缺的那块

下面每个请求都得到了一个让人失望的回答。在提示词里加上哪一个要素,帮助最大?

选一个答案。
第五部分 · 诚实的局限

结构不等于真相

结构不等于真相

精心搭建的提示词,能让有用的回答更有可能出现,但不能让回答变成真的。一个从假前提出发的有效论证,可以得出假的结论,而它的形式不会给你任何警告。模型也能从一个错误的猜测出发,推理得顺顺当当。

来源可能是编的

当你要引用来源、引语或统计数据时,模型有时会给出看起来很真、其实并不存在的东西。能用自己的来源和数据就用自己的,每条参考文献、每句引语、每个数字,在依赖或转发之前都要核实。

知识有截止日期

模型学习的文本只到某个日期为止。之后发生的事它可能不知道,甚至不知道今天是几号。时间重要时,请写明“截至某日”,最新的事实请用当前的来源核实。

角色不是资质

让模型扮演医生、律师或会计师,改变的是它的用词和角度。它不会因此获得专业训练、执照、责任,也不会了解你的全部情况。

责任仍在你

回答是一份草稿,由你来判断,而不是替你做的决定。涉及健康、法律、钱或安全的问题,行动之前请先咨询有资质的专业人士。

第六部分 · 留着备用

检查清单

按发送之前,把各个类别过一遍。勾选只保存在这个浏览器里。

这些想法从哪里来

参考来源

  • forall x: An Introduction to Formal Logic · P. D. Magnus. 免费开放教材(英文)。讲论证、前提与结论、有效与可靠的区别、量词和论域。
  • forall x: Calgary. A Free and Open Introduction to Formal Logic · Aaron Thomas-Bolduc and Richard Zach, building on Tim Button and P. D. Magnus. 开放逻辑项目(Open Logic Project)修订的 forall x 开放版本(英文)。主题相同,定期更新。
  • Logic and Conversation · H. P. Grice, 1975. 收录于 P. Cole 与 J. L. Morgan 编,Syntax and Semantics, Vol. 3: Speech Acts,Academic Press,第41至58页。合作原则以及量的准则、质的准则、关系准则、方式准则的出处,也是汽油与加油站例子的来源。
  • Paul Grice · Richard E. Grandy and Richard Warner. 斯坦福哲学百科(英文)。概述格赖斯的工作,包括会话含义。
  • Implicature · Wayne Davis. 斯坦福哲学百科(英文)。合作原则、各条准则,以及听话人如何补上话里没说的部分。
  • Logical Consequence · J. C. Beall, Greg Restall and Gil Sagi. 斯坦福哲学百科(英文)。结论从前提推出意味着什么;有效性的背景知识。
  • Definitions · Anil Gupta and Stephen Mackereth. 斯坦福哲学百科(英文)。定义的种类和用途。
  • Ambiguity · Adam Sennet. 斯坦福哲学百科(英文)。词汇歧义和结构歧义,以及它们为什么影响沟通。
  • Fallacies · Hans Hansen. 斯坦福哲学百科(英文)。把偷换概念列为经典的歧义类谬误之一。
  • Necessary and Sufficient Conditions · Andrew Brennan. 斯坦福哲学百科(英文)。“限制”一项所用的区分。
  • The Problem of Induction · Leah Henderson. 斯坦福哲学百科(英文)。为什么从例子归纳出的结论永远不确定;“示例”和“统计数据”两项的依据。
  • Karl Popper · Stephen Thornton. 斯坦福哲学百科(英文)。证伪:一个反例就能驳倒一个一般性说法。“反方论点”一项的依据。
  • The Logic of Scientific Discovery · Karl Popper, 1959. 英文版由 Hutchinson 出版;德文原版 Logik der Forschung,1934年。中文通译《科学发现的逻辑》。证伪思想和白天鹅例子的原始出处。
  • Analogy and Analogical Reasoning · Paul Bartha. 斯坦福哲学百科(英文)。类比能启发、能解释,但不能证明;怎样判断类比在哪里失效。
  • Epistemological Problems of Testimony · Nick Leonard. 斯坦福哲学百科(英文)。证言作为证据的来源;把引语看作证言的依据。
  • Fabrication and errors in the bibliographic citations generated by ChatGPT · William H. Walters and Esther Isabelle Wilder, 2023. Scientific Reports 第13卷。记录了一个聊天机器人编造参考文献的情况,支持“模型会编造引用来源”这一一般性说法。
  • Towards Understanding Sycophancy in Language Models · Mrinank Sharma, Meg Tong, Tomasz Korbak, David Duvenaud and others, 2023. 关于模型倾向于附和用户的研究论文。支持“反方论点”一项的提醒。
  • Survey of Hallucination in Natural Language Generation · Ziwei Ji, Nayeon Lee, Rita Frieske and others, 2023. ACM Computing Surveys 第55卷第12期。综述语言模型如何生成流畅却缺乏依据的内容,支持关于编造引语、编造数字和不遵守指令的一般性说法。
  • Prompting best practices · Anthropic. 一家AI实验室公开的提示词写作指南(英文):清楚的指令、角色,以及多样化的示例,以免模型学到意料之外的规律。支持“示例”一项的提醒。
  • Prompt engineering · OpenAI. 一家AI实验室公开的提示词写作指南(英文)。仅作背景阅读。