← Follow or Bounce
Повседневная логика для разговора с ИИ

Логика промпта и жизни

Хороший промпт — это небольшое рассуждение плюс просьба. Как и любая ясная просьба в жизни. Назовите посылки, термины, рамки и цель — и угадывать придётся меньше. Ошибка всё равно возможна, так что проверяйте.

Страница переведена с английского с помощью ИИ и ещё не проверена носителем языка.

Одна просьба, семь видов логики Объясни, почему Луна как будто меняет форму. Представь, что ты терпеливый учитель начальных классов, который ведёт «Окружающий мир». Дочь спросила об этом перед сном, когда мы увидели из её окна тонкий серп Луны. Объясни только, почему меняется форма, без затмений и приливов. Цель — чтобы моя дочь смогла пересказать мне это своими словами. Если приводишь факт, который я захочу проверить, подскажи, в каких источниках взрослый может это сделать. Коротко покажи всё издалека, из космоса, откуда видны Земля и Луна и видно, что Солнце всегда освещает ровно половину Луны. Прежде чем отвечать, задай мне один-два вопроса, если тебе что-то неясно про мою дочь.
Часть первая · логика за пять минут

Логика ведёт читателя

Чат-бот никогда вас не видел. Всё, что он знает о вашей просьбе, — это то, что вы написали. Вот идеи, с помощью которых логики делают ход мысли понятным, и у каждой из них есть своя работа в промпте.

Посылка

Утверждение, которое вы принимаете как данность и из которого рассуждаете. Если посылка ложна, всё, что на ней построено, тоже может оказаться ложным.

«По понедельникам музей закрыт» — это посылка. Ваш план на понедельник исходит из неё.

В промпте: Ваш контекст, примеры и определения — это посылки. Модель рассуждает из того, что вы ей дали, или из того, что додумала сама.

Умозаключение и заключение

Умозаключение — это шаг от посылок к новому утверждению. Заключение — то место, куда этот шаг приводит: то, что вы хотели показать или решить.

По понедельникам музей закрыт. Сегодня понедельник. Значит, сегодня музей закрыт.

В промпте: Цель в вашем промпте называет заключение, которое вам нужно. Ответ — это шаг модели от ваших посылок к этой цели.

Область рассуждения

Множество того, о чём говорит утверждение. Логики называют его ещё универсумом рассуждения. Слова «все» и «каждый» имеют смысл только внутри выбранной области.

«Все сдали контрольную» — это про один класс, а не про всех людей на Земле.

В промпте: Рамки задают область рассуждения. Без них модель выберет её сама — часто шире или уже, чем вы имели в виду.

Определение и двусмысленность

Определение закрепляет, что значит слово. Слово двусмысленно, если его можно понять по-разному. Когда смысл слова незаметно меняется посреди рассуждения, это называют эквивокацией.

«Лёгкий ужин» — это малокалорийный или просто небольшой? Стоит уточнить, и сомнение исчезнет.

В промпте: Терминология определяет ваши ключевые слова, чтобы «дёшево», «коротко» или «просто» значили то, что имеете в виду именно вы.

Необходимое и достаточное условие

Необходимое условие должно выполняться, но его может не хватить. Достаточного условия хватает самого по себе.

Билет необходим, чтобы поехать на электричке, но недостаточен: электричка ещё должна ходить.

В промпте: Ограничения, формат и сроки — необходимые условия. Даже если выполнены все, хороший ответ не гарантирован.

Свидетельства и индукция

Свидетельство — то, что подкрепляет утверждение. Индукция выводит общее правило из частных случаев. Она бывает убедительной, но полной уверенности не даёт никогда.

Все лебеди, которых вы видели, были белыми, и вы ждёте, что следующий тоже будет белым. А потом едете в Австралию и встречаете чёрного лебедя.

В промпте: Примеры учат по индукции. Источники, статистика и цитаты — это свидетельства, и они чего-то стоят, только если настоящие.

Контрпример

Один-единственный случай, который показывает, что общее утверждение ложно. Искать его — значит проверять идею, а не просто верить в неё.

«Все птицы умеют летать». Пингвины — контрпример, и одного хватает.

В промпте: Контраргументы и другие точки зрения просят модель найти случай, где ваша идея не работает.

Максимы Грайса

Философ Пол Грайс описал, на чём держится разговор, где собеседники сотрудничают: говорить достаточно, но не лишнего (максима количества), говорить правду (качества), говорить по делу (отношения, или релевантности) и говорить ясно (способа).

«У меня кончился бензин». — «За углом есть заправка». Вы предполагаете, что она работает и там продают топливо. Так и выглядит принцип кооперации в действии.

В промпте: Хороший промпт даёт модели всё нужное, чтобы ответ был информативным, правдивым, уместным и ясным для вашей цели.

Грайс описывал разговор между людьми. Применять его максимы к чат-боту — полезный взгляд, а не утверждение, что модель — собеседник, который сознательно с вами сотрудничает.

Попробуйте · правильное — не значит истинное
P1Все млекопитающие дышат воздухом.
P2Киты — млекопитающие.
∴Значит, киты дышат воздухом.
Правильное Обоснованное
Форма хорошая, факты плохие — выходит уверенная чепуха.

У обоих рассуждений одна и та же правильная форма: если бы посылки были истинны, заключение было бы неизбежно. Правильное — значит, заключение следует из посылок. Обоснованное — значит, вдобавок и посылки истинны. Обоснованное здесь только первое.

С промптами так же. Аккуратный, хорошо выстроенный запрос может стоять на неверной посылке — и ответ послушно пойдёт за ней.

Семейство 1 из 7

Голос

Говорящий, слушатель и манера речиКто говорит, с кем и как?

Роль

01 из 21

Роль, которую берёт на себя модель. Она задаёт словарь, глубину и угол зрения.

ЛогикаЗакрепляет позицию говорящего. Как выбор точки зрения в споре, роль влияет на то, какие посылки кажутся уместными и какие слова идут в ход. Знаний и квалификации она не добавляет.

Слабый вариантДай советы для моего огорода на даче.
Сильный вариантПредставь, что ты опытный огородник с двадцатилетним стажем. Дай советы для моего огорода на даче.

Не укажете — модель будет угадывать Чей экспертный голос, какая подробность и какой ракурс вам нужны.

Осторожно: Роль — это костюм, а не диплом. Модель в роли врача не становится врачом, так что советы о здоровье, праве и деньгах проверяйте у настоящего специалиста.

Аудитория

02 из 21
Максима количества

Кто будет читать ответ или пользоваться им и что эти люди уже знают.

ЛогикаЗадаёт общий фон, на который ответ может опираться. Сколько информации достаточно, зависит от слушателя, поэтому аудитория определяет, сколько объяснять.

Слабый вариантОбъясни, как работает ипотека.
Сильный вариантОбъясни, как работает ипотека, человеку, который покупает первую квартиру и ни разу не брал кредитов.

Не укажете — модель будет угадывать Объяснять ли азы или пропустить их и какие слова знакомы читателю.

Осторожно: Размытая аудитория вроде «для новичков» помогает меньше, чем рассказ о том, что люди уже знают и что им нужно сделать с ответом.

Тон

03 из 21

Эмоциональная окраска ответа: дружелюбная, официальная, твёрдая, игривая или спокойная.

ЛогикаТон меняет то, как сказано, а не то, что утверждается. Логика отделяет содержание от выражения, и тон — это просьба о выражении.

Слабый вариантНапиши сообщение команде, что выезд на шашлыки отменяется.
Сильный вариантНапиши тёплое, бодрое сообщение команде, что выезд на шашлыки отменяется.

Не укажете — модель будет угадывать Звучать ли тепло, нейтрально, официально или прямо.

Осторожно: Тон может размыть суть. Если просите «успокаивающе», проверьте, не смягчён ли факт, который вам нужно было услышать прямо.

Язык

04 из 21
Максима способа

На каком языке отвечать и насколько простыми или специальными должны быть слова.

ЛогикаУтверждение работает, только если обе стороны понимают его одинаково. Выбор языка и уровня сложности защищает от неясности — именно от неё предостерегает максима способа Грайса.

Слабый вариантНапиши инструкцию для соседа, как поливать мои цветы.
Сильный вариантНапиши на простом английском инструкцию для соседа, как поливать мои цветы.

Не укажете — модель будет угадывать Какой язык, какое написание и какой уровень сложности выбрать.

Осторожно: Перевод может звучать гладко и всё равно быть неверным. Если речь о важном — инструкции к лекарству или договоре, — попросите проверить человека, который свободно владеет языком.

Семейство 2 из 7

Посылки

Что дано и что определеноЧто ответ может принять как данность?

Контекст

05 из 21
Максима релевантности

Факты о вашей ситуации, на которые должен опираться ответ.

ЛогикаКонтекст поставляет посылки — утверждения, принятые как данность. Заключение не лучше посылок, из которых оно выведено.

Слабый вариантПредложи, что приготовить на ужин сегодня.
Сильный вариантУ меня есть гречка, яйца, шпинат и двадцать минут, а муж не ест мясо. Предложи, что приготовить на ужин сегодня.

Не укажете — модель будет угадывать Вашу ситуацию — и заполнит пробел типичным случаем, который может оказаться не вашим.

Осторожно: Ложные посылки дают уверенную чепуху. Если ваши исходные факты неверны или устарели, хорошо выстроенный ответ, скорее всего, тоже окажется неверным.

Примеры

06 из 21

Один или несколько образцов того, как выглядит хороший ответ.

ЛогикаПримеры работают по индукции: по нескольким случаям модель выводит общее правило. Как при любой индукции, правило может оказаться не тем, что вы имели в виду.

Слабый вариантПредложи имена для моего нового серого котёнка.
Сильный вариантПредложи имена для моего нового серого котёнка. Мне нравятся такие: Пушок, Дымок, Пряник.

Не укажете — модель будет угадывать Стиль, длину и образец, которые у вас в голове.

Осторожно: Модели могут копировать примеры слишком точно, вместе со случайными чертами. Если все ваши примеры — про еду, ждите ещё больше еды. Разнообразьте их нарочно.

Ключевые слова

07 из 21
Максима релевантности

Слова или названия, которые должны прозвучать или которые чётко задают тему.

ЛогикаКлючевые слова отмечают предмет, о котором должен быть ответ. Это проверка на уместность: ответ, который их ни разу не касается, ушёл от вопроса.

Слабый вариантНапиши короткий текст «О нас» для сайта моей пекарни.
Сильный вариантНапиши короткий текст «О нас» для сайта моей пекарни. Упомяни хлеб на закваске, наши семейные рецепты и субботнюю ярмарку.

Не укажете — модель будет угадывать Какие конкретные названия, вещи или идеи вам важны.

Осторожно: Длинный список ключевых слов превращается в словесную кашу. Выберите несколько по-настоящему важных и проверьте, что они использованы к месту, а не просто вставлены.

Терминология

08 из 21
Максима способа

Определения тех слов в вашей просьбе, которые можно понять по-разному.

ЛогикаОпределение терминов закрывает дорогу эквивокации — ошибке, когда слово по ходу рассуждения меняет смысл. Определение закрепляет, к чему относится ключевое слово, от начала до конца.

Слабый вариантСоставь план тренировок к забегу на длинную дистанцию.
Сильный вариантСоставь план тренировок к забегу на длинную дистанцию. Под длинной дистанцией я имею в виду 10 км, а не марафон.

Не укажете — модель будет угадывать Какое из значений двусмысленного слова вы имеете в виду.

Осторожно: Собственные слова кажутся вам очевидными. Но именно в словах вроде «дёшево», «скоро», «полезно» и «коротко» прячутся недоразумения. Закрепите их числами.

Семейство 3 из 7

Границы

Область рассуждения и ограниченияЧто входит, что нет и в какой форме?

Рамки

09 из 21
Максима релевантности

Что должен охватить ответ и что в него не входит.

ЛогикаРамки задают область рассуждения — множество того, о чём идёт разговор. Утверждения оцениваются внутри этой области, поэтому размытая область даёт размытые ответы.

Слабый вариантРасскажи об истории велосипеда.
Сильный вариантРасскажи об истории велосипеда с 1860 по 1900 год — только об изменениях конструкции, без гонок.

Не укажете — модель будет угадывать Насколько широко или узко брать тему и что считать не по теме.

Осторожно: Слишком узкие рамки могут скрыть главное. Попросите модель отметить всё важное, что лежит сразу за вашей границей.

Ограничения

10 из 21

Правила, которым должен подчиняться ответ: длина, стоимость или то, чего нужно избегать.

ЛогикаОграничения — необходимые условия: ответ, который нарушил хотя бы одно, не годится, как бы хорош он ни был. Но и соблюдение всех ограничений ещё не делает ответ хорошим.

Слабый вариантПредложи, чем занять гостей на дне рождения сына — им по десять лет.
Сильный вариантПредложи, чем занять гостей на дне рождения сына — им по десять лет. Нужно что-то для квартиры, без экранов и только из того, что есть почти в каждом доме.

Не укажете — модель будет угадывать Ваши жёсткие пределы — и может предложить то, чем вы воспользоваться не сможете.

Осторожно: Сверяйте ответ с каждым ограничением сами. Модели иногда тихо нарушают правило, например лимит слов, и при этом звучат так, будто его соблюли.

Сроки

11 из 21

Отрезок времени, к которому относится ваша задача или нужная вам информация.

ЛогикаЭто скорее практика, чем логика. Чат-модель отвечает, когда её спросили, а не по расписанию. Логическая часть — привязка ко времени: многие утверждения истинны только на определённую дату.

Слабый вариантСоставь план подготовки к экзамену на права.
Сильный вариантСоставь план подготовки к экзамену на права — он через три недели, считая с сегодняшнего дня.

Не укажете — модель будет угадывать Какие даты важны и насколько свежими должны быть факты.

Осторожно: У моделей есть дата отсечки знаний, и они могут не знать, какое сегодня число. Если важно время, назовите дату сами, а свежие факты проверьте в другом месте.

Формат

12 из 21
Максима способа

Форма ответа: список, таблица, шаги, письмо или короткий абзац.

ЛогикаФормат ограничивает форму, а не содержание. Это ответ на совет Грайса говорить упорядоченно: ту же информацию проще проверить, если её можно окинуть взглядом.

Слабый вариантСравни, как добираться до работы: пешком, на велосипеде или на автобусе.
Сильный вариантСравни, как добираться до работы: пешком, на велосипеде или на автобусе. Сделай таблицу — по строке на каждый вариант.

Не укажете — модель будет угадывать Нужен вам список, таблица, абзац или пошаговая инструкция.

Осторожно: Аккуратная таблица может выдать догадки за факты. Формат делает ответ удобнее для чтения, но не надёжнее.

Семейство 4 из 7

Итог

Заключение, к которому вы идётеЧего должен добиться ответ?

Цель

13 из 21
Максима релевантности

Чего вы хотите добиться ответом — смысл всей просьбы.

ЛогикаЦель — это заключение, к которому вы ведёте рассуждение. Без неё уместности не на что опереться: Грайс связывал релевантность с назначением разговора.

Слабый вариантРасскажи об электромобилях.
Сильный вариантРасскажи об электромобилях, чтобы мне было проще решить, брать ли такую машину следующей.

Не укажете — модель будет угадывать Зачем вы спрашиваете, — и не поймёт, что для вас полезно.

Осторожно: Названная цель может перекосить ответ в её сторону. Просите «помоги решить», а не «убеди меня», если только вам действительно не нужна одна сторона.

Призыв к действию

14 из 21

Следующий шаг, которым должен закончиться ответ, — для вас или для тех, кто его прочитает.

ЛогикаРассуждение может закончиться практическим заключением — решением, что делать. Призыв к действию превращает рассуждение в один ясный следующий шаг.

Слабый вариантНапиши объявление о субботнике на нашей улице.
Сильный вариантНапиши объявление о субботнике на нашей улице, а в конце попроси читателей записаться в районной библиотеке.

Не укажете — модель будет угадывать Заканчивать ли следующим шагом и каким именно.

Осторожно: Навязчивые призывы дают обратный эффект. Просите один ясный и честный следующий шаг — без давления и выдуманной спешки вроде «осталось всего два места».

Семейство 5 из 7

Опора

Чем подкреплены утвержденияНа чём держится каждое утверждение?

Источники

15 из 21
Максима качества

Источники, на которые должен ссылаться ответ, чтобы вы могли проверить, откуда взялось каждое утверждение.

ЛогикаСсылка связывает утверждение с его свидетельством. Это служит максиме качества Грайса: не говорить того, для чего нет достаточных оснований.

Слабый вариантОбъясни, вредно ли для глаз читать при тусклом свете.
Сильный вариантОпираясь только на статью о здоровье, которую я вставлю ниже, объясни, вредно ли для глаз читать при тусклом свете, и укажи, какой абзац подтверждает каждый пункт.

Не укажете — модель будет угадывать Нужны ли вам источники и каким вы доверяете.

Осторожно: Модели могут выдумывать ссылки, которые выглядят настоящими: правдоподобные названия, авторы и адреса, которых не существует. Давайте свои источники, когда можете, и открывайте каждую ссылку, прежде чем ей верить.

Статистика

16 из 21
Максима качества

Числа, которые подкрепляют утверждение: количества, средние значения или доли.

ЛогикаПодкреплять общее утверждение числом — разновидность индукции. Число что-то подтверждает, только если оно настоящее, свежее и относится к нужной группе.

Слабый вариантНапиши абзац о том, зачем нашему городу новый пешеходный переход.
Сильный вариантНапиши абзац о том, зачем нашему городу новый пешеходный переход, опираясь на данные подсчёта машин и пешеходов — вставлю их ниже.

Не укажете — модель будет угадывать Нужны ли вам числа и насколько точные.

Осторожно: Модели могут выдавать точные на вид числа без всякого настоящего источника. По возможности давайте свои данные и прослеживайте каждое число до первоисточника, прежде чем его повторять.

Цитаты

17 из 21
Максима качества

Точные слова реального человека или текста, повторённые слово в слово.

ЛогикаЦитата — это свидетельское показание: довод в пользу того, что кто-то что-то сказал. Она чего-то стоит, только если точна и не вырвана из контекста. Искажённая цитата — ложная посылка.

Слабый вариантНапиши короткий тост на 90-летие бабушки.
Сильный вариантНапиши короткий тост на 90-летие бабушки. Процитируй её любимую поговорку — я выпишу её дословно ниже.

Не укажете — модель будет угадывать Нужны ли цитаты, чьи и насколько дословные.

Осторожно: Модели могут выдумывать цитаты или приписывать настоящие не тем людям. Вставляйте точные слова сами или сверяйте любую цитату с надёжным оригиналом.

Семейство 6 из 7

Проверка

Контрпримеры и другие позицииГде это рассуждение может дать сбой?

Точки зрения

18 из 21

Взгляды других людей, которые ответ должен учесть, а не только ваш.

ЛогикаВзгляд с нескольких позиций проверяет, верно ли заключение для всех, кого оно касается. Посылка, очевидная с одной стороны, с другой может оказаться ложной или неважной.

Слабый вариантСтоит ли нашей семье заводить собаку?
Сильный вариантСтоит ли нашей семье заводить собаку? Посмотри на это глазами детей, родителей, которым придётся её выгуливать, и нашей пожилой соседки.

Не укажете — модель будет угадывать Чьи интересы и взгляды учитывать, — и может показать только одну сторону.

Осторожно: Перечислить взгляды — не то же самое, что их взвесить. Две стороны, показанные как равные, могут скрыть, что у одной свидетельства намного сильнее.

Контраргументы

19 из 21

Самые сильные возражения против идеи, чтобы проверить её, прежде чем на неё полагаться.

ЛогикаИдея фальсификации Поппера: пытаться опровергнуть идею, а не только подтвердить. Один контрпример может обрушить общее утверждение, а возражения ищут слабые места.

Слабый вариантВот мой план — начать продавать свечи ручной работы на маркетплейсе.
Сильный вариантВот мой план — начать продавать свечи ручной работы на маркетплейсе. Назови три самые серьёзные причины, по которым он может провалиться.

Не укажете — модель будет угадывать Нужен вам честный отпор или простое согласие.

Осторожно: Модели склонны соглашаться с тем, кто спрашивает. Если вы ни разу не попросили возражений, их отсутствие ничего не говорит о том, хороша ли идея.

Аналогии

20 из 21
Максима способа

Сравнение со знакомым, которое помогает объяснить новое.

ЛогикаАналогия переносит устройство известного случая на новый. Она объясняет и может подсказать, но никогда не доказывает. Проверяйте её, ища, где она ломается.

Слабый вариантОбъясни, как работает память компьютера.
Сильный вариантОбъясни, как работает память компьютера, через аналогию с готовкой на кухне.

Не укажете — модель будет угадывать Какие знакомые вещи вы знаете достаточно хорошо, чтобы с ними сравнивать.

Осторожно: Любая аналогия где-то ломается. Попросите модель сказать, где её сравнение перестаёт работать, чтобы не перенести лишнего.

Семейство 7 из 7

Диалог

Сотрудничество, которое закрывает пробелыЧего ещё не хватает и кто это восполнит?

Вопросы

21 из 21
Максима количества

Приглашение модели спросить у вас то, что ей нужно, прежде чем отвечать.

ЛогикаВопросы превращают разовую догадку в диалог. Недостающие посылки вы сообщаете, а не модель придумывает, поэтому ответ может быть настолько информативным, насколько вам нужно.

Слабый вариантПомоги написать сопроводительное письмо к резюме.
Сильный вариантПомоги написать сопроводительное письмо к резюме. Прежде чем начать, задай мне до пяти вопросов о вакансии и моём опыте.

Не укажете — модель будет угадывать Всё, что вы забыли сказать, — и молча заполнит это типичными вариантами.

Осторожно: Вопросы модели полезны ровно настолько, насколько полезны ваши ответы. Отвечайте честно и конкретно: если вы гадаете, модель будет строить на вашей догадке.

Часть третья · лаборатория

Соберите промпт — догадок станет меньше

1 · Выберите задачу
2 · Включайте и выключайте части
3 · Ваш промпт
21
из 21 не названо
каждый пропуск модель заполнит сама

Больше частей — не всегда лучше: «всё сразу» даёт длинный промпт. Мастерство в том, чтобы заметить, какие догадки важны именно для этой задачи, и закрыть их.

Часть четвёртая · игра

Чего не хватает?

Каждая просьба ниже получила разочаровывающий ответ. Какая одна часть, добавленная в промпт, помогла бы больше всего?

Выберите ответ.
Часть пятая · честные пределы

Структура — не истина

Структура — не истина

Хорошо построенный промпт повышает шансы на полезный ответ. Но не делает ответ истинным. Правильное рассуждение из ложных посылок может прийти к ложному заключению, и в его форме не будет ничего, что вас насторожит. А модель может гладко рассуждать из неверной догадки.

Источники бывают выдуманными

Когда модель просят дать ссылки, цитаты или статистику, она иногда выдаёт такие, что выглядят настоящими, но не существуют. По возможности давайте свои источники и данные и проверяйте каждую ссылку, цитату и число, прежде чем на них полагаться или ими делиться.

Знания ограничены датой

Модель училась на текстах до определённой даты — это называют датой отсечки знаний. Она может не знать, что случилось потом, и даже какое сегодня число. Когда важно время, пишите «по состоянию на…» и проверяйте свежие факты по актуальному источнику.

Роль — не диплом

Если попросить модель выступить врачом, юристом или бухгалтером, изменятся её словарь и угол зрения. Но у неё не появятся ни образование, ни лицензия, ни ответственность, ни знание всей вашей ситуации.

Ответственность — ваша

Ответ — это черновик, который оцениваете вы, а не решение, принятое за вас. В вопросах здоровья, права, денег и безопасности посоветуйтесь со специалистом, прежде чем действовать.

Часть шестая · на память

Чек-лист

Прежде чем нажать «Отправить», пройдитесь по семействам. Отметки хранятся только в этом браузере.

Откуда эти идеи

Источники

  • forall x: An Introduction to Formal Logic · P. D. Magnus. Бесплатный открытый учебник на английском. Рассуждения, посылки и заключения, правильность и обоснованность, кванторы и область рассуждения.
  • forall x: Calgary. A Free and Open Introduction to Formal Logic · Aaron Thomas-Bolduc and Richard Zach, building on Tim Button and P. D. Magnus. Переработанное открытое издание forall x от Open Logic Project. Те же темы, регулярно обновляется.
  • Logic and Conversation · H. P. Grice, 1975. В сборнике P. Cole и J. L. Morgan (ред.), Syntax and Semantics, Vol. 3: Speech Acts, Academic Press, с. 41–58. Отсюда принцип кооперации, максимы количества, качества, отношения и способа, а также пример с бензином и гаражом (у нас — заправкой).
  • Paul Grice · Richard E. Grandy and Richard Warner. Стэнфордская философская энциклопедия. Обзор работ Грайса, включая разговорную импликатуру.
  • Implicature · Wayne Davis. Стэнфордская философская энциклопедия. Принцип кооперации, максимы и то, как слушатели восполняют недосказанное.
  • Logical Consequence · J. C. Beall, Greg Restall and Gil Sagi. Стэнфордская философская энциклопедия. Что значит, что заключение следует из посылок; основа понятия правильности.
  • Definitions · Anil Gupta and Stephen Mackereth. Стэнфордская философская энциклопедия. Виды и назначение определений.
  • Ambiguity · Adam Sennet. Стэнфордская философская энциклопедия. Лексическая и структурная двусмысленность и почему она важна для общения.
  • Fallacies · Hans Hansen. Стэнфордская философская энциклопедия. Среди классических ошибок двусмысленности — эквивокация.
  • Necessary and Sufficient Conditions · Andrew Brennan. Стэнфордская философская энциклопедия. Различие, на котором построена часть «Ограничения».
  • The Problem of Induction · Leah Henderson. Стэнфордская философская энциклопедия. Почему обобщение по примерам никогда не бывает достоверным; основа частей «Примеры» и «Статистика».
  • Karl Popper · Stephen Thornton. Стэнфордская философская энциклопедия. Фальсификация: один контрпример может опровергнуть общее утверждение. Основа части «Контраргументы».
  • The Logic of Scientific Discovery · Karl Popper, 1959. Английское издание, Hutchinson; немецкий оригинал — Logik der Forschung, 1934. По-русски известна как «Логика научного исследования». Первоисточник идеи фальсификации и примера с белыми лебедями.
  • Analogy and Analogical Reasoning · Paul Bartha. Стэнфордская философская энциклопедия. Аналогии подсказывают и объясняют, но не доказывают; как понять, где они ломаются.
  • Epistemological Problems of Testimony · Nick Leonard. Стэнфордская философская энциклопедия. Свидетельство как источник знания; основа взгляда на цитаты как на свидетельские показания.
  • Fabrication and errors in the bibliographic citations generated by ChatGPT · William H. Walters and Esther Isabelle Wilder, 2023. Scientific Reports, т. 13. Документирует выдуманные чат-ботом библиографические ссылки. Подкрепляет общее утверждение, что модели могут выдумывать источники.
  • Towards Understanding Sycophancy in Language Models · Mrinank Sharma, Meg Tong, Tomasz Korbak, David Duvenaud and others, 2023. Исследование о склонности моделей соглашаться с пользователем. Подкрепляет предупреждение в части «Контраргументы».
  • Survey of Hallucination in Natural Language Generation · Ziwei Ji, Nayeon Lee, Rita Frieske and others, 2023. ACM Computing Surveys 55(12). Обзор того, как языковые модели порождают гладкий, но ничем не подкреплённый текст. Подкрепляет общие утверждения о выдуманных цитатах, числах и нарушенных инструкциях.
  • Prompting best practices · Anthropic. Открытое руководство по промптам от разработчика ИИ: ясные инструкции, роли и разнообразные примеры, чтобы модель не перенимала ненужных закономерностей. Подкрепляет предупреждение в части «Примеры».
  • Prompt engineering · OpenAI. Открытое руководство по промптам от разработчика ИИ. Только для общего ознакомления.