Можно сделать надстройку к LLM с помощью обычного промтинга (например, А-блоки в NeuroPanda) или программирования (IT-архитектура под нужды конкретной компании), благодаря которым модели сразу будут знать, что вам нужен, скажем, текст лендинга в убедительном стиле.
Но сам по себе формат промтинга уже и так максимально приближен к реальности. Даже если вы будете просить не ИИ, а вполне себе живого специалиста написать вам какой-то конкретный текст, вы как минимум хотя бы раз тоже должны дать ему некие требования и вводные. Все то же самое, что и с ИИ.
Повторимся: эта книга не о версиях, а о мастерстве промт-инжиниринга вообще – как навыка, профессии и в чем-то даже искусства. В книге много практики, примеров, фишек и только самая полезная информация.
Кто и почему написал эту книгу
Мы – сотрудники проекта «Панда-копирайтинг». Более десяти лет «ПК» создает тексты для бизнеса, рекламы, вирусного маркетинга, SMM, сайтов и т. д. Конкретно по контенту написали пять книг (это шестая). Создали стиль «убедительно-позитивный копирайтинг», в котором работают сегодня компании и профессиональные авторы.
Когда стало очевидно, что ChatGPT не очередной «халиф на час», а мощный инструмент, мы решили изучить ИИ пристальней. Начали с малого: стали пробовать первые стандартные промты, даже пытались создавать контент для наших второстепенных проектов.
К счастью, мы быстро увидели несостоятельность такого подхода. Стандартные подсказки работали кое-как, да и без четкой системы такая работа похожа скорее на лотерею. Когда-то повезет, а когда-то получается полная ерунда.
В итоге мы решили погружаться в тему полностью. Зимой 2023 года начали разработку сервиса NeuroPanda на базе GPT. Осенью того же года сервис начал работать и сейчас доступен по ссылке https://neuropanda.app/. Весь доступ к нейросети можно получить без VPN и прочих сложностей.
Кроме того, у него есть дополнительные сервисы наподобие библиотек графических и контентных подсказок, отдельная группа в соцсети для проектов «ПК» (https://pandeon.pro/), курсы (тоже бесплатные) и прочие интересные вещи.
«И при чем здесь книга?» – спросите вы.
Давайте зайдем чуть издалека, чтобы было понятнее.
Мы сразу решили, что точно не будем еще одним сервисом, просто транслирующим ChatGPT для конечного пользователя. Для подобной «легкотни» есть и оригинальный сайт OpenAI, и всевозможные боты в мессенджерах, например.
Конечно, и такой подход приносил бы деньги, однако на этом бы наше участие и заканчивалось. По сути, мы просто перепродавали бы доступ к оригиналу. Никакого творчества и романтики.
Мы сделали NeuroPanda другим. В основе его работы сейчас лежат два формата: А-блок и чаты.
А-блоки – разделы с блоками, преднастроенные определенными промтами для конкретных задач. Например, А-блоком является крупный раздел с блоками для написания большой экспертной статьи.
Мы разбили задачу на шаги, в ходе которых вы можете собрать все элементы (заголовки, темы, идеи вообще и разделов, списки, кластеры и т. п.) так, как вам удобно, а затем на основе всего этого сделать добротную статью.
Если делать так самому просто в режиме чат-подсказки (пусть и многоуровневой, мощной), то все куда более сложно и непредсказуемо: слишком много вводных, слишком многое нужно учитывать, слишком велика вероятность запутать ИИ и нарваться на галлюцинации (это явление рассмотрим позже).
Чаты представляют собой как «чистый» ChatGPT без преднастроек, так и специализированные чаты для разных задач. Один, например, «заточен» на обучение языкам, другой поможет лучше находить логические ошибки или готовиться по конкретной теме.
А вот теперь о том, при чем здесь книга.
Процессы такого уровня – колоссальный труд. Нам пришлось не просто изучить подсказки изнутри и потратить много-много миллионов токенов («валюта» и мера объема GPT) в процессе работы. Нам волей-неволей пришлось:
• открыть массу фишек и закономерностей;
• сделать тысячи ошибок и понять их причину;
• найти интересные стратегии промтинга;
• обкатать сотни вариантов структуры и запросов;
• разочароваться в поверхностных промтах;
• прокачать креативность и увидеть новые пути;
• и т. д. и т. п.
В итоге мы стали сильными практиками промт-инжиниринга и накопили такой объем полезного практического багажа, который так и просился для отдельной книги. Именно поэтому она родилась.
P. S. Кстати, сейчас, поняв и освоив стандартный промтинг, мы уже вплотную подошли к более серьезному этапу, а именно – к созданию собственных LLM для точечных задач. Например, к написанию ИИ текста с определенной стилистикой.
Конечно, речь идет о надстройках на предобученные модели, а не о подготовке LLM c нуля, но в нашем случае такого и не требуется. Тонкое обучение – тоже не фунт изюма, но, надеемся, справимся и здесь.
Глава 1. Суть промтинга
В этой книге вы будете учиться правилам и приемам промт-инжиниринга. Им будут пропитаны все страницы, после чтения вы сможете совсем иначе взглянуть на потенциал ИИ. А теперь о само́м «главном герое».
Промт-инжиниринг (далее – промтинг) – это направление, изучающее навыки подготовки, создания и оптимизации подсказок (промтов) для нейросетей, где подсказка – это вводные данные, которые пользователь дает модели для получения нужного ответа.
Качество ответа может кардинально разниться в зависимости от того, насколько пользователь разбирается в правилах и тонкостях промтинга.
Посмотрим на две подсказки.
Дай мне рецепты трех вкусных блюд на ужин.
С точки зрения промтинга это ужасная подсказка. Во-первых, нет никаких переменных и условий. Во-вторых, мы совершили типичную ошибку, добавив оценочное суждение «вкусных».
Наша природа такова, что мы почему-то надеемся, что результат будет соответствовать именно нашему вкусу. Но ИИ так не думает, для него «вкусных» = «ничего» или «что угодно». Кому вкусных? По каким критериям? Из каких продуктов? В результате человек чувствует непонимание и грусть: «Я пробовал (-а) ChatGPT, результат не вдохновил. Как-то все слишком обычно или даже слабо, ничего этакого».
Это самая частая фраза людей, просящих рецепты трех вкусных блюд. Когда промты слабы, неконкретны, запутанны, включают в себя взаимоисключающие условия или не устанавливают конкретные рамки подсказки, модель не сможет раскрыться. Вы будете пытаться выжать 100 км/ч на первой передаче, не умея переключаться до пятой.
Нейромодель GPT колоссально умна, она знает и умеет многое, но, чтобы вывести ее на нужный уровень, вы сами должны очертить ее рамки.
Теперь попробуем иначе.
Дай мне рецепты трех блюд на ужин.
У меня есть продукты: 2 кг картофеля, 1 кг курятины, морковь, свекла, томаты, чеснок, лук, перец.
В рецептах можно использовать часть или все продукты из списка. Нельзя добавлять продукты, которых нет в списке.
Способ приготовления – жарка или тушение.
Длительность приготовления – до 2 часов.
Блюда должны быть оценены как очень вкусные в большинстве источников.
Все, кроме одного ответа ИИ, точно соответствовали заданию. Но в одном ИИ «взбрыкнул» и по собственной воле добавил вот такой рецепт.
Рецепт 3: томатный суп с овощами и курятиной.
Ингредиенты:
• 500 г курятины;
• 2–3 картофелины;
• 1 морковь;
• 1 свекла;
• 2–3 помидора;
• 2 зубчика чеснока;
• 1 луковица;
• 1 литр куриного бульона;
• 2 столовые ложки растительного масла;
• соль и перец по вкусу;
• зелень (петрушка, укроп) для украшения.
