Оптимизация промптов
Сокращайте и перестраивайте промпт, не меняя того, о чём он просит. Каждый вариант сверяется с оригиналом, а вариант, потерявший требование, отклоняется.
Большинство оптимизаторов передают ваш промпт другой модели и возвращают то, что получилось. Результат может хорошо читаться и всё же потерять ограничение. PromptFlowEngine поступает наоборот: применяет небольшой набор задокументированных преобразований, а затем доказывает, что в результате осталось всё, что было в оригинале.
Режимов три. Conservative нормализует пробелы и удаляет точные дубликаты предложений. Balanced дополнительно убирает «воду» и формулы вежливости. Structured, кроме того, раскладывает промпт по разделам Task, Context, Requirements, Output format и Input и оборачивает переменные шаблона в теги.
Каждый режим даёт кандидата. Кандидат остаётся, только если сохранились все исходные предложения, все извлечённые требования и все защищённые фрагменты (код, цитаты, URL, переменные) и не появилось новых предупреждений. Вы выбираете цель: минимум токенов, максимум качества или баланс. Если ничто не лучше оригинала, побеждает оригинал.
Практический пример
Этот запуск движок выполнил при сборке страницы в режиме structured с целью balanced. Результаты проверки и сгенерированные промпты показаны на английском — так, как их возвращают движок и API.
Hello! I would like you to please rewrite the pull request description below so that it is clearer for reviewers. Please make sure to keep all of the technical details. Please make sure to keep all of the technical details. In order to help reviewers, add a 2-sentence summary at the top. Return markdown.
{{pr_description}}## Task
Rewrite the pull request description below so that it is clearer for reviewers.
## Context
To help reviewers, add a 2-sentence summary at the top.
## Requirements
- Make sure to keep all of the technical details.
## Output format
- Return markdown.
## Input
<pr_description>
{{pr_description}}
</pr_description>Рассчитано движком при сборке этой страницы. Изменение токенов: 5,9%; исправлено проблем: 3; оставлено вам в виде предложений: 0. Режим structured может добавлять заголовки, поэтому цель balanced допускает небольшой рост токенов ради более высокой оценки.
Предложения, требования и защищённые фрагменты сравниваются до и после. Проваленная проверка отклоняет кандидата и показывает причину.
Каждая правка указана с обоснованием, рядом — пословное сравнение оригинала и результата.
Количество токенов до и после для моделей OpenAI считается настоящим токенизатором, с разницей стоимости за вызов.
Пробелы, требующие ваших знаний, например не указанная аудитория, возвращаются как предложения, а не как придуманный текст.
Conservative, balanced и structured — от чистки пробелов до полного разбиения на разделы.
Оптимизация по токенам, по оценке качества или по лучшей оценке в пределах лимита токенов.
Задайте максимум, и оптимизатор сообщит, укладывается ли в него проверенный кандидат.
Блоки кода, встроенный код, цитаты, URL, блоки в XML-тегах и переменные восстанавливаются байт в байт.
Отдельная операция, превращающая запрос в одну строку в инженерный промпт с разделами; каждая добавленная строка помечена.
Поставьте две версии рядом и увидите разницу в токенах, стоимости и качестве, а также исправленные и появившиеся проблемы.
Запустите режим balanced с целью tokens для промпта, который выполняется на каждый запрос, и получите экономию с гарантией сохранности содержания.
Режим structured разделяет задачу, контекст, требования и формат вывода, и следующая правка становится намного безопаснее.
Поделитесь сравнением и списком изменений с рецензентом, чтобы обсуждать сами изменения, а не искать их.
С бюджетом токенов вы узнаете, насколько можно сжать промпт, прежде чем человеку придётся что-то вырезать.
Модель переписывает свободно и может добавить, убрать или переосмыслить инструкции. Этот оптимизатор применяет фиксированные преобразования, а затем проверяет, что все исходные предложения и требования на месте. Он менее креативен и гораздо предсказуемее.
Он устраняет известные причины плохих ответов: повторы, «воду» и отсутствие структуры. Измерить качество ответа он не может, потому что не выполняет промпт. Для всего важного проверьте результат на своей модели.
Да. Преобразования касаются формулировок и структуры, а это применимо к любой модели. Количество токенов точное для моделей OpenAI и приблизительное для других провайдеров.
Блоки кода, встроенный код, цитаты, URL и переменные шаблона маскируются до любых преобразований и затем восстанавливаются в точности.
Все продукты работают на одном движке, поэтому сочетаются без сюрпризов.
Руководства из базы знаний по промпт-инжинирингу, объясняющие идеи, которые применяет этот продукт.
Бесплатно, детерминированно и приватно. Без регистрации.