Automatic Prompt Engineer (APE)

Источник изображения: Zhou и др., (2022) (opens in a new tab)

Zhou и др., (2022) (opens in a new tab) предлагают Automatic Prompt Engineer (APE) – фреймворк для автоматической генерации и выбора инструкций. Проблема генерации инструкций формулируется как синтез естественного языка, решаемая как задача оптимизации в черном ящике с использованием LLM для генерации и поиска вариантов решений.

Первый шаг включает использование большой языковой модели (в качестве модели вывода), которой предоставляются выходные демонстрации для генерации вариантов инструкций для задачи. Эти варианты решений будут направлять процедуру поиска. Инструкции выполняются с использованием целевой модели, а затем выбирается наиболее подходящая инструкция на основе вычисленных оценочных показателей.

APE находит лучший zero-shot CoT запрос, чем созданный человеком "Let's think step by step" промпт(Kojima и др., 2022 (opens in a new tab)).

Запрос "Let's work this out in a step by step way to be sure we have the right answer." вызывает цепочку мыслей и улучшает результаты на бенчмарках MultiArith и GSM8K:

Источник изображения: Zhou и др., (2022) (opens in a new tab)

Эта статья затрагивает важную тему, связанную с промпт-инжинирингом, а именно идею автоматической оптимизации запросов. Хотя мы не углубляемся в эту тему в данном руководстве, вот несколько ключевых статей, если вас интересует данная тема:

• AutoPrompt (opens in a new tab) – предлагает подход к автоматическому созданию промптов для разнообразных задач на основе поиска, направляемого градиентом.
• Prefix Tuning (opens in a new tab) – легкая альтернатива тонкой настройке, которая добавляет обучаемый непрерывный префикс для задач генерации естественного языка.
• Prompt Tuning (opens in a new tab) – предлагает механизм для обучения гибких запросов с использованием обратного распространения ошибки.