Learn PromptingФормалізація запитів
Зараз ми розглянули кілька типів запитів, а також способи їх поєднання. На цій сторінці ви знайдете терміни для пояснення різних типів запитів. Попри те, що існують підходи до формалізації дискурсу щодо створення запитів, сфера постійно змінюється, тому на початку ми надамо вам достатньо інформації.
Складові запиту
Є кілька різних складових запиту, які ви зустрічатимете знову і знову. Вони приблизно такі:
- Роль
- Інструкція/завдання
- Питання
- Контекст
- Приклади (ілюстрації)
Ролі, інструкції та приклади ми розглянули на попередніх сторінках. Питання - це просто питання! (Напр. яка столиця Франції?). Контекст — це будь-яка релевантна інформація, яку ви хочете, щоб модель використовувала під час відповіді на запитання або виконання інструкції.
Не всі з них трапляються в кожному запиті, а коли все ж трапляються, то стандартного порядку для них немає. Наприклад, наступні два запити, кожен з яких містить роль, інструкцію та контекст, виконуватимуть приблизно те саме:
Ви лікар. Прочитайте цю історію хвороби та спрогнозуйте ризики для пацієнта:
1 січня 2000 р.: перелом правої руки під час гри в баскетбол. Лікування: наклали гіпс.
15 лютого 2010 р.: Діагностовано гіпертонічну хворобу. Призначили лізиноприл.
10.09.2015 р.: Розвинулася пневмонія. Проліковано антибіотиками, пацієнт одужав.
1 березня 2022 року отримав струс мозку в ДТП. Госпіталізували та спостерігали протягом доби.
1 січня 2000 р.: зламана права рука під час гри в баскетбол. Лікування: наклали гіпс.
15 лютого 2010 р.: Діагностовано гіпертонічну хворобу. Призначили лізиноприл.
10.09.2015 р.: Розвинулася пневмонія. Проліковано антибіотиками, пацієнт одужав.
1 березня 2022 року отримав струс мозку в ДТП. Госпіталізували та спостерігали протягом доби.
Ви лікар. Прочитайте цю історію хвороби та спрогнозуйте ризики для пацієнта:
Однак другий запит, швидше за все, є кращим, оскільки інструкція є останньою частиною запиту. Це добре, оскільки ВММ менш імовірно просто напише більше контексту замість того, щоб слідувати інструкціям. Наприклад, якщо ВММ отримає перший запит, вона може додати новий рядок: 15 березня 2022 р.: заплановано повторний прийом у невролога для оцінки прогресу відновлення струсу мозку.
"Стандартний" запит
Наразі ми чули про кілька різних форматів запитів. Тепер ми швидко повернемося на початок і дамо визначення "стандартному" запиту. Слідом за Kojima et al., ми називатимемо запити, які складаються лише із запитання, "стандартними"запитами. Ми також вважаємо запити, які складаються лише з запитання у форматі QA, "стандартними" запитами.
Чому мене це має хвилювати?
Багато статей та документів, на які ми посилаємося, використовують цей термін. Ми даємо йому визначення, щоб ми могли обговорити нові типи запитів на відміну від стандартних запитів.
Два приклади стандартних запитів:
Стандартний запит
Яка столиця Франції?
Стандартний запит у форматі QA
Питання: Яка столиця Франції?
В:
Запит з кількома ілюстраціями
Стандартні запити з кількома ілюстраціями — стандартні запити, які містять приклади у собі. Ілюстрації – це приклади завдань, які запит намагається вирішити, і які включені в сам запит. У дослідженнях стандартні запити з кількома ілюстраціями іноді називають просто стандартними запитами (хоча ми намагаємося не робити так в цьому посібнику).
Два приклади стандартних запитів з декількома ілюстраціями:
Стандартні запити з кількома ілюстраціями
Яка столиця Іспанії?
Мадрид
Яка столиця Італії?
Рим
Яка столиця Франції?
Стандартний запит з кількома ілюстраціями у форматі QA
Питання: Яка столиця Іспанії?
Відповідь: Мадрид
Питання: Яка столиця Італії?
Відповідь: Рим
Питання: Яка столиця Франції?
В:
Запити з кількома ілюстраціями допомагають навчанню "кількома ілюстраціями" також відомим як "у контексті", що означає навчатися без оновлення параметрів.
Footnotes
-
White, J., Fu, Q., Hays, S., Sandborn, M., Olea, C., Gilbert, H., Elnashar, A., Spencer-Smith, J., & Schmidt, D. C. (2023). A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT. ↩
-
Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). Large Language Models are Zero-Shot Reasoners. ↩
-
Liu, P., Yuan, W., Fu, J., Jiang, Z., Hayashi, H., & Neubig, G. (2022). Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing. ACM Computing Surveys. https://doi.org/10.1145/3560815 ↩
-
Brown, T. B. (2020). Language models are few-shot learners. arXiv Preprint arXiv:2005.14165. ↩
-
Zhao, T. Z., Wallace, E., Feng, S., Klein, D., & Singh, S. (2021). Calibrate Before Use: Improving Few-Shot Performance of Language Models. ↩