Ще одна стратегія введення запитів: запит з кількома ілюстраціями, який, по суті, просто показує моделі кілька прикладів (так званих ілюстрацій) того, що Ви хочете, щоб вона робила.
Розглянемо наведений вище приклад, у якому ми намагаємося класифікувати відгуки клієнтів як позитивні чи негативні. Ми показуємо моделі 3 приклади позитивних чи негативних відгуків, а потім показуємо новий відгук, який ще не класифіковано (Це не працює!:
). Модель бачить, що перші 3 приклади були класифіковані як позитивні
або негативні
, і використовує цю інформацію, щоб класифікувати новий приклад як негативний
.
Те, як ми структуруємо приклади, дуже важливо. Оскільки ми структурували ці 3 приклади як input: classification
, модель виводить одне слово після останнього рядка, вимовляти повне речення, наприклад , цей відгук є позитивним
.
Ключовий випадок використання запитів з кількома ілюстраціями – це коли вам потрібно, щоб результат був структурований певним способом, який складно описати моделі. Щоб зрозуміти це, розгляньмо відповідний приклад: скажімо, вам потрібно зібрати імена та професії відомих жителів сусідніх міст, проаналізувавши статті місцевих газет. Ви хочете, щоб модель читала кожну статтю та виводила список імен і професій у форматі Перший Останній [OCCUPATION]
. Щоб змусити модель зробити це, ви можете показати їй кілька прикладів:
Показуючи моделі приклади правильного формату виводу, вона може створити правильний вивід даних для нових статей.
Навіть попри те, що ви можете отримати той самий результат, використовуючи натомість запит з інструкціями, запит на основі кількох ілюстрацій зробить результат більш узгодженим.
Слово «ілюстрація» є синонімом «прикладу». Окрім запитів з ілюстраціями, існують ще два типи запитів. Не надто цим переймайтеся! Єдина різниця між цими варіантами полягає в тому, скільки прикладів ви показуєте моделі.
Варіанти:
Запит без ілюстрацій є найпростішою формою запиту. Він просто показує моделі запит без прикладів і просить її згенерувати відповідь. Таким чином, усі інструкції та запити ролей, які ви бачили до цього часу, є запитами без ілюстрацій. Додатковий приклад запиту без ілюстрацій:
Додай 2+2:
Це запит без ілюстрацій, оскільки ми не показали моделі повних прикладів.
Запит з однією ілюстрацією — коли ви показуєте моделі один приклад. Наприклад, аналог запиту без ілюстрацій в вигляді запиту з однією ілюстрацією Додайте 2+2:
:
Додай 3+3: 6
Додай 2+2:
Ми показали моделі лише 1 повний приклад (Додай 3+3: 6
), тож це запит з однією ілюстрацією.
Запит з кількома ілюстраціями — коли ви показуєте моделі 2 або більше прикладів. Усі запити вище цього розділу з переліком варіантів були запитами з кількома ілюстраціями. Аналог запиту з двома ілюстраціями наведених вище запитів з кількома ілюстраціями такий:
Додай 3+3: 6
Додай 5+5: 10
Додай 2+2:
Це так, оскільки ми показали моделі принаймні 2 повних приклади (Додай 3+3: 6
і Додай 5+5: 10
). Як правило, що більше прикладів ви показуєте моделі, то кращим буде результат, тому в більшості випадків запит з кількома ілюстраціями є кращим, ніж запит без ілюстрацій або запит з однією ілюстрацією.
Запити з кількома ілюстраціями є потужною технікою, яка дозволяє змусити модель генерувати точні та правильно відформатовані результати!
Logan IV, R., Balazevic, I., Wallace, E., Petroni, F., Singh, S., & Riedel, S. (2022). Cutting Down on Prompts and Parameters: Simple Few-Shot Learning with Language Models. Findings of the Association for Computational Linguistics: ACL 2022, 2824–2835. https://doi.org/10.18653/v1/2022.findings-acl.222 ↩
Lake, B. M., Salakhutdinov, R., & Tenenbaum, J. B. (2015). Human-level concept learning through probabilistic program induction. Science, 350(6266), 1332–1338. ↩