Announcing our new Paper: The Prompt Report, with Co-authors from OpenAI & Microsoft!

Check it out →
💪 プロンプトチューニング

🟢 「標準」プロンプト

最終更新日: August 7, 2024, サンダー・シュルホフ

ここまで学んできたことからも分かるように、プロンプトにはいくつかの形式がありそうです。 Kojima1 らに倣って、質問のみで構成されたプロンプトを「標準」プロンプトと呼ぶことにします。 また、QA 形式の質問のみで構成されたプロンプトも「標準」プロンプトと見なします。

なぜ「標準」と呼ぶ?

私たちが参考にする多くの記事で、この言葉が使われています。 標準的なプロンプトと対比して、新しいタイプのプロンプトを議論できるように、この用語を定義しています。

2 つの標準プロンプトの例

標準プロンプト

What is the capital of France?

QA 形式の標準プロンプト

Q: What is the capital of France?

A:

数発の標準プロンプト

数発の標準プロンプト (原文: Few Shot Standard Prompts, @liu2021pretrain) は、標準プロンプトの中に「例示」が入っているだけのものです。 例示とは、プロンプトが解決しようとしている課題の例のことで、プロンプト自体に含まれているものです2。 研究においては、数発の標準プロンプトを単に標準プロンプトと呼ぶことがあります (ただし、このガイドではそうしないようにしています)。

2 つの「数発の標準プロンプト」例:

数発の標準プロンプト

What is the capital of Spain?
Madrid
What is the capital of Italy?
Rome
What is the capital of France?

QA 形式の数発の標準プロンプト

Q: What is the capital of Spain?
A: Madrid
Q: What is the capital of Italy?
A: Rome
Q: What is the capital of France?
A:

数発のプロンプトは、"in context" つまりコンテキストの中での学習を促進し、パラメータの更新をせずにに学習する能力です3

Footnotes

  1. Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). Large Language Models are Zero-Shot Reasoners.

  2. Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., … Amodei, D. (2020). Language Models are Few-Shot Learners.

  3. Zhao, T. Z., Wallace, E., Feng, S., Klein, D., & Singh, S. (2021). Calibrate Before Use: Improving Few-Shot Performance of Language Models.

Word count: 0

Get AI Certified by Learn Prompting


Copyright © 2024 Learn Prompting.