ここまで学んできたことからも分かるように、プロンプトにはいくつかの形式がありそうです。 Kojima1 らに倣って、質問のみで構成されたプロンプトを「標準」プロンプトと呼ぶことにします。 また、QA 形式の質問のみで構成されたプロンプトも「標準」プロンプトと見なします。
私たちが参考にする多くの記事で、この言葉が使われています。 標準的なプロンプトと対比して、新しいタイプのプロンプトを議論できるように、この用語を定義しています。
標準プロンプト
What is the capital of France?
QA 形式の標準プロンプト
Q: What is the capital of France?
A:
数発の標準プロンプト (原文: Few Shot Standard Prompts, @liu2021pretrain) は、標準プロンプトの中に「例示」が入っているだけのものです。 例示とは、プロンプトが解決しようとしている課題の例のことで、プロンプト自体に含まれているものです2。 研究においては、数発の標準プロンプトを単に標準プロンプトと呼ぶことがあります (ただし、このガイドではそうしないようにしています)。
数発の標準プロンプト
What is the capital of Spain?
Madrid
What is the capital of Italy?
Rome
What is the capital of France?
QA 形式の数発の標準プロンプト
Q: What is the capital of Spain?
A: Madrid
Q: What is the capital of Italy?
A: Rome
Q: What is the capital of France?
A:
数発のプロンプトは、"in context" つまりコンテキストの中での学習を促進し、パラメータの更新をせずにに学習する能力です3。
Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). Large Language Models are Zero-Shot Reasoners. ↩
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., … Amodei, D. (2020). Language Models are Few-Shot Learners. ↩
Zhao, T. Z., Wallace, E., Feng, S., Klein, D., & Singh, S. (2021). Calibrate Before Use: Improving Few-Shot Performance of Language Models. ↩
Sign up and get the latest AI news, prompts, and tools.
Join 30,000+ readers from companies like OpenAI, Microsoft, Google, Meta and more!