Learn Prompting📙 Referensi Kosakata
Kemas kini terakhir pada August 7, 2024 oleh Sander SchulhoffSilakan merujuk ke halaman ini untuk daftar istilah dan konsep yang akan kami gunakan dalam kursus ini.
Large Language Models (LLMs), Pretrained Language Models (PLMs), Language Models (LMs), dan model dasar
Semua istilah ini merujuk lebih kurang pada hal yang sama: Kecerdasan Buatan besar (jaringan saraf), yang biasanya telah dilatih pada jumlah teks yang sangat besar.
Masked Language Models (MLMs)
MLM adalah jenis model NLP, yang memiliki token khusus, biasanya [MASK], yang digantikan dengan kata-kata dari kamus. Model kemudian memprediksi kata yang telah disembunyikan. Misalnya, jika kalimatnya adalah "Anjing [MASK] kucing", model akan memprediksi "mengejar" dengan probabilitas tinggi.
Label
Konsep label lebih dapat dipahami jika diberikan contoh.
Katakanlah kita ingin mengklasifikasikan beberapa Tweet sebagai kasar atau tidak kasar. Jika kita memiliki daftar Tweet dan label yang sesuai (kasar atau tidak kasar), kita dapat melatih model untuk mengklasifikasikan apakah tweet kasar atau tidak. Label umumnya hanya merupakan kemungkinan untuk tugas klasifikasi.
Label Space
Semua label yang mungkin untuk tugas tertentu ('kasar' dan 'tidak kasar' untuk contoh di atas).
Sentiment Analysis
Sentiment analysis adalah tugas mengklasifikasikan teks menjadi sentimen positif, negatif, atau lainnya.
"Model" vs. "AI" vs. "LLM"
Istilah-istilah ini digunakan agak bergantian selama kursus ini, tetapi tidak selalu memiliki arti yang sama. LLMs adalah jenis AI, seperti yang disebutkan di atas, tetapi tidak semua AI adalah LLMs. Ketika kita menyebutkan model dalam kursus ini, kami merujuk pada model AI. Oleh karena itu, dalam kursus ini, Anda dapat menganggap istilah "model" dan "AI" dapat saling dipertukarkan.
Machine Learning (ML)
ML adalah bidang studi yang berfokus pada algoritma-algoritma yang dapat belajar dari data. ML adalah subbidang AI.
Verbalizer
Pada pengaturan klasifikasi, verbalizer adalah pemetaan dari label ke kata-kata dalam kosakata. Sebagai contoh, pertimbangkan melakukan klasifikasi sentimen dengan prompt berikut:
Tweet: "Saya suka hotpockets"
Apa sentimen dari tweet ini? Katakan 'pos' atau 'neg'.
Di sini, verbalizer adalah pemetaan dari label konseptual dari positif dan negatif ke token pos dan neg.
Reinforcement Learning from Human Feedback (RLHF)
RLHF adalah metode untuk menyetel ulang LLM menurut data preferensi manusia.
Prompts
Prompt
A text or other input to a Generative AI.
Prompt Structure
.
Few-Shot Standard Prompt
Standard prompts that have exemplars in them. Exemplars are examples of the task that the prompt is trying to solve, which are included in the prompt itself.
Prompting Techniques
CoT prompting
The main idea of CoT is that by showing the LLM some few shot exemplars where the reasoning process is explained in the exemplars, the LLM will also show the reasoning process when answering the prompt.
Self-Consistency
Generating multiple chains of thought and taking the majority answer.
General ML
Pre-training
Pre-training is the initial process of training a neural network on a large amount of data before later 'fine-tuning'.
Softmax
A function that converts a vector of numbers into a probability distribution.
Label Space
All of the possible labels for a given task.
Gold Labels
The correct labels for a given task.
Labels
The concept of labels is best understood with an example.
Say we want to classify some Tweets as mean or not mean. If we have a list of Tweets and their corresponding *label* (mean or not mean), we can train a model to classify whether tweets are mean or not. Labels are generally just possibilities for the classification task.
Neural Network
A neural network is a group of interconnected units called neurons that send signals to one another. Neurons can be either biological cells or mathematical models.
Masked Language Models (MLMs)
MLMs are a type of NLP model, which have a special token, usually [MASK], which is replaced with a word from the vocabulary. The model then predicts the word that was masked. For example, if the sentence is 'The dog is [MASK] the cat', the model will predict 'chasing' with high probability.
Machine Learning (ML)
ML is a field of study that focuses on algorithms that can learn from data. ML is a subfield of AI.
Reinforcement Learning from Human Feedback (RLHF)
RLHF is a method for fine tuning LLMs according to human preference data.
Reinforcement Learning
Reinforcement learning is a subfield of machine learning where agents learn to make decisions by interacting with a virtual environment.
API
Application Programming Interface. Enables different systems to interact with each other programmatically. Two types of APIs are REST APIs (web APIs) and native-library APIs.
Exemplars
Examples of the task that the prompt is trying to solve, which are included in the prompt itself.
LLM
A LLM (Large Language Model) is a model that is trained on language.
Sentiment Analysis
Sentiment analysis is the task of classifying text into positive, negative, or other sentiments.
text-davinci-003
A Large Language Model (LLM) developed by OpenAI as a part of the GPT-3.5 series.
text-davinci-002
A Large Language Model (LLM) developed by OpenAI as a part of the GPT-3.5 series.
Context Length
The amount of tokens a model can process at once.
Footnotes
-
Branch, H. J., Cefalu, J. R., McHugh, J., Hujer, L., Bahl, A., del Castillo Iglesias, D., Heichman, R., & Darwishi, R. (2022). Evaluating the Susceptibility of Pre-Trained Language Models via Handcrafted Adversarial Examples. ↩
-
Schick, T., & Schütze, H. (2020). Exploiting Cloze Questions for Few Shot Text Classification and Natural Language Inference. ↩