Prompting

Dans le chapitre précédent, nous avons discuté de l'IA et de la manière dont les humains peuvent demander aux IA d'effectuer des tâches. Le processus consistant à demander à une IA d'effectuer une tâche est appelé prompting1. Nous donnons à l'IA un ensemble d'instructions (le prompt) et elle exécute la tâche. Les prompts peuvent être aussi simples qu'une question ou aussi complexes que plusieurs paragraphes.

Pour illustrer, voici deux exemples de prompt :

1) Résumer un article

Supposons que vous lisez un article sur les chutes de neige en Floride. Vous souhaitez obtenir rapidement les idées principales de l'article, vous montrez donc à l'IA ce que vous lisez et lui demandez un résumé [^2] :

Il est très rare que de la neige tombe dans l'État américain de Floride, en particulier dans les parties centrale et méridionale de l'État. À l'exception des régions de l'extrême nord de l'État, la plupart des grandes villes de Floride n'ont jamais enregistré de chutes de neige mesurables, bien que des traces aient été enregistrées, ou des rafales dans l'air observées quelques fois par siècle. Selon le National Weather Service, dans les Florida Keys et Key West, il n'y a pas d'occurrence connue d'averses de neige depuis la colonisation européenne de la région il y a plus de 300 ans. À Miami, Fort Lauderdale et Palm Beach, il n'y a eu qu'un seul rapport connu d'averses de neige observées dans l'air en plus de 200 ans; cela s'est produit en janvier 1977. Quoi qu'il en soit, Miami, Fort Lauderdale et Palm Beach n'ont pas connu d'averses de neige avant ou depuis cet événement de 1977.

Résumez ce paragraphe en une seule phrase :

Voici la réponse de l'IA. Une lecture beaucoup plus courte !

Snowfall is extremely rare in Florida, with the exception of the far northern areas,
and only one instance of snow flurries in the air has been recorded in the major cities
of Miami, Fort Lauderdale, and Palm Beach in the last 200 years.

2) Résolution de problèmes mathématiques

Si vous avez un ensemble de données d'équations mathématiques que vous aimeriez qu'un modèle de langage résolve, vous pouvez créer un prompt en posant la question "Qu'est-ce que [EQUATION]".

Pour une question donnée, votre prompt complet pourrait ressembler à ceci :

Qu'est ce que 1,000,000 * 9,000?

Pour ce prompt, GPT-3 (text-davinci-002) (une IA) répond parfois 9 000 000 (incorrect). C'est là qu'intervient le prompt engineering.

Prompt Engineering

Si, au lieu de demander Qu'est-ce que 1 000 000 x 9 000 ?, nous demandons Qu'est-ce que 1 000 000 x 9 000 ? Assurez-vous de mettre le bon nombre de zéros, même s'il y en a beaucoup :, GPT-3 répondra 9 000 000 000 (correct). Alors, pourquoi est-ce le cas? Pourquoi la spécification supplémentaire du nombre de zéros est-elle nécessaire pour que l'IA obtienne la bonne réponse ? Comment pouvons-nous créer des prompts qui donnent des résultats optimaux sur notre tâche ? Cette dernière question, en particulier, est au centre du domaine du prompt engineering, ainsi que de ce cours.

Lisez la suite pour apprendre à concevoir de bons prompts !

[^1] : Shin, T., Razeghi, Y., Logan IV, R. L., Wallace, E. et Singh, S. (2020). AutoPrompt : obtention de connaissances à partir de modèles de langage avec des prompts générées automatiquement. Actes de la conférence 2020 sur les méthodes empiriques dans le traitement du langage naturel (EMNLP). https://doi.org/10.18653/v1/2020.emnlp-main.346 ↩ [^2] : Ce paragraphe vient de https://en.wikipedia.org/wiki/Snow_in_Florida↩

Sander Schulhoff

Sander Schulhoff is the Founder of Learn Prompting and an ML Researcher at the University of Maryland. He created the first open-source Prompt Engineering guide, reaching 3M+ people and teaching them to use tools like ChatGPT. Sander also led a team behind Prompt Report, the most comprehensive study of prompting ever done, co-authored with researchers from the University of Maryland, OpenAI, Microsoft, Google, Princeton, Stanford, and other leading institutions. This 76-page survey analyzed 1,500+ academic papers and covered 200+ prompting techniques.