Fondamentaux

Qu’est-ce que l’ingénierie de prompts ?

L’ingénierie de prompts consiste à écrire et à tester des instructions pour des modèles d’IA afin d’obtenir des résultats fiables. Comment elle fonctionne et pourquoi elle compte.

Traduit de l’original anglais. Le code, les prompts et les sorties de modèle restent en anglais.

L’ingénierie de prompts est la pratique qui consiste à concevoir, tester et affiner les instructions données à un grand modèle de langage (LLM) afin qu’il produise de façon fiable le résultat dont vous avez besoin. Le mot « ingénierie » compte : le but n’est pas une bonne réponse, mais la même qualité de réponse à chaque exécution du prompt.

Une définition de travail

Un prompt, c’est tout ce que le modèle reçoit avant de commencer à écrire : instructions, contexte, exemples, documents et la question elle-même. L’ingénierie de prompts consiste à décider de ce qui entre dans cette entrée et de la façon dont elle est organisée.

Elle recouvre trois activités :

  1. Spécifier la tâche pour que rien d’important ne soit laissé à l’interprétation.
  2. Fournir le contexte que le modèle n’a pas, comme vos données, votre public et vos contraintes.
  3. Mesurer le résultat et modifier le prompt à partir de preuves, pas d’une intuition.

Comment fonctionne l’ingénierie de prompts

Un modèle de langage prédit le token suivant à partir des tokens qu’il a déjà vus. Il n’a pas accès à votre intention, seulement à votre texte. Deux conséquences en découlent.

Tout ce que vous omettez est comblé. Demandez « un court résumé » et le modèle choisit une longueur, un public et un format. Il en choisira d’autres la fois suivante. La plupart des sorties incohérentes tiennent à une décision que le prompt n’a jamais prise.

La position et la structure portent du sens. Un modèle traite un titre, un délimiteur ou un exemple comme un signal sur le type de texte à venir. Séparer les instructions des données et montrer la forme de la réponse voulue modifie davantage la prédiction que l’ajout d’adjectifs.

Voici la même demande écrite deux fois.

Summarize this report.
Summarize the quarterly sales report below for the EMEA leadership team.
Write 5 bullet points covering revenue by country and the change from
last quarter. Return a markdown list.

<report>
{{report}}
</report>

La seconde version nomme le public, la longueur, le contenu et le format, et elle indique où les données commencent et finissent. Rien n’y est ingénieux. Elle prend simplement les décisions que la première laissait ouvertes.

Pourquoi l’ingénierie de prompts compte

Fiabilité. Un logiciel qui appelle un modèle a besoin d’une sortie prévisible. Un prompt qui renvoie du JSON neuf fois sur dix fait échouer la dixième requête.

Coût. Les modèles sont facturés au token. Un prompt qui se répète, ou qui transporte du contexte inutile, coûte plus cher à chaque appel. Voir l’optimisation des tokens pour savoir comment le mesurer et le réduire.

Sécurité. Les prompts incluent souvent du texte d’utilisateurs, de documents et de pages web. Sans précaution, ce texte peut prendre le pas sur vos instructions. C’est ce qu’on appelle l’injection de prompt, et s’en défendre commence par la façon dont le prompt est construit.

Rapidité d’itération. Modifier un prompt prend quelques minutes. Affiner un modèle (fine-tuning) demande des données, de l’argent et du temps. Pour la plupart des tâches, un meilleur prompt est l’amélioration la moins chère.

Ce que l’ingénierie de prompts n’est pas

Ce n’est pas une liste de formules magiques. Des astuces comme promettre un pourboire ou écrire en majuscules ont des effets inconstants qui changent d’une version de modèle à l’autre. Ce qui dure, c’est une spécification claire, un contexte pertinent et des tests.

Ce n’est pas non plus un substitut à la connaissance de la tâche. Un prompt ne peut demander que ce que son auteur comprend assez bien pour le décrire.

Ingénierie de prompts et ingénierie du contexte

Lorsque les modèles ont pu lire de très grandes entrées et appeler des outils, le travail est passé de la rédaction d’une instruction unique à la décision des informations que le modèle voit à chaque étape. On parle souvent d’ingénierie du contexte. Elle comprend la recherche documentaire, les instructions d’agents et les connexions d’outils telles que le Model Context Protocol. Les principes sont les mêmes : donner au modèle ce dont il a besoin, clairement séparé, et rien qui le distraie.

Pour aller plus loin