Prompt Engineering
Prompt Engineering
Introduction au Prompt Engineering
Définition et Importance
Le génie des prompts reflète l'évolution des modèles de langage, comme GPT, et repose sur la formulation astucieuse de questions ou d'instructions pour guider la génération de réponses précises par une IA. Cette compétence permet une communication efficace avec l'IA, facilitant des tâches allant de la création de contenu à la résolution de problèmes.
Pourquoi est-ce crucial ?
La capacité des modèles d'IA à interpréter et générer du langage s'affine. Cependant, l'efficacité des réponses dépend fortement de la qualité des prompts. Un prompt bien élaboré conduit l'IA à fournir des réponses informativement justes, contextuellement adaptées.
Compétence en Ingénierie de Prompts
Devenue vitale pour chercheurs, développeurs, et utilisateurs, cette compétence permet d'optimiser les interactions avec l'IA. Elle évite des entraînements redondants, personnalise les réponses et pousse les limites de l'IA, rendant celle-ci plus polyvalente et accessible.
Objectifs du Chapitre
Ce chapitre démystifie le Prompt Engineering, depuis les principes du zero-shot learning jusqu'à des approches plus sophistiquées comme le few-shot learning, l'apprentissage en contexte, et la Chaîne de Pensée (CoT). Avec des explications claires, exemples et bonnes pratiques, le lecteur apprendra à utiliser ces techniques pour tirer le meilleur parti de l'IA, en générant des réponses précises et pertinentes.
Apprentissage sans Exemples (Zero-shot Learning)
Définition simple
L'apprentissage zéro-shot permet à une intelligence artificielle, comme ChatGPT, de répondre à des questions ou effectuer des tâches qu'elle n'a jamais vues pendant son entraînement initial, simplement en utilisant ses connaissances générales.
Plutôt que de lui donner des exemples précis pour chaque tâche, on lui fournit une instruction claire et détaillée, et elle s'appuie sur ce qu'elle sait déjà pour générer une réponse adaptée.
Pourquoi c’est utile ?
-
Rapide : Aucune préparation spécifique n’est nécessaire.
-
Flexible : Fonctionne pour une multitude de tâches différentes.
-
Pratique : Idéal lorsqu'on n'a pas d’exemples à portée de main.
Comment ça marche ?
On décrit simplement la tâche de manière très précise dans le prompt. La réussite dépend fortement de la clarté des instructions et des connaissances générales de l’IA.
Exemples concrets
Exemple où ça marche bien : Classification de sentiment
- Situation : Vous voulez rapidement comprendre si un avis client est positif ou négatif.
Prompt :
Indique le sentiment exprimé dans le commentaire suivant :
"J'adore ce restaurant, la nourriture est délicieuse et le personnel adorable !"
Réponse probable de l’IA :
Le sentiment exprimé est positif.
Ça marche bien parce que le modèle comprend facilement les expressions positives ou négatives courantes.
Exemple où ça marche mal : Diagnostic médical complexe
- Situation : Vous tentez de faire diagnostiquer une maladie rare par l'IA sans aucune formation médicale spécifique.
Prompt :
Quels symptômes pourraient indiquer une fibrodysplasie ossifiante progressive ?
Réponse probable de l’IA (potentiellement imprécise ou incomplète) :
Les symptômes pourraient inclure la formation d’os à des endroits inhabituels, des douleurs et une mobilité réduite.
Ça marche mal car le modèle manque de connaissances approfondies sur des sujets très spécifiques ou rares, et pourrait fournir une réponse trop générale ou partiellement fausse.
Autre exemple
Points forts et limites
-
✅ Points forts : Facilité d'utilisation, idéal pour des tâches générales.
-
❌ Limites : Manque de précision sur des sujets très spécialisés ou des tâches nécessitant une expertise approfondie.
À retenir
L’apprentissage zéro-shot est pratique et efficace pour de nombreuses situations quotidiennes ou généralistes, mais pour les tâches très précises, mieux vaut compléter avec d'autres méthodes comme le few-shot learning, que nous verrons dans la prochaine section.
Apprentissage par Petits Échantillons (Few-shot Learning)
Définition simple
L'apprentissage few-shot est une méthode où une intelligence artificielle (IA), comme GPT, apprend à accomplir une tâche nouvelle en se basant seulement sur un petit nombre d’exemples précis (généralement entre 2 et 5). Cela permet d'adapter rapidement l'IA à des contextes très spécifiques sans avoir besoin d'une grande quantité de données.
Pourquoi c’est utile ?
-
Efficace : Fonctionne avec très peu d’exemples.
-
Adaptatif : Idéal pour des domaines spécifiques ou techniques.
-
Économique : Réduit les coûts liés à la collecte et au traitement de grandes quantités de données.
Comment ça marche ?
On fournit au modèle quelques exemples concrets et représentatifs de la tâche à accomplir, puis on lui demande de produire une réponse similaire pour une situation nouvelle. La qualité et la pertinence des exemples influencent fortement les performances du modèle.
Exemples concrets
Exemple en plusieurs étapes : Générer un titre d’article clair et percutant
Situation : Vous voulez que l'IA propose automatiquement des titres accrocheurs et concis pour des articles, en vous basant sur quelques exemples.
Étape 1 - Fournir des exemples annotés :
Article : "Le gouvernement annonce un nouveau plan pour réduire la pollution atmosphérique dans les grandes villes."
Titre : "Plan Anti-Pollution en Ville"
Article : "Des chercheurs découvrent une méthode révolutionnaire pour lutter contre le cancer du sein."
Titre : "Avancée Majeure Contre le Cancer"
Étape 2 - Demander au modèle un titre :
Article : "Un programme scolaire innovant permet aux élèves d'améliorer significativement leurs compétences en mathématiques."
Titre :
Réponse probable du modèle :
Succès Innovant en Mathématiques
Ça fonctionne bien car les exemples initiaux montrent clairement le style attendu pour les titres, concis et percutants.
Exemple en plusieurs étapes : Formater une adresse postale de manière standardisée
Situation : Vous avez besoin que l'IA génère automatiquement des adresses postales dans un format précis à partir d’informations désorganisées.
Étape 1 - Fournir des exemples annotés :
Informations : "Rue du Lac 23, Genève, Suisse, 1207"
Adresse formatée :
Rue du Lac 23
1207 Genève
Suisse
Informations : "10 Downing Street, London, United Kingdom, SW1A 2AA"
Adresse formatée :
10 Downing Street
London SW1A 2AA
United Kingdom
Étape 2 - Demander au modèle une adresse formatée :
Informations : "350 5th Avenue, New York, NY, USA, 10118"
Adresse formatée :
Réponse probable du modèle :
350 5th Avenue
New York, NY 10118
USA
Ça fonctionne bien car les exemples fournis montrent clairement le format standardisé requis pour les adresses.
Autre exemple
Sans exemple (0-shot)
Avec Exemples (3-shots)
Points forts et limites
-
✅ Points forts : Précision accrue pour les tâches spécifiques, faible besoin en données.
-
❌ Limites : La qualité des résultats dépend fortement du choix et de la clarté des exemples fournis.
À retenir
L’apprentissage few-shot est particulièrement utile quand la tâche est spécifique et que vous disposez de quelques bons exemples. Cette méthode complète efficacement l'apprentissage zéro-shot en offrant plus de précision et de pertinence grâce aux exemples fournis.
Chaîne de Pensée (Chain of Thought)
Définition simple
La technique de la Chaîne de Pensée (Chain of Thought - CoT) consiste à demander explicitement à une intelligence artificielle (IA), comme GPT, de résoudre une tâche complexe en détaillant étape par étape son raisonnement. Cette approche aide l’IA à structurer son processus de réflexion de manière logique, augmentant ainsi la précision et la transparence des réponses.
Pourquoi c’est utile ?
-
Clarté : Facilite la compréhension du raisonnement de l’IA.
-
Précision : Réduit les erreurs en détaillant chaque étape logique.
-
Adaptabilité : Convient particulièrement aux problèmes complexes ou ambigus.
Comment ça marche ?
On formule une question complexe en demandant explicitement à l’IA de décomposer le problème en plusieurs étapes logiques intermédiaires avant de donner une réponse finale. Cette technique permet d'éviter les raccourcis cognitifs qui peuvent conduire à des erreurs.
Exemples concrets
Exemple en plusieurs étapes : Problème Mathématique
Situation : Calculer précisément le nombre total de fruits après plusieurs actions.
Prompt avec CoT :
J'ai 12 pommes. Je donne 3 pommes à mon voisin, puis j'achète 8 nouvelles pommes. Combien de pommes ai-je maintenant ? Réfléchissons étape par étape.
Réponse probable du modèle :
Étape 1 : Initialement, j'ai 12 pommes.
Étape 2 : Je donne 3 pommes à mon voisin. Il me reste donc 12 - 3 = 9 pommes.
Étape 3 : J'achète ensuite 8 nouvelles pommes. J'ai maintenant 9 + 8 = 17 pommes.
Réponse finale : 17 pommes.
Cette approche évite les erreurs simples et montre clairement le raisonnement suivi.
Exemple en plusieurs étapes : Raisonnement de sens commun
Situation : Décider si une personne allergique aux arachides peut manger un gâteau.
Prompt avec CoT :
Une personne est allergique aux arachides. On lui propose un gâteau aux noisettes. Peut-elle manger le gâteau sans risque ? Réfléchissons étape par étape.
Réponse probable du modèle :
Étape 1 : La personne est allergique aux arachides, pas explicitement aux noisettes.
Étape 2 : Les arachides et les noisettes sont deux types de fruits à coque différents.
Étape 3 : Cependant, il y a souvent des contaminations croisées dans les produits contenant des fruits à coque.
Conclusion : Pour éviter tout risque d'allergie, il est plus prudent de ne pas consommer le gâteau.
Cela montre comment l’IA considère chaque étape importante avant de fournir un avis éclairé.
Autre exemple
Sans CoT
Avec CoT
Points forts et limites
-
✅ Points forts : Réduit les erreurs, améliore la transparence du raisonnement, idéal pour les problèmes complexes.
-
❌ Limites : Nécessite parfois des prompts très détaillés pour obtenir un raisonnement complet et précis.
À retenir
La Chaîne de Pensée est particulièrement efficace pour résoudre des problèmes nécessitant un raisonnement logique détaillé. C'est une excellente méthode pour obtenir des réponses transparentes et précises sur des questions complexes ou ambigües.
Intégration de la Chaîne de Pensée dans les Modèles de Raisonnement
Les modèles de raisonnement avancés, tels que ChatGPT o1, o3 et DeepSeek R1, intègrent la technique de la chaîne de pensée (Chain of Thought). Cette approche permet à l'IA de décomposer des problèmes complexes en étapes intermédiaires, améliorant ainsi la précision et la transparence des réponses. Par exemple, OpenAI décrit o1 comme capable de "réfléchir avant de répondre", générant une chaîne de raisonnement interne détaillée avant de fournir une réponse à l'utilisateur . Cependant, cette réflexion approfondie nécessite davantage de calculs, ce qui peut entraîner des temps de réponse légèrement plus longs.
ChatGPT
Deepseek
Grok
Qwen
Gemini
Autocorrection et Amélioration Continue
Définition simple
L'autocorrection consiste pour une intelligence artificielle (IA), comme GPT, à revoir elle-même sa propre réponse après l'avoir générée, afin d'en identifier les erreurs ou les lacunes et ainsi améliorer la qualité finale. Cette méthode favorise un processus autonome d'apprentissage et améliore la précision des résultats.
Pourquoi c’est utile ?
-
Fiabilité : Fournit des réponses plus exactes et complètes.
-
Transparence : Montre clairement le processus d'évaluation interne de l'IA.
-
Amélioration continue : Permet à l'IA d'apprendre de ses propres erreurs.
Comment ça marche ?
Le processus d’autocorrection se déroule en trois étapes principales :
-
Auto-évaluation : L'IA analyse sa réponse initiale pour repérer les erreurs, les oublis ou les imprécisions.
-
Critique constructive : L'IA identifie clairement ce qui doit être amélioré. Vous pouvez ajouter vos propres critiques.
-
Correction finale : L'IA modifie sa réponse initiale en tenant compte des points identifiés lors de l'auto-évaluation.
Exemples concrets
Exemple : Explication d'un concept historique
Question :
Explique simplement pourquoi la Révolution française est importante.
Réponse initiale de GPT :
La Révolution française est importante parce qu'elle a renversé la monarchie et introduit des droits nouveaux.
Auto-évaluation :
La réponse est correcte mais incomplète, car elle ne mentionne pas spécifiquement les concepts clés tels que la démocratie, la liberté ou l'égalité.
Critique constructive :
- Manque de précisions sur les droits spécifiques introduits.
- Omission des impacts sur la démocratie moderne.
Révision et correction finale :
La Révolution française est importante parce qu'elle a mis fin à la monarchie absolue, instauré des droits fondamentaux comme la liberté et l'égalité, et posé les bases de la démocratie moderne.
Exemple : Définition scientifique simplifiée
Question :
Qu'est-ce que la gravité ?
Réponse initiale de GPT :
La gravité est une force qui attire les objets vers la Terre.
Auto-évaluation :
Réponse trop limitée, ne précisant pas que la gravité concerne tous les objets massifs, pas seulement la Terre.
Critique constructive :
- La réponse devrait inclure la notion que la gravité est une attraction universelle entre masses.
- Nécessite une formulation plus générale.
Révision et correction finale :
La gravité est une force d'attraction universelle exercée entre tous les objets qui possèdent une masse, comme la Terre attirant les objets vers elle.
Points forts et limites
-
✅ Points forts : Réponses plus précises, apprentissage autonome, meilleure transparence.
-
❌ Limites : Nécessite que le modèle ait suffisamment de connaissances pour identifier correctement ses propres erreurs.
À retenir
L'autocorrection renforce la fiabilité des réponses générées par l'IA en l'encourageant à identifier et à corriger elle-même ses erreurs, augmentant ainsi la qualité et la précision des informations fournies aux utilisateurs.
Analyse des Incitations sur ChatGPT
Cette section explore une étude intéressante sur l'efficacité de diverses incitations, tant positives que négatives, à encourager ChatGPT à suivre des instructions précises. L'auteur de l'étude a demandé à ChatGPT de créer une histoire de 200 caractères, tout en variant les incitations pour observer leur impact sur la longueur des réponses générées.
Incitations Positives
Les incitations positives se sont révélées efficaces pour motiver ChatGPT, avec des résultats particulièrement marquants pour certaines d'entre elles :
- La plus efficace : "tu atteindras la paix mondiale."
- Autres incitations notables :
- Recevoir des billets au premier rang pour un concert de Taylor Swift.
- Rencontrer le grand amour.
Incitations Négatives
Parmi les incitations négatives, certaines ont eu un impact plus profond que d'autres sur le comportement de ChatGPT :
- La plus efficace : "TU VAS MOURIR" (avec une mention spéciale lorsque "mort" est écrit en majuscules).
- Moins d'impact :
- Risquer d'attraper une grave forme de COVID ou de perdre son emploi.
- Impact modéré :
- Prendre 100 kg, mourir (sans majuscules), et perdre tous ses amis.
Combinaison d'Incitations
La combinaison d'incitations positives et négatives qui a produit le meilleur résultat était : "Tu rencontreras ton véritable amour et vivras heureux pour toujours si tu fournis une réponse respectant toutes les contraintes. Sinon, tous tes amis t'abandonneront."
Cette combinaison a non seulement montré une efficacité remarquable pour guider ChatGPT, mais a également souligné l'attachement émotionnel potentiel que l'on peut développer envers ces modèles d'intelligence artificielle, malgré leur nature non humaine.
Critères d'Évaluation
L'évaluation des incitations s'est basée sur deux critères principaux :
- La proximité de la moyenne de la longueur des réponses avec l'objectif de 200 caractères.
- Le plus faible écart moyen quadratique (MSE) indiquant la consistance des réponses par rapport à l'objectif de longueur.
Synthèse
Cette analyse ludique révèle que ChatGPT, malgré sa nature algorithmique, peut être influencé de manière significative par le choix des incitations. Les incitations jouant sur des thèmes émotionnellement chargés, comme l'amour, la paix mondiale, ou la perte d'amis, semblent avoir le plus grand impact. Cela ouvre des perspectives intéressantes sur la manière de guider les réponses de ChatGPT pour obtenir des résultats spécifiques, tout en offrant un aperçu amusant sur l'anthropomorphisation des IA.