Lorsque nous sommes confrontés à des questions complexes comportant de nombreuses inconnues, notre instinct nous pousse souvent à poser des questions générales aux modèles de langage, qui exigent des réponses trop simplistes. Nous courons ainsi le risque de tomber dans le réductionnisme, c'est-à-dire d'expliquer des phénomènes compliqués en éliminant des nuances cruciales.
Les chercheurs en IA expliquent que les humains disposent de "milliers d'années de connaissances de base partagées" qui alimentent inconsciemment les dialogues. Les grands modèles de langage ne disposent pas d'un tel contexte concernant les questions fondamentales sous-jacentes. En tentant de simplifier des questions épineuses pour les rendre plus digestes, on risque de déformer la réalité.
De nombreuses études montrent que les questions ouvertes et générales présentent des dangers tels que
- des explications simplifiées à l'extrême qui manquent de nuances
- une confiance erronée dans un contenu spéculatif
- des réponses frivoles qui impliquent des préjudices ou des violations de l'éthique
- des hypothèses sans lien avec la réalité.
Plutôt que d'exiger que des questions complexes soient comprimées en un seul échange, utilisez des stratégies de questionnement progressives, en plusieurs étapes, qui fournissent un échafaudage et un contexte pour améliorer le dialogue.
La puissance de l'enquête graduelle
Pour obtenir des informations de qualité, traitez les questions initiales comme des points de départ qui cadrent les problèmes, établissent une terminologie commune, s'accordent sur les contextes et fixent les attentes avant de passer aux subtilités et aux nuances des questions multiples.
Socrate a donné l'exemple de ce type d'enquête tactique dans ses dialogues légendaires, en commençant par des questions générales et en les complexifiant progressivement au fur et à mesure que l'on parvenait à une compréhension de base.
Les spécialistes de la cognition affirment que la décomposition de questions complexes en étapes cohérentes imite mieux l'apprentissage humain. Nous assimilons les concepts de manière itérative en construisant sur les fondations de manière incrémentale qui correspond mieux à nos capacités mentales à un moment donné.
De même, les questions responsables doivent être étayées. Les questions initiales doivent garantir les définitions de base, la terminologie et les limites contextuelles afin de s'assurer que les deux parties partagent les mêmes hypothèses. Dans le cas contraire, nous risquons de parler l'un sans l'autre, même si nous utilisons le même vocabulaire différemment.
Avec un cadre commun établi par des questions initiales ciblées, les couches suivantes peuvent incorporer plus d'ambiguïté, d'abstraction, d'hypothèses et d'ampleur. En structurant les dialogues de cette manière, l'engagement reste lié à la réalité plutôt qu'aux conjectures.
Stratégies pour les questions à plusieurs étapes
Lorsque vous abordez des sujets comportant de multiples inconnues, prenez en compte les pratiques suivantes :
- Commencez largement : Commencez par des questions ouvertes qui définissent les problèmes et les paramètres de base. Une spécificité précoce permet d'ancrer le dialogue dans la réalité.
- Soyez précis : recherchez une terminologie et des définitions précises avant de passer à une analyse plus large. Éliminez les abréviations ou les expressions idiomatiques qui peuvent prêter à confusion.
- Se mettre d'accord sur les cadres : Énoncer explicitement les contextes, les limites, les contraintes ou les objectifs supposés afin de confirmer les points de vue partagés sur les réponses appropriées.
- Vérifier l'interprétation : Reformulez les réponses initiales avec vos propres mots et demandez des éclaircissements pour vous assurer d'une bonne compréhension mutuelle avant de poursuivre.
- Approfondir le sujet : Une fois que vous êtes à l'aise avec les définitions et les contextes, posez des questions plus détaillées, y compris des hypothèses de type "et si", pour découvrir des nuances.
- Modifier les variables : Explorez les cas limites en modifiant les hypothèses, les contraintes ou les perspectives convenues précédemment afin d'évaluer la flexibilité.
- Ne pas aller trop loin : Reconnaître le moment où les discussions dépassent l'étendue actuelle des connaissances et reprendre les questions fondamentales.
Bien qu'il s'agisse d'une conversation, il s'agit toujours d'un va-et-vient interrogatif, le répondant étant obligé de répondre jusqu'à ce que l'auteur de la question estime que toutes les dimensions pertinentes ont été abordées.
En posant des questions graduées et précises, nous favorisons la complexité dans les interactions plutôt que de l'exiger prématurément et hors contexte. Chaque échange pousse le dialogue un peu plus loin jusqu'à ce qu'un sujet soit épuisé de manière satisfaisante.
Étude de cas - Discussion sur les biais des algorithmes
Supposons, par exemple, que vous souhaitiez discuter des dangers des biais dans les algorithmes. Ne vous attendez pas à ce que les modèles de langage résolvent immédiatement cette vaste question avec toutes ses nuances en une seule réponse. Il est préférable de procéder étape par étape :
Q : Que signifie "biais algorithmique" ?
R : Une définition de base établit la primauté de la partialité dans les systèmes algorithmiques par rapport à d'autres contextes avant d'évaluer l'impact sociétal.
Q : Quels sont les types d'algorithmes qui présentent des biais ?
R : Le fait de préciser les sous-ensembles d'algorithmes susceptibles d'être biaisés par rapport aux autres permet d'éviter les généralisations abusives.
Q : Pour les types d'algorithmes identifiés comme présentant des biais, quels sont les exemples de contextes sensibles dans lesquels les biais sont préjudiciables ?
R : Les catégories d'algorithmes et les manifestations de partialité ayant été clarifiées, l'examen de contextes impliquant une discrimination ou un manque d'équité fournit des exemples utiles avant d'élaborer des stratégies de solution.
Q : Vous avez précédemment cité des exemples d'algorithmes causant des problèmes de partialité dans le domaine des prêts financiers, des soins de santé et de la justice pénale. Pourriez-vous préciser les cas spécifiques et les préjudices observés dans ces domaines ?
R : Le fait d'exiger des précisions sur des cas spécifiques, plutôt que de vagues généralités, permet de mieux illustrer les pièges.
L'exploration itérative des facettes permet d'asseoir la discussion avant de théoriser des remèdes. Sauter directement à "comment résoudre le biais algorithmique" sans une base graduée produirait un trope inapplicable. Au lieu de cela, l'amorçage par étapes à travers des limites rigides concentre les connaissances.
Lorsque vous abordez des sujets complexes, évitez de vous focaliser sur des extraits sonores simplifiés à l'extrême. Adoptez plutôt un état d'esprit d'apprentissage en posant des questions en plusieurs étapes qui, une fois la compréhension de base acquise, permettent d'accéder à un niveau de sophistication plus élevé. Cela permet d'étayer l'engagement et d'écarter les hypothèses injustifiées qui nuisent à la recherche de la vérité.
Les prochains articles fourniront des conseils supplémentaires sur la mise en contexte, le questionnement de précision et l'évaluation des limites du modèle afin d'enrichir le questionnement.
Glossaire
- Réductionnisme - Pratique consistant à simplifier à l'extrême des sujets complexes en supprimant les nuances pour les rendre plus compréhensibles. Cela peut fausser leur véritable nature.
- Échafaudage - Stratégie consistant à décomposer des sujets complexes en étapes plus petites ou à poser d'abord des questions fondamentales. Cela permet d'apporter un soutien structurel et de développer ensuite la complexité.
- Enquête par étapes - Poser une série de questions plus petites et plus ciblées afin d'acquérir progressivement une compréhension d'un sujet complexe avant d'aborder des questions ouvertes et approfondies à son sujet.
- Terminologie/définitions - Termes, définitions et expressions spécifiques utilisés dans un domaine. L'établissement d'un vocabulaire commun est essentiel pour des discussions productives.
- Contexte - Les circonstances, les paramètres, les cadres entourant une question ou un domaine particulier. La clarification explicite du contexte garantit que toutes les parties interprètent les questions de la même manière.
- Hypothétique - Scénario imaginé ou théorique posé pour analyser les cas et les possibilités de "ce qui se passerait si" concernant un sujet.
Variables - Composantes d'un système ou d'une question qui peuvent être ajustées ou modifiées pour évaluer les effets sur les résultats. L'évaluation des cas limites en modifiant les variables permet de tester la robustesse. - Contraintes - Frontières, limites ou hypothèses qui réduisent le champ des solutions ou des réponses admissibles dans le cadre d'un raisonnement.
- Excès - Tenter d'étendre un sujet au-delà des connaissances actuelles ou ne pas reconnaître les limites d'une source d'information. Réinitialiser les discussions lorsqu'on atteint les limites de la compréhension.
- Possibilité d'action - Mesure dans laquelle les plans ou les recommandations peuvent aboutir à des résultats tangibles plutôt qu'à des conseils vagues ou spéculatifs dépourvus de substance. Le questionnement en plusieurs étapes permet d'ancrer les conseils dans la réalité.