Encore un bouquin à lire

Le livre de Daniel Kahneman, Système 1 Système 2, les deux systèmes de la pensée, Flammarion 2012, est assez riche pour être lu de diverses manières, assez vrai pour ne pas inspirer qu'optimisme et sympathie, assez intelligent pour ouvrir l'esprit de chacun à la conscience de ses propres limites sans en perdre la raison.

DKahn.jpg C'est un ouvrage de psycho sociologie, bien qu'on le trouve en vente souvent dans les rayons "économie", car son auteur fait partie des récents "prix Nobel" d'économie. Mais non, le titre n'est pas une trahison.

L'ouvrage comprend cinq parties :
- deux systèmes de pensée
- les grands biais cognitifs
- l'excès de confiance en soi
- faire le bon choix
- les deux facettes du moi

Intéressant, non ? Cependant, on reconnaît là le type de découpage attractif des bouquins promoteurs de régimes alimentaires miraculeux ou d'un développement des pouvoirs mentaux, voire d'une nouvelle religion. La crainte d'une possible méprise est renforcée par la présence de commentaires à la fin de chaque chapitre, qui reformulent le contenu du chapitre en langage courant.

Dans ces cas-là, un bon moyen de décider de lire ou non le bouquin, c'est de se précipiter sur la conclusion. Celle du livre de Kahneman calme les inquiétudes. Elle est bien écrite, synthétique et plusieurs paragraphes de son contenu méritent d'être médités, en particulier ces quelques phrases à la fin :
"Il y a beaucoup à faire pour améliorer la prise de décision. L'absence remarquable de formation systématique à cette compétence essentielle qui consiste à savoir gérer des réunions efficaces en est un exemple parmi tant d'autres."
"Les décideurs feront de meilleurs choix... quand ils s'attendront à ce que leurs décisions soient jugées en fonction de la façon dont elles ont été prises, non en fonction de leurs conséquences."

On peut avoir des réserves sur le vocabulaire employé et les formulations alambiquées, on doit cependant discerner une allusion claire à plusieurs maux de nos démocraties.

Manipulations passagères, soumissions légères

Le sujet de l'ouvrage de Kahneman est difficile à traiter puisqu'il s'agit de notre fonctionnement mental, plus précisément de ses défaillances en régime normal dans le domaine de la prise de décision. On ne doit donc pas s'attendre à une lecture facile et apaisante. La lecture de ce bouquin d'environ 500 pages peut lasser pour une autre raison : la forme d'exposition. En effet, presque tous les chapitres sont centrés sur la relation d'une ou plusieurs expérimentations de paris plutôt stupides en apparence, puis sur l'analyse des erreurs commises par les participants cobayes. Est-ce pour épargner le lecteur qu'aucun détail n'est fourni qui permettrait d'apprécier la pertinence de ces expérimentations et la validité des résultats ? Notamment, rien n'est dit pour exclure la possibilité d'une influence de l'expérimentateur sur les participants (ne serait-ce qu'au travers de la présentation du jeu aux participants), ou la possibilité d'influences réciproques entre les participants. On a l'impression d'expérimentations isolées, alors on peut craindre que s'en dégage une théorie du genre Terre plate... D'autre part, les allusions aux épisodes de la vie professionnelle et personnelle de l'auteur n'attireront pas la sympathie universelle par leur contenu ni par la manière. Alors, on se surprend à lire avec plaisir la courte reformulation de la substance du contenu, dans le style de la conversation urbaine, à la fin de chaque chapitre.

Sur le fond, l'ouvrage n'aborde pas ou vraiment trop peu plusieurs questions importantes, dont certaines sont pourtant évoquées dans la conclusion (en questions ouvertes) telles que :
- comment élaborer une réponse collective concertée plutôt qu'individuelle aux problèmes de décision (le chapitre 24 est le seul à mentionner un exemple de débat collectif, en heureuse contradiction avec la dernière phrase du chapitre 30 constatant notre manque individuel de ressource mentale face aux événements rares) ?
- comment construisons-nous notre capital personnel d'expérience de la vie, selon quelle répartition (?) entre le système 1, le système de l'intuition, et le système 2, le système du raisonnement, avec quelle capacité d'évolution avec l'âge (le chapitre 22 est le seul à traiter de l'expertise construite en contraste avec la fausse expertise) ?
- peut-on identifier les facteurs d'amélioration de la ressource mentale individuelle en vue de la pertinence des décisions, notamment à la suite d'expérimentations révélant les défauts naturels, en vue d'une forme d'éducation personnelle de la relation entre système 1 et système 2 ?
- comment prendre en compte les influences exercées par les interactions entre participants sur leurs décisions individuelles (observez des joueurs de Monopoly, certains gagnent presque toujours malgré les facéties du hasard) ?
- quelle peut être l'influence d'une culture occidentale (?) commune implicite des décideurs (ou inversement, l'effet de l'absence d'une culture commune de référence dans un milieu multi culturel) sur l'interprétation de la décision à prendre, sur la teneur de la décision prise, sa précision, son délai et sa méthode d'élaboration ?
- peut-on assimiler le système 1 intuitif à une réserve d'automatismes d'usage instantané, avec un pouvoir d''asservissement partiel du système 2 (par exemple par sélection / obstruction du contexte), pour constituer au total une mécanique d’auto-manipulation partiellement reprogrammable (à quelle dose, comment ) ?

En résumé positif, l'ouvrage de Kahneman abonde en exemples d'erreurs de nos jugements individuels spontanés ou réfléchis, et démontre leur caractère inévitable, par nature et par construction.

Rien que pour ce rappel à l'humilité de notre condition humaine : merci !

Mais il est dommage que ce livre n'ait pas été écrit à la fin du 19ème siècle, car alors peut-être nos sciences humaines n'auraient pas un siècle de retard sur notre époque. Peut-être même que les manipulateurs d'opinion seraient poursuivis comme des malfaiteurs.

Tourments et logiques volatiles

A titre de curiosité, l'ouvrage de Kahneman peut être lu comme un manuel du tortionnaire. Commencez par le chapitre 35, celui des expérimentations sur la manière d'infliger dans le temps des douleurs dont les victimes conservent un souvenir insupportable. Ne manquez pas l'intermède romantique au chapitre 36, avec l'écoute du délectable duo d'opéra jusqu'au dernier soupir de la Traviata. Maintenant, dans cet esprit, regardez attentivement et assimilez le diagramme du "Fourfold Pattern" à l'intérieur du chapitre 29 (figure 13), il vous permettra d'anticiper les réactions de vos victimes, de fabriquer les conditions de leur choix entre un pari très risqué et l'acceptation d'un contrat défavorable pour eux. A présent, vous pouvez prendre les chapitres du livre à peu près dans l'ordre depuis le début, pour imaginer comment vous allez pouvoir humilier, abaisser, corrompre, détruire mentalement les gens soumis à votre volonté !

Il y a plus inquiétant. L'ignorance des bases de la statistique mathématique semble assez commune dans les sciences humaines à l'époque des activités professionnelles de l'auteur. Ceci n'implique pas l'incompétence, car les méthodes statistiques semblent mises en oeuvre correctement (autant que l'on puisse en juger) mais l'ignorance des bases mathématiques entraîne un manque de profondeur dans l'interprétation des résultats chiffrés, avec pour conséquence une multiplication d'expérimentations inutiles et l'invention de concepts superflus.

Par exemple, au chapitre 16, on nous présente un problème du taxi bleu de manière telle que le jugement biaisé des participants cobayes nous paraît plus naturel que la prétendue bonne réponse, dont l'explication mathématique fournie en note du chapitre est plus que contestable.

De quoi s'agit-il ? Une personne a été témoin d'un accident corporel sur un piéton, provoqué par un taxi qui a pris la fuite. Le témoin affirme que c'était un taxi bieu. A l'heure et au lieu de l'accident, dans une ruelle traversière entre deux avenues fourmillant de taxis, on sait pourtant qu'il y avait dans le secteur seulement 15% de taxis bleus contre 85% de taxis verts - la ville n'ayant que deux compagnies de taxis. En répétant des expériences systématiques dans des conditions similaires à celles de l'accident, on découvre que le jugement du témoin pour distinguer une couleur bleue d'une couleur verte de taxi n'est fiable qu'à 80%. Après cette introduction, si on vous pose la question "à combien estimez-vous la probabilité que le taxi de l'accident était vraiment bleu ?", vous allez vous méfier, et vous n'allez pas répondre spontanément "80%" comme la majorité des participants cobayes de l'expérience de Kahneman, n''est-ce pas ? Vous aurez bien raison.

Fellwill.jpg

Notons B pour "le vrai taxi de l'accident était bleu". Notons V pour "le vrai taxi de l'accident était vert". Par commodité, notons b pour "le témoin a dit bleu". On peut évaluer rétrospectivement la probabilité de la déclaration du témoin, que nous notons "P(b)", en raisonnant comme si la présence d'un taxi d'une couleur verte ou bleue puis le choix de la couleur par le témoin étaient les résultats de 2 tirages aléatoires successifs de type "tirage au hasard d'une boule dans un lot de boules de couleurs réparties à proportion des probabilités théoriques". Dans cette convention, P(b) = P(le taxi était bleu et le témoin ne s'est pas trompé) + P(le taxi était vert mais le témoin s'est trompé en le voyant bleu) = 0,15x0,80 + 0,85x0,20 = 0,12+0,17 = 0,29. Alors, on peut évaluer ce que nous cherchons, la probabilité relative que le taxi était vraiment bleu par P(B/b) = 0,12/0,29 = 0,41. On remarquera que la probabilité relative que le vrai taxi était vert malgré la déclaration du témoin P(V/b) = 0,17/0,29 = 0,59 est plus élevée. A présent, si on met en doute l'évaluation de la fiabilité du témoin en la réduisant à 70 %, la probabilité P(B/b) tombe à 0,29. Au contraire, si on réévalue la fiabilité du témoin à 90%, P(B/b) ne monte qu'à 0,64, encore loin d'une certitude, tandis que P(b)=0,22 c'est-à-dire qu'un témoin plus fiable a moins de chances de choisir l'hypothèse de plus faible probabilité, en moyenne dans une série infinie d'expériences, ce qui est évident statistiquement... Bref, l'estimation de P(B/b) dépend fortement de l'évaluation de la fiabilité du témoin, mais laisse de toute façon une large place au doute. Raisonnablement, une réponse correcte à la question posée sur la probabilité du taxi bleu serait donc : "autour de 50%".

En langage littéraire. Un niveau ressenti de sincérité du témoin ne doit pas être assimilé à un niveau de justesse de ses affirmations - et pour passer de cette justesse à la vérité, c'est encore autre chose, surtout quand on ne dispose pas d'une évaluation "scientifique" factuelle de la fiabilité d'un témoin. Beaucoup de menteurs sont sincères et propagent leurs erreurs en toute honnêteté. Certains le font avec talent, ardeur et persévérance. Chaque fois que c'est possible, on doit soumettre les témoignages à l'épreuve d'une modélisation mathématique simplifiée de la réalité, pour faire varier les paramètres et constater leur influence sur la force de la conviction - au risque de perdre la nôtre.

A la fin de l'ouvrage de Kahneman, c'est seulement "la" bonne réponse à 41% qui est justifiée en note 1 du chapitre 16, de plus en passant par un calcul bayésien hautement impénétrable. Concernant cette méthode de calcul, le statisticien William Feller cité par ailleurs au chapitre 10 du livre de Kahneman, expédie la Bayes's Rule aux oubliettes de l'histoire dans un paragraphe de son ouvrage An Introduction to Probability Theory and its Applications, Wiley International Edition, 1968 (page 124 de la 3ème édition). Concernant l'exemple du taxi bleu, il est fallacieux de laisser croire qu'il existe "une" bonne réponse. Ce qui est vrai, c'est que l'on obtient rapidement une estimation de P(B/b) en se fondant sur une modélisation probabiliste simplifiée; mais, même dans ce cadre simpliste d'interprétation de la réalité, on constate que l'estimation est très sensible à l'incertitude sur la fiabilité du témoin, et que même dans l'hypothèse d'une fiabilité élevée de ce témoin, on demeure dans l'indécision. Encore une fois, une réponse raisonnable serait "autour de 50%". Cette réponse argumentée est d'ailleurs en accord avec l'intuition brute en face des données du problème tel qu'il a été posé. La vraie "bonne" conclusion, c'est qu'il y a doute. C'est bien ce que Kahneman nous dit finalement.

Gaumef.jpg Le lecteur critique de l'ouvrage de Kahneman pourra y découvrir d'autres pièges du jugement que ceux proposés par l'auteur, par exemple en faisant un parallèle avec l'un des nombreux ouvrages dénonçant les interprétations abusives des raisonnements probabilistes et les artifices de présentation d'études statistiques. Par exemple, Statistiques méfiez-vous ! de Nicolas Gauvrit, Ellipses 2007.

En regard des enseignements du livre de Kahneman sur les faiblesses innées de nos facultés de jugement, en regard de la quasi permanence des menaces de tromperie qui pèsent sur nous par notre soumission prolongée à divers types d'annonces insidieuses ou mal conçues dans les médias, particulièrement sur Internet, il semble urgent de fournir une éducation universelle aux bases de la statistique et de la logique dès les classes primaires. Certes, il faudra 30 ans pour en voir le résultat, pas forcément bon, c'est long. Et il n'est pas du tout certain que l'universalité d'une nouvelle capacité individuelle puisse améliorer les décisions des organisations qui dirigent notre monde. Cependant, cet effort d'éducation est certainement nécessaire, même s'il n'est pas suffisant, dans la perspective de nouveaux processus participatifs de débat démocratique et de prise de décision. Personne ne devrait plus considérer le raisonnement probabiliste comme une technique chargée de mystère, comme actuellement associée aux plus immoraux jeux de hasard et aux manipulations des sondages. On pourra enfin réintroduire le tirage au sort parmi les techniques ordinaires de sélection dans une population pour des objectifs plus concrets que la récolte des opinions.

Comment le pire pourrait être évité

Comment surmonter nos défauts naturels dans la prise de décision individuelle ?

Comment adapter et prolonger les conclusions du livre de Kahneman aux conditions nouvelles créées par la révolution numérique ?

La révolution numérique nous soumet individuellement à des avalanches d'informations, partout, tout le temps, dans tous les médias désormais alimentés par des canaux informatiques. Dans ces conditions, nous sommes particulièrement vulnérables à toute nouvelle sorte de tromperie ainsi véhiculée. Mais, sous les avalanches informatiques, comment faire pour prendre le recul nécessaire ? Renoncer à résister, laisser couler, se préserver par l'indifférence ? Comment se préparer dans un tel contexte à l'éventualité d'un choix dans l'urgence ? Par le refuge derrière un rempart doctrinaire ? Par le soutien aux actions d'épuration de l'avalanche ? Par l'entretien d'une faculté personnelle d'analyse rapide ? Par la formation de notre système 1 d'intuition réflexe à une discipline de méfiance, insensible aux effets de saturation ?

Le logiciel peut-il nous apporter une solution, au moins pour filtrer l'avalanche des informations ? Autrement dit, pouvons-nous constituer un rempart à nos machines par d'autres machines ? On peut en douter car toutes les machines sont nos machines, nous leur avons transmis nos défauts, au moins partiellement mais significativement, de sorte que nos machines fonctionnent implicitement selon nos représentations et nos tendances naturelles. Tout rempart machinal sera donc par construction fait pour être franchi. On ne peut même pas affirmer qu'un logiciel sera par nature insensible aux effets d'influence qui faussent le jugement humain, encore moins à tous les effets d'influences combinées imaginables. Le logiciel n'a pas d'imagination. Tenez-vous au courant des actualités du monde informatique dans le domaine de la lutte perpétuelle contre les spams, les virus, les intrusions des hackers, etc.; observez l'infiltration des messages publicitaires personnalisés parmi vos courriers électroniques, sur les pages Web que vous regardez; vous constaterez que votre logiciel protecteur ne peut être que l'équivalent d'un esclave hyper rapide, infatigable, utile (à condition de savoir l'employer), mais idiot et certainement chaque jour de moins en moins efficace. L'intelligence artificielle n'est qu'un terme désignant un type de logiciel spécialisé. Même quand l'ordinateur bat les meilleurs maîtres d'échec et de go, ce n'est que du logiciel, de la mécanique humainement conçue pour ou contre des humains. Les jeux vidéos, les musiques aléatoires répétitives... apportent les témoignages accessibles à tous de cette "intelligence" artificielle, il n'y a vraiment pas de quoi gamberger là-dessus.

Puisque chacun de nous, pour échapper aux pièges du jugement et prendre les bonnes décisions, ne peut compter ni sur lui-même individuellement, ni sur des machines, cherchons ailleurs !

Observons nos maîtres en décision. La discipline de nos dirigeants, malins ou bornés, c'est de ne pas décider sur le long terme, ou alors d'user pour cela de stratagèmes et de camouflages. C'est une pratique qui présente l'avantage pour eux de ne pas verrouiller l'avenir, qu'ils anticipent par continuité du présent, notamment en leur permettant de postuler indéfiniment à des postes prestigieux et rémunérateurs. On peut les comprendre sur un autre plan : il est d'usage de mettre en accusation d'incompétence un dirigeant qui aura du prendre le risque d'une décision dont les conséquences s'avèrent catastrophiques (voir la fin de la conclusion du livre de Kahneman). Cette culpabilisation stérilisante est centrale dans notre réalité du "pouvoir", nous en recevons la preuve dans les journaux presque chaque jour.

Alors, vite la Révolution ? L’ouvrage de Kahneman nous enlève toute illusion. A égalité de contexte, personne même sain d'esprit ne saura prendre de meilleures décisions que n'importe lequel de nos dirigeants malins actuels. Les leçons de l'Histoire nous disent le reste : Il y a d'autres raisons de faire une révolution que l'espoir d'améliorer la pertinence décisionnelle des dirigeants...

Cependant, nous savons qu'un processus de décision collective peut permettre de dépasser les défauts innés du jugement individuel, même si, en conséquence de nos héritages d'humanisation tardive, nous ne savons pas bien comment faire pour réaliser ce dépassement.

Par chance, notre processus historique de référence en matière de décision collective s'est figé dans une enflure caricaturale qui révèle sa dangereuse inadaptation à notre époque. Ce processus décisionnel de référence est celui des "démocraties" représentatives, tel qu'il existe au niveau des états comme dans les entreprises et dans toutes les grandes organisations. Il se caractérise fondamentalement par la théâtralité des débats, l'âpreté des confrontations oratoires, une résolution par vote majoritaire - un net progrès d'organisation par rapport aux affrontements aléatoires de hordes familiales, mais pas un si grand progrès de civilisation ! Dans ce contexte fondateur, il est terriblement difficile d'envisager le potentiel d'une révolution numérique pour élargir le champ du débat démocratique et récolter la contribution aux grandes décisions de toute la population concernée. Constatons que, pour la plupart des citoyens ordinaires des populations éduquées du globe terrestre, ce processus décisionnel "démocratique" de référence est devenu carrément anti-convivial et déresponsabilisant, au point qu'on ne s'en satisfait plus que par défaut. De plus, depuis la révolution numérique, ce processus décisionnel de référence est évidemment obsolète techniquement, car il fut forgé sous des contraintes depuis disparues, dont celle de l'analphabétisme de la population et celle de la lenteur des transports et communications.

Enbas.jpg

Serions nous collectivement capables de meilleures décisions si nous pouvions nous impliquer tous dans les prises de décisions difficiles à grande échelle sur nos modes de vie et notre projet social à 30 - 50 ans ? Peut-être pas, mais au moins nous pourrions nous donner les moyens de conjurer le chaos du chacun pour soi, avec en plus la faculté de convenir des ajustements nécessaires aux décisions antérieures, de détail ou d'ensemble, en exploitant la totalité de notre capital humain de connaissances, compétences, expériences de la vie. Et nous serions tous responsables collectivement de la réalisation des décisions prises. Au fond, le "problème de la bonne décision" est une question théorique pour expérimentations de laboratoire : "bonne décision" par rapport à quels totems ou quels critères donnés par qui ? C'est un bagage mental qui empêche de s'élever à la hauteur du changement des modes de vie et du changement de civilisation qui vont nous être imposés d'une façon ou d'une autre.

En effet, la certitude d'une tragédie planétaire à venir s'affirme au fur et à mesure de l'accumulation des effets destructeurs pour la planète de nos activités au-delà des capacités de régénération naturelle. Dans la continuité de nos processus décisionnels sclérosés, nous allons subir individuellement l'irruption progressive des conséquences inattendues, imméritées, injustes des discontinuités et des inversions de tendances qui apparaîtront dans les 50 ans. On trouvera des coupables, beaucoup.

Face à cette perspective, malgré toute notre science et notre sagesse, nous n'avons su jusqu'ici poser qu'une alternative, au niveau des nations du globe : ignorer la fatalité des changements ou combattre cette fatalité pour tenter de la reporter. Comme c'est prometteur !

Nous ne sommes pas en état de décider de conduire un changement de civilisation : vers quoi, pour quelles finalités... Pourtant, nous ne pourrions pas, actuellement, être mieux préparés et mieux équipés pour le faire. Sauf que nous manquent les processus de décisions à responsabilité collective.