Extrait de l'ouvrage : L'Erreur est humaine Aux frontières de la rationalité

Vincent Berthet, L’Erreur est humaine, Aux frontières de la rationalité, CNRS éditions, 2018, 224 pages, 22 euros.

Cela est contre-intuitif, mais souvent nous ne pensons et n’agissons pas de façon rationnelle. Par exemple, après les attaques du World Trade Center, beaucoup d’entre nous ont eu peur de prendre l’avion et ont privilégié les déplacements en voiture lorsqu’ils étaient possibles. Pourtant la probabilité de mourir en avion est très inférieure à celle de mourir en voiture. Pourquoi avons-nous tendance à accorder plus de poids aux informations qui confirment nos croyances qu’à celles qui les infirment ? Pourquoi les narrations construites par notre cerveau peuvent être parfaitement cohérentes et néanmoins totalement erronées ? Bref, pourquoi sommes-nous biaisés ? Comprendre et savoir remédier aux biais cognitifs est fondamental car leurs conséquences tant au niveau individuel qu’au niveau collectif sont loin d’être anodines. Maniement des probabilités, compréhension du hasard, prise de décision : dans chacun de ces domaines, l’influence des biais cognitifs est majeure. En s’appuyant sur de nombreux exemples de notre quotidien et dans un style très vivant, Vincent Berthet met en lumière notre rationalité limitée. Et montre comment certains acteurs en tirent parfois profit. Une plongée au cœur de notre irrationalité.

Chapitre VI

Les algorithmes remplaceront-ils les humains ?

Une conséquence générale des limitations cognitives humaines est que des formules ou des algorithmes sont capables de produire de meilleures décisions que le jugement humain. Ceci est d’autant plus vrai à l’ère du numérique, marquée par la sophistication du traitement des données dont l’accès et la quantité sont jusque-là inégalés.

La décision « actuarielle »

La prise de décision est une forme de traitement de l’information qui consiste à collecter des informations, les examiner, les pondérer, etc., pour finalement former un jugement. Ce processus est extrêmement général. Quel est le point commun entre les décisions suivantes :

• Radiologiste : présence d’une tumeur ou non ?

• DRH : recruter ce candidat ou non ?

• Psychiatre : cet agresseur récidivera-t-il ou non ?

• Trader : acheter ou vendre ?

• Joueur de poker : relancer ou se coucher ?

Ces décisions récurrentes portent sur un critère et elles reposent sur l’analyse d’indices. Par exemple, un expert psychiatre devant estimer le risque de récidive d’un agresseur sexuel (le critère) analyse un ensemble d’indices (son âge, ses antécédents judiciaires, etc.). De la même façon, un parieur devant estimer les chances de victoire d’une équipe de foot (le critère) analyse un ensemble d’indices (les performances récentes de l’équipe, celles de l’équipe adverse, l’historique des rencontres entre les deux équipes, etc.). Les humains traitent les indices de manière subjective pour prendre leur décision sur un critère. Mais il existe une relation objective (ou réelle) entre les indices et le critère. En effet, si l’on dispose d’un nombre suffisant d’observations des indices et du critère, on peut mettre en évidence à l’aide de méthodes statistiques la relation objective qui existe entre les deux.

Prenons par exemple comme critère la récidive ou non d’un agresseur sexuel. Afin d’examiner si ce critère est lié à (ou peut être prédit par) certains indices, l’étude typique consiste à analyser un large échantillon d’agresseurs sexuels dont on dispose pour chacun d’un ensemble d’informations : les indices potentiels (le profil psychologique, l’âge auquel l’agression a été commise, l’existence d’un lien de parenté avec la victime, etc.), et le critère (le fait d’avoir récidivé ou non au cours d’un laps de temps donné). Bien évidemment, construire une telle base de données est coûteux en temps et en moyens. Une fois la base de données construite, des méthodes statistiques permettent d’examiner si le critère est relié à certains indices. De telles études ont été réalisées en nombre, et il s’avère que la récidive chez les agresseurs sexuels est bien liée à certains indices tels que le fait d’avoir commis une agression sexuelle avant 25 ans, le fait d’avoir commis des infractions avec violence non-sexuelle, ou encore le fait qu’au moins une victime était sans lien de parenté avec le délinquant. L’existence de ces liens statistiques fait que l’on peut définir une formule objective permettant de prédire le risque de récidive d’un agresseur sexuel. Il y a donc deux façons de prédire ce risque : le jugement subjectif d’un expert psychiatre et la formule objective issue des analyses statistiques de la base de données. Laquelle des deux méthodes est la plus précise ?