B1 · Episode 4 · 5:00
Bias and Noise: How Your Brain Tricks You
This episode explains the difference between cognitive bias (systematic errors in judgment) and noise (random variability in decisions). Both distort professional judgments—like sentencing, insurance risk assessment, or grading—but noise is harder to detect because it averages out, making it more insidious than bias.
Source：Christophe Michel / Hygiène Mentale · License：CC BY 4.0
Transcript
Les gens, moi compris, on aura peut- être tous tendance à parier intuitivement sur
People, including me, may all intuitively bet on
une position un peu plus au centre que la moyenne des impacts.
a position slightly more central than the average of all impacts.
Ou si on a eu un biais d'ancrage, par exemple.
Or if we’ve been subject to an anchoring bias, for example.
Si avant notre tour, avant de voir la salve,
Before our turn—before seeing this salvo—
on nous avait montré plusieurs cibles parmi celles des coups précédents,
we were shown several targets from previous shots,
et qu'elles étaient toutes plutôt en haut du panneau, comme ça,
and they were all relatively high on the board, like this,
comme ça, ou comme ça,
like this, or like this.
eh bien quand ce sera notre tour,
then, when it’s our turn,
on aura tendance à s'attendre à ce que celle- ci soit aussi plutôt haute,
we’ll tend to expect this one to be relatively high too,
et quand on verra la salve, on donnera peut- être tous une réponse un peu plus haute
and when we see the salvo, we might all give answers slightly higher
que ce que nous suggèrent les données.
than what the data actually suggest.
Et si on fait ça, c'est souvent à raison.
And when we do this, it’s often for good reason.
Là, on avait des raisons de penser que la réponse serait probablement assez haute.
Just now, we had good reason to think the answer would likely be quite high.
Nos biais sont pas juste là pour nous faire chier, la plupart du temps,
Our cognitive biases aren’t just there to annoy us; most of the time,
il y a une bonne raison.
there’s a sound reason behind them.
le fat Tony qui est en moi me pousse à ne tenir compte que des nouvelles données,
The ‘Fat Tony’ inside me focuses only on new data,
sans utiliser mes attentes a priori,
without using my prior expectations,
et du coup son jugement n'aura pas de biais, mais il aura beaucoup de bruit,
so his judgment is unbiased—but very noisy,
il est soumis à la fluctuation des données trop volatiles.
subject to excessive fluctuations in this volatile batch of data.
le docteur John qui est en moi me poussera à faire confiance à mes attentes a priori
Whereas the ‘Dr. John’ inside me trusts my prior expectations,
et à me méfier des nouvelles données du coup il n'a pas de bruit il mise toujours au
and distrusts new data; so he has almost no noise—he always aims at the same spot,
même endroit qui ne dépend pas de la répartition de cette dernière série d'impacts
a spot that doesn’t depend on how this latest set of impacts is distributed,
mais uniquement de son modèle
but solely on his own mental model.
mais si son modèle n'est pas absolument correct son jugement sera systématiquement
But if his model isn’t perfectly accurate, his judgment will be systematically biased.
biaisé. préférer être volatile ou bien préférer être biaisé
So: would you rather be volatile—or rather be biased?
le dilemme c'est très bien expliqué par lin yuwen wang sur la chaîne de science for
Lin Yuwen Wang explains this dilemma brilliantly on the Science For All channel.
all L'étude des biais internes, les biais cognitifs, c'est fascinant.
Studying internal biases—i.e., cognitive biases—is truly fascinating.
Quelles sont leurs origines, dans quelles conditions ils sont utiles et dans quelles
What are their origins? Under what conditions are they useful?
conditions ils nous mettent dedans, c'est fascinant.
Under what conditions do they get us into trouble? It’s fascinating.
Mais ça ne doit pas nous empêcher d'étudier aussi le bruit.
Yet this shouldn’t stop us from also studying ‘noise’.
Notre jugement a du bruit, il faut gérer ça aussi.
Our judgments contain noise—and we must manage that too.
Si on me demandait plusieurs fois, à des moments différents,
If I were asked multiple times, at different moments,
de deviner la position de la cible d'une même série de données,
to guess the target’s position using the same set of data,
je ne donnerais pas toujours exactement le même endroit.
I wouldn’t always give exactly the same location.
Un jour je te le placerais peut- être ici, un autre jour plutôt par là.
One day I might place it here; another day, more likely there.
Dans le monde professionnel, on a beaucoup de décisions à prendre,
In professional settings, we make many decisions,
de jugements à donner.
and deliver many judgments.
C'est très étudié et mesuré, et on mesure clairement que l'on a du bruit.
This has been thoroughly studied and measured—and clearly shows that noise exists in our judgments.
Si on présente plusieurs fois le même dossier criminel à un juge,
If the same criminal case file is presented multiple times to a judge,
à des moments différents, et qu'il a un peu oublié qu'il avait déjà jugé celui- là
at different times—and he’s slightly forgotten he already judged it last month,
le mois dernier, il ne donnera pas toujours exactement la même sentence.
he won’t always issue exactly the same sentence.
Il mettra peut- être 32 mois de prison alors qu'il avait mis 25 mois la dernière
Last time he sentenced 25 months; this time, perhaps 32 months.
fois. Il sera plus sévère de bon matin et plus clément après le déjeuner.
He tends to be stricter in the morning and more lenient after lunch.
Le lundi, sa sévérité dépendra de si son équipe de foot préférée a gagné ce week-
On Mondays, his severity even depends on whether his favorite football team won that weekend.
end ou pas. Oui oui, il y a plein d'études scientifiques là- dessus.
Yes—there are numerous scientific studies on this.
Lisez- les, moi en tout cas ça m'a vraiment fait changer de perspective.
Read them! At least for me, they truly shifted my perspective.
Voici d'autres exemples.
Here are some other examples.
Si on redemandait à un agent d'assurance d'évaluer le malus de risque incendie d'un
If an insurance agent is asked again to assess the fire-risk surcharge for a building—
bâtiment dont il avait déjà fait une audit,
a building he’d already audited before,
mais dont il ne se souvient plus le malus qu'il avait décidé,
but no longer recalls the surcharge he previously assigned,
ou à un agent immobilier d'estimer une maison,
or if a real estate agent re-evaluates a house,
bah il ne redonnera peut- être pas exactement le même chiffre.
he likely won’t quote exactly the same figure.
Nos jugements ont une petite proportion d'arbitraire, de random,
Our judgments contain a small proportion of arbitrariness and randomness,
d'aléatoire, de bruit.
of chance and noise.
Le bruit dans le jugement, c'est le titre du nouveau livre de Daniel Kahneman,
"Noise: A Flaw in Human Judgment" is the title of the new book by Daniel Kahneman, Olivier Sibony, and Cass Sunstein,
Olivier Sibony et Cass Sunstein.
the three authors.
Ils donnent plein d'exemples et de données scientifiques tout à fait alarmants.
They provide numerous alarming examples and scientific data.
C'est principalement sur ce livre qu'est basée cette vidéo.
This video is primarily based on this book.
Olivier Sibony est francophone, et il explique ça très bien en français,
Olivier Sibony is a native French speaker and explains this very clearly in French,
par exemple dans cette vidéo.
for example, in this video.
La thèse soutenue par les auteurs,
The central thesis argued by the authors is that
c'est que les biais dans le jugement professionnel, c'est un problème,
cognitive biases in professional judgment are indeed a problem,
mais au moins on peut facilement les repérer,
but at least we can easily spot them,
et du coup essayer de les compenser après coup.
and therefore try to compensate for them afterward.
Alors que le bruit, ça cause tout autant de dégâts,
Whereas noise causes just as much harm,
et ça passe beaucoup plus inaperçu, parce que, en moyenne, ça tombe juste.
yet it goes far more unnoticed—because, on average, it lands correctly.
Voici un autre exemple pour être plus clair.
Here’s another example to clarify this further:
Un prof qui corrige des copies du bac par exemple,
A teacher grading high-school graduation exam essays,
il émet un jugement professionnel: la note.
makes a professional judgment: assigning a grade.
Les profs jugent et notent les copies.
Teachers evaluate and score the exam papers.
Si pendant les corrections du bac on ajoute en douce une même copie de référence à
Suppose during the grading process, the same reference essay is quietly added to
la pile de différents profs de plusieurs lycées différents, pour vérifier,
the stacks of different teachers from various high schools, to check consistency,
on se doute bien que tous les profs mettront pas tous exactement la même note à
we’d naturally expect that different teachers would assign slightly different scores to this identical essay,
cette même copie.
not all exactly the same.
Mais on espère quand même qu'il n'y aura pas trop de dispersion,
Yet we still hope the scores won’t vary too widely,
qu'ils mettent tous à peu près la même note à un ou deux points près,
that everyone’s grades will be roughly similar—within one or two points,
qu'il n'y ait pas trop de bruit.
meaning there isn’t too much noise.
Si cette année, les profs de mon lycée notent ces copies de référence plus
If this year, the teachers at my high school grade these reference papers
sévèrement en moyenne que les profs des autres lycées, eh ben c'est pas cool,
more strictly on average than teachers at other high schools, well, that’s not good,
c'est un biais.
it’s a bias.
La note de ma fille dépendra beaucoup du lycée où elle est inscrite.
My daughter’s grade will depend heavily on which high school she attends.
C'est injuste.
That’s unfair.
Mais à la fin de l'année, sur les statistiques, ça va finir par se voir.
But by year’s end, it will show up in the statistics.
On pourra prendre des mesures pour éventuellement corriger le tir,
We can take action—possibly correcting course if needed,
harmoniser les notes.
and harmonizing grades.
Et ça se fait, il existe des commissions d'harmonisation.
And it’s already done: harmonization committees exist.
On sait gérer ces genres de biais.
We know how to handle this kind of bias.
si cette année les profs de mon lycée ont noté ces copies de référence en moyenne
If this year the teachers at my high school grade these reference papers
aussi sévèrement que les profs des autres lycées, ben c'est cool,
as strictly on average as teachers at other high schools, then great,
la note de ma fille ne dépendra pas de son lycée, il n'y a pas de biais.
my daughter’s grade won’t depend on her school—there’s no bias.
À la fin de l'année, sur les statistiques,
By year’s end, in the statistics,
on verra qu'il n'y a rien à compenser pour mon lycée,
we’ll see there’s nothing to compensate for our school,
on ne fera pas d'harmonisation de notes.
so no grade harmonization will be carried out.