B1 · Episode 5 · 5:02
The Four Sources of Human Error
This episode explains the four origins of human error: bias and noise in data, and bias and noise in judgment. It contrasts internal vs. external explanations for mistakes—emphasizing that focusing only on people's 'stupidity' or biases blocks real solutions, while addressing environmental factors (like design, information systems, or education) enables meaningful improvement.
Source：Christophe Michel / Hygiène Mentale · License：CC BY 4.0
Transcript
Mais qu'on. en moyenne ça ne dit pas tout
But on average, this doesn’t tell the whole story.
si ça se trouve cette année les profs de mon lycée ont mis parfois deux et parfois
Maybe this year, my school’s teachers gave 2 points for the same paper sometimes, and 19 points other times.
dix neuf pour la même copie ils ont beaucoup de bruit ça aussi c'est un problème ça
They have a lot of variation in grading—that’s also a problem, and unfair too.
aussi c'est injuste Si ça se trouve,
This is unfair too. Maybe…
il n'y a même pas de prof qui note plus sévèrement que les autres en moyenne,
in fact, no teacher is stricter on average than others;
et d'autres moins sévèrement.
nor is anyone more lenient on average.
Si ça se trouve, le prof à qui a été confiée la copie a mis une note très basse
Maybe the teacher who graded this paper gave a very low score,
parce qu'il était fatigué en fin de journée,
because he was tired at the end of the day,
mais il lui aurait mis une note très haute le matin même ou juste après son café.
but he might have given a very high score that same morning—or right after his coffee.
Si ça se trouve, il a tiqué sur l'utilisation d'un mot dans l'intro,
Maybe he simply disliked one word used in the introduction,
et la copie aurait eu une bonne note si elle avait juste employé un synonyme.
and the paper would have earned a good grade if just a synonym had been used.
Ou si ça se trouve, la forme de la calligraphie de l'élève a eu une influence sur
Or perhaps the student’s handwriting style influenced his judgment,
son jugement, et il ne s'en rend même pas compte.
and he isn’t even aware of it.
Et personne ne s'en rendra jamais compte parce que, en moyenne,
And nobody will ever notice—because, on average,
ses notes sont les mêmes que celles des autres profs.
his grades match those of other teachers.
en moyenne il n'y a pas de biais mais si chaque note individuellement est arbitraire
there’s no bias on average—but if each individual grade is arbitrary,
il y a du bruit et c'est injuste.
then there’s ‘noise’—and that’s what makes it unfair.
Du coup, voilà, mes erreurs peuvent avoir quatre types d'origines différentes,
So, my mistakes can stem from four different sources,
et je dois essayer de trouver comment améliorer chez moi chacune de ces sources
and I must try to figure out how to improve myself in each of these areas.
d'erreur. Il faut que j'essaye d'avoir des données de qualité qui ne s'éloignent pas
I need high-quality data—data that stays close to reality,
trop de la réalité, avec pas trop de bruit, de dispersion, et pas trop de biais,
with not too much noise, dispersion, or bias—and not too much deviation.
de décalage. Et il faut que j'essaie d'avoir un jugement adéquat,
And I need to make sound judgments—
qui ne s'éloigne pas trop de ce que suggèrent mes données,
judgments that don’t stray too far from what my data suggests,
avec pas trop de bruit et pas trop de biais.
with neither too much noise nor too much bias.
Notez que mes biais de jugement, la plupart du temps,
Note that my judgment biases, most of the time,
ils me compensent un biais dans les données.
compensate for a bias in the data.
C'est bien foutu.
It's well-designed.
Là, on voit que mon jugement biaisé va tomber pas trop mal au final.
Here, we see that my biased judgment actually works out quite well in the end.
Mes biais sont des avantages précieux,
My biases are valuable advantages,
souvent sélectionnés depuis des millions d'années par l'évolution pour répondre à un
often selected over millions of years by evolution to suit a certain environment,
certain environnement, ici.
namely, the environment we live in right now.
Le problème, c'est que notre environnement change vite.
The problem is that our environment changes rapidly.
En quelques siècles, on n'a plus du tout les mêmes conditions de vie,
Within just a few centuries, our living conditions have changed completely,
on n'est plus du tout soumis aux mêmes stimulus.
and we’re no longer exposed to the same stimuli.
Notre environnement change plus vite que l'évolution des espèces ne s'adapte.
Our environment changes faster than species evolution can adapt.
C'est seulement dans ces cas- là que nos biais nous plantent.
It’s only in such cases that our biases trip us up.
Ils compensent un truc qui n'existe plus.
They compensate for something that no longer exists.
C'est pas simple.
It’s not simple.
Il faut que je sois vigilant sur chacun de ces types d'erreurs,
I need to stay vigilant against each type of error,
et chacun va me demander des moyens différents pour les corriger.
and each one will require different strategies to correct.
En général, mon erreur globale a pour origine une
Generally speaking, my overall error stems from a combination of these four types,
combinaison des quatre dans différentes proportions.
just in varying proportions.
On peut essayer d'agir partout.
We can try addressing them all.
Et si jamais je devais m'aventurer à critiquer les erreurs des autres,
And if I ever venture to criticize others’ mistakes,
eh bien c'est pareil: il faut envisager chacune des quatre origines possibles de son
I must likewise consider each of the four possible origins of their error,
erreur, et en particulier éviter d'analyser les erreurs des autres systématiquement
especially avoiding the tendency to systematically attribute others’ errors to internal causes—
en termes de causes internes: les gens ont des biais,
for example, ‘people have biases’,
les complotistes sont cons, tout ça.
or ‘conspiracy theorists are stupid’, and so on.
Pour montrer que ces distinctions ne sont pas juste de la branlette intellectuelle
To show these distinctions aren’t just intellectual wankery by some teleo-philosopher,
d'un telo- philosophe, voici un exemple de la vie quotidienne.
here’s an everyday example.
Si dans mon immeuble il y a des gens qui se trompent d'ascenseur,
Suppose in my apartment building, people often get into the wrong elevator—
souvent ils prennent celui qui descend alors qu'ils veulent monter.
they press the down button when they actually want to go up.
Une façon de cadrer le problème est de se demander comment améliorer l'ergonomie,
One way to frame the problem is to ask how to improve ergonomics,
de rendre plus clairs les sens de circulation.
and make traffic directions clearer.
Des ingénieurs et des designers se penchent depuis longtemps sur ces genres de
Engineers and designers have long studied such problems,
problèmes, et certains ascenseurs peuvent largement être améliorés.
and many elevators still have considerable room for improvement.
Il faut chercher des solutions.
We must seek solutions.
Et une autre façon de cadrer le problème,
Another way to frame the problem would be—
ce serait juste de déplorer le fait que les gens sont cons,
simply lamenting that people are foolish,
qu'ils sont débiles de se tromper, qu'il faut qu'ils fassent plus attention.
that they make mistakes because they’re clueless or inattentive.
Causes externes, causes internes.
External causes versus internal causes.
Les deux approches sont valides, hein?
Both approaches are valid, right?
Oui, si les gens faisaient plus attention, ça irait mieux.
Yes—if people paid more attention, things would indeed improve.
Mais tout analyser uniquement sous l'angle des causes internes,
Yet analyzing everything solely through internal causes,
déplorer la connerie des gens systématiquement,
systematically blaming people’s foolishness,
ben c'est pas seulement hyper vexant pour les personnes qui se trompent,
is not only deeply offensive to those who make mistakes—
parce qu'on s'en fout d'être bienveillant juste par principe,
after all, kindness shouldn’t exist just as a principle;
c'est surtout que ça empêche de comprendre le problème,
more importantly, it prevents us from truly understanding the problem,
ça empêche de trouver des solutions.
and blocks us from finding effective solutions.
Pour agir au mieux et améliorer le monde, réduire nos erreurs,
To act most effectively—to improve the world and reduce our errors—
il faut commencer par comprendre le monde.
we must first understand the world,
comprendre les vraies origines de nos erreurs.
understand the true origins of our mistakes.
Cette distinction interne externe, ça explique probablement,
This internal-external distinction likely explains—
à mon avis, les différentes approches du mouvement sceptique actuel.
why today’s skeptical movement embraces diverse approaches.
Vouloir rendre responsable de nos erreurs plutôt les causes externes ou plutôt les
Choosing whether to attribute errors primarily to external or internal causes,
causes internes, c'est en fait un engagement politique fort.
is in fact a strong political stance.
Dans un cas, si ce type croit une ânerie, terre
For instance, if someone believes the Earth is flat, or in homeopathy or conspiracy theories,
plate, homéopathie, théorie du complot, c'est sa responsabilité individuelle.
this view places full responsibility on the individual.
Il est libre de ses choix, il est libre de croire ou de ne pas croire.
He is free to choose, and free to believe—or not to believe.
Si il fait le mauvais choix, eh bien il est con,
If he makes the wrong choice, then he’s foolish.
ou à la limite il a des biais cognitifs, et il faut que il corrige son erreur.
Or, at worst, he has cognitive biases—and must correct his mistake.
Dans l'autre cas, si ce type croit une ânerie,
In the other case, if this person believes nonsense,
c'est la responsabilité de son environnement informationnel.
then the responsibility lies with his information environment.
Il est victime de la désinformation, des stéréotypes ambiants.
He is a victim of misinformation and prevailing stereotypes.
Pour l'aider, il faut corriger les médias,
To help him, we must fix the media,
ajuster les algorithmes des réseaux sociaux,
adjust social media algorithms,
changer le système éducatif,
reform the education system,
agir sur les stéréotypes, sur les chambres d'écho.
and tackle stereotypes and echo chambers.