B1 · Episode 3 · 5:00
Bias and Noise: How Our Brains Misjudge Reality
This episode uses a shooting target analogy to explain bias (systematic error) and noise (random error) in human judgment, showing how they distort perception and decision-making—and why 'wisdom of the crowd' helps with noise but not bias.
Source：Christophe Michel / Hygiène Mentale · License：CC BY 4.0
Transcript
Mais si il y a peu de données, ce qui est souvent le cas, alors la moyenne,
But if there’s little data—which is often the case—then the average
là, peut très bien être assez éloignée de la vérité,
could well be quite far from the truth,
si par hasard les impacts ne sont pas bien répartis.
especially if those impacts happen to be unevenly distributed.
Cette erreur- là est due à beaucoup de bruit et pas assez de données.
This type of error arises from too much noise and too little data.
Et il y a une autre source d'erreur, c'est le biais.
And there’s another source of error: bias.
Ça arrive quand pour une raison spécifique, tous les tirs.
Bias occurs when, for a specific reason, all shots
sont tous un peu décalés dans la même direction.
are all slightly shifted in the same direction.
Quand il y a du vent, par exemple, ou que la lunette du fusil est mal réglée,
For instance, wind or a misaligned rifle scope
ça déporte tous les tirs d'un côté.
causes every shot to drift toward one side.
Là, si je fais juste une moyenne,
In that case, if I simply take the average,
je vais forcément me tromper sur la position de la cible.
I’ll inevitably get the target’s position wrong.
C'est pas moi qui suis biaisé, c'est les données.
It’s not me who’s biased—it’s the data itself.
Et surtout, avoir plus de données n'y changera rien.
Crucially, gathering more data won’t fix this at all.
C'est pas un problème de quantité, elles sont biaisées.
It’s not a matter of quantity—the data are biased.
Et en général, je dirais qu'il y a toujours un peu des deux,
Generally speaking, both types of error are usually present,
dans diverses proportions.
just in varying proportions.
Là, il y a du biais et du bruit, dur dur.
Here, there’s both bias and noise—tough situation.
Quand c'est une dispersion dans tous les sens, on appelle ça du bruit.
When errors scatter randomly in all directions, we call it noise.
Quand c'est un décalage dans un sens bien particulier, on appelle ça un biais.
When errors shift consistently in one particular direction, we call it bias.
Mon erreur, c'est le biais plus le bruit.
My total error equals bias plus noise.
Bon, là, je l'ai écrit sous forme mathématique,
Alright, I’ve written it here in mathematical form,
mais ce n'est pas une image. L'amplitude des erreurs, ça se calcule.
but this isn’t just an illustration—the magnitude of errors can actually be calculated.
Pour être exact, mon erreur au carré,
More precisely, my squared error
c'est la somme du biais au carré et du bruit au carré.
equals the sum of the squared bias and the squared noise.
Voilà, écrit comme ça, c'est plus correct.
Written this way, it’s more accurate.
Ces deux types d'erreurs sont beaucoup étudiés et mesurés en ingénierie par exemple,
These two types of errors are extensively studied and measured in fields like engineering,
en machine learning, en apprentissage machine,
in machine learning,
pour développer des intelligences artificielles capables d'apprendre par elles-
to develop artificial intelligences capable of learning on their own,
mêmes avec des réseaux de neurones artificiels qui se basent sur des bases de
based on artificial neural networks,
données qu'on leur aura fourni.
which rely on datasets we supply to them.
Ces deux types d'erreurs sont bien sûr pris en compte,
Of course, both types of errors are taken into account,
et souvent il faut faire un compromis entre les deux.
and we often need to strike a balance between them.
On appelle ça le dilemme biais- variance.
This is called the bias-variance tradeoff.
La variance c'est le bruit au carré.
Variance refers to the squared noise.
Il y a une grande littérature sur le sujet.
There is a vast literature on this topic.
Bon là c'est la page Wikipédia,
Here’s the Wikipedia page,
mais il y a plein de sources fascinantes en référence.
though the references include many fascinating sources.
Bon, eh bien allons- y.
Well then, let’s get started.
Exercice d'application.
An applied exercise.
Voici une salve d'impact.
Here is a cluster of impact points.
À votre avis, où se situe la cible?
Where do you think the target is located?
Si je demande à une centaine d'entre vous,
If I ask about a hundred of you,
vous allez tous proposer plutôt par là, mais pas tous exactement au même endroit,
you’ll mostly point somewhere around here,
au pixel près.
yet not all at the exact same pixel.
Un dira peut- être ici, un autre un peu plus par là.
One person might point here; another, slightly over there.
Vos propositions seront un peu comme ça,
Your answers will be scattered somewhat like this,
elles auront elles- mêmes un certain bruit. C'est pas facile de calculer un
and they’ll themselves carry some randomness.
barycentre de tête avec une précision mathématique.
It’s not easy to mentally compute the centroid with mathematical precision.
À mon tour, je vais faire une proposition.
Now, I’ll make my own estimate.
Moi, je dirais par là.
I’d say the target is roughly right here.
Peut- être que moi aussi je vais estimer un peu trop haut ou un peu trop bas,
Maybe my own estimate is also a bit too high or a bit too low,
mon jugement, lui aussi, a un certain bruit, comme vous.
my judgment itself also has some “noise,” just like yours.
Mais c'est un bruit interne cette fois, c'est pas le bruit des données,
But this time it’s internal noise—not the noise of the data,
mais bel et bien le bruit de mon propre jugement.
but truly the noise of my own judgment.
J'aurais tout aussi bien pu parier ici ou là,
I could just as well have bet here or there,
il fallait bien choisir un endroit.
after all, I had to pick somewhere.
Remarquez que si au lieu d'essayer de proposer moi- même au juge,
Notice that if, instead of trying to propose an answer myself to the judge,
je prenais juste la moyenne de vos propositions,
I simply took the average of all your proposals,
ça devrait tomber assez près du vrai centre des impacts.
it should land quite close to the true center of the impacts.
Même mieux que si je proposais moi au juge,
Even better than if I myself proposed to the judge,
parce que parmi vous il y a probablement autant de gens qui estiment trop haut que
because among you, there are probably just as many people who overestimate as
de gens qui estiment trop bas, ou droite- gauche.
those who underestimate—or who guess too far left or right.
Ça, c'est la sagesse des foules,
This is the ‘wisdom of crowds,’
traitée par exemple sur la chaîne de Fouloscopie. C'est pour ça que c'est une bonne
discussed, for example, on the Fouloscopie channel. That’s why
stratégie que de déléguer un peu son jugement et de se ranger à la majorité.
delegating our judgment a bit and going along with the majority is a good strategy.
C'est l'heuristique de l'appel à la popularité, ad populum.
This is the ‘appeal to popularity’ heuristic—ad populum.
C'est pas être un mouton, ça aide beaucoup à moins se tromper.
It’s not about being a sheep—it greatly helps reduce errors.
Mais attention, si pour une raison ou une autre, vous et moi,
But be careful: if, for some reason, you and I
on fait tous des propositions qui sont systématiquement tous décalées dans la même
all make proposals that are systematically shifted in the same direction,
direction, ben on dira que l'on a un biais,
then we’d say there’s a ‘bias’,
et notre moyenne à tous là sera décalée elle aussi.
and our collective average will be shifted too.
C'est pas le biais des données, je parle bien du biais dans notre jugement,
This isn’t bias in the data—I’m talking about bias in our judgment,
un biais interne, si on a tendance à proposer trop à gauche par exemple.
an internal bias—if, for instance, we tend to propose too far left.
Dans ce cas, la stratégie de la sagesse des foules, ça ne marche pas.
In that case, the wisdom-of-crowds strategy doesn’t work.
Ça marche pour pallier à mon problème de bruit,
It works to address my ‘noise’ problem,
mais ça ne sert à rien contre les problèmes de biais.
but it does nothing against ‘bias’ problems.
La stratégie de déléguer son jugement pour se ranger à la majorité,
The strategy of delegating our judgment to the majority,
ça nous fait tomber dans le biais de l'appel à la popularité,
leads us into the cognitive bias known as 'appeal to popularity,'
l'argumentum ad populum.
or 'argumentum ad populum.'
C'est à la fois une heuristique, quand ça marche bien, la plupart du temps,
It functions as a mental shortcut (heuristic) when it works well—most of the time—
et un biais, quand ça marche pas, quand il nous induit en erreur.
but becomes a bias when it fails and misleads us.
Le champ d'étude en psychologie sociale qui étudie tout ça,
The field of social psychology that studies all this
ça s'appelle biais et heuristiques.
is called 'biases and heuristics.'
Il étudie en quoi chaque stratégie qui est efficace devient souvent un biais
It examines how each effective mental strategy
lorsqu'elle est exploitée.
often turns into a bias when overused or misapplied.
Un chercheur célèbre dans ce domaine, c'est Daniel Kahneman par exemple,
A renowned researcher in this field is, for example, Daniel Kahneman,
dont j'ai déjà parlé dans mes précédentes vidéos.
whom I’ve already mentioned in earlier videos.
Vous vous demandez sûrement pourquoi est- ce que l'on aurait collectivement un
You’re probably wondering: Why do we collectively exhibit certain biases?
biais? Pourquoi est- ce que l'on aurait tous tendance à se tromper dans une
Why do we all tend to err in one particular direction
direction en particulier plus que les autres?
rather than others?
Eh bien, si on a des a priori sur la position de la cible, par exemple.
Well, suppose we hold prior assumptions about where the target lies—say,
Si avant même de voir les impacts,
even before observing the bullet impacts,
on s'attend plutôt à ce que la cible soit pas trop complètement au bord du panneau,
we expect the target isn’t likely positioned right at the very edge of the board,
parce qu'on imagine mal un prof de tir assez tordu pour placer la cible complètement
since it’s hard to imagine a shooting instructor eccentric enough to place the target
au bord, par exemple.
right at the board’s edge.
Eh bien avec cette série d'impacts, là.
Well, consider this set of bullet impacts.