B2 · Episode 17 · 5:17
What Do We Mean by Artificial Intelligence?
This episode explores how AI generates text, images, and more by learning statistical patterns—not understanding meaning. It explains AI's remarkable capabilities alongside its limitations: 'hallucinations,' inherited human biases, unpredictability, and the ongoing debate about whether scaling up statistics leads to true intelligence or just highly convincing imitation.
Source：Sismique · License：CC BY 3.0
Transcript
Parce qu'il faut comprendre que ce principe ne vaut pas que pour les mots.
Because we must understand that this principle applies not only to words.
Un générateur d'images fait exactement la même chose mais avec des pixels.
An image generator does exactly the same thing—but with pixels.
Un autre avec de la musique, un autre avec du code, une voix.
Another handles music, another handles code, and another handles voice.
Et à chaque fois, c'est le même geste:
And each time, it’s the same action:
apprendre les régularités d'un type de données,
learning the patterns in a type of data,
puis en produire la suite la plus plausible.
then generating the most plausible continuation.
Et le langage n'est qu'un cas particulier parmi d'autres.
Language is just one special case among many others.
Mais on va quand même garder la tête froide parce que c'est important pour la suite.
But we’ll still keep a cool head—because this matters for what comes next.
Une machine qui apprend des régularités,
A machine that learns patterns,
ce n'est pas pour autant une machine qui comprend.
is not thereby a machine that understands.
Elle ne sait pas pourquoi le chat dort sur le canapé.
It doesn’t know why the cat sleeps on the sofa.
Elle a vu des phrases pour parier juste.
It has simply seen many related sentences, enabling it to guess accurately.
En fait, tout ça, c'est de la statistique poussée à l'extrême.
In fact, all of this is just statistics pushed to the extreme.
Et pourtant. Il sort de tout ça des choses que personne n'a montré aux IA,
Yet, from all this emerge things no one has ever shown to AI:
des capacités qui apparaissent toutes seules,
abilities that arise spontaneously,
qui émergent de toute cette masse d'informations et de recoupements,
emerging naturally from this massive amount of information and cross-checking,
en code, en traduction, en résolution de problèmes.
in coding, translation, and problem solving.
C'est pour ça qu'on dit à juste titre qu'on élève ces systèmes autant qu'on les
That’s why we rightly say we’re raising these systems,
programme. Et comment de simples régularités statistiques parviennent à faire
not just programming them. So how do simple statistical patterns,
émerger tout ça?
manage to produce all this?
Et la question de savoir si ça comprend quoi que ce soit,
And the question of whether it truly understands anything at all,
c'est un mystère qu'on regardera en face plus tard dans cette série.
is a mystery we’ll confront head-on later in this series.
Pour l'instant, on peut retenir ça:
For now, we can remember this:
ces IA sont désormais extraordinairement puissantes,
these AIs are now extraordinarily powerful,
mais sans compréhension réelle des choses, au sens humain du terme.
yet they lack genuine human-like understanding.
Elles sont les deux.
They are both.
Et c'est cette double nature qui fait que la même machine qui résout des problèmes
And it is this dual nature that means the same machine
inédits se trompe parfois là où un enfant de cinq ans ne se tromperait pas.
that solves unprecedented problems sometimes makes mistakes where a five-year-old would not.
C'est ce qui fait aussi que parfois
This is also why, sometimes
cette machine va inventer de toutes pièces une citation de Victor Hugo avec un
this machine will invent, out of thin air, a quote by Victor Hugo
aplomb tranquille, ce qui est très énervant et qu'on lui reproche de faire,
with calm confidence—which is extremely frustrating and exactly what people criticize it for;
et ce pour quoi d'ailleurs elle s'excuse platement,
and indeed, it even offers a flat apology for it,
mais qu'elle continue de faire néanmoins.
yet continues doing it anyway.
Ça c'est ce qu'on a pris l'habitude d'appeler des hallucinations.
We’ve grown accustomed to calling such phenomena ‘hallucinations’.
Joli mot. Par ailleurs,
A lovely term. Moreover,
comme elle apprend tout de nous, de nos textes.
since it learns everything from us—from our texts—
Elle hérite aussi de nos biais.
it also inherits our biases.
Elle reflète nos angles morts et parfois les amplifie.
It reflects our blind spots—and sometimes even amplifies them.
Donc puissante et soudainement
So it’s powerful—and suddenly
imprévisible. Et c'est ça aussi, on s'en doute,
unpredictable. And, as we might suspect,
qui pose quelques problèmes liés au niveau de confiance qu'on peut aussi accorder à
this also raises certain issues regarding the level of trust we can place in
ces petites bébêtes qu'on élève et qui ne sont pas encore
these little creatures we’re raising—creatures that are not yet perfect,
parfaites, qui ne sont pas encore des oracles.
not yet oracles.
Et d'ailleurs, il faut dire que c'est sur cette interprétation de cette puissance et
Indeed, it’s precisely on this interpretation of its power and potential
du potentiel que les experts cessent d'être d'accord.
that experts stop agreeing.
Et on peut en dire deux mots, même
We can say just two words about it,
si on y reviendra.
even though we’ll return to it later.
Parce que quand ChatGPT débarque,
Because when ChatGPT arrived,
on a certains comme Bill Gates qui parlent d'une révolution donc aussi importante
some people—like Bill Gates—called it a revolution
que l'arrivée de l'ordinateur personnel ou d'Internet.
as significant as the arrival of the personal computer or the internet.
Et au même moment, on a d'autres comme Yann Le Cun,
At the same time, there are others, such as Yann LeCun,
qui est un des pères de ces techniques.
who is one of the pioneers of these techniques.
qui hausse les épaules, qui dit certes c'est important,
shrugs his shoulders and says, 'Certainly, this is important'
mais il n'y a rien de fondamentalement complètement nouveau,
but there's nothing fundamentally or completely new
c'est juste de l'apprentissage automatique poussé à une échelle gigantesque.
it's simply machine learning scaled up to a massive level
C'est bluffant.
It's amazing.
ça peut être très utile, il faut le regarder sérieusement, mais voilà,
This can be very useful; we must take it seriously, but the fact is,
on est loin de l'intelligence pure.
we are far from pure intelligence.
Et les deux camps ont des arguments sérieux.
And both sides have serious arguments.
Et c'est toute la difficulté du sujet,
And this is the entire difficulty of the topic,
parce qu'on ne sait pas encore si apprendre des régularités à très grande échelle
because we still don’t know whether learning regularities at a massive scale
finit par faire émerger une forme inédite d'esprit ou seulement une imitation très,
ultimately gives rise to a completely novel form of intelligence—or merely an extremely
très convaincante.
convincing imitation.
Une rupture ou de la simple continuité sous stéroïdes qui nous donne l'illusion
A break, or simple continuity on steroids, giving us the illusion of
d'une rupture.
a break.
Je vais pas trancher ici, évidemment, et très honnêtement,
I won’t make a definitive judgment here, of course—and quite honestly,
je suis pas sûr que quiconque le puisse aujourd'hui.
I’m not even sure anyone can do so today.
le philosophe gilbert simondon
The philosopher Gilbert Simondon
remarquait en passant qu'on a tendance devant les machines
once remarked in passing that, when confronted with machines,
à osciller entre deux erreurs
we tend to swing between two errors:
les prendre pour des sujets
either treating them as subjects,
ou les mépriser comme de simples outils.
or dismissing them as mere tools.
Pour l'instant, ce qu'on peut dire sans se mentir,
For now, what we can honestly say is that
c'est que ce n'est ni un cerveau ni une calculette.
it is neither a brain nor a calculator.
C'est autre chose.
It's something else.
C'est autre chose qu'on est encore en train d'apprendre à nommer.
This is something else entirely—we’re still learning how to name it.
Je crois qu'il cherche son ancien maître.
I think it’s searching for its former master.
Je n'ai jamais vu une telle fidélité chez un droïde, je trouve ça bizarre.
I’ve never seen such loyalty in a droid—I find it strange.
Alors je sais que ça fait déjà beaucoup pour cet épisode,
So I know this episode has already covered a lot,
mais il me reste une famille d'IA à reprendre,
but I still have one family of AI to discuss—
celle que j'ai mise de côté tout à l'heure, celle qui agit.
the one I set aside earlier—the kind that acts.
Si je l'ai gardée pour la fin,
I saved it for last
c'est parce que c'est elle qui bouge le plus vite en ce moment,
because it’s currently evolving the fastest,
et qu'elle est peut- être en train de changer la nature même du sujet.
and may even be reshaping the very nature of ‘the subject’.
Jusqu'ici, je vous ai décrit une machine à qui on demande quelque chose et qui
So far, I’ve described a machine that you ask something and it answers—
répond. Un outil qu'on consulte comme on consulte un dictionnaire,
a tool you consult, like a dictionary,
mais en plus bavard.
only more talkative.
Mais en gros depuis 2025, on a basculé dans autre chose.
But roughly since 2025, we’ve shifted into something else.
On parle désormais d'agents.
Now we speak of ‘agents’.
Un agent, c'est pas seulement une machine qui répond,
An agent isn’t just a machine that replies;
c'est une machine à qui on confie un but et qui se débrouille pour l'atteindre.
it’s a machine entrusted with a goal—and it figures out how to achieve it.
Elle découpe la tâche en étapes, elle se sert d'outils,
It breaks tasks into steps and uses tools;
elle écrit et corrige du code,
it writes and corrects code;
elle va chercher les informations en ligne si on lui demande,
it fetches information online when asked;
elle recommence quand elle échoue,
it retries when it fails;
et elle peut continuer ça parfois pendant des heures sans qu'on la surveille.
and it can sometimes keep doing this for hours without supervision.