B2 · Episode 11 · 5:37
The Dual Dreams Behind Artificial Intelligence
This episode explores how AI evolved from an invisible background tool into a conversational partner—and how it embodies two deep human aspirations: the dream of an all-knowing oracle that provides answers, and the dream of boundless power that accelerates decision-making, creation, and control across individuals, corporations, and states.
Source：Sismique · License：CC BY 3.0
Transcript
À l'ère de l'IA, il n'y a pas de place pour les grosses feignasses.
In the AI era, there's no room for lazy people.
Parce que pour trouver sa place dans un monde où l'IA galope et où les robots
Because to find your place in a world where AI is galloping forward and robots are arriving,
arrivent, il va falloir être malin et travailleur.
you’ll need to be both smart and hardworking.
Donc n'habituant pas la jeune génération à glander en se servant de l'IA,
So instead of letting the younger generation get used to slacking off by misusing AI,
il faut lui apprendre à utiliser l'IA pour faire mieux et pour avoir une place dans
we must teach them to use AI to do better,
la société hyper technologique de demain.
and thus secure their place in tomorrow’s hyper-technological society.
ChatGPT a fait irruption avec un vrai bang médiatique.
ChatGPT burst onto the scene with a real media bang.
Et ce buzz nous a fait un peu oublier une chose:
And this buzz made us overlook one thing:
l'IA n'est pas née avec ChatGPT, elle n'est pas née ce jour- là.
AI wasn’t born with ChatGPT—it didn’t appear on that day.
Ça fait longtemps en fait que les IA sont partout:
In fact, AI has been everywhere for a long time:
moteurs de recherche, recommandations,
search engines, recommendation systems,
GPS, filtres anti- spam, traduction automatique, etc.
GPS apps, spam filters, automatic translation, and so on.
Simplement, elles travaillaient en coulisses, sans visage et surtout sans voix.
They simply worked backstage—faceless and, above all, voiceless.
Donc ce qui a changé fin 2022, c'est pas l'existence de l'IA,
So what truly changed at the end of 2022 wasn’t AI’s existence,
c'est d'abord qu'à travers un chatbot,
but rather that, through a chatbot,
elle s'est mise à nous parler dans notre langage.
it began speaking to us—in our own language.
Et une machine qui parle, c'est pas une machine de plus.
A machine that speaks isn’t just one more machine.
Parce que jusque là, pour utiliser un logiciel,
Because until then, to use software,
il fallait apprendre sa langue à lui, ses menus, ses boutons,
we had to learn its language—its menus, buttons,
ces petites humiliations quotidiennes.
those small daily humiliations.
Et là, d'un coup, on a une simple interface qui est un champ de texte et puis une
Now, suddenly, there’s a simple interface: a text field—and a voice.
voix. On lui parle comme à quelqu'un et on
We speak to it as if speaking to a person,
a une conversation qui tient la route.
and have a coherent conversation.
Et une machine qui parle
A machine that speaks,
donne vite l'impression d'une machine qui pense.
quickly gives the impression of a machine that thinks.
Qui formule bien donne l'impression de savoir,
Those who express themselves well give the impression of knowing.
qui répond vite donne l'impression de maîtriser.
Those who respond quickly give the impression of mastery.
Personne finalement n'a jamais prêté d'intention à un tableur Excel,
In the end, no one has ever attributed intention to an Excel spreadsheet,
mais qu'une chose nous réponde dans notre langue,
yet as soon as something replies to us in our own language,
et on lui prête presque malgré nous une intériorité.
we almost involuntarily attribute interiority to it.
Well, you seem like a person, but you're just a voice in a computer.
Well, you seem like a person, but you're just a voice in a computer.
Et d'ailleurs, ceux qui fabriquent ces systèmes le disent eux- mêmes d'une drôle de
Moreover, those who build these systems themselves say—rather oddly—
façon. Ils ne les construisent pas vraiment comme on construit un pont,
they don’t really build them the way we build a bridge,
en maîtrisant un peu chaque rouage.
mastering each component step by step.
Ils les entraînent, ils les éduquent, ils les font pousser,
They train them, educate them, and help them grow,
ils les cultivent presque, en les nourrissant de presque tout ce que l'humanité a
they even cultivate them almost—feeding them with nearly everything humanity has written,
écrit, en tout cas de tout ce qu'on trouve.
or at least everything we can find.
Ces machines sont donc faites en partie de nous, de nos mots,
These machines are thus partly made of us, of our words,
de ceux de nos ancêtres, de nos erreurs, de nos génies parfois,
of our ancestors’ words, of our mistakes, and sometimes of our flashes of genius,
et aussi de nos médiocrités.
and also of our mediocrity.
Il faut comprendre que même pour leurs créateurs,
We must understand that—even for their creators,
elles gardent donc une part de mystère, et on y reviendra.
they retain an element of mystery—and we’ll return to this point.
Donc si tout ça ne servait qu'à gagner dix minutes sur un mail,
So if all this served only to save ten minutes on an email,
bon, on s'en remettrait assez vite.
well, we’d get over it fairly quickly.
Mais on commence en fait à confier à ces outils, à ces machines,
But in fact, we’re already entrusting these tools—these machines—with far deeper tasks,
des gestes aussi beaucoup plus profonds, comme
such as
synthétiser des informations, mais aussi formuler une pensée,
synthesizing information—and even formulating thoughts,
comprendre un sujet qu'on ne maîtrise pas, préparer une décision,
understanding topics we don’t master, preparing decisions,
créer, et on peut même en faire notre confident.
creating—and even confiding in them.
Si je m'adresse à l'IA, c'est que je veux pas parler avec un humain.
If I address AI, it’s because I don’t want to speak with a human.
Moi, j'ai pas envie d'être jugée en fait sur ma
I don’t actually want to be judged for my
manière de penser, j'ai pas envie d'être jugée sur ma santé mentale.
way of thinking—or for my mental health.
Je me confie plus aux IA qu'à des humains, quoi.
In short, I confide in AIs more than in humans.
Donc si on prend un peu de recul sur tout ça,
So, if we step back a bit and look at all this holistically,
et sur un sujet d'actualité c'est en général une bonne idée,
and especially maintain some distance from current topics—it’s generally a good idea,
on peut partir de l'idée que l'IA est à la croisée de deux très vieux rêves humains.
we can say that AI sits at the intersection of two very old human dreams.
D'abord, le rêve de la réponse: une intelligence extérieure,
First, the dream of ‘the answer’: an external intelligence
disponible à toute heure, capable de trier le chaos et de nous dire quoi penser,
available anytime—capable of sorting through chaos and telling us what to think and what to choose.
quoi choisir. Un oracle de poche, même un oracle tout court.
A pocket oracle—or even an oracle outright.
Et l'autre rêve, c'est celui de la puissance.
The other dream is that of power.
Celui qui maîtrise ces systèmes produit plus vite, cherche plus vite,
Those who master these systems produce faster, search faster,
convainc plus vite, décide plus vite.
persuade faster, and decide faster.
Alors à l'échelle d'une personne, c'est comme un coup de pouce un peu malin,
At the individual level, it’s like a clever boost;
mais à l'échelle d'une entreprise, d'un État, d'une armée,
but at the scale of a company, a state, or an army,
le jeu de la puissance change évidemment de nature.
the game of power clearly changes nature.
Donc ce geste maintenant assez banal de demander à une IA de rédiger un texte à
So, the now-common gesture of asking an AI to write a text for us—
notre place, ou plutôt cette même technologie qui est derrière,
or rather, the very same technology behind it—
ça ouvre sur autre chose.
opens onto something else entirely.
Elle est dans notre main, disponible dans notre intimité, et en même temps,
It’s in our hands—immediately accessible, intimate,
elle englobe presque tout.
yet at the same time, it encompasses nearly everything.
Notre rapport au vrai, parce qu'une machine peut désormais produire à l'infini des
It reshapes our relationship with truth—since machines can now generate endlessly
textes, des images, des voix,
texts, images, and voices,
et qu'on ne distingue plus vraiment la création virtuelle du réel.
and we can no longer clearly distinguish virtual creation from reality.
le travail et la création, parce qu'elle automatisent une part de ce qu'on croyait
It also disrupts work and creativity—automating part of what we previously believed
jusqu'ici réservé aux humains,
was uniquely human;
la puissance économique, scientifique, militaire,
it affects economic, scientific, and military power,
au point que des entreprises et des États engagent là- dedans des sommes
so much so that companies and states are investing staggering sums into it,
vertigineuses, comme on le verra.
as we’ll see shortly.
Et tout au bout, il y a cette idée fondamentale de parvenir à créer une intelligence
And at the very end, there's this fundamental idea: achieving the creation of general intelligence.
générale, une machine qui nous dépasserait sur presque tout.
That is, a machine that would surpass us in nearly every way.
Pour la première fois, notre espèce envisage de fabriquer quelque chose de plus
For the first time, our species is contemplating building something smarter than ourselves—
intelligent qu'elle, une entité d'un nouveau genre.
a new kind of entity.
Promesse inouïe d'un oracle quasi divin pour les uns,
For some, it’s an unprecedented promise—a near-divine oracle;
et menace ultime d'une sorte de Léviathan pour les autres,
for others, it’s the ultimate threat—a kind of Leviathan.
et on explorera tout ça longuement dans cette série.
We’ll explore all of this thoroughly in this series.
Pour l'instant, retenez juste ça:
For now, just remember this:
du coup de pouce dont pourrait créer un mail à l'ambition de fabriquer un oracle en
From the tiny nudge that helps draft an email,
Léviathan, il y a une même trajectoire, industrielle et imaginaire,
to the grand ambition of building an oracle—or a Leviathan—
qu'on pousse aujourd'hui à très, très grande vitesse.
there’s a single trajectory—industrial and imaginative—that we’re pushing today at an extremely, extremely high speed.
Et voilà en fait pourquoi la course est lancée.
And that’s precisely why the race has already begun.
Et il faut vraiment en comprendre la démesure, l'entendre.
We must truly grasp its staggering scale—and hear it.
Parce que pendant que je discute avec ma machine pour rédiger un mail,
Because while I’m chatting with my machine to write an email,
des entreprises annoncent des usines à plusieurs centaines de milliards de dollars,
companies are announcing factories costing hundreds of billions of dollars,
des projets pour fabriquer des milliers de milliards de puces.
and launching projects to manufacture trillions of chips.