B2 · Episode 49 · 4:57
AGI: The Dream and the Fear Behind Artificial General Intelligence
This episode explores how science fiction has profoundly shaped the worldview and technological ambitions of AI developers, analyzing literary references in tech company names and product designs—from Palantir and Anduril to Grok and Optimus—and how these cultural narratives drive real-world AI development.
Source：Sismique · License：CC BY 3.0
Transcript
Et cet imaginaire n'a pas seulement façonné le public que nous sommes.
And this imagination hasn’t only shaped the public we are.
Il a façonné aussi les ingénieurs, les fondateurs,
It has also shaped engineers, founders,
les investisseurs qui construisent aujourd'hui tous ces systèmes,
and investors who are building all these systems today,
en tout cas en Occident.
at least in the West.
eux aussi ont grandi avec ces récits et il semblerait qu'ils aient été
They, too, grew up with these narratives,
particulièrement influencés par ces univers et que leur vision du monde leur vision
and it appears they’ve been especially influenced by these fictional worlds,
des possibles du futur s'y colle parfaitement au point parfois de s'y fondre
so much so that their worldview—their vision of what the future could hold—
et on va voir que c'est pas anodin pour qu'ils souhaitent comprendre les enjeux
fits them perfectly—sometimes even merging entirely with them.
autour de l'IA notamment.
As we’ll see, this is no coincidence—and it’s precisely why they wish to grasp the key issues surrounding AI, in particular.
Pour rigoler un peu, on peut commencer par de l'anecdotique,
To lighten things up a bit, let’s start with some anecdotes,
mais qui finalement, je crois, en dit déjà assez long.
yet, in fact, these anecdotes already reveal quite a lot.
On va citer quelques noms qui sont choisis,
We’ll cite several carefully chosen names,
qui ont été choisis pour des projets, des produits ou des entreprises même,
selected for projects, products, or even entire companies,
dont l'IA est le socle principal.
whose very foundation is artificial intelligence.
Palantir. Palantir c'est l'entreprise co- fondée par Peter Thiel qui vend des
Palantir: the company co-founded by Peter Thiel,
logiciels d'analyse de données utilisés notamment par des États,
which sells data-analysis software used notably by governments, militaries, intelligence agencies, and major corporations.
des armées, des services de renseignement et des grandes entreprises.
(The company)
Son nom vient de palantiri qui chez Tolkien, dans son univers donc,
takes its name from the ‘palantíri’ in Tolkien’s universe,
désigne des pierres magiques qui permettent de voir au loin.
magical seeing-stones that allow one to view distant places.
Anduril, fondé par Palmer Luckey, qui est le créateur d'Oculus,
Anduril: founded by Palmer Luckey, creator of Oculus,
accessoirement, qui développe des systèmes de défense.
which develops defense systems.
de surveillance et d'armes autonomes et son nom vient d'Anduril qui est l'épée
including surveillance systems and autonomous weapons,
reforgée d'Aragorn dans le Seigneur des Anneaux.
and whose name comes from ‘Andúril’, the reforged sword of Aragorn in The Lord of the Rings.
Donc drone tueur d'un côté et épée du roi de l'autre.
On one side, a killer drone; on the other, a king’s sword.
Colossus chez XAI, c'est le nom du supercalculateur de Musk
Colossus at XAI: Elon Musk’s supercomputer used to train Grok,
utilisé pour entraîner Grok.
bears exactly this name.
On y reviendra.
We’ll come back to this.
Et c'est un nom qui évoque évidemment la démesure, le géant,
It’s a name that obviously evokes excess, the giant,
la machine massive, et il renvoie aussi, volontairement ou non,
the massive machine—and it also intentionally or unintentionally recalls *Colossus: The Forbin Project*.
à Colossus: The Forbin Project,
*Colossus: The Forbin Project*
qui est un film de 1970 dans lequel un super ordinateur de défense prend le
is a 1970 film in which a defense supercomputer seizes control.
contrôle. Pas exactement inspirant comme nom, mais passons.
Not exactly an inspiring name—but let’s move on.
Grok, donc le chatbot de xAI, le mot vient de Stranger in the Strange Land de Robert
Grok—the chatbot by xAI—comes from Robert Heinlein’s novel *Stranger in a Strange Land*.
Heinlein, et grok signifie comprendre profondément,
‘Grok’ means to understand deeply,
presque fusionner avec ce qu'on comprend.
to almost merge with what one understands.
Donc là on est en plein dans la contre- culture SF.
So here we’re squarely in sci-fi counterculture.
et Optimus, le robot de Tesla,
Then there’s Tesla’s robot, Optimus,
c'est un nom qui évoque immédiatement Optimus Prime,
a name that instantly evokes Optimus Prime,
qui est une figure héroïque de robot protecteur dans Transformers.
the heroic, protective robot figure from *Transformers*.
cybertruck starship neuralink musk en particulier choisit ces noms comme ça parce
Cybertruck, Starship, Neuralink… Musk especially chooses such names because
qu'il est ouvertement influencé par la culture cyberpunk
he is openly influenced by cyberpunk culture,
et tout son projet transpire la science fiction.
and his entire project reeks of science fiction.
Par delà les noms, il y a surtout les produits.
Beyond the names, what truly matters are the products themselves.
Ce que construisent ces boîtes tech est directement inspiré dans la forme et dans le
What these tech companies build is directly inspired—in both form and substance—by these stories.
fond par ces récits.
What these tech companies build is directly inspired—in both form and substance—by these stories.
Un exemple là encore anecdotique mais qui est assez parlant.
Here’s another anecdotal yet telling example.
En 2024, OpenAI a créé une petite polémique en dévoilant son nouvel assistant vocal
In 2024, OpenAI stirred minor controversy by unveiling its new voice assistant.
dont la voix faisait penser de manière troublante à celle de Scarlett Johansson,
Its voice disturbingly resembled Scarlett Johansson’s voice,
qui est donc l'actrice qui jouait justement la voix de l'IA dans le film Her.
who voiced the AI in the film *Her*.
OpenAI a dû faire marche arrière sous la pression de cette polémique,
Under pressure from this controversy,
sous la pression de l'intéressé.
and under pressure from the actress herself, OpenAI had to backtrack.
Voilà. Donc tout ça pourrait sembler un peu anecdotique, comme je l'ai dit,
Here it is. So all this might seem a bit anecdotal, as I mentioned,
un peu dérisoire, si ce n'est que c'est finalement, je crois,
a bit trivial—if it weren’t, in fact, ultimately, I believe,
en réalité assez éclairant, en fait, pour comprendre ce qui joue.
actually quite illuminating, indeed, for understanding what’s really at play.
Parce qu'un gamin quelque part dans les années 70-80 qui dévore Asimov sous sa
Because a child somewhere in the 1970s–80s, devouring Asimov under their duvet,
couette, qui rêve de fusées, de robots,
dreaming of rockets and robots,
de civilisations galactiques de type 2 sur l'échelle de Kardashev,
of Type-2 galactic civilizations on the Kardashev scale,
et qui se jure qu'un jour tout ça, ça sera possible,
and swearing that one day, all this will actually happen,
30 ans plus tard, devenu milliardaire,
30 years later, having become a billionaire,
il essaie de tout faire pour réaliser ses rêves d'enfant.
tries everything possible to realize those childhood dreams.
Parce qu'au- delà des noms, donc,
Because beyond these names,
il y a des imaginaires et des visions qui donnent des ambitions et des projets qui
there are imaginaries and visions that inspire ambitions and projects,
sont en train de se réaliser concrètement par rapport à ces ambitions.
which are now being concretely realized in pursuit of those ambitions.
En tout cas, des projets dont les bases sont en train d'être posées,
At the very least, foundations for such projects are already being laid,
et du moins, c'est ce qui nous est vendu.
or so, at least, we’re told.
Et si je vous parle de tout ça,
So why am I telling you all this?
c'est parce que clairement l'AGI fait partie de cet imaginaire.
It’s precisely because AGI is part of this collective imagination.
C'en est même une brique essentielle,
In fact, it’s an essential building block,
et c'est aujourd'hui le moteur de cette course qui anime toute l'industrie de l'IA,
and today serves as the engine driving the entire AI industry’s race,
qui déborde déjà donc sur toute la tech et au- delà.
a race that has already spilled over into all of tech—and beyond.
On reviendra au prochain épisode sur
In the next episode, we’ll return to,
ces noms, ces bâtisseurs, sur leur projet, sur cette course qui a été lancée.
these names, these builders, their projects, and this race that’s already begun.
Et je pense d'abord nécessaire de poser les bases sur ce que cette super
First, I think it’s essential to clarify what this ‘artificial general intelligence’ (AGI) actually is,
intelligence générale est et
what it truly means,
sur ce qu'elle nous amène à envisager pour le futur.
and what futures it leads us to envision.
Je voudrais te parler de la plus grande invention scientifique de l'histoire de
I’d like to talk with you about humanity’s greatest scientific invention ever.
l'humanité. Tu développes une IA?
Are you developing AI?