B2 · Episode 51 · 5:08
Could intelligence just emerge
This episode explores whether Artificial General Intelligence (AGI) is achievable, examining exponential progress in AI capabilities, how the simulation hypothesis shapes developers' mindset, and the philosophical idea that intelligence—like life or consciousness—could emerge from sufficient complexity.
Source：Sismique · License：CC BY 3.0
Transcript
ce ne sont pas des transgressions,
These are not violations,
ça peut être vu en fait comme des coups joués dans la partie pour essayer de hacker
In fact, they can be seen as moves made within the game to try to hack the system.
le système. Et les conséquences sur les autres joueurs
And the consequences for other players,
comptent moins dans ce cadre là.
matter less in this context.
Parce qu'en fait, peut- être que vous n'êtes pas réel.
Because, in fact, you might not be real.
et donc le risque de faire mal aux autres
So the risk of morally harming others,
moralement forcément ça pèse pas très très lourd.
naturally doesn’t weigh very heavily.
Alors je dis pas qu'ils pensent tous comme ça,
I’m not saying everyone thinks this way,
parce que ça serait un peu caricatural.
because that would be overly simplistic.
Je dis que cet imaginaire est là.
What I mean is that this imagination is real.
qu'il circule et qu'il est revendiqué par certains
It circulates and is openly claimed by some.
et donc il aide à comprendre pourquoi leurs décisions vues d'ici peuvent parfois
Thus, it helps explain why their decisions—viewed from our perspective—can sometimes seem
paraître démesurées voire complètement détachées
excessively exaggerated—or even completely detached
de notre perception du réel à nous
from our own perception of reality.
quand on a en tête l'hypothèse qu'on est dans un jeu eh
Once we assume we’re inside a game,
ben on joue et rien n'est vraiment très sérieux.
well, we’re just playing—and nothing is truly serious.
Et puis il y a quelque chose de plus profond peut- être.
Then there’s something perhaps deeper.
Si on croit que notre monde est une simulation faite par une intelligence
If we believe our world is a simulation created by a superior intelligence,
supérieure, alors fabriquer à notre tour des intelligences, des mondes,
then creating intelligences, worlds, and consciousnesses ourselves,
des consciences, c'est plus de la démesure, c'est presque imiter le créateur.
is no longer hubris—it’s almost imitating the Creator.
C'est ce qui se rapproche le plus de devenir soi- même ce dieu dont je parlais à
This comes closest to becoming the ‘god’ I just mentioned.
l'instant. Et ça aussi, ça éclaire pas mal de choses.
This, too, sheds light on many things.
On ferme la parenthèse et on revient à notre question.
We’ll close this parenthesis and return to our original question.
Désolé pour cette petite digression, mais...
Sorry for this brief digression, but...
Il la trouve assez fascinante.
She finds this question quite fascinating.
Donc concrètement, est- ce que atteindre les GI est un mythe
So concretely, is achieving AGI a myth?
ou non? Et est- ce qu'on en est loin ou pas?
Or isn’t it? And how far away are we from it?
Pour certains comme Ray Kurzweil, qui est un des porte drapeaux de
For some, like Ray Kurzweil—who has been one of the leading voices on this topic for decades—
ce sujet depuis des décennies, l'AGI c'est quelque chose d'inévitable.
AGI is inevitable.
et on atteindra bientôt cette singularité dont il parle ce point de bascule au delà
And we’ll soon reach the ‘singularity’ he talks about—a tipping point beyond which
duquel l'intelligence des machines dépassera la nôtre
machine intelligence will surpass our own.
et où l'avenir deviendrait littéralement imprévisible pour nous comme une sorte
Beyond that point, the future would become literally unpredictable for us—
d'horizon que le regard ne peut plus franchir.
like a horizon our gaze can no longer cross.
Alors comment, comment est- ce qu'on passe du conte au pari d'ingénieur?
So how do we shift from fairy tale to engineer’s bet?
Et pourquoi des gens sérieux pensent aujourd'hui que ça pourrait vraiment arriver
And why do serious people today believe it could truly happen within just a few years?
d'ici quelques années seulement?
Why do they think so?
d'abord en augmentant simplement la taille de ces systèmes on a vu apparaître des
First, by simply scaling up these systems, we’ve already seen new capabilities emerge—
capacités que personne n'avait programmées tâche par tâche
abilities no one explicitly programmed, task by task—
et que beaucoup donc n'avaient pas vu venir on l'a déjà évoqué.
and thus many didn’t foresee them at all—we’ve already mentioned this.
Et la vitesse à laquelle ces capacités s'élargissent,
And the speed at which these capabilities are expanding—
c'est ce qui inquiète les gens qui regardent ça de près.
that’s precisely what worries those closely watching this field.
Il y a un labo de recherche indépendant qui s'appelle METR et
There’s an independent research lab called METR that
qui mesure une chose assez simple.
measures something quite straightforward.
Ce qu'ils font, c'est qu'ils prennent un modèle d'IA,
What they do is take an AI model,
ils lui donnent des tâches de programmation,
assign it programming tasks,
et ils regardent la durée de la tâche la plus longue que le modèle arrive à faire
and measure the duration of the longest task the model can complete on its own.
seul. Et compare ça à la durée qu'il faudrait à un humain qualifié pour faire la
They then compare that time with how long a skilled human would need to complete the same task.
même tâche. En 2022, c'était de l'ordre de quelques secondes.
In 2022, it was on the order of a few seconds.
En 2023, quelques minutes.
In 2023, it grew to several minutes.
En 2024, quelques dizaines de minutes.
By 2024, it had reached several tens of minutes.
Et en 2025, plusieurs heures.
And by 2025, several hours.
et ce qui frappe les chercheurs de mtr c'est que cette durée double en gros tous les
What strikes MTR researchers is that this duration roughly doubles every
quatre à sept mois.
four to seven months.
Tous les quatre à sept mois, la durée que la machine peut tenir seule est multipliée
Every four to seven months, the time a machine can run autonomously doubles.
par deux. Et si vous continuez la courbe, ce qui est toujours hasardeux,
And if you extend this curve—though that’s always risky,
mais quand même, vous arrivez à des tâches de plusieurs jours,
you still arrive at tasks lasting several days,
puis de plusieurs semaines, dans les deux à trois ans qui viennent.
then several weeks, within the next two to three years.
C'est ce qu'on appelle en jargon une courbe exponentielle.
This is what’s called, in jargon, an exponential curve.
Et c'est précisément ce genre de courbe qui prend les gens de court,
And it’s precisely this kind of curve that catches people off guard,
parce qu'elle paraît raisonnable longtemps, et puis elle explose en silence.
because it appears reasonable for a long time—and then silently explodes.
C'est pour ça qu'on a du mal avec notre pensée linéaire à comprendre ce qui est en
That’s why our linear thinking struggles to grasp what’s actually unfolding.
train de se jouer.
what’s actually unfolding.
Dans les systèmes complexes, il arrive que des propriétés entièrement nouvelles
In complex systems, entirely new properties can emerge once a certain threshold of density, connectivity,
surgissent au- delà d'un certain seuil de densité, de connexion,
or interaction is crossed.
d'interaction.
or interaction is crossed.
la vie elle même a émergé d'une soupe chimique devenue assez riche et la conscience
Life itself emerged from a chemically rich ‘primordial soup’; human consciousness arose from just over a kilogram of gray matter.
humaine a émergé à partir d'un peu plus d'un kilo de matière grise
human consciousness arose from just over a kilogram of gray matter.
c'est pas trop comment
Exactly how that happened remains unclear.
Le pari de l'AGI, au fond,
The bet behind AGI, fundamentally,
c'est à peu près celui- là.
is roughly this one.
Si la vie et la conscience ont pu émerger d'une matière assez complexe,
If life and consciousness could emerge from sufficiently complex matter,
pourquoi une forme d'intelligence générale n'émergerait- elle pas un jour d'une
why couldn’t a form of general intelligence someday emerge from a sufficiently dense ‘soup’ of language, data, and statistics,
soupe assez dense de langage, de données, de statistiques,
of calculations and interconnected tools?
de calculs et d'outils connectés?
of calculations and interconnected tools?
Alors c'est fascinant,
So it’s fascinating,
c'est aussi très spéculatif, c'est une hypothèse, un pari donc,
yet also highly speculative: it’s a hypothesis, a bet,
un imaginaire, c'est pas une certitude.
an imagination—not a certainty.
Et d'ailleurs, petit aparté, sur ce pari, le milieu se déchire.
And by the way, a quick aside: experts are divided on this prediction.
Mais je mets ça de côté, je garde ça pour plus tard pour pas nous perdre en chemin.
But I’ll set that aside for now and save it for later, so we don’t get sidetracked.
Et donc, l'AGI, dont certains disent qu'elle pourrait devenir avant 2030,
So, AGI—some say it could arrive before 2030,
d'autres d'ici 2040, d'autres jamais, donc.
others estimate around 2040, and still others think it’ll never happen.
Les GA pour faire court c'est à la fois super cool,
GA—short for ‘general AI’—is incredibly exciting,
plein de promesses incroyables,
full of amazing promise,
comme par exemple résoudre à peu près tous les problèmes du monde,
such as solving nearly all the world’s problems,
et c'est aussi un peu flippant.
yet also somewhat unsettling.
parce qu'un truc beaucoup plus intelligent que nous,
After all, something vastly more intelligent than us,
avec une conscience et un accès à toutes nos ressources.
with consciousness and access to all our resources,
on sait pas trop ce que ça donnerait
we simply don’t know what it would become,
ni ce qu'ils feraient de nous.
nor how it would treat us.