B2 · 第51集 · 5:08
智能会不会自己冒出来
本集探讨通用人工智能（AGI）是否可能实现，分析其技术发展轨迹、模拟假说对研发者思维的影响，以及涌现性智能的哲学基础。
来源：Sismique · 许可：CC BY 3.0
字幕
ce ne sont pas des transgressions,
这些并非违规行为，
ça peut être vu en fait comme des coups joués dans la partie pour essayer de hacker
实际上可被视为游戏中的招数，试图黑入系统。
le système. Et les conséquences sur les autres joueurs
而对其他玩家造成的影响，
comptent moins dans ce cadre là.
在此框架下则不那么重要。
Parce qu'en fait, peut- être que vous n'êtes pas réel.
因为事实上，你或许根本不是真实存在的。
et donc le risque de faire mal aux autres
因此，从道德层面伤害他人的风险，
moralement forcément ça pèse pas très très lourd.
自然也就显得没那么沉重了。
Alors je dis pas qu'ils pensent tous comme ça,
我并不是说所有人都这么想，
parce que ça serait un peu caricatural.
否则就有点以偏概全了。
Je dis que cet imaginaire est là.
我想说的是，这种想象确实存在。
qu'il circule et qu'il est revendiqué par certains
它在流传，并被某些人公开主张。
et donc il aide à comprendre pourquoi leurs décisions vues d'ici peuvent parfois
因此，它有助于我们理解：为何他们的一些决定，在我们看来有时会显得
paraître démesurées voire complètement détachées
过分夸张，甚至完全脱离
de notre perception du réel à nous
我们对现实的认知。
quand on a en tête l'hypothèse qu'on est dans un jeu eh
因为一旦我们心里认定自己正身处一场游戏中，
ben on joue et rien n'est vraiment très sérieux.
那一切就只是玩玩而已，没什么真正严肃的。
Et puis il y a quelque chose de plus profond peut- être.
此外，或许还存在更深层的原因。
Si on croit que notre monde est une simulation faite par une intelligence
如果我们相信，我们的世界是由某种高级智能所构建的模拟，
supérieure, alors fabriquer à notre tour des intelligences, des mondes,
那么，我们自己去创造智能、世界和意识，
des consciences, c'est plus de la démesure, c'est presque imiter le créateur.
就不再是狂妄自大，而近乎是在效仿造物主。
C'est ce qui se rapproche le plus de devenir soi- même ce dieu dont je parlais à
这正是最接近于成为我刚才提到的那位‘神’的方式。
l'instant. Et ça aussi, ça éclaire pas mal de choses.
这一点，同样能解释许多现象。
On ferme la parenthèse et on revient à notre question.
我们暂且合上这个括号，回到最初的问题。
Désolé pour cette petite digression, mais...
抱歉稍作离题，但……
Il la trouve assez fascinante.
她觉得这个问题相当引人入胜。
Donc concrètement, est- ce que atteindre les GI est un mythe
那么具体来说，实现通用人工智能（AGI）是个神话吗
ou non? Et est- ce qu'on en est loin ou pas?
还是并非如此？我们离它究竟还有多远？
Pour certains comme Ray Kurzweil, qui est un des porte drapeaux de
对雷·库兹韦尔等一些人而言——他几十年来一直是这一领域的旗手之一——
ce sujet depuis des décennies, l'AGI c'est quelque chose d'inévitable.
通用人工智能（AGI）是必然会出现的。
et on atteindra bientôt cette singularité dont il parle ce point de bascule au delà
而且我们很快就会抵达他所说的‘奇点’：
duquel l'intelligence des machines dépassera la nôtre
在此之后，机器的智能将超越人类。
et où l'avenir deviendrait littéralement imprévisible pour nous comme une sorte
到那时，未来对我们而言将彻底不可预测，
d'horizon que le regard ne peut plus franchir.
就像一道目光再也无法逾越的地平线。
Alors comment, comment est- ce qu'on passe du conte au pari d'ingénieur?
那么，我们该如何从童话故事转向工程师的切实承诺？
Et pourquoi des gens sérieux pensent aujourd'hui que ça pourrait vraiment arriver
为什么今天一些严肃的人士认为，这真的可能在短短几年内实现？
d'ici quelques années seulement?
为什么他们这么认为？
d'abord en augmentant simplement la taille de ces systèmes on a vu apparaître des
首先，仅通过简单扩大这些系统规模，我们就已观察到一些新能力的涌现：
capacités que personne n'avait programmées tâche par tâche
这些能力并非被人们逐项编程设定，
et que beaucoup donc n'avaient pas vu venir on l'a déjà évoqué.
因此许多人此前根本没预料到；这一点我们之前已提到过。
Et la vitesse à laquelle ces capacités s'élargissent,
而这些能力扩展的速度，
c'est ce qui inquiète les gens qui regardent ça de près.
正是那些密切关注此事的人所担忧的。
Il y a un labo de recherche indépendant qui s'appelle METR et
有一家名为METR的独立研究实验室，
qui mesure une chose assez simple.
专门测量一个相当简单的指标。
Ce qu'ils font, c'est qu'ils prennent un modèle d'IA,
他们的做法是：选取一个AI模型，
ils lui donnent des tâches de programmation,
给它布置编程任务，
et ils regardent la durée de la tâche la plus longue que le modèle arrive à faire
然后观察该模型能独自完成的最长任务所需时间，
seul. Et compare ça à la durée qu'il faudrait à un humain qualifié pour faire la
再将这个时间与一名合格人类完成同一任务所需时间进行对比。
même tâche. En 2022, c'était de l'ordre de quelques secondes.
2022年时，这个时间大约是几秒钟。
En 2023, quelques minutes.
2023年，延长到了几分钟。
En 2024, quelques dizaines de minutes.
到了2024年，则达到几十分钟。
Et en 2025, plusieurs heures.
而到2025年，可达数小时。
et ce qui frappe les chercheurs de mtr c'est que cette durée double en gros tous les
令MTR研究人员惊讶的是，这一时长大致每
quatre à sept mois.
四至七个月。
Tous les quatre à sept mois, la durée que la machine peut tenir seule est multipliée
每过四至七个月，机器自主运行的时间就翻倍。
par deux. Et si vous continuez la courbe, ce qui est toujours hasardeux,
而且如果继续延展这条曲线——这虽总带风险，
mais quand même, vous arrivez à des tâches de plusieurs jours,
但即便如此，你也会得出持续数天的任务，
puis de plusieurs semaines, dans les deux à trois ans qui viennent.
继而发展为持续数周的任务，预计将在未来两到三年内实现。
C'est ce qu'on appelle en jargon une courbe exponentielle.
这种走势在专业术语中称为指数曲线。
Et c'est précisément ce genre de courbe qui prend les gens de court,
恰恰是这类曲线让人措手不及，
parce qu'elle paraît raisonnable longtemps, et puis elle explose en silence.
因为它长期看来合情合理，却悄然突然爆发。
C'est pour ça qu'on a du mal avec notre pensée linéaire à comprendre ce qui est en
正因如此，我们用线性思维很难理解当下正在发生的事。
train de se jouer.
正在发生的事。
Dans les systèmes complexes, il arrive que des propriétés entièrement nouvelles
在复杂系统中，当密度、连接度或互动程度超过某个阈值时，
surgissent au- delà d'un certain seuil de densité, de connexion,
全新的特性可能突然涌现。
d'interaction.
互动程度。
la vie elle même a émergé d'une soupe chimique devenue assez riche et la conscience
生命本身便从一锅足够丰富的化学‘浓汤’中诞生；人类意识则源于约一公斤重的灰质，
humaine a émergé à partir d'un peu plus d'un kilo de matière grise
人类意识则源于约一公斤重的灰质，
c'est pas trop comment
这过程究竟如何发生，尚不十分清楚。
Le pari de l'AGI, au fond,
通用人工智能（AGI）的构想，归根结底，
c'est à peu près celui- là.
正是如此。
Si la vie et la conscience ont pu émerger d'une matière assez complexe,
既然生命与意识能从足够复杂的物质中涌现，
pourquoi une forme d'intelligence générale n'émergerait- elle pas un jour d'une
那么，一种通用智能为何不能有朝一日从一种足够密集的‘语言—数据—统计’混合体中诞生？
soupe assez dense de langage, de données, de statistiques,
从一种足够密集的‘语言—数据—统计’混合体中诞生？
de calculs et d'outils connectés?
以及计算和互联工具？
Alors c'est fascinant,
这的确令人着迷，
c'est aussi très spéculatif, c'est une hypothèse, un pari donc,
但也极富推测性——它只是一种假说、一个赌注，
un imaginaire, c'est pas une certitude.
一种想象，而非确定无疑的事实。
Et d'ailleurs, petit aparté, sur ce pari, le milieu se déchire.
而且，顺便提一句，关于这个预测，业内意见不一。
Mais je mets ça de côté, je garde ça pour plus tard pour pas nous perdre en chemin.
不过，我先搁置这个问题，留到后面再谈，以免我们中途偏离主题。
Et donc, l'AGI, dont certains disent qu'elle pourrait devenir avant 2030,
因此，通用人工智能（AGI）——有人预测它可能在2030年前出现，
d'autres d'ici 2040, d'autres jamais, donc.
另一些人认为要等到2040年左右，还有人觉得永远都不会实现。
Les GA pour faire court c'est à la fois super cool,
简称为‘GA’，它既酷炫非凡，
plein de promesses incroyables,
又充满惊人潜力，
comme par exemple résoudre à peu près tous les problèmes du monde,
比如几乎能解决世界上所有问题，
et c'est aussi un peu flippant.
但同时也略让人不安。
parce qu'un truc beaucoup plus intelligent que nous,
毕竟，一个远比人类聪明得多的系统，
avec une conscience et un accès à toutes nos ressources.
还具备自我意识，并能接入我们全部资源，
on sait pas trop ce que ça donnerait
我们实在难以预料它会变成什么样，
ni ce qu'ils feraient de nous.
更不清楚它会如何对待我们。