B2 · 第50集 · 5:07
通用人工智能的三重阶梯
本集探讨通用人工智能（AGI）的三层含义：通用智能、超级智能与机器意识，并分析硅谷对模拟假说的严肃态度及其影响。
来源：Sismique · 许可：CC BY 3.0
字幕
Alors commençons par le mot lui- même, parce qu'il est un peu confus.
那么，我们先从这个词本身开始，因为它有点令人困惑。
Et c'est pas moi qui le dis, c'est Sam Altman, le patron d'OpenAI.
而且这话不是我说的，而是OpenAI首席执行官山姆·阿尔特曼说的。
Do you guys have internally a clear definition of what AGI is?
你们内部对‘通用人工智能’（AGI）有没有一个明确的定义？
It's one of these, it's like the joke if you've got 10 OpenAI researchers in a room
这就像个笑话：如果你把10位OpenAI研究员关在一个房间里，
and ask to define AGI, you'd get 14 definitions.
请他们各自定义AGI，你可能会得到14种不同说法。
That's worrying though, isn't it?
不过，这确实令人担忧，对吧？
Because that has been the mission initially.
因为这原本就是他们的使命。
We're going to be the first to get to AGI, we'll do so safely,
我们要成为首个实现AGI的团队，并且安全地实现它，
but we don't have a clear definition of what it is.
但我们却连它究竟是什么都说不清楚。
Donc en gros, il nous dit que c'est compliqué de
总之，他是在告诉我们：
dire précisément ce qu'est l'intelligence artificielle généralisée parce que.
要准确界定‘通用人工智能’究竟为何物，其实非常困难，因为……
Il y a énormément de définitions différentes,
存在大量不同的定义，
presque autant qu'il y a de personnes qui y réfléchissent.
几乎和思考这个问题的人数一样多。
Sauf que le projet de OpenAI, c'est justement de développer l'AGI.
但OpenAI的整个项目，恰恰就是开发AGI。
Donc ça rend le projet forcément un petit peu confus.
因此，这个项目本身难免显得有点模糊。
Quand on dit AGI, on empile en réalité trois choses très différentes,
当我们提到AGI时，实际上混杂了三件截然不同的事情，
et on saute de l'une à l'autre selon qui en parle.
而人们在谈论时，又会随意切换其中任意一种。
Disons qu'il y a trois marches, de plus en plus hautes.
我们可以把它想象成三级台阶，一级比一级更高。
La première, c'est l'intelligence générale au sens strict:
第一级，是严格意义上的‘通用智能’：
une machine capable de passer d'un sujet à l'autre,
一台机器能自如切换不同主题，
d'apprendre une chose puis une toute autre,
学完一件事，再立刻学习另一件完全不同的事，
de s'adapter à quelque chose de neuf, comme on le fait nous,
还能像人类一样，轻松适应新事物，
sans vraiment y penser.
几乎无需刻意思考。
Pas le champion d'échecs qui ne sait rien faire d'autre que les échecs,
它不是只会下棋、其他一无所长的国际象棋冠军，
mais quelque chose de plus souple qui se débrouille un peu partout.
而是一种更灵活、能在各种场合都应付自如的系统。
Donc en gros, on crée un truc qui sait faire tout ce qu'un humain malin sait faire.
简单来说，我们正在创造一种东西，它能做聪明人类所能做的一切。
Et on n'y est pas encore.
但目前还没实现。
La deuxième marche, c'est la superintelligence.
第二级是超级智能。
Et là, il ne s'agit plus d'égaler l'humain, mais de le dépasser.
这时的目标已不再是与人类持平，而是远超人类。
Et pas d'un cheveu ou d'un pouce, ou d'un bras même, mais de très loin.
不是略胜一筹、稍强一点，甚至不是强出一大截，而是远远超越。
Autant disons que, on dépasse nous une fourmi.
打个比方，就像我们远超一只蚂蚁。
Et c'est pas un jugement de valeur contre les fourmis qui certainement nous
这并非贬低蚂蚁——它们当然会继续生存下去，
survivront, mais disons qu'on part du principe qu'on les connaît mieux
但我们默认：我们对它们的了解，远胜于它们对我们的了解。
elles qu'elles ne nous connaissent nous.
它们对我们几乎一无所知。
Et la troisième marche, la plus troublante, c'est l'étape de la conscience,
第三级最令人不安，即意识阶段：
le fait pour une machine d'avoir une vie intérieure,
机器拥有内在精神生活，
de ressentir quelque chose, d'être quelqu'un, et pas seulement quelque chose,
能感受事物，成为‘某人’，而不仅仅是一件‘东西’，
et donc de se comporter en conséquence.
并因此做出相应行为。
Ce qui, on l'imagine bien, pourrait avoir quelques implications potentielles.
可想而知，这可能带来一些潜在影响。
Et donc là, on pense à
于是我们想到：
problématiques autour de Blade Runner, de Her, de Deus
《银翼杀手》《她》《湮灭》等作品中的问题，
Ex Machina, voilà, plein de choses encore une fois qui ont été développées dans la
还有《机械姬》等等——这些题材在科幻作品中早已被广泛探讨。
SF. Le test, c'est de te la présenter en tant que robot et de voir si tu penses
测试方法是：把它当作机器人介绍给你，然后看你是否仍觉得它有意识。
toujours qu'elle a une conscience.
你是否仍觉得它有意识？
Ces trois marches se touchent,
这三级阶梯彼此相邻，
mais ne sont pas la même chose.
却并非同一回事。
Et on peut très bien imaginer une machine redoutablement capable de faire tout un
我们可以轻易设想：一台机器能力超强，能完成大量任务，
tas de choses et complètement vide à l'intérieur.
内心却完全空无一物。
Une virtuose sans personne dedans.
一位技艺登峰造极、却毫无自我的演奏家。
Et la plupart des bâtisseurs, d'ailleurs, jurent ne viser que la capacité,
事实上，大多数研发者都坚称，他们只追求能力，
pas la conscience.
而非意识。
Mais leur rêve, lui, glisse sans cesse vers cette troisième marche.
但他们的梦想本身，却不断滑向这第三级台阶。
au fond de l'agi il y a presque toujours l'idée avouée ou non de faire naître un
在人工智能的底层，几乎总潜藏着一种想法——
véritable esprit une conscience quelque chose in fine comme un nouveau dieu.
创造一个真正的心智、一种意识，最终，如同一位新神。
parce qu'il y a tout cet imaginaire dont on a hérité,
因为我们都继承了这一整套想象体系，
imaginaire que j'ai évoqué au début de l'épisode.
也就是我在本集开头提到过的那种想象。
Et pour continuer de comprendre un petit peu plus ce qu'il y a dans la tête de ces
为了进一步理解当下掌权者头脑中的想法，
gens qui sont actuellement aux commandes, parce que.
毕竟，我们谈论的正是他们，
C'est bien d'eux dont on parle, je voudrais faire un petit pas de côté.
我想稍微换个角度来谈。
Vous avez peut- être déjà entendu parler de l'hypothèse de la simulation.
您或许已听说过“模拟假说”。
L'idée, brièvement, c'est qu'on ne vivrait pas dans le monde réel,
简而言之，该观点认为：
mais à l'intérieur d'une gigantesque simulation informatique,
我们并非生活在真实世界中，
un peu comme dans Matrix donc.
就像电影《黑客帝国》那样。
C'est un philosophe d'Oxford, Nick Bostrom,
牛津大学哲学家尼克·博斯特罗姆，
qui l'a formalisé au début des années 2000,
在21世纪初首次将其系统化阐述，
et il en donne d'ailleurs un argument mathématique assez troublant.
并为此提出了一条颇具震撼力的数学论证。
Si une civilisation devient capable de simuler des univers entiers,
如果某文明有能力模拟整个宇宙，
alors statistiquement, il y aura toujours beaucoup plus de mondes simulés que de
那么从统计学角度看，被模拟的世界数量，
mondes réels. Et donc,
必将远远超过真实世界数量。
Nous avons toutes les chances d'être dans une simulation.
因此，我们极有可能正身处一场模拟之中。
C'est un jeu de l'esprit, on peut trouver ça fascinant ou absurde,
这本质上是一种思想实验，有人觉得它引人入胜，也有人觉得荒谬可笑，
c'est pas vraiment la question.
但这并非关键所在。
Ce qui m'intéresse, c'est que dans la Silicon Valley,
我真正关注的是：在硅谷，
et notamment chez certaines des figures qu'on vient d'évoquer,
尤其是我们刚刚提到的某些人物那里，
Cette hypothèse, c'est pas vraiment un jeu, elle est prise très au sérieux.
这个假说早已不只是个游戏，而是被极其认真地对待。
Et Musk l'a publiquement répété à plusieurs reprises.
马斯克本人就曾多次公开重申这一点。
Il y croit, et il est loin d'être le seul dans cet univers- là à y croire.
他相信这一点，在这个宇宙中，远不止他一人持此信念。
Et ça, ça change pas mal de choses.
而这，确实改变了许多事情。
Parce que si vous croyez vraiment que ce monde est une simulation,
因为如果你真的相信这个世界是一场模拟，
vous le regardez plus tout à fait comme les autres.
你看待它的方式就和别人不再完全相同了。
Vous le regardez pas comme moi je le regarde.
你看待它的方式，和我不同。
ce que les autres appellent le réel
别人称之为‘现实’的东西，
devient comme une sorte de jeu vidéo en fait,
实际上变成了一种电子游戏，
un jeu dont il faut découvrir les règles,
一个需要探索其规则的游戏，
gagner les niveaux et peut- être même essayer d'en ressortir.
通关升级，甚至尝试从中脱离出来。
coloniser Mars, fusionner avec l'IA, modifier le génome,
火星殖民、与人工智能融合、基因组改造——
tout le délire transhumanisme, le projet, pardon.
整个超人类主义狂热，就是这一项目，抱歉，我说错了。