B2 · 第49集 · 4:57
AI梦想与恐惧的根源
本集探讨科幻文化如何深刻影响AI开发者的世界观与技术愿景，分析科技公司命名及产品设计中的文学隐喻。
来源：Sismique · 许可：CC BY 3.0
字幕
Et cet imaginaire n'a pas seulement façonné le public que nous sommes.
这种想象不仅塑造了我们这些公众。
Il a façonné aussi les ingénieurs, les fondateurs,
它还塑造了工程师、创始人，
les investisseurs qui construisent aujourd'hui tous ces systèmes,
以及今天构建所有这些系统的投资者，
en tout cas en Occident.
至少在西方如此。
eux aussi ont grandi avec ces récits et il semblerait qu'ils aient été
他们同样是在这些故事中长大的，
particulièrement influencés par ces univers et que leur vision du monde leur vision
似乎尤其受到这些虚构世界的影响，
des possibles du futur s'y colle parfaitement au point parfois de s'y fondre
以至于他们的世界观、他们对未来的可能性的构想，
et on va voir que c'est pas anodin pour qu'ils souhaitent comprendre les enjeux
与之高度契合，甚至有时完全融为一体；
autour de l'IA notamment.
我们很快会看到，这绝非偶然，也正因此，他们才希望理解人工智能等领域背后的关键问题。
Pour rigoler un peu, on peut commencer par de l'anecdotique,
为轻松一下，我们先从一些趣闻轶事说起，
mais qui finalement, je crois, en dit déjà assez long.
但事实上，这些轶事已足以说明很多问题。
On va citer quelques noms qui sont choisis,
我们列举几个特意挑选的名字，
qui ont été choisis pour des projets, des produits ou des entreprises même,
它们被选中用于项目、产品，甚至企业本身，
dont l'IA est le socle principal.
而人工智能正是这些项目、产品或企业的核心基础。
Palantir. Palantir c'est l'entreprise co- fondée par Peter Thiel qui vend des
帕兰蒂尔（Palantir）：由彼得·泰尔联合创办的企业，
logiciels d'analyse de données utilisés notamment par des États,
销售数据分析软件，客户包括各国政府、军队、情报机构和大型企业。
des armées, des services de renseignement et des grandes entreprises.
（该公司）
Son nom vient de palantiri qui chez Tolkien, dans son univers donc,
其名称源自托尔金作品中的‘帕兰提尔’（palantíri），
désigne des pierres magiques qui permettent de voir au loin.
指能让人远距离观察事物的魔法水晶球。
Anduril, fondé par Palmer Luckey, qui est le créateur d'Oculus,
安杜里尔（Anduril）：由奥culus创始人帕尔默·拉奇创立，
accessoirement, qui développe des systèmes de défense.
主要开发国防系统。
de surveillance et d'armes autonomes et son nom vient d'Anduril qui est l'épée
包括监控系统和自主武器系统；
reforgée d'Aragorn dans le Seigneur des Anneaux.
其名称源自《指环王》中阿拉贡重铸的神剑‘安杜里尔’。
Donc drone tueur d'un côté et épée du roi de l'autre.
一边是杀手机器人，另一边是王者之剑。
Colossus chez XAI, c'est le nom du supercalculateur de Musk
XAI公司的‘科洛苏斯’（Colossus）：马斯克用于训练Grok大模型的超级计算机，
utilisé pour entraîner Grok.
就叫这个名字。
On y reviendra.
我们之后再谈。
Et c'est un nom qui évoque évidemment la démesure, le géant,
这个名字显然让人联想到过度、巨人，
la machine massive, et il renvoie aussi, volontairement ou non,
庞大的机器；同时，它也（有意或无意地）让人联想到电影《柯洛索斯：弗宾计划》。
à Colossus: The Forbin Project,
《柯洛索斯：弗宾计划》
qui est un film de 1970 dans lequel un super ordinateur de défense prend le
是一部1970年的电影，片中一台国防超级计算机夺取了控制权。
contrôle. Pas exactement inspirant comme nom, mais passons.
这个名字的确不太鼓舞人心，但暂且不提。
Grok, donc le chatbot de xAI, le mot vient de Stranger in the Strange Land de Robert
Grok——xAI公司推出的聊天机器人——这个词源自罗伯特·海因莱因的小说《异乡异客》。
Heinlein, et grok signifie comprendre profondément,
‘Grok’意为深刻理解，
presque fusionner avec ce qu'on comprend.
几乎达到与所理解之物融为一体的程度。
Donc là on est en plein dans la contre- culture SF.
这明显属于科幻反文化范畴。
et Optimus, le robot de Tesla,
而特斯拉的机器人‘擎天柱’（Optimus），
c'est un nom qui évoque immédiatement Optimus Prime,
其名字立刻让人联想到‘汽车人领袖擎天柱’（Optimus Prime），
qui est une figure héroïque de robot protecteur dans Transformers.
即《变形金刚》中那位英雄般的守护机器人形象。
cybertruck starship neuralink musk en particulier choisit ces noms comme ça parce
Cybertruck、Starship、Neuralink……马斯克尤其选用这类名称，
qu'il est ouvertement influencé par la culture cyberpunk
因为他公开受到赛博朋克文化的影响，
et tout son projet transpire la science fiction.
他的整个项目都弥漫着浓浓的科幻气息。
Par delà les noms, il y a surtout les produits.
除了名字，更关键的是产品本身。
Ce que construisent ces boîtes tech est directement inspiré dans la forme et dans le
这些科技公司所打造的产品，
fond par ces récits.
无论外形还是内核，都直接受到这些故事的启发。
Un exemple là encore anecdotique mais qui est assez parlant.
再举一个看似琐碎却颇具说服力的例子。
En 2024, OpenAI a créé une petite polémique en dévoilant son nouvel assistant vocal
2024年，OpenAI发布了一款新型语音助手，引发小范围争议。
dont la voix faisait penser de manière troublante à celle de Scarlett Johansson,
该助手的声音令人不安地酷似斯嘉丽·约翰逊的嗓音，
qui est donc l'actrice qui jouait justement la voix de l'IA dans le film Her.
而她正是电影《她》中人工智能配音的演员。
OpenAI a dû faire marche arrière sous la pression de cette polémique,
迫于这场争议的压力，OpenAI不得不撤回该设计，
sous la pression de l'intéressé.
也迫于当事人本人的压力。
Voilà. Donc tout ça pourrait sembler un peu anecdotique, comme je l'ai dit,
就是这样。因此，这一切乍看之下似乎有点琐碎，正如我之前所说，
un peu dérisoire, si ce n'est que c'est finalement, je crois,
有点微不足道，但事实上并非如此，
en réalité assez éclairant, en fait, pour comprendre ce qui joue.
恰恰相当有启发性，有助于我们理解其中的关键所在。
Parce qu'un gamin quelque part dans les années 70-80 qui dévore Asimov sous sa
因为上世纪七八十年代，某个孩子躲在被窝里，
couette, qui rêve de fusées, de robots,
如痴如醉地读着科幻小说，梦想着火箭、机器人，
de civilisations galactiques de type 2 sur l'échelle de Kardashev,
梦想着卡尔达舍夫等级中第二类的银河系文明，
et qui se jure qu'un jour tout ça, ça sera possible,
并暗暗发誓：总有一天，这一切都会成为现实；
30 ans plus tard, devenu milliardaire,
30年后，他成了亿万富翁，
il essaie de tout faire pour réaliser ses rêves d'enfant.
便竭尽全力去实现童年时的梦想。
Parce qu'au- delà des noms, donc,
因为，抛开这些名字不谈，
il y a des imaginaires et des visions qui donnent des ambitions et des projets qui
背后是一系列想象与愿景，它们催生了雄心勃勃的目标和具体项目，
sont en train de se réaliser concrètement par rapport à ces ambitions.
而这些目标与项目，如今正一步步变为现实。
En tout cas, des projets dont les bases sont en train d'être posées,
至少，目前已有不少项目正在打下基础，
et du moins, c'est ce qui nous est vendu.
或者说，至少这是外界向我们宣传的说法。
Et si je vous parle de tout ça,
那么，我为什么跟大家聊这些呢？
c'est parce que clairement l'AGI fait partie de cet imaginaire.
正是因为通用人工智能（AGI）本就属于这一想象图景。
C'en est même une brique essentielle,
它甚至是最核心的一块基石，
et c'est aujourd'hui le moteur de cette course qui anime toute l'industrie de l'IA,
更是当下驱动整个AI产业竞相发展的核心动力，
qui déborde déjà donc sur toute la tech et au- delà.
这场竞赛早已蔓延至整个科技领域，甚至更广。
On reviendra au prochain épisode sur
下一集，我们将回过头来，
ces noms, ces bâtisseurs, sur leur projet, sur cette course qui a été lancée.
聊聊这些名字、这些缔造者，以及他们的计划和这场已然开启的竞赛。
Et je pense d'abord nécessaire de poser les bases sur ce que cette super
首先，我认为有必要厘清：这种‘超级智能’究竟指什么，
intelligence générale est et
它的本质是什么，
sur ce qu'elle nous amène à envisager pour le futur.
以及它又将引领我们对人类未来作出怎样的设想。
Je voudrais te parler de la plus grande invention scientifique de l'histoire de
我想跟你聊聊人类历史上最伟大的科学发明。
l'humanité. Tu développes une IA?
你正在开发人工智能？