B2 · 第55集 · 4:57
救世主还是毁灭者
探讨通用人工智能引发的两极观点：救世主还是毁灭者？分析技术争论背后的历史叙事与社会心理。
来源：Sismique · 许可：CC BY 3.0
字幕
Quel est le problème?
问题出在哪儿？
Je pense que vous savez très bien quel est le problème.
我想你很清楚问题出在哪儿。
De quoi parles- tu, Hal?
哈尔，你在说什么？
Cette mission est trop importante pour que je vous laisse la compromettre.
这次任务太重要了，我不能让你把它搞砸。
I don't know what you're talking about, Hal.
哈尔，我不知道你在说什么。
Je sais que toi et Frank planifiez de me déconnecter,
我知道你和弗兰克正计划把我关机，
et je crains que ce soit quelque chose que je ne peux pas permettre.
而我担心，这事我绝不能允许。
Où diable as- tu eu cette idée, Hal?
哈尔，这念头你到底是打哪儿来的？
Dave, bien que tu aies pris des précautions très rigoureuses dans le pod pour
戴夫，尽管你在登陆舱里采取了极其严密的措施，
m'empêcher d'entendre,
防止我听见你们说话，
j'ai pu voir tes lèvres bouger.
但我还是看清了你的嘴唇在动。
All right, Hal.
好吧，哈尔。
Je vais entrer par la sas d'urgence.
我要从紧急气闸舱进去。
Sans ton casque spatial, Dave.
可你没戴太空头盔，戴夫。
Nous allons trouver cela assez difficile.
我们会觉得这相当困难。
Hal, je ne veux plus discuter avec toi.
哈尔，我不想再跟你争论了。
Ouvrez les portes.
打开舱门！
Dave, cette conversation ne peut plus servir à rien.
戴夫，这场对话已毫无意义。
Adieu. Al. Al.
再见，阿尔……阿尔……
Hello. Alors qui a raison?
你好！那么，到底谁是对的？
Je vais pas vous faire le coup de celui qui tranche du haut de son micro,
我不会居高临下、装模作样地裁决，
parce que j'en sais rien, mais qu'au fond, personne le sait.
因为我也不知道答案——事实上，谁都不知道。
Il existe même une troisième voix, un peu plus basse,
甚至还有第三种声音，音调略低一些，
qui hausse les épaules devant les deux premières.
它对前两种声音耸了耸肩。
pendant que vous vous battez sur la fin du monde et le salut dit elle les vrais
当你们还在为世界末日与救赎争执不休时，
dégâts sont déjà là sous vos yeux la concentration du pouvoir la surveillance les
真正的伤害早已摆在你们眼前：权力的集中、监控、偏见、职业的颠覆，
biais les métiers bouleversés les armes qui apprennent à viser sans nous
还有那些无需我们瞄准就能自主开火的武器。
Ça, on la retrouvera dans les épisodes qui viennent, elle aussi.
这些内容，也将在接下来的几集中出现。
Mais on va s'arrêter une seconde sur ce que cette scène a d'inouï.
但我们要花一秒钟，停在这场戏的非凡之处上。
ceux qui vous jurent que c'est la plus grande chance de notre histoire et ceux qui
一边是那些信誓旦旦说这是我国历史上最大机遇的人，
vous jurent que ça pourrait nous effacer.
另一边则是那些断言它可能将我们彻底抹去的人。
c'est pas deux bandes d'ignorants qui s'étripent sur internet
这并非两群无知者在网上互相撕扯，
ce sont des deux côtés les pionniers les prix nobel les fondateurs
而是在双方阵营中，都有开拓者、诺贝尔奖得主、奠基人，
ceux là même qui fabriquent la machine
正是这些人亲手打造着这台机器。
même diplôme même données parfois même couloir
他们拥有同样的学历、同样的数据，有时甚至走在同一栋楼的同一条走廊里，
et regardent le même objet en y voyant ici un sauveur et là un fossoyeur.
却凝视着同一个对象：有人视其为救世主，有人则视其为掘墓人。
Et cette dispute à ce niveau sur un enjeu pareil,
而这种在如此高度上、围绕如此重大议题展开的争论，
c'est peut- être ça le fait le plus déroutant dans toute cette histoire.
或许才是整件事中最令人困惑的事实。
Parce que pendant qu'ils se déchirent,
因为就在他们激烈争执之际，
Ça continue de construire.
它仍在持续构建之中。
alors on a coulé un récit de création fabriquer un dieu ou réveiller un monstre dans
于是，我们把一个技术项目，包装成了一个关于创世的叙事——
un projet technique.
或是造神，或是唤醒巨兽。
lady ice est l'oracle qui répondrait à tout le messie qui nous sauverait de nous
“冰女士”是能解答一切问题的神谕，
mêmes le dieu qu'on fabriquerait de nos propres mains donc.
是将我们从自身手中拯救出来的弥赛亚，是我们亲手制造的神。
des promesses de salut vieilles comme les religions rhabillées en feuilles de calcul
这些救赎承诺古老如宗教，如今只是披上了电子表格的新衣。
attention ça veut pas dire que les arguments techniques sont faux
这并不意味着技术论点本身是错误的，
ça veut dire qu'ils sont portés par des récits bien plus anciens qu'eux et que ces
而是说，它们被一些比自身更古老的故事所承载，
récits en retour orientent ce qu'on croit voir.
而这些故事反过来又影响着我们自以为看到的东西。
ça en dit long sur le moment qu'on vit.
这深刻揭示了我们所处的时代。
Et moi je pense qu'on peut y voir, mais c'est une hypothèse,
我认为，我们可以从中看出某种迹象——但这只是一种假说，
c'est pas un verdict.
并非最终定论。
On peut y voir le symptôme d'une époque fatiguée,
我们可以将其视为一个疲惫时代的症候，
qui espère parfois fabriquer un sauveur technique plutôt que de transformer ses
这个时代有时宁愿制造一个技术救世主，
propres trajectoires.
也不愿改变自身的前行轨迹。
la machine n'est pas encore là le rêve lui est déjà à l'œuvre et il oriente déjà nos
机器尚未到来，但梦想已开始运作，它已在引导我们的
milliards de peurs plutôt que de transformer ses propres trajectoires plutôt que
数以十亿计的恐惧，而非改变我们自身的轨迹，而非
d'avoir fondamentalement à remettre en cause le fonctionnement du système
从根本上质疑整个系统的运行方式。
parce qu'en fait L'IA qui va nous résoudre le problème du climat,
因为事实上，将帮我们解决气候问题的人工智能，
on le connaît le problème du climat.
我们早已清楚气候问题本身。
c'est juste qu'on veut pas le regarder.
只是我们不愿正视它。
Donc la machine n'est pas encore là, mais le rêve, lui, est déjà à l'œuvre,
所以，机器尚未到来，但梦想已然启动，
et il oriente déjà nos milliards et nos peurs.
它已在引导我们的数十亿人和种种恐惧。
Alors je sais pas si les GA arrivera un jour, s'il y aura une conscience,
我不知道通用人工智能（GA）终有一天是否会实现，是否会产生意识，
je sais pas si.
我也不知道……
elle nous sauvera ou si elle nous échappera
它会拯救我们，还是会脱离我们的掌控？
ce que je sais c'est que ce rêve là lui est bien réel et déjà là que la peur est
我唯一确定的是，这个梦想真实存在，且早已成形；恐惧是真实的，
réelle et que l'argent lui est très réel
而资金也确确实实存在。
Et un rêve de cette taille, aussi cher, aussi pressé,
如此宏大、昂贵又紧迫的梦想，
ça reste pas longtemps un rêve.
不会长久停留在‘梦想’阶段。
Ça devient une course.
它会变成一场竞赛。
Une course aux montants vertigineux,
一场金额惊人的竞赛，
lancée par une poignée d'acteurs aux visions du monde
由少数几位世界观颇为奇特的行动者发起，
assez étranges.
他们的观念相当奇特。
qui sont ils avec l'argent de qui courent ils et quelle forme cette course prend
他们是谁？动用谁的钱在奔跑？这场竞赛又将呈现何种形态？
C'est ce qu'on va essayer de regarder dans le prochain épisode.
下一集，我们将尝试探讨这些问题。
À très vite. On ne peut pas arrêter la marche du monde.
很快再见！我们无法阻止世界的运转。
Je reviendrai.
我还会回来。