B2 · 第52集 · 5:09
同一枚硬币的两面
本集探讨通用人工智能（AGI）的双重面向：一面是普惠福祉与人类进步的愿景，另一面是控制力扩张与潜在风险的隐忧。
来源：Sismique · 许可：CC BY 3.0
字幕
Et je vous propose de regarder un peu plus en détail les deux faces de cette pièce
接下来，我建议大家更仔细地观察这枚硬币的两面。
qui de fait a déjà été un peu jetée en l'air.
事实上，它已经被抛向空中了。
Concentrons- nous d'abord sur l'aspect sympa de la promesse,
我们先聚焦于这个承诺中令人向往的一面，
parce que c'est pour elle qu'on investit autant de moyens.
因为人们正为此投入大量资源。
On écoute Elon Musk en parler.
我们听埃隆·马斯克谈论它。
Quand on pense à l'IA, on parle parfois de revenu universel.
一提到人工智能，人们有时会谈到全民基本收入。
Je pense plutôt à la richesse pour tous.
而我想到的，是‘全民富裕’。
Avoir un futur à la Star Trek, ce serait génial.
拥有《星际迷航》那样的未来，那将非常棒。
Explorer les étoiles, découvrir les secrets de l'univers,
探索星辰，揭开宇宙奥秘，
et avoir un niveau de prospérité et, on l'espère,
并达到一种繁荣水平——而且我们希望——
du bonheur qu'on a encore du mal à imaginer.
一种目前还难以想象的幸福程度。
Donc je suis très enthousiaste concernant le futur.
因此，我对未来充满热情。
Pour le coup, c'est quand même assez vendeur.
坦白说，这确实很有吸引力。
Essayez d'imaginer ce que ça voudrait dire concrètement.
试着具体想象一下，这意味着什么。
Une intelligence disponible partout, tout le temps, pour tout le monde.
一种随时随地、人人可用的智能。
un précepteur particulier pour chaque enfant un médecin de premier recours pour
每位儿童都有一位专属导师，
chaque village qui n'en a pas un robot mineur pour aller chercher le cobalt à la
每个没有医生的村庄都配备一名初级诊疗医生，
place des enfants congolais un robot cuisinier dans chaque foyer un conseiller un
用机器人矿工代替刚果儿童去开采钴矿，
copilote stratégique dans la poche de chacun
每户家庭都有一台烹饪机器人，
chacun son petit psychiatre pour résoudre ses petits problèmes du quotidien et à
每人随身携带一位战略顾问兼副驾驶，
l'autre bout de l'échelle des laboratoires où la recherche irait dix fois plus vite
还有专属于每个人的小小心理医生，帮我们解决日常小烦恼；
où des problèmes restés bloqués pendant des décennies tomberaient en quelques mois
而在另一端，则是研究速度提升十倍的实验室，
Les plus enthousiastes parlent carrément d'une ère d'abondance,
那些困扰人类数十年的难题，几个月内就能迎刃而解。
où on aurait enfin les moyens de soigner, d'éduquer,
最乐观的人甚至称之为‘丰裕时代’，
de produire sans les limites qu'on connaît aujourd'hui.
届时我们将真正有能力治病、育人、生产，且不再受今日种种限制。
Sam Altman a d'ailleurs intitulé l'un de ses textes mot pour mot
萨姆·阿尔特曼甚至将他的一篇文章标题直译为
Abundant Intelligence, de l'intelligence en abondance.
‘丰裕的智能’——即智能的丰裕。
et c'est au fond l'oracle de Delphes
而这本质上正是德尔斐神谕，
plus la puissance d'agir
再加上强大的行动力，
donc forcément on comprend que ça fasse rêver
因此我们自然能理解，它为何令人憧憬；
on comprend aussi que ça attire des fortunes parce qu'en creux elle promet autre
我们同样明白，它为何吸引巨额财富——因为其背后隐含的承诺，
chose de plus discret de plus séduisant encore que la promesse de guérir le cancer
一种更隐秘、更诱人的东西，远超治愈癌症的承诺；
une capacité de contrôle immense comprendre prévoir optimiser orienter.
一种巨大的掌控能力：理解、预测、优化、引导。
contrôler donc.
也就是掌控。
Et sur ce versant- là, on reviendra au prochain épisode parce que c'est là que le
关于这一层面，我们将在下期节目再深入探讨，
rêve devient une affaire d'argent et de pouvoir.
因为梦想正演变为一场关乎金钱与权力的博弈。
Mais bon, AGI ou non, super intelligent ou non, conscient ou non,
但话说回来，无论是否实现通用人工智能（AGI），
finalement aussi ce qu'il faut garder en tête là- dessus,
无论它是否超级智能，是否具备意识，
c'est que ce sur quoi tout le monde parie dans cette industrie,
最终我们真正需要牢记的是，
C'est de plus en plus de puissance et de performance pour nous aider donc à trouver
整个行业押注的方向始终如一：
des réponses et faire bien mieux que la plupart des humains.
不断提升算力与性能，以帮助我们找到答案，并远超大多数人类的能力。
Et on y met les moyens.
而我们正为此倾注全力。
Nous faisons en l'instant l'hypothèse des optimistes,
此刻，我们暂且采纳乐观派的假设：
que ce sera globalement bon pour la société et l'humanité dans son ensemble,
即人工智能总体上将造福社会与全人类；
et qu'il s'agit donc simplement de piloter les quelques risques qui vont avec et les
因此，我们只需妥善管控伴随而来的若干风险，
quelques disruptions qui sont liées à cette trajectoire.
以及这条发展路径必然引发的若干颠覆性影响。
Et c'est ce qu'explique bien Sam Altman dans cette interview.
萨姆·阿尔特曼在此次访谈中对此作了清晰阐释。
Limiter le risque lié à l'IA devrait
降低人工智能相关风险，
être une priorité pour le monde,
理应成为全球优先事项，
de même que ça l'est quand on parle de nucléaire ou de pandémie.
就像核安全或疫情防控一样。
Aidez- nous à faire le lien entre tout ça.
请帮我们理清这一切之间的联系。
Comment est- ce qu'on passe d'un chatbot sympa à la fin de l'humanité?
我们如何从一个可爱的聊天机器人，走向人类的终结？
Oui, on travaille là- dessus aussi.
是的，这方面我们也在研究。
Oui, c'est ce qu'on espère, mais il y a aussi la peur.
是的，这正是我们的期望，但同时也存在担忧。
Je pense que ça pourrait mal se passer de plein de
我认为事情可能以多种方式变糟，
manières, mais on travaille régulièrement avec
但我们日常工作中接触的，
des technologies qui présentent.
恰恰就是这类技术。
Elles aussi des risques de ce type.
它们自身也存在这类风险。
Ensuite je coupe, il y a un passage où il explique le fait que ce sont des
接下来我略去一段——其中他解释道，
technologies exponentielles et que les humains ont du mal à réfléchir sur des
这些是指数级发展的技术，
exponentielles puisqu'on a une pensée linéaire.
而人类难以思考指数级问题，因为我们习惯线性思维。
Et puisque on a cette faiblesse,
正因我们有这一局限，
je pense qu'il faut vraiment qu'on s'efforce de penser en se disant.
我认为我们必须努力转变思维方式，提醒自己：
GPT quatre, ok, pas ce type de risque.
GPT-4？没问题，没有这类风险。
Et comment est- ce qu'on peut être sûr que GPT neuf ne présentera pas ce type de
那么，我们如何确保GPT-9不会带来此类风险？
risque? Et si on pense qu'il y a une toute petite chance que ce soit dangereux,
如果我们认为它哪怕有一丁点危险的可能性，
alors il faut qu'on y fasse attention.
那就必须高度重视。
Mais s'il y a même un petit pourcentage d'un risque qui est de cette nature,
但只要存在哪怕极小概率的此类风险，
pourquoi est- ce qu'on continue?
我们为何还要继续推进？
Pourquoi est- ce qu'on prend ce risque?
我们为何要承担这种风险？
Je pense pour un paquet de raisons.
我认为原因有很多。
D'abord, je pense qu'il y a des gains qui sont incroyables.
首先，我认为潜在收益极为巨大。
Par exemple, le fait qu'on pourrait avoir
例如，未来我们或许能让地球上每个人，
demain une qualité d'éducation qui est pour tout le monde sur Terre et qui est
都享有远超今日水平的优质教育，
incomparable à celle qu'on a aujourd'hui.
且这种教育具有普适性。
Je pense que ça serait très important et ce serait vraiment mal de ne pas saisir
我认为这非常重要，
cette opportunité.
不抓住这一机遇将是非常错误的。
Il y a aussi les soins, le Medicare,
还有医疗保健、联邦医疗保险（Medicare），
et permettre à chacun sur Terre d'avoir accès à de meilleurs soins.
让地球上每个人都能获得更优质的医疗服务。
C'est quelque chose qui va vraiment changer le monde.
这件事将真正改变世界。