B2 · 第17集 · 5:17
人工智能的本质
本集探讨AI如何通过统计规律生成内容，解释其强大能力与缺乏真正理解的双重特性，以及‘幻觉’和偏见等问题。
来源：Sismique · 许可：CC BY 3.0
字幕
Parce qu'il faut comprendre que ce principe ne vaut pas que pour les mots.
因为必须明白，这一原则不仅适用于词语。
Un générateur d'images fait exactement la même chose mais avec des pixels.
图像生成器做的是完全相同的事，只不过对象是像素。
Un autre avec de la musique, un autre avec du code, une voix.
另一个处理音乐，另一个处理代码，还有一个处理语音。
Et à chaque fois, c'est le même geste:
而每一次，都是同一个动作：
apprendre les régularités d'un type de données,
学习某类数据的规律，
puis en produire la suite la plus plausible.
然后生成最可能的后续内容。
Et le langage n'est qu'un cas particulier parmi d'autres.
语言不过是众多案例中的一个特例。
Mais on va quand même garder la tête froide parce que c'est important pour la suite.
不过我们仍需保持冷静，因为这对后续内容很重要。
Une machine qui apprend des régularités,
一台学习规律的机器，
ce n'est pas pour autant une machine qui comprend.
并不等于一台真正理解的机器。
Elle ne sait pas pourquoi le chat dort sur le canapé.
它并不知道猫为什么睡在沙发上。
Elle a vu des phrases pour parier juste.
它只是见过大量相关句子，从而能做出准确猜测。
En fait, tout ça, c'est de la statistique poussée à l'extrême.
事实上，这一切不过是极端化的统计学。
Et pourtant. Il sort de tout ça des choses que personne n'a montré aux IA,
然而，从这一切中却涌现出人类从未教给AI的东西：
des capacités qui apparaissent toutes seules,
一些自发产生的能力，
qui émergent de toute cette masse d'informations et de recoupements,
它们从海量信息与交叉验证中自然浮现，
en code, en traduction, en résolution de problèmes.
体现在编程、翻译和问题解决等方面。
C'est pour ça qu'on dit à juste titre qu'on élève ces systèmes autant qu'on les
正因如此，人们有充分理由说，我们是在养育这些系统，
programme. Et comment de simples régularités statistiques parviennent à faire
而不仅仅是编程；那么，简单的统计规律，
émerger tout ça?
竟能催生出这一切？
Et la question de savoir si ça comprend quoi que ce soit,
至于它是否真的理解任何事物，
c'est un mystère qu'on regardera en face plus tard dans cette série.
这个谜题，我们将在本系列后续内容中直面探讨。
Pour l'instant, on peut retenir ça:
目前，我们可以记住这一点：
ces IA sont désormais extraordinairement puissantes,
这些AI如今已变得极其强大，
mais sans compréhension réelle des choses, au sens humain du terme.
但它们并不具备人类意义上的真正理解。
Elles sont les deux.
它们两者都是。
Et c'est cette double nature qui fait que la même machine qui résout des problèmes
正是这种双重特性，使得同一台机器
inédits se trompe parfois là où un enfant de cinq ans ne se tromperait pas.
既能解决前所未有的问题，有时却会在一个五岁孩子绝不会出错的地方犯错。
C'est ce qui fait aussi que parfois
这也正是为什么，有时
cette machine va inventer de toutes pièces une citation de Victor Hugo avec un
这台机器会泰然自若地凭空编造一句维克多·雨果的名言，
aplomb tranquille, ce qui est très énervant et qu'on lui reproche de faire,
而这令人非常恼火，人们也正因此而指责它；
et ce pour quoi d'ailleurs elle s'excuse platement,
它甚至为此平淡地道歉，
mais qu'elle continue de faire néanmoins.
却依然照做不误。
Ça c'est ce qu'on a pris l'habitude d'appeler des hallucinations.
我们习惯把这类现象称为‘幻觉’。
Joli mot. Par ailleurs,
这个词真漂亮！此外，
comme elle apprend tout de nous, de nos textes.
由于它从我们的文本中学习一切，
Elle hérite aussi de nos biais.
它也继承了我们的偏见。
Elle reflète nos angles morts et parfois les amplifie.
它映射出我们的盲点，有时甚至将其放大。
Donc puissante et soudainement
因此，它既强大，又突然变得
imprévisible. Et c'est ça aussi, on s'en doute,
难以预测。我们不难想到，
qui pose quelques problèmes liés au niveau de confiance qu'on peut aussi accorder à
这也会引发一些问题：我们究竟能对这些机器
ces petites bébêtes qu'on élève et qui ne sont pas encore
——这些我们亲手培育、尚未臻于完美、
parfaites, qui ne sont pas encore des oracles.
尚不能成为神谕的机器——抱有多大的信任？
Et d'ailleurs, il faut dire que c'est sur cette interprétation de cette puissance et
事实上，恰恰是在对这种力量与潜力的理解上，
du potentiel que les experts cessent d'être d'accord.
专家们开始意见分歧。
Et on peut en dire deux mots, même
我们不妨简单谈两句，
si on y reviendra.
尽管之后还会再提。
Parce que quand ChatGPT débarque,
因为当ChatGPT横空出世时，
on a certains comme Bill Gates qui parlent d'une révolution donc aussi importante
像比尔·盖茨这样的某些人称其为一场革命，
que l'arrivée de l'ordinateur personnel ou d'Internet.
其重要性堪比个人电脑或互联网的诞生。
Et au même moment, on a d'autres comme Yann Le Cun,
与此同时，还有其他人，比如扬·勒昆，
qui est un des pères de ces techniques.
他正是这些技术的奠基人之一。
qui hausse les épaules, qui dit certes c'est important,
耸耸肩，说道：‘这确实很重要’
mais il n'y a rien de fondamentalement complètement nouveau,
但并没有什么根本性、彻底的新东西
c'est juste de l'apprentissage automatique poussé à une échelle gigantesque.
它只是将机器学习推向了巨大的规模
C'est bluffant.
这令人惊叹。
ça peut être très utile, il faut le regarder sérieusement, mais voilà,
这可能非常有用，我们必须认真对待，但事实是，
on est loin de l'intelligence pure.
我们离纯粹的智能还很遥远。
Et les deux camps ont des arguments sérieux.
而且双方阵营都有充分的理由。
Et c'est toute la difficulté du sujet,
而这正是该主题的全部难点所在，
parce qu'on ne sait pas encore si apprendre des régularités à très grande échelle
因为我们尚不清楚，大规模学习规律，
finit par faire émerger une forme inédite d'esprit ou seulement une imitation très,
最终会催生一种前所未有的智能形式，还是仅仅产生一种极其，
très convaincante.
极具说服力的模仿。
Une rupture ou de la simple continuité sous stéroïdes qui nous donne l'illusion
一种断裂，抑或是在激素作用下的简单延续，让我们产生了一种错觉：
d'une rupture.
一种断裂。
Je vais pas trancher ici, évidemment, et très honnêtement,
我当然不会在这里下定论，而且说实话，
je suis pas sûr que quiconque le puisse aujourd'hui.
如今恐怕谁也无法做到这一点。
le philosophe gilbert simondon
哲学家吉尔伯特·西蒙东
remarquait en passant qu'on a tendance devant les machines
曾顺便指出，人们面对机器时
à osciller entre deux erreurs
往往在两种错误之间摇摆
les prendre pour des sujets
要么把它们当作主体
ou les mépriser comme de simples outils.
要么轻视它们，只当是简单工具。
Pour l'instant, ce qu'on peut dire sans se mentir,
目前，我们能诚实地说的是，
c'est que ce n'est ni un cerveau ni une calculette.
它既不是大脑，也不是计算器。
C'est autre chose.
这是另一回事。
C'est autre chose qu'on est encore en train d'apprendre à nommer.
这完全是另一回事，我们仍在学习如何为其命名。
Je crois qu'il cherche son ancien maître.
我想它正在寻找自己以前的主人。
Je n'ai jamais vu une telle fidélité chez un droïde, je trouve ça bizarre.
我从未在机器人身上见过如此忠诚的表现，觉得十分奇怪。
Alors je sais que ça fait déjà beaucoup pour cet épisode,
所以我知道，这一集的内容已经很多了，
mais il me reste une famille d'IA à reprendre,
但我还有一类人工智能要讲，
celle que j'ai mise de côté tout à l'heure, celle qui agit.
就是刚才我特意留下的那类，即‘行动型’人工智能。
Si je l'ai gardée pour la fin,
之所以把它留到最后，
c'est parce que c'est elle qui bouge le plus vite en ce moment,
是因为它目前变化最快，
et qu'elle est peut- être en train de changer la nature même du sujet.
甚至可能正在改变‘主体’本身的性质。
Jusqu'ici, je vous ai décrit une machine à qui on demande quelque chose et qui
到目前为止，我向大家描述的是一种被提问后会作答的机器——
répond. Un outil qu'on consulte comme on consulte un dictionnaire,
一个像查字典一样被使用的工具，
mais en plus bavard.
只是更爱说话罢了。
Mais en gros depuis 2025, on a basculé dans autre chose.
但大致从2025年起，我们已迈入另一种阶段。
On parle désormais d'agents.
如今我们谈论的是‘智能体’。
Un agent, c'est pas seulement une machine qui répond,
所谓智能体，不只是会回答问题的机器，
c'est une machine à qui on confie un but et qui se débrouille pour l'atteindre.
更是被赋予目标、并能自主设法达成的机器。
Elle découpe la tâche en étapes, elle se sert d'outils,
它把任务拆解为多个步骤，调用各类工具，
elle écrit et corrige du code,
编写并修正代码，
elle va chercher les informations en ligne si on lui demande,
按需在线搜索信息，
elle recommence quand elle échoue,
失败时自动重试，
et elle peut continuer ça parfois pendant des heures sans qu'on la surveille.
有时甚至无需监督，就能持续运行数小时。