B2 · 第1集 · 5:43
认识人工智能偏见
本集探讨人工智能算法中的偏见来源，包括人为设计偏差、训练数据偏差及目标设定偏差。
来源：Marie-Odile Morandi / Libre à vous ! (April, Cause Commune) · 许可：CC BY-SA 2.0
字幕
Les choix, voir les coups de cœur de Marie Odile Morandi,
精选书目，以及玛丽·奥迪尔·莫兰迪的挚爱推荐，
qui met en valeur deux ou trois transcriptions dont elle conseille la lecture.
她特别推荐两到三本转录作品供读者阅读。
C'est la chronique Les Transcriptions qui redonnent le goût de la lecture de Marie
这是玛丽·奥迪尔·莫兰迪带来的专栏《重拾阅读之乐：转录作品》，
Odile Morandi, animatrice de notre groupe Transcriptions.
她也是我们“转录小组”的主持人。
Le thème du jour: connaître les biais, c'est cesser d'en être leur victime.
今日主题：认识认知偏见，便不再受其摆布。
La chronique a été écrite par Marie Odile, Marie Odile,
本期专栏由玛丽·奥迪尔撰写，
et mise en voix par Laure Élise Déniel, j'ai du mal aujourd'hui.
并由洛尔·埃莉斯·德尼埃尔朗读；今天我状态不太好。
On se retrouve dans dix minutes.
我们十分钟后再见。
Bonjour à toutes, bonjour à tous.
各位女士、先生，大家好！
Tout d'abord, comme c'est la coutume en début de mois de janvier,
首先，按照每年一月伊始的传统，
le groupe transcription de l'APRIL,
APRIL协会的转录小组，
chers auditeurs et auditrices de l'émission Libre à vous,
亲爱的《自由之声》节目听众朋友们，
vous souhaite une excellente année 2023,
向大家致以2023年最诚挚的新年祝福！
que vous nous écoutiez en direct ou en podcast.
无论您是收听直播，还是收听播客回放。
Il nous arrive de transcrire des podcasts de l'émission La voix est libre,
我们有时会转录《自由之声》节目的播客，
émission proposée par Picassoft, une association amie de la April,
该节目由APRIL协会的友好伙伴皮卡索夫协会推出，
qui s'est donnée pour mission de sensibiliser les citoyens et citoyennes aux enjeux
该协会致力于提升公众对数字议题的认知，
du numérique. Cette association fait partie du collectif Chatons,
它也是“小猫”联盟的一员，
initié par Framasoft, le collectif des hébergeurs alternatifs,
该联盟由弗拉马软件发起，汇聚了众多替代性网络托管服务提供者，
transparents, ouverts, neutres et solidaires.
这些托管服务透明、开放、中立且富有协作精神。
Ce chaton à Compiègne, ouvrez les guillemets,
这家位于康皮埃涅的“小猫”，请打开引号，
héberge des services web respectueux de la vie privée,
提供尊重用户隐私的网络服务，
promeut une approche libre, éthique, inclusive et locale du numérique.
倡导一种自由、合乎伦理、包容且立足本地的数字观。
Pour enregistrer ces podcasts, trois amis, Baptiste Wozniakowski,
为录制这些播客，三位朋友——巴蒂斯特·沃兹尼亚科夫斯基、
Quentin Duchemin et Stéphane Crozaz, se retrouvent régulièrement.
昆汀·杜谢曼和斯特凡·克罗扎兹定期相聚。
Le style de leurs échanges est plaisant.
他们交流的风格令人愉悦。
Les thématiques, complexes mais toujours d'actualité,
讨论的主题复杂却始终紧扣当下，
sont abordées de façon agréable avec de nombreux exemples à l'appui.
并以轻松的方式展开，辅以大量实例。
Puis ces transcriptions redonnaient le goût de la lecture,
随后，这些文字记录重新唤起了人们的阅读兴趣，
intitulée de cette chronique.
也就是本期专栏的标题。
Nous avons transcrit récemment l'émission intitulée" Les biais de l'intelligence
我们最近整理了题为《人工智能的偏见》的节目文字稿，
artificielle", dont nous vous recommandons la lecture.
诚挚推荐大家阅读。
Cette émission a été réalisée il y a un an,
这期节目制作于一年前，
mais le thème des biais est toujours réel et c'est le sujet qui va nous intéresser
但‘偏见’这一主题至今依然现实而重要，
aujourd'hui. Vous trouverez la référence dans la page de l'émission de ce jour.
也正是我们今天要探讨的内容。您可在今日节目的页面中找到相关链接。
Quand un algorithme ne répond pas bien à la tâche qui lui est demandée,
当某个算法未能妥善完成所分配的任务，
ou qu'il favorise certaines catégories de la population, on parle de biais.
或偏向某些人群时，我们就称之为‘偏见’。
Les algorithmes d'intelligence artificielle sont utilisés partout,
人工智能算法已广泛应用于各类场景：
sur YouTube, sur les réseaux sociaux, Facebook et Twitter,
例如YouTube、各类社交媒体，如脸书和推特，
pour suggérer ou plutôt choisir le contenu présenté aux utilisateurs et aux
用于向用户推荐——更准确地说，是筛选——所呈现的内容，
utilisatrices.
包括女性用户。
mais aussi pour profiler pour assister des décisions de recrutement de solvabilité
此外，它们还被用于用户画像，辅助招聘、银行信贷评估等决策，
bancaire voire des décisions médicales juridiques ou politiques
甚至影响医疗、法律及政治领域的判断。
Il existe divers types d'algorithmes et ils ne fonctionnent pas de la même manière,
算法种类繁多，运行机制各不相同，
donc, nous dit Baptiste, on est assez vite perdu quand on en parle.
因此巴蒂斯特告诉我们：一谈到算法，人们往往很快就会感到困惑。
Dans les systèmes experts, le raisonnement se fait par syllogisme et les principes
在专家系统中，推理基于三段论，
sont écrits à l'avance.
其规则事先编写完成。
Par exemple, tous les libristes sont barbus et mal coiffés.
例如：所有自由主义者都胡子拉碴、发型凌乱。
Quentin est libriste, il est barbu et mal coiffé.
昆汀是自由主义者，所以他胡子拉碴、发型凌乱。
Mais Stéphane est moins barbu et mieux coiffé, donc on va avoir un souci.
但斯特凡胡子较浅、发型较好，这就产生了问题。
Les informaticiens entrent ces principes à la main.
计算机专家手动输入这些原则。
Ce sont des êtres humains, avec leurs connaissances sur le monde,
他们是人类，拥有自己对世界的认知，
leurs préjugés, leurs projections personnelles.
自己的偏见，以及个人的主观投射。
Les biais présents sont liés à la structure du programme,
存在的偏见与程序的结构有关，
à son contexte de fabrication,
与其开发背景有关，
et sont créés par les personnes qui développent ces systèmes.
并由开发这些系统的人所造成。
Les systèmes basés sur de l'apprentissage,
基于学习的系统，
le terme anglais utilisé est machine learning,
英文称为机器学习，
ont besoin que leur soit fourni en entrée de grandes quantités de données pour
需要大量数据作为输入，
permettre justement cet apprentissage.
实现这种学习。
Baptiste nous explique que leur entraînement change les paramètres,
巴蒂斯特向我们解释说，他们的训练会改变参数，
les parcours logiques empruntés pour obtenir les résultats.
即获得结果所遵循的逻辑路径。
sont constamment réactualisés, si bien qu'à la fin,
会不断更新，因此到最后，
personne ne sait vraiment expliquer pourquoi tel résultat a été obtenu,
没人真能解释清楚为何得到某个结果，
la chaîne de calcul n'étant pas assignée par les développeurs.
因为计算过程并非由开发者设定。
On est donc face à une espèce de boîte noire particulièrement opaque.
因此，我们面对的是一种特别不透明的黑箱。
Pour ces systèmes, il est nécessaire que les données fournies à l'algorithme en
对于这些系统，输入算法的数据
entrée soient bonnes, bien annotées, on dit correctement étiquetées.
必须质量良好、标注准确，即标签正确。
Ces données reflètent le monde réel tel qu'il est, sexiste et raciste.
这些数据反映了现实世界的真实面貌：它既存在性别歧视，也存在种族歧视。
Le résultat fourni en sortie risque de favoriser les personnes fréquemment en
输出结果可能偏向经常处于
position de domination:
支配地位的人：
les hommes par rapport aux femmes,
男性相对于女性，
les gens de droite par rapport à ceux de gauche, les personnes blanches,
右翼人士相对于左翼人士、白人，
cisgenres, hétérosexuelles, etc.
顺性别者、异性恋者等。
L'exemple proposé concernant Twitter est parlant.
文中提到的推特例子很有说服力。
On s'est rendu compte que, de manière générale,
人们意识到，总体而言，
si un contenu pouvait plutôt être attribué à un parti politique traditionnel
如果一则内容更可能属于某个传统政党，
conservateur, il a plus de chances d'être relayé par l'algorithme et de parvenir aux
比如保守党，它就更可能被算法转发，从而触达
autres utilisateurs.
其他用户。
Rééquilibrer la diversité des messages envoyés sous- entend de savoir,
重新平衡所传播信息的多样性，意味着需要了解——
donc de collecter, entre autres,
也就是说，需要收集，例如，
les opinions politiques de la personne qui a diffusé ce contenu.
发布该内容者本人的政治观点。
Et comment faire?
那该怎么做呢？
Lui demander? Et de quelle façon?
直接询问本人？又该以何种方式询问？
Agir à son insu pour obtenir ces informations?
还是在对方不知情的情况下获取这些信息？
Les objectifs donnés à l'algorithme, les critères choisis,
算法设定的目标和选用的标准，
peuvent mener à une discrimination.
可能导致歧视。
On parle alors de biais sur les objectifs,
这被称为目标偏差，
présents par exemple dans les algorithmes d'aide au recrutement.
例如在招聘辅助算法中就存在这类偏差。
Le cas cité concerne Amazon, qui cherchait à réduire le coût de ses procédures de
文中提到的案例是亚马逊公司，它试图降低招聘流程的成本。
recrutement. Le coût de recrutement des femmes ayant été estimé plus élevé que celui
由于女性招聘成本被估算得高于男性，
des hommes, l'algorithme se montre discriminant à l'égard des femmes,
该算法便对女性表现出歧视倾向，
à cause de l'objectif initial qui impose dès le départ la présence du biais.
而这源于最初设定的目标，从一开始就引入了偏差。
Des biais se rencontrent.
偏差确实普遍存在。
aussi très souvent quand il s'agit d'algorithmes destinés à exécuter des arbitrages
当算法用于做出涉及道德判断的决策时，
comportant une dimension morale.
这种偏差尤为常见。
L'exemple donné est celui du projet Ask Delphi,
文中举例的是‘德尔菲问答’项目，
intelligence artificielle à qui l'on peut désormais demander si ce que l'on compte
这是一个人工智能系统，如今人们可以向它提问：
faire est bien ou mal.
自己打算做的事是对是错。
C'est très problématique de placer sa confiance dans un tel objet.
盲目信任这样的工具，问题非常严重。
Il n'existe pas de réponse universelle simple ou facile à une telle question.
对于这样一个问题，并不存在简单或容易的普适答案。
Le constat est flagrant: les algorithmes d'intelligence artificielle prennent les
现实显而易见：人工智能算法
déformations du monde et intrinsèquement les amplifient.
会扭曲世界，并且内在地放大这些扭曲。
Ils ne peuvent pas trouver la vérité de manière magique,
它们无法凭空发现真相，
ils intègrent ainsi nécessairement des biais sexistes, racistes,
因此必然融入性别歧视、种族主义等偏见，
discriminatoires, etc.
以及其他各种歧视性偏见。