B2 · 第2集 · 5:36
认识算法偏见
本集探讨算法如何承载人类偏见，强调开发者需接受伦理培训，并介绍去中心化、伦理导向的技术替代方案。
来源：Marie-Odile Morandi / Libre à vous ! (April, Cause Commune) · 许可：CC BY-SA 2.0
字幕
Y aurait- il des solutions de remédiation?
是否存在补救措施？
Certes, c'est compliqué, et Stéphane Crozat fait remarquer que tout cela n'est pas
确实，这很复杂，斯蒂芬·克罗扎指出，这一切与正常的人类情境
très différent du contexte humain normal.
并没有太大不同。
Les décisions prises par les humains,
人类做出的决定，
elles non plus ne sont pas toujours compréhensibles.
同样并不总是能被理解。
Gageur donc d'espérer que ces algorithmes soient capables de résoudre des problèmes
因此，人们寄希望于这些算法能替我们解决问题
à notre place, de nous remplacer dans des prises de décision,
代替我们做出决策
en se. disant que puisqu'ils sont issus de la science ils se montreront rationnels
并天真地认为：既然它们源于科学，就必然理性、中立
neutres capables d'arriver à la perfection.
最终达到完美
Nous savons que ce sont des personnes qui font ces algorithmes,
我们知道，设计这些算法的是人，
des développeurs et des développeuses qui ont leur propre conception du monde et
是开发者们，他们各自拥有自己的世界观，
qu'ils risquent de l'y intégrer.
并可能将其融入算法之中。
Donc, a minima, ces personnes doivent être sensibilisées et formées à toutes ces
因此，至少应让这些人员了解并接受相关培训，内容涵盖所有
questions de discrimination et de biais.
歧视与偏见问题。
Il faut ici rappeler une transcription un peu plus ancienne d'une conférence
此处需回顾一次稍早的会议记录。
proposée par Marion Magnier en 2020,
由玛丽昂·马尼耶于2020年提出，
intitulée« Pourquoi les développeurs et développeuses ont besoin d'une formation aux
题为《为何开发者需要接受培训》
questions d'éthique».
伦理问题»。
Marion est développeuse pour des applications web dans le domaine de la santé.
玛丽昂是一名网络应用开发人员，专注于医疗健康领域。
Elle rappelle l'importance de se former à l'éthique.
她强调了接受伦理学培训的重要性。
Chaque domaine du milieu de l'informatique doit poser un certain nombre de principes
计算机领域的每个分支都必须确立若干原则
auxquels chacun est censé obéir.
每个人都应遵守这些原则。
Il y a toujours un être humain derrière la conception d'un algorithme,
算法的设计背后总有人类的身影，
même, dit- elle, pour les générateurs automatiques de code qui n'ont pas été créés
甚至——她指出——那些自动生成代码的工具本身，
par d'autres générateurs automatiques de code, mais bien par des êtres humains.
也并非由其他同类工具创造，而是由人类开发而成。
Son domaine est la médecine.
他的专业领域是医学。
Des médecins non sensibilisés aux questions de racisme ou aux questions de genre
对种族主义或性别议题缺乏认知的医生，
vont traiter différemment leurs patients.
会对患者采取不同的治疗方式。
Pour elle, c'est la même chose en informatique.
在她看来，计算机领域也是如此。
Un développeur non sensibilisé aura des biais de par son éducation,
一名缺乏相关认知的开发者，
de par son expérience, et risque de les faire ressortir dans son ouvrage.
会因自身教育背景和经历而带有偏见，并可能将这些偏见带入其作品中。
Dans l'idéal, le développeur doit prendre connaissance du cadre fonctionnel,
理想情况下，开发者应先了解功能需求，
du contexte technique dans lequel il va devoir exécuter le travail demandé.
以及需完成任务所处的技术环境。
S'il y a des choses dont il n'a jamais entendu parler,
如果有些概念他从未听说过，
comment pourra- t- il les mobiliser dans son raisonnement?
又怎能将其运用于自己的思考过程呢？
Certes, nous sommes tous en faveur du progrès technologique,
诚然，我们都支持技术进步，
mais pas à n'importe quel prix.
但绝不能不计代价。
Ces technologies ne doivent pas être utilisées.
这些技术不应被使用。
Dans le but de nuire, ne doivent pas nuire à la liberté et ne doivent pas renforcer
它们不得用于伤害他人，不得损害自由，也不得加剧，
des inégalités, voire en instaurer de nouvelles.
甚至制造新的不平等。
Est ce honnête d'espérer que l'on va réussir à faire des intelligences artificielles
我们是否真的能指望，
qui ne seront pas biaisées?
造出完全无偏见的AI系统？
Toute décision, tout jugement moral est biaisé par un contexte,
任何决策、任何道德判断，
un objectif, des contraintes.
都受特定背景、目标与约束条件的影响而带有偏见。
Nos objets techniques portent notre subjectivité et un biais supplémentaire nous
我们的技术产品承载着我们的主观性；此外，还潜藏着另一种偏见：
guette. Puisque c'est produit par un algorithme,
因为它们由算法生成，
puisque c'est produit par une machine,
因为它们由机器生成，
on a l'impression que ces algorithmes réfléchissent, sont objectifs,
人们便误以为这些算法具有思考能力、客观公正，
qu'ils vont nous aider à trouver des solutions,
以为它们能帮我们找到解决方案，
que la décision qu'ils vont prendre est impartiale, rationnelle,
以为它们作出的决策是中立、理性的，
voire indiscutable.
甚至不容置疑。
Où est cette technologie idéale, merveilleuse,
这种理想而神奇的技术在哪儿？
qui ferait mieux que l'être humain,
它比人类更优秀，
qui serait capable de le remplacer en tout point?
甚至能在方方面面取代人类？
Soyons conscients que nous avons là quelque chose d'automatique,
我们必须意识到，这背后存在某种自动化机制，
d'insondable, qui va se tromper et on ne pourra même pas le lui faire remarquer.
其运作深不可测，难免出错，而且我们甚至无法向它指出错误。
À la fin de leur entretien, les trois amis reviennent sur le cas des réseaux
访谈结束时，三位朋友再次聊起社交媒体的问题：
sociaux. Si tout le monde utilise seuls deux réseaux sociaux,
如果人人都只用两个社交平台——
Twitter et Facebook, les personnes qui maîtrisent leurs algorithmes ont en quelque
推特和脸书，那么掌握其算法的人，
sorte un pouvoir démesuré.
便拥有了某种不成比例的权力。
Leur conseil est bien entendu de se tourner vers Mastodon,
他们当然建议大家转向「长毛象」（Mastodon）——
réseau décentralisé et fédéré avec ses nombreuses instances,
一个去中心化、联邦制的社交网络，由众多独立实例组成，
chacune ayant ses propres règles.
每个实例都有自己的规则。
Chaque individu pourra choisir l'instance qui lui correspond,
每个人都能选择最契合自己的实例，
et choisir la façon d'ordonnancer les contenus.
并自主决定内容的排序方式。
Cette diversité donne la possibilité d'avoir du débat et donc de la démocratie.
这种多样性为开展辩论、实现民主提供了可能。
La quantité de vidéos hébergées sur Peertube, service libre et décentralisé,
自由、去中心化的视频平台「点对点电视」（PeerTube）
est en constante augmentation.
所托管的视频数量正持续增长。
Constat est fait qu'une aide à la sélection devient nécessaire,
人们已认识到，亟需一种内容筛选辅助工具，
mais bien entendu autre que celle de YouTube,
但当然不能是像油管（YouTube）那样的推荐机制——
dont l'objectif est de maximiser le nombre de vues et ainsi le temps passé sur la
它的目标是最大化观看次数，从而延长用户在平台上的停留时间。
plateforme. Quentin nous conseille un projet de recherche, tournesol.
克文汀向我们推荐了一个研究项目：「向日葵」（Tournesol）。
app, auquel tout le monde peut participer,
这是一个人人皆可参与的应用程序，
et dont l'objectif est de proposer un système de recommandation éthique,
旨在构建一套合乎伦理的推荐系统，
objectif que l'on ne peut que saluer.
这一目标无疑值得赞赏。
Sur cette plateforme, libre et collaborative,
在这个自由、协作的平台上，
il est demandé aux contributeurs d'identifier les vidéos dont ils estiment le
贡献者被要求甄别出他们认为内容优质，
contenu de qualité, voire d'utilité publique.
甚至具有公共价值的视频。
Pour ne plus avoir à composer avec les biais des algorithmes des quelques réseaux
为了不再受制于少数社交网络算法的偏见，
sociaux qui concentrent les masses,
而这些网络又聚集了大量用户，
la solution est probablement d'avoir encore et encore des portées de chatons,
解决方案或许就是不断推出更多“小猫”平台，
comme Picassoft le chaton de Compiègne, ou comme le chatril,
比如康皮埃涅的“毕加索夫小猫”，或者四月的“小猫狸”，
le chaton de la April, qui nous fournissent des services libres et loyaux,
它们为我们提供自由、公正的服务，
deux chatons qui font partie de la centaine de chatons du collectif des hébergeurs
这两只“小猫”都属于一个由上百只“小猫”组成的集体，
alternatifs, transparents, ouverts, neutres et solidaires.
这个集体由倡导替代性、透明性、开放性、中立性和团结性的托管服务商组成。
Nous vous encourageons à relire les deux transcriptions mentionnées aujourd'hui,
我们鼓励您重读今天提到的两份文字稿，
et pourquoi pas, à lire ou relire l'une ou l'autre des 163 transcriptions qui ont
甚至不妨阅读或重读我们小组在2022年发布的163份文字稿中的任意一份，
été publiées par notre groupe au cours de l'année 2022.
这些文字稿均发布于2022年。
Nous sommes de retour en direct,
我们正在直播中回归，
nous venons d'écouter la chronique de Marie- Odile Morandi,
刚刚收听了玛丽-奥黛尔·莫兰迪的专栏节目，
donc sur le thème" Connaître les biais, cessez d'en être leur victime".
主题是“认识认知偏见，不再做它的受害者”。
Marie- Odile a écrit la chronique qui a été mise en voix par Laure Élise Deniel,
玛丽-奥德丽撰写了这篇由洛尔-伊莉丝·德尼埃尔配音的专栏文章，
et je vous rappelle que, comme la totalité des activités de l'APRIL,
我再提醒大家，和APRIL的所有活动一样，
le groupe transcription est un groupe sur lequel vous pouvez contribuer.
转录小组也欢迎大家参与贡献。
Donc vous allez sur apri.
因此，您前往 apri 网站。
Org, ou même plus simplement sur le site des Transcriptions libralire.
奥格，或者更简单地说，在自由转录网站上。
Org, et vous trouverez les informations pour rejoindre le groupe si ça vous
组织，如果您感兴趣，
intéresse.
可以在这里找到加入该群组的信息。