宗座生命科学院记者会：演算法应包含伦理价值，而不只是数值

（梵蒂冈新闻网）圣座新闻室2月25日中午举行记者会，介绍将于隔天展开的研讨会，主题为「好的演算法？人工智能：伦理、法律和健康」。本研讨会的主办单位为宗座生命科学院，该机构主席帕利亚（Vincenzo Paglia）总主教和院士贝南蒂（Paolo Benanti）神父等人在记者会上发言。与会者将于2月28日活动结束之际签署《罗马关于人工智能伦理的呼吁》，并将这份文件呈给教宗方济各。

宗座生命科学院主席帕利亚总主教阐明，「这是由本科学院提出的文件，涉及志同道合者的共同任务。内文言简意赅，提供人工智能伦理的若干指南，并制定多项任务。内容主要分为三个章节：伦理、法律和教育。透过这项举动，宗座生命科学院并非与某些企业家缔结独家伙伴关系，既不赞助他人，也不接受赞助，而是与有志者携手同行，更好地理解如何促进人类福祉，朝著这个方向前行，确认自己落实的情况，并乐于付出相应的代价」。

这份文件旨在激起一股潮流，邀请更多单位参与其中，诸如：公家机关、非政府组织、工业企业和其它团体，以发展并善用人工智能科技。因此，这份文件的签署是个「起点」，由此展开一项「显然愈加迫切又重要的任务」。宗座生命科学院院士贝南蒂神父指出，人工智能产业龙头IBM和微软也将签署这份文件。

此外，贝南蒂神父也解释了与人工智能有关的第四次工业革命，指出「人工智能并非改变特定事物，而是改变我们做事的方法」。这次工业革命「恐怕会促成我们知识的自动化」，因为「人工智能系统能适应工作中的动态条件，模仿人的行为。换句话说，今天机器时常能代替人类作决定、完成选择」。

一些重大的问题遂由此而来：在机器代替人类作决定时，我们必须掌握哪种可靠性，才能让机器决定，谁该受到照顾，以及受到怎样的照顾？基于怎样的原则，我们该允许机器来指明，谁值得信任，谁又不值得信任？贝南蒂神父说：「如果我们能借由电脑，把人的问题化为统计、图表和方程式，我们就会制造一个假象，误以为透过电脑能解决这些问题。但事实却不然。」

这位院士表明，在使用电脑时，人与机器之间会「发生语言的挑战，出现投射和交流，甚至激发人类未曾想过的处境：机器变得人性化，人却变得机械化」。贝南蒂神父阐述什么是「机器的人性化，以及人类不该机械化」。他说：「人类在选择时，知道自己行动的深层和基本准则，即：善与恶。人类自由地觉察到责任感，西方传统上称之为『伦理』。伦理是绝妙的人性特质，使我们独一无二，其基础是价值观。机器也有其价值依据，那是数据中的数值。」

为此，这位宗座生命科学院院士呼吁演算法应包含伦理价值，而不只是数值。他说：「我们必须把伦理原则和规范编写成代码，转化为机器能识别并使用的语言。如此一来，人工智能的革命便能带来真正的发展。」