梵蒂冈城(TND)——教皇方济各周四在世界和平日致辞中概述了他对机器学习算法的担忧。
这位天主教领袖警告说，人工智能可能会在其用户“追求绝对自由”的过程中引入“技术独裁”。他认为，“技术官僚”和“效率导向”的思维模式忽视了“限制感”。
教皇方济各说:“从定义上讲，人类是会死的。“提议通过技术克服每一个限制，怀着控制一切的强迫症，我们可能会失去对自己的控制。”
教皇还声称，军队对远程瞄准系统的使用导致了对武器系统破坏的不准确认识，这反过来又导致了一种“更加冷漠和冷漠”的战争方式。
教皇方济各说:“自主武器系统永远不可能成为道德上负责任的对象。”“人类独特的道德判断和伦理决策能力不仅仅是一套复杂的算法集合，而且这种能力不能被简化为为机器编程，尽管它可能是‘智能的’，但它仍然是机器。”
教皇认为，人工智能可以通过无处不在的监视或“社会信用系统”导致“权力冲突”。他说，依赖对人进行分类的系统会产生严重的影响，因为它“在公民中建立了一个排名”。
教皇方济各说:“对人类尊严的基本尊重要求我们拒绝允许用一组数据来确定人的独特性。”“绝不能让算法决定我们对人权的理解，不应该让算法抛弃同情、怜悯和宽恕等人类基本价值观，也不应该让算法消除个人改变和抛弃过去的可能性。”
教皇还担心，由于系统错误很容易成倍增加，机器学习算法会放大歧视。他认为，由于多米诺骨牌效应，这将导致个别案件的“不公正”和“真正形式的社会不平等”。
教宗方济各担心:“在未来，抵押贷款申请人的可靠性、个人对工作的适用性、被定罪者再犯的可能性，或者获得政治庇护或社会援助的权利，都可能由人工智能系统决定。”
教皇主张对人工智能进行监管，因为它会消除“曾经唯一属于人类劳动领域”的工作。他说，这些制度将不成比例地使一小部分人受益，而其他许多人将陷入贫困。
教皇方济各说:“随着这些形式的技术越来越深入地渗透到我们的工作场所，尊重劳动者的尊严和就业对个人、家庭和社会的经济福祉的重要性，以及对工作保障和公平工资的重要性，应该成为国际社会的优先事项。”
他还呼吁制定一项国际条约来规范人工智能的发展和应用。它的目标是通过鼓励新的方法和鼓励团体的主动性来“防止有害的做法”和“鼓励最佳做法”。
