凯撒·伊达尔戈(Cesar A. Hidalgo)是在经济复杂性🧑🏻🔧、数据可视化和应用人工智能等领域闻名的学者。他是图卢兹大学人工和自然智能研究所集体学习中心的负责人(Center for Collective Learning at the Artificial and Natural Intelligence Institute of the University of Toulouse)，同时身兼曼彻斯特大学名誉教授与哈佛大学的客座教授👩🦽➡️✥。近日⛳️，他与City Journal
的副主编Daniel Kennelly谈论了他和其他人合作的新书《How Humans Judge Machines》（本书合著作者包括Diana Orghian🤽♂️🚶🏻♀️，Jordi Albo-Canals，Filipa de Almeida与Natalia Martin）。他们在书中讨论了我们的道德直觉差异取决是人的参与还是机器的参与💓。
Photo courtesy of César A. Hidalgo
我们面对人类与机器产生不同判断的主要形式有哪些⏏️？
首先，相较于人类，人们对于机器的判断更加倾向结果主义🦣🥝。事实上，我们在书中得出的结论🧑🏻🍼：“人们通过意图来判断人类，而通过结果来判断机器”这一原则在背后起作用🧚🏽♀️。我们还发现，人们是以双峰模式来判断人类的意图的。也就是说，我们要么认为人类有意去做某件事，要么完全原谅他们（即认为其无意）🍄🟫。而当面对机器时👷🏼，我们不会赋予它们与人类相当的意图性👨🏽✈️，但我们同时也不会完全原谅它们（在偶然情况下）。这两个原则的结果是，我们在发生意外时对机器的判断可能会非常苛刻💃🏼🟫，而在相同情况下，我们会选择原谅人类🛂。我们还研究了机器或人类做出积极影响的情形（例如，当他们预防灾难或纠正不公平处境时）❤️🔥。在这些情况下，我们发现人们倾向于将机器做出的改进视为理所应当👈🏿。最后，我们发现在涉及人身伤害的情况下，人们对机器的判断相较于对人的判断显得尤为苛刻🐡，但是在涉及公正性的情况下（例如那些涉及自动化🙇🏽♀️，算法偏误，剽窃的情形下），这种判断差异有时会出现逆转。
您能否描述一下有哪些情形设定在您的研究中得以使用？
我们有80多个情形设定。其中一些是围绕主题进行组织的，例如侵犯隐私✊🏼、由于自动化导致的工作流失和算法偏误（例如，在大学录取或是警务方面）。我们同时还针对自动驾驶汽车事故或自然灾害（例如飓风或海啸中失败的救援行动）等情形进行了预测🐐；此外，还涉及创意产业中的淫秽行为和剽窃现象。我们通过机器或人类的行为将这些情形呈现给人群🧑🏿🎄。例如有一种情形👩🏻🍳：一台挖掘机正在挖掘建造坟墓的场地🐨😹。当这一情形在呈现时🎼，某些人看到的是自动挖掘机的行为，而其他人看到的则是由人为操作的挖掘机的行为。
那么算法偏误呢👩🏿🔧？在涉及就业或学校录取等决策的情况下，我们能否或多或少地将机器视为具有公平性的？
在大多数情况下📠，人们对于出现偏误的人类和机器的判断十分相似👩🏽💻。这与美国法律相一致🧑🏿🌾👨🏼🏫，法律中指出，独立于意图本身的歧视行为是非法的🧏🏿。但我们确实发现人们细微倾向于：在评判偏误现象时，针对人类比机器更为严厉。
您的研究揭示了哪些与“人们如何判断由机器带来的劳动力替代情形🧙🏼♂️、并且当人类自身即是这一替代发生的原因（例如外包）时会更加严厉”的相关内容🏌🏿👷🏽♂️？
在本书的第五章中👨🔧，我们比较了人们对由自动化导致的劳动力替代的反应以及对拥有临时签证，从事外包或离岸外包的外国工人的反应🔗。在大多数情况下🤏🏻🩳，我们发现人们更加倾向于接受由自动化引发的劳动力替代；他们更倾向于驱逐具有临时签证，从事外包或离岸外包的外国工人。但是⛔️，我们发现相对于更加知识密集型的行业，这种影响会有所降低🧑🏿🎤。（例如🤵🏿♂️，相较于外籍的卡车司机🙋🏽，人们会更接受外籍核技术人员🚶♂️。）
我们的研究规模仅基于美国本土大约6,000人的样本💇，因此不能将其推广到其他文化或地区🧙🏼♀️👰🏻。
为什么这些判断中的差异很重要？在商业和日常生活中不断增加使用算法进行决策的意义是什么？
算法正在成为我们社会的一部分。但我们仍需知道何时该接受他们，何时选择不接受👩👧👧，何时能再给它们一次机会🐓🎐。网络上许多关于算法的讨论都站在保守的立场。本书的目的是帮助创建一组新的数据😮💨，并利用它来对我们何时及为何会在面对机器与人类时产生判断上的差异有更细微的了解。我相信这一理解是我们自我反思的关键。没有它，我们将在缺乏必要自我批评的情况下来评判机器及其应用方式🤵🏼♀️。这并不是说人们应当平等地评判人与机器。但是，我们需要了解这些差异及其背后的原因🙇🏿。
这本书从小说作品中得到了许多见解，包括玛丽·雪莱（Mary Shelley）的《科学怪人》（Frankenstein）到艾萨克·阿西莫夫（Isaac Asimov）的《机器人》系列。这些小说中的故事在塑造我们对机器的道德直觉上起到了怎样的作用？
小说作品通常能够帮助我们以超越科学的细微差别来探索道德问题。在小说中，行动不仅局限于通则，而可能是角色个人历史与情感的结果😛🫳🏽。即使很难对这些表现形式都进行概括🙎🏿♂️👩🚒，这也同时为小说提供了奇妙且深远的创造空间。正如在阿西莫夫这样的故事中，角色对相同的情况可能会做出不同的反应，但他们也经常面临同样的问题。结构完善的小说可以帮助我们将那些常见的故事脉络与独具特性的举动分开。我将故事的前提与角色经历之间的这种故事张力视作不断激发灵感的源泉。
详情点击：https://mp.weixin.qq.com/s/q6fOwKiKm5dgiOiXq6Nd-w
