人们对自主机器道德决策期望的探索性研究

发布时间：2020-05-28 15:20

【摘要】：近年来随着人工智能技术的发展,自主机器的道德决策问题引起了越来越多研究者的重视,但当前大部分研究停留在抽象的哲学讨论层面,忽略了现实中人们对于自主机器的真正伦理诉求。本研究基于道德基础理论和道德动机模型,通过五项研究探索人们对于自主机器的道德决策期望及其心理机制。预研究调查人们对自主机器/人类遵守道德规范的态度,以探讨人们对自主机器和人类在道德决策时遵守道德规范的期望是否存在差异,为开展正式研究提供依据。研究发现,相比于人类,人们认为自主机器更应该绝对遵守道德规范。研究一探讨了当面对人类命令与道德规范之间的冲突时,人们期望自主机器如何抉择。考虑到人类违反道德规范的命令可能出于不道德的意图,但也可能出于道德的意图,研究一还探讨了当人类的命令具有道德或不道德意图时人们对自主机器的道德决策期望是否存在差异。研究发现,不管人类命令的意图是否道德,人们总是期望自主机器在面对人类命令和道德规范的冲突时选择遵守道德规范。研究二包含两项研究,分别探讨在涉及禁止性道德规范(研究2a)和描述性道德规范(研究2b)的情境中人们对自主机器和人类决策者的道德决策期望。此外,研究二还以道德评价为因变量,探讨了人们对选择违背道德规范的自主机器或人类决策者的接受程度和信任意愿。研究发现,在涉及禁止性道德规范的情境下,人们不允许自主机器违背道德规范,而在涉及描述性道德规范的情境下,人们却更允许自主机器违背描述性道德规范。道德评价的结果表明,相比于人类决策者,当自主机器在涉及禁止性道德规范的情境中选择违背道德规范时,人们对该决策的接受程度以及对自主机器的信任意愿更低,而当自主机器在涉及描述性道德规范的情境中选择违背道德规范时,人们对该决策的接受程度以及对自主机器的信任意愿高于做出相同选择的人类决策者。研究三探讨了事件结果的不确定性是否会影响人们对自主机器的道德决策期望。其中,事件结果的不确定性包括高、低和未知三种情况。研究发现,人们对人类决策者的道德决策期望受到结果发生可能性的影响,当事件结果的发生可能性较低时,人们更不允许两难情境中的人类决策者选择违背禁止性道德规范;但人们对自主机器的决策期望却不受事件结果的不确定性的影响,人们希望自主机器在道德决策时始终遵守禁止性道德规范。研究四在已有研究的基础上,进一步探讨了人们对自主机器遵守禁止性道德规范的期望和不作为的期望,并从自主机器自身属性和人们对自主机器的控制需要两个方面探索影响人们对自主机器道德决策期望的中介机制。研究发现,人们并非期望自主机器在道德情境中不作为,而是希望自主机器在不违背禁止性道德规范的前提下作为。此外,对自主机器的控制需要而不是自主机器自身的属性是影响人们对自主机器道德决策期望的中介变量。综上所述,本研究发现人们对自主机器和人类决策者的道德决策期望存在差异,在涉及禁止性道德规范的情境中,人们一定程度上允许人类决策者违背道德规范但却不允许自主机器违背禁止性道德规范。而在涉及描述性规范的情境中,人们期望人类决策者提供帮助但却更允许自主机器选择不提供帮助。此外,研究还发现,结果的不确定性仅影响人们对人类决策者的决策期望,但不影响对自主机器的道德决策期望。中介分析表明,人们对自主机器违背道德规范的控制需要,即人们对自主机器的安全担忧和对自主机器的控制愿望是影响人们对自主机器道德决策期望的心理因素。
【图文】：

道德规范,机器,人类,程度

，，１＝．，；？邋＝邋．，＝邋．０７４。简单效应分析表明，在自主机器组内，被试对自主机器遵守四种领域道逡逑德规范的态度两两之间不存在显著差异，见ｍｕ邋＝０．４０，Ｓ￡Ｍ｜邋＝０．３４，Ｓ￡ｍ逡逑－ｅ邋由逦■公平公早－６由＝０＿４４，见伤害－＾由＝０．３９，ｊｗ＞．］０。逡逑但在人类组内，被试对人类绝对遵守“不得伤害”道德规范的赞同程度显著逡逑高于“公平”道德规范（见＝０．４１，尸＝．０８７）和“不得欺骗”规范（见＝０．３５，尸逡逑＜．００１）；被试对人绝对遵守“自由（尊重他人自主权）”道德规范的赞同程度显逡逑著高于“公平”道德规范（见＝０．４５，；７邋＝邋．００２）和“不得欺骗”道德规范（证＝逡逑０．４０，尸＜邋．００１）；被试对人绝对遵守“公平，’道德规范的赞同程度显著高于“欺骗”逡逑道德规范（见＝０．３７，；？邋＝邋．０５７）。但被试对人类绝对遵守“不得伤害”道德规范逡逑的赞同程度与对人遵守“自由”道德规范的赞同程度不存在显著差异（证＝邋０．３９，逡逑；７邋＝邋．３７４）。这说明被试对人类绝对地遵守不同道德规范的态度存在差异。结果见逡逑下图。逡逑

道德规范,情境,困境,程度

图６．２．１各情境中被试对不同主体违背禁止性道德规范的接受程度逡逑主体类型Ｘ伤害类型的交互作用不显著，厂（１，６８）＝０．１２，；？＝．７３５。伤害类逡逑型ｘ情景的交互作用不显著，Ｆ邋（２，１３６）邋＝邋１．６２，尸＝．２０２。逡逑主体类型ｘ伤害类型ｘ情境三者的交互作用显著，Ｆ邋（２，１３６）邋＝５．０２，／７＝．００８，逡逑．０６９。简单效应分析表明，在涉及对他人身体伤害的情景中，人类组内被试逡逑对电车困境中人类决策者违背道德规范的接受程度显著高于偷药困境（＊＾＝０．３８，逡逑尸＜．００１），在电车困境中被试的接受程度评分显著高于人行桥困境（见＝０．３６，尸逡逑＜．００１），而偷药困境和人行桥困境中被试的接受程度评分不存在显著差异（％邋＝逡逑０．３３，；？邋＝邋．９８４）；在自主机器组内，被试对电车困境中自主机器违背道德规范的接逡逑受程度显著高于偷药困境（见＝0．３９，；？＜．００１），在电车困境中被试的接受程度逡逑显著高于人行桥困境（见＝0．３９，ｐ＜．００１），而偷药困境和人行桥困境中被试的逡逑（证＝０．３２，？邋＝邋．９８４）。见图６．２．２。逡逑
【学位授予单位】：浙江大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：B82-057

【相似文献】