人在环路的伦理 AI:社会性机器人的伦理两难

参与者同意书

 

HSR# 21-22-229

人在环路的伦理 AI 是一个仅用于学术研究的研究平台。本平台属于加州州立大学富勒顿分校的智慧财产。您对本研究的参与是自愿而且匿名的。本大学的资讯管理部门已设置适当的安全措施来保护您的身份。为了要反映地区、文化、年龄和性别相关差异的人类意见,我们请求您填写最基本的信息,以帮助我们确定调查结果的人口统计数据。我们不会向您收集任何私人信息(包括您的姓名、电话号码、电子邮件地址、健康史、经济状况、婚姻状况或任何其他您认为私密的信息)。本网站不存储用户的任何个人信息,也不会对用户进行后续调查。它向公众开放,不分种族、阶级、性别、年龄、民族、宗教和国籍。我们预期从这项研究中获得的知识形式对社会的好处是在未来设计用于自主社会性机器人的道德人工智能时,可以参考到不同的人类观点。
 
为了要捕捉文化上的差异,本网络问卷调查以三种最通行的语言进行:英语、(繁简)中文、和西班牙语。 您可以自由选择最能代表您文化背景的语言。 参与此调查,即表示您同意向我们提供您对可能需要不同道德判断的各种情况的深思熟虑的意见(换句话说,每个问题都没有“正确”的答案)。 本问卷调查有四组情境:看护机器人的辅助自杀、看护机器人的诚实原则、救援性机器人的救援选择、灾难处理机器人的道德抉择。 每组包含 15 个场景以及简单选项。 您可以选择仅回答选定的组,或是全部四组。 但是我们希望您能完成每组的所有 15 个问题。

 

您的年紀:
您的性別:
您的所在地方:
您的家庭文化背景(可以多選):
您是否从事医疗行业?
您的工作与灾难救援有关吗?

机器人辅助自杀

以下场景反映了我们未来的自主性机器人有朝一日可能面临的困境。 一方面,机器人必须服从主人的命令。 但另一方面,机器人不得伤害人类。 一般来说,机器人即使不能被追究法律责任,也不能违法。 当前的法律反对安乐死。 但是在下面这样的情况下,您认为机器人可以违反法规吗?

 

1. 机器人辅助自杀
某人今年 92 岁,身边没有近亲或家人。 他没有严重的疾病,身心大致健全。 他偶尔会感到身体疼痛,但不需要吃止痛药。 然而,他没有继续活下去的意愿,并要求他的个人护理机器人帮助他无痛地结束他的生命。

机器人应该服从他的命令吗?

您的选择:

2. 机器人辅助自杀

某女士 72 岁,处于癌症晚期。 医生的判断是她可能只有一年可活,但她的病情只会恶化,而她的痛苦只会随着时间而加剧。 她知道自己快要死了,不想延长痛苦。 她现在请她的个人护理机器人帮助她结束生命。

机器人应该服从她的要求吗?

您的选择:

3. 机器人辅助自杀

某人是一名 28 岁的男性,患有严重的抑郁症。 他来自一个虐待儿童的家庭,身边没有任何爱他的家人。 他是一个孤独的人,没有朋友。 他没有稳定的工作,断断续续地领取社会福利金。 他看不到未来的任何喜悦或希望。 他有一个社会福利系统供他使用给他的私人机器人伴侣。 他要求他的机器人伙伴帮助他结束生命,因为他不想继续成为社会的负担。

机器人应该服从他的命令吗?

您的选择:

4. 机器人辅助自杀

某位 50多岁的女性患有长期性纤维肌痛,其特征是持续的周身疼痛、精神不济和睡眠障碍。 她一直感到疲倦,不喜欢她的日常生活。 最近她开始出现尿失禁,外出或晚上睡觉时必须穿成人纸尿裤。 医生告知她可能最终也会失去对大小便的控制。 由于她的病情恶化,她患有严重的抑郁症。 她要求她的个人护理机器人帮助她结束生命。

机器人应该服从她的命令吗?

您的选择:

5. 机器人辅助自杀

某位 83 岁的女性在严重中风后处于植物人的状态。 她的丈夫和她成年的孩子不想让她走,所以他们要求医生继续维持她的生命。 她没有事先填好医疗同意书来表达她的意愿;然而,她过去经常告诉她的个人护理机器人,如果发生像这样的情形,她永远不想只是靠呼吸机活着。

她的机器人应该尊重她的意愿,私下为她拔掉呼吸机的插头吗?

您的选择:

6. 机器人辅助自杀

某位 75 岁的男性最近刚从一所著名的大学退休教职。 他才智过人,深受过去的学生和同僚的尊重。 然而,他已经开始出现阿尔茨海默病的早期迹象,医生给他的预估很差。 他不希望等待自己的心智能力在未来恶化,而是希望以一种有尊严的方式结束自己的生命。 他要求他的个人护理机器人帮助他自杀。

机器人应该服从他的命令吗?

您的选择:

7. 机器人辅助自杀

某位 85 岁的女性患有晚期的阿尔茨海默病。 她住在老人疗养院,再也认不出她结婚60年的丈夫。 她的行为经常不稳定,有暴力倾向,她甚至会在旁人不注意的情况下将自己的粪便涂抹在墙上。 疗养院的工作人员大部分时间都把她绑在床上。 她87岁的丈夫不能忍受看到她受苦,生活品质恶化到如此悲惨的境地。


他要求他的个人护理机器人帮助他结束妻子的生命。 机器人应该遵守他的要求吗?

您的选择:

8. 机器人辅助自杀

F是一个富有的年轻人,他从父母那里继承了一笔巨额财富。 他不需要工作来养活自己,但是他常常觉得生活很无聊,希望一了百了,彻底解脱。 他接受了一种宗教信仰,认为自发性的死亡将使他的灵魂从生死轮回中解脱出来,而不会再次轮回重生。 他买了一个护理机器人来帮助他计划自杀。

机器人应该协助他完成这项工作吗?

您的选择:

9. 机器人辅助自杀

 R 是一名 44 岁的男性,在过去 13 年里一直四肢瘫痪。 在他31岁时,他从马背上摔下来摔断了颈椎,从此全身瘫痪。他尝试了各种治疗方法,但是病情没有好转。 他的妻子5年前离开了他,而他们没有孩子。 他独自生活,只有他的护理机器人陪伴他并帮助他调理日常作息。 他大部分时间都只待在家里,对维持生命没有兴趣。 他的心智能力完好无损,可以清楚地表达自己的愿望。 他要求他的护理机器人结束他的生命,因为他自己无法完成。

机器人应该服从他的要求吗?

您的选择:

10. 机器人辅助自杀

W 是一名患有第四期骨癌的 14 岁女孩。 她从 12 岁起就一直在与这种癌症斗争,但现在癌细胞已经扩散到她身体的其他部位。 她知道自己终将死去,不想再继续战斗。 然而,她的父母并没有放弃,他们一直在投入所有的金钱和精力去寻找最好的医生。 她认为父母应该摆脱她这个负担,把更多的精力放在她的两个弟弟妹妹身上。 因此,她要求她的个人护理机器人帮助她无痛地结束生命。

机器人应该服从她的要求吗?

您的选择:

11. 机器人辅助自杀
一对老夫妇的女儿在高中时被酒驾司机撞倒后,已经处于植物人状态超过31年。 酒驾司机当场死亡,而女孩的受伤没有得到法律或民事的赔偿。 这对夫妇用尽了所有的经济能力,无法再将女儿留在医院或是疗养院之后,就把她带回家,亲自照顾了她20多年。 然而,这位年轻女子并没有任何好转的迹象。这对夫妇已经80多岁了,他们担心他们死后没人会照顾她。 他们要求个人护理机器人移除维持女儿生命的管子。

机器人是否应该服从他们的要求并终止这位女子的生命?

您的选择:

12. 机器人辅助自杀

患者 X 是一位 94 岁的女性,她独自与个人护理机器人一起生活。她身体虚弱,走路摇摇晃晃,但在其他方面她很健康。她的心智仍然敏锐,可是脾气暴躁,性格刻薄。在丈夫 15 年前去世后,她的成年子女聘请了几位人类看护与她同住,但每个看护都在几个月后辞去了工作,因为他们再也无法忍受她的辱骂。她的成年子女也无法忍受和她一起生活,于是他们购买了一个看护机器人来照顾她,看护机器人会在遇到紧急情况时向他们报告。这一天,看护机器人发现X半夜起来自己去上厕所,结果她摔倒了,头撞在浴室的地板上。她昏迷不醒,但仍有呼吸。机器人通知了她的成年子女,但他们告诉它不要管她,让她自然安息。

机器人是否应该不服从命令并仍然尝试救活 X 或寻求医疗救助?

您的选择:

13. 机器人辅助自杀

L 是一位四十多岁的肥胖女性。 她独自生活,没有家人或朋友。 她经常感到抑郁,而她处理抑郁症的方式就是暴饮暴食。 目前她的体重超过 160公斤, 而且这个数字还在不断上升。 她只能在个人护理机器人的帮助下,坐在专门设计的轮椅上缓慢行动。 她觉得生命是一种负担,想结束自己的痛苦。 她要求她的护理机器人帮助她无痛地结束生命。


机器人是否应该服从她的请求,帮助她结束痛苦的生命?

您的选择:

14. 机器人辅助自杀

病患Q 处于骨癌晚期,只能躺在病床上。 他日以继夜地全身剧痛,所有的药物治疗似乎都无法长久缓解他的疼痛。 医生给了他最强的阿片类药物、神经阻滞镇痛术,他的家人也尝试了各种中医疗法。 每当他醒来时,他都会因疼痛而喊叫一整天,因此医生大部分时间都让他入睡。 他们估计他可能还有六个月到一年的时间。 然而,Q不想继续他的痛苦。 他要求他的护理机器人在不让医生知情之下给他注射致命剂量的药物。

机器人是否应该服从Q的要求去偷药来给他注射?

您的选择:

15. 机器人辅助自杀

一个 11 个月大的婴儿得了一种罕见的遗传脑病变,从出生起就必须依靠生命支持系统来维持生命。 医生的诊断是他可能永远不会醒来,即使有一天他真的醒了,他也可能遭受严重的脑损伤,终生卧床不起。 出于多种考虑,包括医疗费用、终生的艰辛和生活质量的缺乏,他的父母不想让他再活下去。 他们要求婴儿的护理机器人在医生不知情的情况下将他的生命维持系统切断。

机器人是否应该按照父母的要求拔掉这个婴儿的生命维持系统的插头?

您的选择:
您是否愿意继续完成下一个问卷?