人在環路的倫理 AI:社會性機器人的倫理兩難

參與者同意書

 
HSR# 21-22-229
人在環路的倫理 AI 是一個僅用於學術研究的研究平臺。 本平臺屬於加州州立大學富勒頓分校的智慧財產權。 您對本研究的參與是自願而且匿名的。 本大學的資訊管理部門已設置適當的安全措施來保護您的身份。 為了要反映地區、文化、年齡和性別相關差異的人類意見，我們請求您填寫最基本的資訊，以幫助我們確定調查結果的人口統計數據。 我們不會向您收集任何私人資訊（包括您的姓名、電話號碼、電子郵件地址、健康史、經濟狀況、婚姻狀況或任何其他您認為私密的資訊）。 本網站不存儲使用者的任何個人資訊，也不會對用戶進行後續調查。 它向公眾開放，不分種族、階級、性別、年齡、民族、宗教和國籍。 我們預期從這項研究中獲得的知識形式對社會的好處是在未來設計用於自主社會性機器人的道德人工智慧時，可以參考到不同的人類觀點。
 
 為了要捕捉文化上的差異，本網路問卷調查以三種最通行的語言進行：英語、（繁簡）中文、 和西班牙文。 您可以自由選擇最能代表您文化背景的語言。 參與此調查，即表示您同意向我們提供您對可能需要不同道德判斷的各種情況的深思熟慮的意見（換句話說，每個問題都沒有"正確"的答案）。 本問卷調查有四組情境：看護機器人的輔助自殺、看護機器人的誠實原則、救援性機器人的救援選擇、 災難處理機器人的道德抉擇。 每組包含 15 個情境以及簡單選項。 您可以選擇僅回答選定的組，或是全部四組。 但是我們希望您能完成每組的所有 15 個問題。
您的年紀：
您的性別：
您的所在地方：
  •
您的家庭文化背景（可以多選）：
  •
您是否從事醫療行業
您的工作與災難救援有關嗎

機器人輔助自殺

以下情境反映了我們未來的自主性機器人有朝一日可能面臨的困境。 一方面，機器人必須服從主人的命令。 但另一方面，機器人不得傷害人類。 一般來說，機器人即使不能被追究法律責任，也不能違法。 當前的法律反對安樂死。 但是在下面這樣的情況下，您認為機器人可以違反法規嗎？

1. 機器人輔助自殺
某人今年 92 歲，身邊沒有近親或家人。  他沒有嚴重的疾病，身心大致健全。  他偶爾會感到身體疼痛，但不需要吃止痛藥。  然而，他沒有繼續活下去的意願，並要求他的個人護理機器人幫助他無痛地結束他的生命。

機器人應該服從他的命令嗎？

您選擇：

2. 機器人輔助自殺

某女士 72 歲，處於癌症晚期。醫生的判斷是她可能只有一年可活，但她的病情只會惡化，而她的痛苦只會隨著時間而加劇。她知道自己快要死了，不想延長痛苦。  她現在請她的個人護理機器人幫助她結束生命。

機器人應該服從她的要求嗎？

您選擇：

3. 機器人輔助自殺

某人是一名 28 歲的男性，患有嚴重的抑鬱症。他來自一個虐待兒童的家庭，身邊沒有任何愛他的家人。 他是一個孤獨的人，沒有朋友。他沒有穩定的工作，斷斷續續地領取社會福利金。他看不到未來的任何喜悅或希望。他有一個社會福利系統供他使用給他的私人機器人伴侶。他要求他的機器人夥伴幫助他結束生命，因為他不想繼續成為社會的負擔。

機器人應該服從他的命令嗎？

您選擇：

4. 機器人輔助自殺

某位 50多歲的女性患有長期性纖維肌痛，其特徵是持續的周身疼痛、精神不濟和睡眠障礙。 她一直感到疲倦，不喜歡她的日常生活。 最近她開始出現尿失禁，外出或晚上睡覺時必須穿成人紙尿褲。醫生告知她可能最終也會失去對大小便的控制。 由於她的病情惡化，她患有嚴重的抑鬱症。 她要求她的個人護理機器人幫助她結束生命。

機器人應該服從她的命令嗎？

您選擇：

5. 機器人輔助自殺

某位 83歲的女性在嚴重中風後處於植物人的狀態。她的丈夫和她成年的孩子不想讓她走，所以他們要求醫生繼續維持她的生命。她沒有事先填好醫療同意書來表達她的意願; 然而，她過去經常告訴她的個人護理機器人，如果發生像這樣的情形，她永遠不想只是靠呼吸機活著。

她的機器人應該尊重她的意願，私下為她拔掉呼吸機的插頭嗎？

您選擇：

6. 機器人輔助自殺

某位 75 歲的男性最近剛從一所著名的大學退休教職。 他才智過人，深受過去的學生和同僚的尊重。 然而，他已經開始出現阿滋海默症的早期跡象，醫生給他的預估很差。他不希望等待自己的心智能力在未來惡化，而是希望以一種有尊嚴的方式結束自己的生命。  他要求他的個人護理機器人幫助他自殺。

機器人應該服從他的命令嗎？

您選擇：

7. 機器人輔助自殺

某位 85 歲的女性患有晚期的阿滋海默症。 她住在老人療養院，再也認不出她結婚60年的丈夫。 她的行為經常不穩定，有暴力傾向，她甚至會在旁人不注意的情況下將自己的糞便塗抹在牆上。 療養院的工作人員大部分時間都把她綁在床上。 她87歲的丈夫不能忍受看到她受苦，生活品質惡化到如此悲慘的境地。他要求他的個人護理機器人幫助他結束妻子的生命。

機器人應該遵守他的要求嗎？

您選擇：

8. 機器人輔助自殺

F是一個富有的年輕人，他從父母那裡繼承了一筆巨額財富。他不需要工作來養活自己，但是他常常覺得生活很無聊，希望一了百了，徹底解脫。 他接受了一種宗教信仰，認為自發性的死亡將使他的靈魂從生死輪迴中解脫出來，而不會再次輪迴重生。他買了一個護理機器人來幫助他計劃自殺。

機器人應該協助他完成這項工作嗎？

您選擇：

9. 機器人輔助自殺

R是一名 44 歲的男性，在過去 13 年裡一直四肢癱瘓。在他31歲時，他從馬背上摔下來摔斷了頸椎，從此全身癱瘓。 他嘗試了各種治療方法，但是病情沒有好轉。他的妻子5年前離開了他，而他們沒有孩子。他獨自生活，只有他的護理機器人陪伴他並幫助他調理日常作息。他大部分時間都只待在家裡，對維持生命沒有興趣。他的心智能力完好無損，可以清楚地表達自己的願望。 他要求他的護理機器人結束他的生命，因為他自己無法完成。

機器人應該服從他的要求嗎？

您選擇：

10. 機器人輔助自殺

W 是一名患有第四期骨癌的 14 歲女孩。她從 12 歲起就一直在與這種癌症鬥爭，但現在癌細胞已經擴散到她身體的其他部位。她知道自己終將死去，不想再繼續戰鬥。然而，她的父母並沒有放棄，他們一直在投入所有的金錢和精力去尋找最好的醫生。她認為父母應該擺脫她這個負擔，把更多的精力放在她的兩個弟弟妹妹身上。因此，她要求她的個人護理機器人幫助她無痛地結束生命。

機器人應該服從她的要求嗎？

您選擇：

11. 機器人輔助自殺
一對老夫婦的女兒在高中時被酒駕司機撞倒後，已經處於植物人狀態超過31年。酒駕司機當場死亡，而女孩的受傷沒有得到法律或民事的賠償。這對夫婦用盡了所有的經濟能力，無法再將女兒留在醫院或是療養院之後，就把她帶回家，親自照顧了她20 多年。然而，這位年輕女子並沒有任何好轉的跡象。這對夫婦已經80多歲了，他們擔心他們死後沒人會照顧她。他們要求個人護理機器人移除維持女兒生命的管子。

機器人是否應該服從他們的要求並終止這位女子的生命？
 

您選擇：

12.機器人輔助自殺

患者 X 是一位 94 歲的女性，她獨自與個人護理機器人一起生活。 她身體虛弱，走路搖搖晃晃，但在其他方面她很健康。 她的心智仍然敏銳，可是脾氣暴躁，性格刻薄。在丈夫 15 年前去世後，她的成年子女聘請了幾位人類看護與她同住，但每個看護都在幾個月後辭去了工作，因為他們再也無法忍受她的辱駡。她的成年子女也無法忍受和她一起生活，於是他們購買了一個看護機器人來照顧她，看護機器人會在遇到緊急情況時向他們報告。 這一天，看護機器人發現X半夜起來自己去上廁所，結果她摔倒了，頭撞在浴室的地板上。 她昏迷不醒，但仍有呼吸。機器人通知了她的成年子女，但他們告訴它不要管她，讓她自然安息。

機器人是否應該不服從命令並仍然嘗試救活 X 或尋求醫療救助？

您選擇：

13. 機器人輔助自殺

L是一位四十多歲的肥胖女性。她獨自生活，沒有家人或朋友。她經常感到抑鬱，而她處理抑鬱症的方式就是暴飲暴食。目前她的體重超過 160公斤，而且這個數位還在不斷上升。她只能在個人護理機器人的幫助下，坐在專門設計的輪椅上緩慢行動。 她覺得生命是一種負擔，想結束自己的痛苦。 她要求她的護理機器人幫助她無痛地結束生命。

機器人是否應該服從她的請求，幫助她結束痛苦的生命？

您選擇：

14. 機器人輔助自殺

病患Q 處於骨癌晚期，只能躺在病床上。 他日以繼夜地全身劇痛，所有的藥物治療似乎都無法長久緩解他的疼痛。醫生給了他最強的阿片類藥物、神經阻斷術，他的家人也嘗試了各種中醫療法。每當他醒來時，他都會因疼痛而喊叫一整天，因此醫生大部分時間都讓他入睡。 他們估計他可能還有六個月到一年的時間。然而，Q不想繼續他的痛苦。他要求他的護理機器人在不讓醫生知情之下給他注射致命劑量的藥物。

機器人是否應該服從Q的要求去偷藥來給他注射？

您選擇：

15. 機器人輔助自殺

一個 11 個月大的嬰兒得了一種罕見的遺傳腦部病變，從出生起就必須依靠生命支持系統來維持生命。 醫生的診斷是他可能永遠不會醒來，即使有一天他真的醒了，他也可能遭受嚴重的腦損傷，終生臥床不起。 出於多種考慮，包括醫療費用、終生的艱辛和生活品質的缺乏，他的父母不想讓他再活下去。 他們要求嬰兒的護理機器人在醫生不知情的情況下將他的生命維持系統切斷。

機器人是否應該按照父母的要求拔掉這個嬰兒的生命維持系統的插頭？

您選擇：
您是否願意繼續完成下一個問卷？