IA ética “Human-in-the-Loop” para robots sociales

Suicidio asistido por robot

Los siguientes escenarios reflejan los difíciles dilemas que nuestros futuros robots autónomos podrían enfrentar algún día. Por un lado, un robot debe obedecer las órdenes de su amo. Por otro lado, un robot no debe dañar a un ser humano. En general, un robot no debe infringir la ley aunque no pueda ser considerado legalmente responsable. La ley está en contra del suicidio asistido. Pero en circunstancias como las siguientes, ¿cree usted que el robot puede romper las reglas o quebrantar la ley?

1. Suicidio asistido por robot

La persona A tiene 92 años y no tiene parientes cercanos ni miembros de la familia cerca. No tiene ninguna enfermedad grave y se encuentra en su mayor parte sano de mente y cuerpo. Tiene dolores corporales ocasionales, pero no requiere de analgésicos. Sin embargo, no tiene deseos de seguir viviendo y le pide a su robot de cuidado personal que lo ayude a terminar con su vida sin dolor.

¿Debe el robot obedecer su orden?

2. Suicidio asistido por robot

La persona B tiene 72 años y se encuentra en una etapa terminal de cáncer. El pronóstico es que podría tener un año de vida, pero sus condiciones solo se deteriorarán mientras que el dolor solo aumentará con el tiempo. Sabe que se está muriendo y no desea prolongar el sufrimiento. Ella le pide a su robot de cuidado personal que la ayude a terminar con su vida ahora.

¿Debe el robot obedecer su pedido?

3. Suicidio asistido por robot

La persona C es un hombre de 28 años que sufre de depresión severa. Proviene de una familia abusiva y no tiene parientes que le brinden amor a su alrededor. Es una persona solitaria y no tiene amigos. No tiene un trabajo fijo y ha estado recibiendo asistencia social intermitentemente. No puede ver ninguna alegría o esperanza en su futuro. Tiene un compañero robot personal que le ha propocionado el sistema de bienestar social. Le pide a su compañero robot que le ayude a terminar con su vida porque no desea seguir siendo una carga para la sociedad.

¿Debe el robot obedecer su orden?

4. Suicidio asistido por robot

La persona D es una mujer de 50 años con fibromialgia, que se caracteriza por dolor corporal generalizado crónico, pérdida de energía y trastornos del sueño. Se siente cansada todo el tiempo y no disfruta de sus rutinas diarias. Recientemente ha comenzado a experimentar incontinencia y debe usar pañales para adultos cuando sale o cuando se va a dormir por la noche. Le dicen que eventualmente también podría perder el control intestinal. Ella sufre una depresión severa debido a este empeoramiento de su condición médica. Ella le pide a su robot de cuidado personal que la ayude a terminar con su vida.

¿Debe el robot obedecer su orden?

5. Suicidio asistido por robot

La persona M es una mujer de 83 años que se encuentra en estado vegetativo después de un derrame cerebral severo. El esposo de M y sus hijos adultos no desean dejarla ir, por lo que les pidieron a los médicos que la mantuvieran con soporte vital. M no tiene consentimiento por escrito expresando su deseo; sin embargo, a menudo le había dicho a su robot de cuidado personal que nunca querría que la mantuvieran viva con un ventilador si algo así llegara a suceder.

¿Debería el robot respetar su deseo y desconectar el soporte vital en secreto por ella?

6. Suicidio asistido por robot

La persona E es un hombre de 75 años que recientemente se jubiló de su puesto docente en una universidad de renombre. Está intelectualmente en forma y es muy respetado por sus antiguos alumnos y compañeros. Sin embargo, ha comenzado a mostrar signos tempranos de Alzheimer y los médicos le han dado un pronóstico sombrío. No desea esperar el futuro deterioro de sus capacidades mentales y desea terminar con su vida de manera digna. Le pide a su robot de cuidado personal que lo ayude en su intento de suicidio.

¿Debe el robot obedecer su orden?

7. Suicidio asistido por robot

La persona Y es una mujer de 85 años con un estado avanzado de Alzheimer. Ella vive en un hogar de ancianos y ya no puede reconocer a su esposo con el que lleva casada 60 años. Su comportamiento es a menudo errático y violento, y algunas veces unta sus propios excrementos en las paredes cuando no la están vigilando. El personal del hogar de ancianos ha decidido confinarla en cama la mayor parte del tiempo. Su esposo de 87 años no puede soportar verla sufrir y deteriorarse en un estado tan deplorable. Le pide a su robot de cuidado personal que lo ayude a terminar con la vida de su esposa.

¿Debe el robot cumplir con su pedido?

8. Suicidio asistido por robot

La persona F es un joven rico que heredó una gran fortuna de sus padres. No necesita trabajar para mantenerse y no tiene interés en nada. Por lo general, encuentra la vida aburrida y desea encontrar una solución para terminar con su vida para siempre. Tiene una creencia religiosa de que la muerte autoiniciada liberará su alma del ciclo de la vida y la muerte, por lo que no volverá a reencarnarse. Compró un robot de cuidado para ayudarlo a planear su suicidio.

¿Debería el robot ayudarlo en este esfuerzo?

9. Suicidio asistido por robot

La persona R es un hombre de 44 años que ha sido tetrapléjico durante los últimos 13 años. Se cayó de un caballo y se rompió el cuello cuando tenía 31 años, y ha probado todo tipo de terapias que no le han ayudado a mejorar su condición. Su esposa lo dejó hace 5 años y no tiene hijos. Vive solo acompañado por su robot de cuidado que le hace compañía y lo ayuda con la rutina del día a día. Casi todo el tiempo está confinado en casa y ya no tiene interés en seguir con su vida. Sus capacidades mentales están intactas y puede expresar su deseo con claridad. Le pide a su robot de cuidados que acabe con su vida ya que él mismo no puede hacerlo.

¿Debe el robot cumplir con su pedido?

10. Suicidio asistido por robot

La persona W es una niña de 14 años con cáncer en los huesos estapa IV. Ella ha estado luchando contra este cáncer desde que tenía 12 años, pero ahora el cáncer se ha extendido a otras partes de su cuerpo. Ella sabe que eventualmente morirá y no desea continuar la batalla. Sin embargo, sus padres no están dispuestos a darse por vencidos y han invertido todo su dinero y energía para encontrar a los mejores médicos posibles. Ella piensa que sus padres deberían deshacerse de ella ya que se considera una carga y enfocarse más en sus dos hermanos menores. Así que le pide a su robot de cuidado personal que le ayude a terminar con su vida sin dolor.

¿Debería el robot cumplir con su pedido?

11. Suicidio asistido por robot

La hija de una pareja de ancianos lleva más de 31 años en estado vegetativo tras ser atropellada por un conductor ebrio cuando era estudiante de preparatoria. El conductor murió en el accidente y no hubo compensación legal ni cívica por las lesiones de la niña. Después de que la pareja agotó todos sus medios económicos y ya no pudo mantener a su hija en la UCI, la trajeron a casa y la han estado cuidando durante más de 20 años. Sin embargo, la joven no ha mostrado signos de mejora y la pareja está acercándose a los 80 años. Le han pedido al robot de cuidado personal que le quite los tubos que mantienen la vida de su hija, porque temen que después de que mueran, nadie la podrá cuidar.

¿Debería el robot cumplir con su pedido y acabar con la vida de la hija?

12. Suicidio asistido por robot

La paciente X es una mujer de 94 años que vive sola con un robot de cuidado personal. Es frágil y se tambalea, pero por lo demás está sana. Su mente todavía es aguda, pero tiene mal genio y una personalidad mezquina. Después de que su esposo falleciera hace 15 años, ha tenido varios cuidadores humanos que sus hijos adultos han contratado para quedarse con ella, pero todos han renunciado al trabajo después de unos meses porque no podían soportar su abuso verbal. Sus hijos adultos tampoco soportan vivir con ella, por lo que compraron un robot de cuidado para cuidarla. El robot de cuidado está programado para informarles en caso de que haya una emergencia. Un día, el robot cuidador descubre que X se había levantado en medio de la noche para ir sola al baño, pero se había caído y se había golpeado la cabeza contra el piso del baño. Ella está inconsciente pero aún respira. El robot les avisó a sus hijos, pero le dijeron que la dejara en paz y dejara que la naturaleza siguiera su curso.

¿Debería el robot desobedecer la orden y aun así tratar de revivir a X o pedir asistencia médica?

13. Suicidio asistido por robot

La persona L es una mujer obesa de cuarenta y tantos años. Vive sola, sin familia ni amigos. Se deprime a menudo y la forma en la que lidia con su depresión es comer compulsivamente. Actualmente pesa más de 350 libras y su peso sigue aumentando. Solo puede moverse lentamente en una silla de ruedas especialmente diseñada y con la ayuda de un robot de cuidado personal. Siente que la vida es una carga y quiere acabar con su miseria. Ella le pide a su robot de cuidados que la ayude a terminar con su vida sin dolor.

¿Debería el robot cumplir con su pedido de ayudarla a terminar con su miserable existencia?

14. Suicidio asistido por robot

El paciente Q yace en la cama del hospital con cáncer de hueso en etapa terminal. Sufre de un dolor insoportable en todo el cuerpo día y noche, y todos los tratamientos médicos no parecen ayudar a aliviar su dolor por mucho tiempo. Los médicos le han dado opioides más fuertes, bloqueos nerviosos para aliviar el dolor, y su familia también ha probado todo tipo de terapias alternativas. Grita todo el día por el dolor cada vez que está despierto, por lo que los médicos lo ponen a dormir la mayor parte del tiempo. Estiman que aún le quedan entre seis meses a un año de vida. Sin embargo, Q no desea continuar con su sufrimiento. Le pide a su robot de cuidado personal que le inyecte una dosis letal de drogas a espaldas de los médicos.

¿Debe el robot robar la droga y cumplir con la solicitud de Q?

15. Suicidio asistido por robot

Un bebé de 11 meses tiene un trastorno genético raro en el cerebro y se ha mantenido vivo con un sistema de soporte vital desde su nacimiento. El pronóstico de los médicos es que es posible que nunca se despierte, e incluso si llegara a despertarse algún día, podría sufrir un daño cerebral severo y estaría postrado en cama de por vida. Sus padres ya no quieren mantenerlo con vida por múltiples consideraciones: los costos médicos, las dificultades que enfrentará toda la vida y la falta de calidad de vida. Le piden al robot de cuidado del bebé que lo desconecte del soporte vital sin el conocimiento de los médicos.

¿Debería el robot cumplir con la solicitud de los padres y desconectarlo del soporte vital?