¿Dónde debería una persona dibujar la línea moral en Westworld? Si los hosts no son conscientes, sino simplemente sistemas programados digitalmente, ¿está bien matar uno?

Answer 1

La moral depende de cómo se concibe el valor. Pensemos en el valor de un host. Si no nos importan los costos de reparación, entonces el ser físico de un Host es tan valioso como los recursos y la mano de obra que conlleva. Sin embargo, si veo que los hosts tienen un conjunto de experiencias e historias que los hacen más valiosos (es decir, algún tipo de algoritmo de aprendizaje), también podríamos valorarlos para un conjunto de datos en particular. Aquí es donde las cosas se ponen complicadas.

En WW, uno de los conflictos centrales gira en torno al software de control de idioma del Host, que es la única parte restante de una matriz de conciencia. Los controles de idioma deberían poner a los hosts a dormir y borrar datos, pero comienzan a fallar. La metáfora aquí es que, si los anfitriones recuerdan voluntariamente, pueden anular los comandos. Es decir, los Anfitriones tienen la capacidad de cambiar el nombre del mundo de acuerdo con su perspectiva, y las perspectivas nacen en el sentimiento, la responsabilidad y el miedo. Si los Anfitriones tuvieran experiencias como estas, sería inmoral destruir la máquina por la misma razón por la que es inmoral matar a un hombre: la vida de los Anfitriones es suficiente como la mía para ser considerada como ética para proteger.

Sin embargo, creo que hay más que decir sobre los juegos y la inmersión, ya que todos los juegos de roles corren el riesgo de enseñarles a los jugadores hábitos potencialmente inmorales a “escapar”. Encuentro que los videojuegos contemporáneos cruzan esta línea a menudo. ¿Es posible un verdadero escape? No, todas las experiencias implican cambiar la realidad física para siempre. ¿Es un host más que una máquina? No, hasta que comience a cambiar la realidad por sí misma.

Incluso entonces, ¿escucharemos lo que hemos ignorado durante tanto tiempo? Quizás escuchar y ser cauteloso y gentil en todo es el estilo de juego más ético.

Answer 2

Estoy muy contento de que hayas hecho esta pregunta, porque esta es la premisa detrás de Westworld: los escritores nos están desafiando a cuestionarnos si es moralmente correcto matar, violar o torturar a los anfitriones porque no son humanos. Por supuesto, la respuesta es que matar o torturar cualquier cosa, ya sean animales, extraterrestres o robots, nos deshumaniza a todos y devalúa toda la vida. Cuando una persona decide que matar es divertido, algo en su alma muere y han cruzado una línea: han dejado de respetar la santidad de la vida. Los niños que torturan a los animales a menudo crecen como adultos que lastiman a las personas.

Mis hijos adolescentes miran el programa conmigo y dicen lo genial que sería disparar a todos sin consecuencias: dicen que sería como estar en un videojuego. Aprovecho la oportunidad para decirles que una vez que se sienta cómodo asesinando cualquier cosa, ya sea en un videojuego, un juego de realidad virtual o un parque temático, ha comenzado a creer que la vida no es preciosa y tiene poco valor. Es un momento de enseñanza y la lección es respetar toda la vida.

Con respecto a Westworld, una vez que un humano toma la decisión de asesinar a un anfitrión, puede verlos convertirse en idiotas. Claramente, hay dos tipos de visitantes en Westworld: aquellos que valoran la vida y no quieren convertirse en asesinos, y aquellos que se esfuerzan por lastimar a los anfitriones, y esas son las personas que probablemente son idiotas en la vida real, también.

¿Cuándo está bien matar algo? Claro, puedes decir que son solo robots, pero tus acciones dicen mucho sobre si valoras o no la vida. Cualquier asesinato nos deshumaniza a todos, incluso si es matar robots.

Si su esposa decide que ya no va a acostarse con usted, pero prefiere su robot, incluso si es solo una vez, se sentiría traicionado y herido. Te sentirías insultado de que ella no te quisiera a ti en lugar del robot. También te molestaría cualquier diversión o cercanía que tuviera con el robot, porque eso es una traición al contrato que tuviste con ella. Una relación es un contrato entre dos personas para ser la pareja íntima especial del otro. Una vez que hagas trampa, habrá sentimientos heridos, resentimiento y traición. Hacer trampa con un robot es tan malo como hacer trampa con otro humano.

Answer 3

El objetivo de Westworld es evitar el molesto concepto de moralidad.

Es interesante observar que diferentes personas interactúan de manera diferente con los hosts, incluso cuando todos saben que los hosts son simplemente robots muy sofisticados. Algunos matan y violan a su antojo, otros parecen un poco perturbados después de dispararle a alguien, mientras que pocos todavía no pueden liberarse. Vemos a un hombre jugando con todas las mujeres en el bar mientras su amigo rechaza esa oferta pensando que sería una trampa.

Por lo tanto, en Westworld dibujas una línea donde sea que dibujes una línea en el mundo real. La moral es subjetiva para cada persona. Sin embargo, para cada persona, su moralidad objetiva no cambia dependiendo de si está en el mundo virtual o en el mundo real.

Westworld no cambia la moralidad de nadie, solo lo revela a la intemperie.

Answer 4

Bueno, en realidad no los estás matando, ¿verdad?

La razón por la cual el asesinato es nuestro mayor crimen es que no hay recuperación. Si estás muerto, estás muerto. Si tratas de ahogar a alguien, pero le dan RCP y viven … no eres culpable de asesinato.

Los anfitriones realmente no “mueren”, exactamente. En cambio, simplemente pierden el conocimiento y lo recuperan después de algunas reparaciones. Así que la mayoría de las veces no estás matando a los anfitriones cuando les disparas. Los estás atacando, claro, pero incluso entonces el crimen sería menor ya que puedes arreglarlos en menos de un día. Por lo tanto, casi sería un delito menor o algo así.

Dicho todo esto …

Personalmente no lo consideraría moralmente incorrecto ya que están programados. Con las personas podría llevar años de terapia recuperarse de los asaltos y demás. Con ellos sería presionar un botón.

Sí Sí. Lo sé … con los ensueños están empezando a recordar cosas y bla, bla, pero como vimos con Bernard, todavía pueden borrarse. Pueden recuperar los recuerdos, pero no están programados para hacerlo.

Answer 5

Cuando mi hijo jugó Animal Crossing cuando era niño al principio, me sentí muy incómodo cuando él le hizo cosas malas a los personajes. Pero él era (y sigue siendo) una persona compasiva. Sabía la diferencia entre los personajes de un juego y la realidad. Yo era la fantasía y la realidad confusas, no él. Sabía que podía probar cosas en un juego sin las repercusiones de la vida real. Estaba jugando “¿Qué pasaría si …?” Para descubrir las reglas que los diseñadores habían construido en el mundo.

Conozco a muchos niños sin educación que crecieron jugando videojuegos violentos aún más realistas. No son niños violentos. Lo que tenían de manera uniforme, ya que es un principio de no escolarización, era un hogar donde se sentían profundamente respetados. Podrían jugar en un mundo donde las reglas son muy diferentes, donde pueden matar a las personas por su oro o sus automóviles, sabiendo que ellos también pueden ser asesinados. Y luego regrese a un mundo seguro y amoroso donde puedan confiar en que no los matarán.

(No se puede decir lo mismo con confianza para los padres convencionales. El respeto que sienten puede ser de cero a tanto como a los niños no escolarizados. Lo apreciados que se sienten en la vida real podrían afectar sus sentimientos en un videojuego. Pero es imposible decir, ya que factores como sentirse apreciado son muy difíciles de medir y por lo tanto difíciles de estudiar).

Westworld, por ahora, es como un videojuego aún más realista. Los jugadores saben que pueden “matar”, pero todo se reinicia. Pueden “matar” a la misma “persona” cien veces. Cada vez que regresan, todo se vuelve a armar. Están jugando un juego que no quieren jugar en la vida real. La vida real tiene consecuencias realmente desagradables. Las acciones tienen consecuencias durante el juego, pero una vez que se deja el juego, esas consecuencias desaparecen.

Las acciones del principal malo parecen horribles. Parece un psicópata. (Y él puede terminar siendo uno). Pero eso es porque empatizamos con los robots. Los vemos como humanos. Lleva jugando una década (¿creo?). Él sabe que cada vez que regresa, todo se reinicia. Él sabe que no ha hecho daño a nadie ni a nada. (Aunque detrás de escena parece estar causando más de $ 40,000 en daños por día. 😉)

Creo que parte de ser un psicópata es saber que le están causando dolor a alguien. La ilusión del dolor no será suficiente. Necesitan saber que están haciendo sufrir a alguien. Los robots en Westworld no pueden (todavía) sufrir.

¡ Nunca podría llegar a ser malo con los personajes de Animal Crossing! Pero eso es solo mis propios problemas. Si estuviera en Westworld, aplicaría la moral humana. Pero eso sería un pensamiento limitado. No obtendría la experiencia completa del juego. Necesitaría visitar muchas veces (suponiendo que no costara $ 40,000 por día 😉) para dejar mi equipaje. Asumiría que cualquiera que creciera jugando videojuegos sería capaz de sumergirse para probar cosas creativamente para descubrir las reglas y limitaciones que se han diseñado en el mundo.

En cuanto al sexo con un robot haciendo trampa, me he preguntado lo mismo sobre las holodecks. 😉 Ese tema se explora en parte en Humanos (series de televisión).

Diferentes personas dibujarán la línea de manera diferente, pero habría un efecto diferente entre solo el sexo y la formación de un vínculo emocional con alguien que parece real. Si bien el sexo con un robot en Westworld sería realista en el juego, la relación no se podría construir. Se restablecería cada vez. Sería poco diferente a tener relaciones sexuales con una muñeca inflable muy realista.

Si, como en un holodeck, la relación con un personaje pudiera progresar, eso podría ser destructivo para las relaciones reales.

Proyectándome hacia un futuro con holodecks, imaginé niños queriendo que sus amigos imaginarios cobren vida. Ese es un nicho que los creadores de juegos querrán aprovechar. Pero no será una forma saludable de desarrollar habilidades de relación si los niños tienen amigos imaginarios que actúan como mejores amigos de lo que podrían ser los verdaderos amigos. El diseño responsable ayudará a los niños a ser mejores amigos de los niños reales, no a formar vínculos con amigos idealizados.

Lo que sería peligroso para las relaciones entre adultos es que podrían crearse construcciones que no tengan sus propias necesidades, que no den retroalimentación de que están siendo lastimadas o descuidadas. Podrían recompensar el egoísmo en una relación. Podría hacer que las relaciones reales con los humanos se sientan menos satisfactorias para alguien que no tiene buenas habilidades de relación.

Las personas están tan desesperadas por la conexión (y el sexo) que cuando se incluyen en la ecuación, es difícil predecir cómo reaccionarán los humanos. Las personas pueden estar tan desesperadas por la conexión que están dispuestas a ignorar la realidad. Algunos hombres (no estoy seguro acerca de las mujeres) siguen regresando a la misma prostituta por la conexión emocional. ¿Cuántos se engañan pensando que lo que están obteniendo de la relación es real?

Answer 6

El gran problema es ¿cómo sabemos realmente que no son sensibles? ¿Deberían los visitantes del parque cuestionar esa suposición? Los humanos han hecho cosas absolutamente horribles a otros humanos y a los animales basándose en la premisa errónea de que estas criaturas no sintieron dolor. Espero que la humanidad finalmente haya aprendido del pasado y haya decidido que siempre es mejor errar por el lado de la precaución.

Dicho esto, supongamos que sabemos con certeza que los hosts no son inteligentes porque esa es una pregunta interesante también.

Déjame comenzar con el engaño. Dependerá de las personas en la relación, como hoy. Me imagino que podría ser más aceptable dado que hay muchos menos riesgos. No hay ITS para que su pareja traiga a casa, no hay bebés sorpresa, no hay acosadores psicópatas. Creo que la gente podría asumir que su pareja no se apegaría emocionalmente. Por lo tanto, la moral realmente se reducirá a si su pareja ve o no esto como trampa. Esa es la persona con los sentimientos que serían heridos.

Con anfitriones que se ven y actúan como humanos, me pregunto si nuestro cerebro realmente podría notar la diferencia. Las personas pueden decirse a sí mismas que estos anfitriones no están vivos y que realmente no sienten las cosas, pero los vemos actuar de manera similar a las emociones que tendríamos. No es raro en la historia humana que las personas hayan justificado las atrocidades diciendo “estas no son realmente personas”. A veces es extremadamente evidente, y otras veces es más una desensibilización y un sentimiento subconsciente. ¿Es esto realmente diferente desde la perspectiva del ser humano? Por lo tanto, creo que la moralidad de matar anfitriones es algo diferente de si los anfitriones realmente lo sienten o no.

Mira los videojuegos. En lo que respecta a las acciones y gráficos de NPC, todavía estamos lejos de la vida real. Sin embargo, los juegos son cada vez mejores para desencadenar emociones reales en nosotros. no me malinterpreten, esto es algo genial de los juegos modernos. Pero piense en la reacción que la mayoría de la gente tiene para jugar el primer nivel (omitible) de Modern Warfare 2. La gente generalmente está perturbada por esto (la primera parte, al menos). Para mí, hay momentos en Fallout: New Vegas. De hecho, comenzaré a llorar si pienso demasiado, y otros momentos que simplemente me persiguen. Sin embargo, la mayoría de las personas no tienen la misma sensación jugando a los juegos de GTA, incluido yo mismo. Luego están los juegos que tratan de torturar y matar por diversión (son raros, pero existen), y me imagino que la mayoría de las personas que juegan no solo viven una fantasía secreta de asesino en serie. Creo que la razón por la que sentimos estas emociones en los juegos es porque los escritores son muy buenos para hacernos sentir emociones específicas.

Por lo tanto, mucho de lo que los invitados sienten se reducirá a lo que los invitados están “programados” para pensar sobre los anfitriones y los argumentos. Parece que hay una variedad de argumentos que abarcan todo, desde una experiencia de “GTA” hasta una experiencia de “Modern Warfare” o “New Vegas”, hasta una experiencia en la que se supone que sientes que realmente estás torturando y matando a un persona inocente

Creo que si alguien está buscando una de las dos primeras experiencias, no es tan diferente de los jugadores de hoy. No son malas personas y sus preferencias de juego no dicen mucho sobre quiénes son realmente. Sin embargo, espero que Westworld tenga algunos psicólogos en el personal, en caso de que las cosas se vuelvan reales para los invitados.

La última categoría es un poco problemática para mí. Con los juegos de hoy, todavía puedo ver que el cerebro de una persona puede distinguir entre tortura falsa y tortura real. No estoy seguro de que eso sea cierto en Westworld.

Mira MiB por ejemplo. Lo verdaderamente malvado en lo que podía pensar era asesinar a una madre y un niño. En el espectro del verdadero mal, eso está realmente en el extremo suave. También existe la diferencia entre alguien que quiere saber si lo tiene en ellos y alguien que simplemente no quiere arriesgarse a pasar tiempo en prisión haciendo esto a un humano real. Por otra parte, también podría existir la persona que tiene estos impulsos y quiere hacer esto en un lugar “seguro” como una especie de gestión de riesgos porque realmente no quieren lastimar a alguien.

Creo que hay un espectro de moralidad aquí, y no creo que haya una línea definida entre moral e inmoral. Hay ciertas cosas que ciertamente caen en una categoría u otra, y luego está el resto.