Si fuera posible crear un mundo simulado con seres conscientes reales, ¿sería moralmente incorrecto hacerlo?

Answer 1

Recuerdo solo dos personajes de los spin-offs de Star Trek que fueron holográficos y sabios. Uno fue “The Doctor” de Star Trek Voyager. El otro era Moriarty, una versión holográfica del personaje de Arthur Conan Doyle. Finalmente fue “liberado” del holodeck, pero sin que él lo supiera, su salida del holodeck fue en sí misma una simulación holográfica. El resto de las personas holográficas en el programa eran meras exhibiciones.

Creo que la idea de un “mundo simulado” dentro de una computadora generalmente refleja cierta confusión entre lo que la computadora sabe y lo que saben los humanos que experimentan su salida. A menos que la computadora tenga algo que haga lo que hacen la corteza visual, la corteza auditiva, el bulbo olfatorio y los otros centros de procesamiento sensorial del cerebro, no hay un sentido significativo en el que la computadora tenga un mundo simulado en su interior. En ausencia de estos componentes, son los humanos, con sus cascos de realidad virtual y sus guantes o trajes de realidad virtual, y NO las máquinas, quienes interpretan la salida de la computadora como experiencia sensorial. (Esto no quiere decir que las máquinas no sepan nada, pero lo que saben es la matemática de la disposición de los píxeles, no cómo los humanos perciben la salida).

Si uno proporcionara a la máquina componentes que funcionaran como procesadores sensoriales, también podría conectar estos procesadores a órganos finales sensoriales del mundo real (por ejemplo, cámaras y micrófonos) en lugar de proporcionar a la máquina una entrada sensorial puramente sintética.

Entonces, la respuesta a su pregunta depende de si la máquina era inteligente, o al menos capaz de sufrir, y si la autonomía individual se considera sagrada. Si es así, entonces negarle el acceso a la máquina a la información del mundo real sería un crimen contra su autonomía.

Gracias por el A2A.

Answer 2

Estoy familiarizado con los argumentos de ST: TNG, y es un tema intrigante. Solo puedo darte mi opinión sobre el asunto.

Supongo que quiere decir con “simulado” algo que es una representación figurativa de la realidad al usar algoritmos para aproximar las condiciones tal como existen en el mundo “real”. Cualquier conciencia se limita a la conciencia de la computadora que crea la simulación. La continuidad / contigüidad de cualquier objeto físico es un producto de esa computadora en la medida en que la computadora es capaz de generar dicha representación física (es decir, los objetos en el holodeck son proyecciones generadas por la computadora del barco, y están limitados en todos los aspectos a la capacidad de la computadora).

La palabra funcional aquí es “real”, no “consciente”. Supongo que la computadora principal de la SS Enterprise estaba “consciente” en el sentido de tener inteligencia artificial. Ciertamente, Data no solo era consciente, sino también consciente de sí mismo; lo que es más importante, Data era autónomo (capaz de funcionar por sí solo y por su propia voluntad); este es un nivel de conciencia que supongo que la computadora de la nave no había logrado.

Hubo dos argumentos en los que la “gente” generada por el holodeck se volvió “consciente de sí misma” y aparentemente “autónoma”. En ambos, se observó que las cosas de holodeck generadas por computadora solo podían existir en la holodeck; si intentaban abandonar la holodeck, se desintegraban. Esto indicaría que no eran seres independientes, sino estrictamente construcciones cuya existencia dependía totalmente de la computadora de la nave y la capacidad del holodeck. Como tales, tan conscientes como pudieron haber sido, carecían de “realidad”, no constituían seres humanos reales y no estaban sujetos (o, más precisamente, no eran los objetos apropiados de) razonamiento moral.

Answer 3

Solo reiteraré las reglas de los juegos, ya que es probable que una simulación califique como un juego, especialmente si la intención es educativa. Los juegos (play-to-learn, sistemas lúdicos) son anteriores al homo sapiens y siguen siendo el mejor sistema educativo ideado hasta ahora.

Para ser considerado un juego, una construcción debe cumplir con estos criterios:

1. Los jugadores deben ingresar a sabiendas y de buena gana. Sin engaños.
2. El juego debe tener lugar en un espacio no real. Pitch, court, track o mundo sintético.
3. Debe haber una meta. Este es el objetivo educativo.
4. Debe haber desafíos para superar.
5. Debe haber reglas para limitar las soluciones.
6. Debe haber un estado final o evento de graduación.

Además, el ejercicio debe progresar a través del juego, los juegos y la improvisación. Las tareas deben incluir acumular algo, exhibiciones públicas de habilidades o riqueza y un componente político no letal.

Entonces, si creas un mundo simulado y la gente ingresa voluntariamente y con conocimiento, probablemente esté bien. Si comunicas claramente los objetivos y expectativas, estás libre de cualquier reclamo.

Answer 4

Las personas de Holodeck no son personas conscientes, son una forma de inteligencia artificial. Esa podría ser una pregunta por separado: ¿cuándo se vuelve real una IA?

Está bastante bien, en mi humilde opinión, moralmente, crear un conjunto de circunstancias en las que se pueda crear una criatura consciente o donde uno pueda vivir / seguir viviendo mientras no haya restricciones para su libertad. Realmente tampoco importaría si el “universo” en el que viven es de duración limitada, pero moralmente sería un error limitar a sabiendas la oportunidad y la posibilidad de avance, felicidad o longevidad.

Si entras en una situación sabiendo que estás creando un ser pensante que probablemente tiene sentimientos por sí mismo, entonces eres moralmente cruel al restringirlos a sabiendas (aunque darles “inmortalidad” en ese universo tampoco es correcto, eso puede ser obtenido por ellos y aceptado por ellos, no forzado en ellos).

Permitir que algo viva por un tiempo es lo que hacemos cuando decidimos tener hijos. No sabemos el mundo en el que crecerán, pero vemos, la mayoría de las veces, supongo, que la vida que viven es a menudo, si no para la mayoría, algo bueno. Mejor que no existir, esperamos.

Answer 5

Sí, la holodeck siempre fue profundamente espeluznante.

Personas conscientes totalmente funcionales … y su existencia depende del capricho de alguien que los llame de la nada. Y la gente no se preocupa por despedirlos después.

Sería profundamente inmoral concebir y criar niños y mantenerlos durante toda su vida dentro de un mundo artificial, como algo en THE TRUMAN SHOW.

Es aún más inmoral crear inteligencias artificiales (que son los personajes de holodeck en este contexto) y mantenerlas durante toda su breve vida en un mundo auténtico sin posibilidad de tener una agencia o efecto real en algo como el nivel de un ‘natural’. ‘ siendo.

¡Y todo por el bien del ‘entretenimiento’!

No tendría problemas morales con la creación de inteligencias artificiales como tal, siempre que se tomaran precauciones de seguridad razonables.

Pero serían los hijos de las personas que los crearon: sus creadores les deben cuidado parental. No comprender esto es el verdadero pecado del doctor Frankenstein.

Answer 6

No estoy familiarizado con el holodeck, así que lo busqué en Wikipedia. Parece que las “personas” en el holodeck no son reales ni sensibles, son una creación de computadora. Excepto en un episodio en el que parecen ser sensibles (supongo que ese es el episodio en el que se enojan), pero es solo una pista de que estas entidades podrían ser sensibles (según Wikipedia).

Pero supongamos que no se trata del holodeck o de la ciencia ficción, supongamos que uno podría crear un mundo simulado con personas conscientes y conscientes. Entonces, por supuesto, sería inmoral hacerlo, ya que tratarías a estos seres sintientes como objetos . Dañar a los seres conscientes y conscientes es moralmente incorrecto en mi opinión. Si están hechos de carne y hueso, en otras palabras, de ser biológico, o si son “virtuales”. Por supuesto, no hemos creado ninguna entidad sensible virtual, por lo que por el momento es solo ciencia ficción, y eso no tiene nada de malo. Nadie se ve perjudicado, excepto algunas personas que pueden haberse aburrido por algunos episodios.

Answer 7

“¿ Sería moralmente incorrecto hacerlo?”

La pregunta no admite respuestas definitivas, ya que no hay universales morales (hechos morales), solo opiniones morales. Uno podría fácilmente argumentar que sería moralmente incorrecto no hacerlo.

Bajo algún razonamiento religioso, estas criaturas simuladas serían necesariamente parte de la creación de Dios, y el programador estaría obligado a llevar a cabo la simulación.

Notas:

1. No soy religioso.
2. Niego la existencia de universales morales.

Answer 8

Lo vería así: si está creando un ser sensible, uno que sabe que es (en el sentido socrático), entonces de esa manera es igual a haber creado un ser humano. Y como tal, tienes obligaciones morales de que sea igual a un ser humano.

Así que creo que sería moral hacerlo, sin embargo, deberían tener el derecho a la autodeterminación de la misma manera que nosotros. Ahora, no sé sobre el papel de Dios en la creación de su entorno: puedes llamar al mundo en que vivimos en lo que desees, pero parece que aceptamos que lo tomamos tal como lo encontramos … para estas personas que ‘ estás decidiendo por ellos. Y no pueden irse.

Entonces…. no importa tu orientación espiritual, ¿somos tan sabios como Dios o entendemos el mundo tan bien que sabemos cómo hacer uno nuevo? ¿Podríamos incluso duplicar el nuestro? ¿Somos tan brillantes que incluso conocemos nuestro propio mundo tan profundamente?

Cosas para considerar. Creo que (el medio ambiente) es una pregunta más difícil que simplemente “está bien crear seres conscientes”.

Answer 9

No podrías demostrar que no fue más cruel que este, por lo tanto, serías culpable de indiferencia en sus sufrimientos, o peor.

Y no, eso no significa que la naturaleza de este mundo sea indiferente, a menos que podamos probar que fue creado en un punto de menor inteligencia en un “post-humano” que lo que se requeriría en la creación de su simulación. Eso sería interesante por varias razones. Pero, dirán, para hacer este mundo menos que perfecto, tendrías que superarlo.