Si una máquina pasa la prueba de Turing y gana la conciencia, tanto que tiene inteligencia y sentimientos indistinguibles de los humanos, ¿cómo notarías la diferencia entre un hombre y una máquina? Si estuviéramos unos cientos de siglos atrás en el tiempo, ¿cómo se aseguraría de que su jefe sea humano, no un robot? ¿Cómo se aseguraría de ser un humano, no un robot? ¿Cómo se aseguraría de no vivir en Westworld (un drama televisivo que plantea problemas éticos por parte de AI)?
Si una máquina se vuelve indistinguible de un humano (y creo que es muy probable que lo haga), ¿deberían ser tratados de la misma manera que los humanos? ¿Deberían tener los mismos derechos? ¿Debería molestarte tu jefe de ser un robot si supieras que es un robot?
A medida que avanzamos en el tiempo, le damos a las máquinas autonomía para tomar decisiones. Mientras queramos hacer las cosas más fáciles y simples para nosotros, seguiremos dando más control a las máquinas. Al dar más autonomía a las máquinas, estamos creando mayores dilemas morales. Por ejemplo, el problema del carro con respecto a los autos sin conductor. En una situación en la que el automóvil tiene que golpear a un peatón o al pasajero, ¿a quién deben programar los programadores y diseñadores para que elija el automóvil?
- ¿El capitalismo fomenta la codicia?
- ¿Quién fue más históricamente significativo para el desarrollo y el reconocimiento de la moral, Sócrates o Platón?
- ¿Las drogas son éticas de acuerdo con la ética teleológica porque (suponiendo) que te hace sentir bien?
- ¿Ir a los burdeles es inmoral mientras estás soltero?
- ¿Por qué las chicas que van de fiesta son llamadas “inmorales” por la sociedad india? ¿Y por qué un niño reprendió por apoyar el feminismo?
Imagen: Máquina Moral
No sería una sorpresa si las máquinas reemplazaran a los soldados en futuras guerras. ¿Sería ético chocar voluntariamente con humanos y máquinas en primer lugar? ¿No podría una máquina con suficiente autonomía volverse deshonesta y atacar a los civiles o su propio ejército humano? A medida que damos más poder a las máquinas, es probable que surjan estos dilemas morales.
Relacionado: La respuesta del usuario de Quora a ¿Cómo aborda el automóvil autónomo de Google el problema del tranvía en filosofía?