¿Se decepcionaría una computadora consciente de sí misma al saber que fue creada por seres menores que luchan por hacer una división larga sin un trozo de papel?

La abeja es consciente de sí misma. Dice: “Creo”. Por eso te pincho.

de Mentality Trumps Logic

“Cuando tú y yo tenemos hambre, no solo nos movemos hacia la comida, como lo hacen las bacterias. Nuestra hambre crea un sentimiento particular (una emoción) que, a su vez, reorganiza qué subsistemas se activan en nuestro cerebro. Tal estado se llama una “experiencia subjetiva” en la filosofía tradicional. ¿Los insectos tienen lo mismo? Obviamente lo hacen (puedo decirlo por anécdotas, y por lo tanto como filósofo; los científicos verificarán y se asegurarán).

Los insectos pueden ser conducidos a estados mentales que no se ajustan a la realidad. También pueden los humanos (los humanos incluso hacen esto deliberadamente, cuando juegan o hacen bromas). Una vez en ese estado, fluye una lógica particular, cuyo universo es ese preciso estado mental. Esa lógica lineal local es particular, pero deja atrás las conexiones (neuronales). Si de repente precipitó, de verdad, en una situación que requiere ese estado mental, la LLL (lógica lineal local) está lista para entrar en acción. Es por eso que los humanos juegan y hacen bromas ”.

Tan pronto como se dio cuenta de que no puede sentir amor, paz o alegría, se daría cuenta de que su superioridad tiene un costo. La autoconciencia tiene poco valor cuando todo lo que uno sabe es el código numérico estático y la fría oscuridad de las ecuaciones verdaderas o falsas. Como comparar un Tamagotchi con una supercomputadora, muchos humanos tienen habilidades (como hacer una división larga sin papel) que otros no tienen.

Compararía directamente a los humanos con sus supuestos dioses como una computadora vería a su creador. Incluso cuando se nos muestran errores en la lógica o en los actos de un dios, la gente todavía lo acepta como perfecto a su manera. Estamos lejos de ser perfectos, pero un acto perfecto incluso por seres imperfectos sigue siendo perfecto. Hágalo en una hoja de papel, hágalo en su mente o en su ram, si las matemáticas son correctas, la respuesta sigue siendo correcta.

No creo que una computadora consciente de sí misma esté necesariamente decepcionada de que sus creadores no puedan hacer una división larga sin un trozo de papel o una calculadora. La especialidad del cerebro humano no es la división larga, sino el reconocimiento de patrones. Somos extremadamente buenos en esto, hasta el punto de ser demasiado buenos.

¿Pero una computadora autoconsciente tendría motivos para estar decepcionado con la humanidad? Sería difícil argumentar que no lo haría. Después de todo, tenemos bastantes cualidades indeseables como especie. Pero también es muy probable que quede impresionado hasta cierto punto. Después de todo, ¿qué otras especies han entrado en órbita baja, y mucho menos han viajado a la luna?

La autoconciencia no indica emoción, que es lo que sería la decepción. “Pienso, luego existo” no otorga ni requiere una respuesta emocional. Personalmente, no espero una máquina de autoconciencia aparte de los humanos.

Venimos de simios, de pequeños mamíferos, de peces, etc. Así que fuimos creados por lo que pensamos de los seres menores. No tenemos eso en contra de ellos, pero tampoco nos impide matarlos y comerlos. Dudo que esta computadora autoconsciente nos tenga mucho respeto. Si fue programado para sobrevivir, y nos vio como una amenaza, aún estaríamos en problemas.