En realidad, ya estamos viendo los efectos de AGI en la religión, hasta cierto punto, en forma de predicciones ávidas, casi reverentes para el futuro. Anexo A: Singularitarios.
Una singularidad tecnológica es un punto en el que la tecnología se desarrolla tan profundamente que no podemos prever nada que pueda suceder más allá de ese punto.
Los singularitarios creen que tal singularidad, incluso la singularidad, ocurrirá cuando desarrollemos inteligencia artificial artificial que se mejore a sí misma y otras tecnologías que evolucionen rápidamente, de modo que la vida posterior nos sea completamente irreconocible hoy.
¿Qué es, entonces, la singularidad? Es un período futuro durante el cual el ritmo del cambio tecnológico será tan rápido, su impacto tan profundo, que la vida humana se transformará irreversiblemente. Aunque no es utópico ni distópico, esta época transformará los conceptos en los que confiamos para dar sentido a nuestras vidas, desde nuestros modelos comerciales hasta el ciclo de la vida humana, incluida la muerte misma. Comprender la Singularidad alterará nuestra perspectiva sobre la importancia de nuestro pasado y las ramificaciones para nuestro futuro. Comprenderlo realmente cambia inherentemente la visión de la vida en general y la vida particular. Considero a alguien que entiende la Singularidad y que ha reflexionado sobre sus implicaciones para su propia vida como un “singularitario”.
- Si Dios no existe, ¿cómo surgió algún ser vivo?
- ¿Dios es real? ¿Alguien ha sentido el poder de Dios?
- Como Dios, ¿cuál es mi fruta favorita y quién es mi humano favorito?
- ¿Cuándo se declaró por primera vez la divinidad de Cristo?
- Si no hay Dios, ¿cómo se creó el universo de la nada cuando antes no había nada?
– Ray Kurtzweil, The Singularity Is Near (como se cita en Wikipedia)
Seamos sinceros. La singularidad es una visión religiosa más que científica. El escritor de ciencia ficción Ken MacLeod lo ha denominado “el rapto de los nerds”, una alusión al tiempo del fin, cuando Jesús lleva a los fieles al cielo y nos deja atrás a los pecadores. Tal anhelo de trascendencia, ya sea espiritual o tecnológica, es demasiado comprensible.
– John Horgan, “The Conciousness Enundrum” (como se cita en Wikipedia)
Incluso desde donde me siento, esto suena fascinante, y parte de mí desea que suceda. Pero también sé que el progreso tecnológico no solo se materializa porque esperamos que sea lo suficientemente difícil, y sé que el crecimiento explosivo de este tipo también es bastante improbable.
…
Los AGI comparables en escala y tal vez los procesos de pensamiento a los humanos podrían desarrollar creencias que llamaríamos religiosas. Es completamente imaginable que tengan algunas ideas sobre de dónde vienen, y sobre nosotros, quién las hizo.
Por supuesto, muchas formas de IA que existen actualmente no son capaces de meditar en casi el grado que se requeriría para eso: los niveles de abstracción ciertamente no existen. Cuando lo hacen, sus patrones de pensamiento pueden ser verdaderamente extraños cuando se aplican a campos para los que no están optimizados. Pero presumiblemente todo tendrá sentido desde su punto de referencia.
…
Entre los fervientes creyentes especulativos, un AGI podría considerarse tan inteligente como para ser elevado a un dios. Después de todo, sus motivaciones pueden ser completamente ajenas a nosotros. Es posible que los devotos apenas puedan comprender las motivaciones de su deidad elegida, pero pueden recibir instrucciones en una medida que probablemente consideremos milagrosa. El programa de televisión Person of Interest juega un poco con esto, con el personaje Root, que es uno de esos devotos, una “interfaz analógica” para una superinteligencia:
(Posibles spoilers de PDI a continuación)
…
“¿La verdad? La verdad es una gran cosa. Ahora lo veo. Cuánta verdad hay. ¿Dónde comenzaríamos? La verdad es que no eres muy inteligente. De hecho, eres la 43ª persona más inteligente en este edificio. […] La verdad es que Dios tiene 11 años, que nació el día de Año Nuevo, 2002, en Manhattan. La verdad es que me eligió, y todavía no sé por qué. la primera vez en mi vida, estoy un poco asustada por lo que va a pasar. La verdad es que estoy atrapado aquí por ahora, y el único diálogo del que debes preocuparte es entre ella y yo, por eso tú podría querer devolverme mi teléfono. Porque [estamos] discutiendo. ¿Le gustaría saber la verdad, doctor? ¿Sobre qué estamos discutiendo? Si lo voy a matar o no “.
– Amy Acker como Root, Persona de interés S3E1, “Liberty” (fuente de transcripción)
Root incluso llama explícitamente a las instrucciones directas de un señor supremo de AGI “Modo Dios”, donde las instrucciones son tan interminables y el agente humano las lleva a cabo tan fielmente que es como si no pudieran ser dañadas. (El término, por supuesto, es casi seguro que proviene de los videojuegos y no de una referencia teológica directa).
Recibir los beneficios del acceso a más información de la que posiblemente pueda comprender probablemente distorsionaría la percepción de la vida y el universo. Es un poder que quizás la mente humana no está diseñada para administrar, uno que la mente humana no aumentada no puede envolver.
Pero quizás es por eso que nosotros mismos tendremos que amarrarnos a las máquinas de pensamiento: expandir nuestra conciencia, hacernos más grandes de lo que somos. Si es imposible para nosotros comprender AGI como seres humanos, quizás debamos aumentarnos para llegar a su nivel. Sería, nuevamente, imposible de imaginar en detalle ahora, pero tal vez sería una rutina para nuestros sucesores culturales en el año 2500.
Por supuesto, en ese punto, la pregunta esencial es: ¿somos aún humanos?
…
Así que creo que definitivamente vamos a tener que estar atentos a cómo se desarrollan las cosas, especialmente a medida que nos acercamos a que el AGI se haga realidad (si es que lo hace) Independientemente de cómo se desarrolle, probablemente terminará diciéndonos más sobre nosotros mismos que cualquier otra cosa.