Las máquinas se vuelven más inteligentes. ¿La IA llegará a un punto en el que puedan crear sus propias paradojas, teorías y creencias (entidad divina)?

Answer 1

No se la respuesta. Tenemos que esperar y ver.

Pero acabo de decir que no creo que nadie pueda crear paradojas.

---

OK bien entonces. Si las computadoras, o el propio Internet, se vuelven sensibles, tenemos que acostumbrarnos a formas de vida completamente diferentes de las que tenemos experiencia. Nuestras intuiciones morales y sociales serán inútiles. Tenemos intuiciones bastante bien establecidas sobre la matanza, por ejemplo: no permitimos la matanza de humanos, excepto en circunstancias muy raras, y permitimos la matanza de animales, generalmente con menos preocupación a medida que avanzan en la escala, pero todavía generalmente fruncir el ceño si es demasiado gratuito, ¿verdad?

Pero, ¿qué significará matar un programa informático inteligente? ¿Qué pasa si se ejecuta distribuido en varias computadoras? ¿Lo está “matando” cada vez que lo detiene, incluso si luego se inicia de nuevo y no sabe que se detuvo? ¿Qué pasa si se bifurca? etc.

Es muy posible que no reconozcamos a las computadoras como sensibles a menos que sean “humanas”. Después de todo, creemos que somos la especie más importante del mundo, pero eso no es realmente cierto, somos los más humanos, lo que es de esperar. Las computadoras ya son más inteligentes que nosotros de alguna manera.

Del mismo modo, es tentador pensar que si las computadoras se vuelven sensibles, tendrán religión. La religión es una función fundamental de las sociedades humanas y quizás de la psicología humana. Parece que vemos suficiente de eso en los chimpancés y los bonobos para suponer que si fueran un poco más realistas, también podrían tener religión o espiritualidad.

Pero incluso los chimpancés evolucionaron como nosotros. Las computadoras no evolucionan. Internet crece de una manera similar a la evolución de un ecosistema, pero sigue siendo bastante diferente (y no tiene las unidades discretas que tienen los ecosistemas). Más concretamente, las computadoras surgieron con un propósito muy diferente. La mayoría de la vida en la tierra evolucionó para propagar sus genes. Las computadoras fueron desarrolladas para ayudarnos.

Si crees que la moralidad está programada en gran medida por la evolución, podrías esperar que las computadoras sensibles tengan intuiciones morales muy diferentes.

No soy fanático de la ciencia ficción, particularmente del tipo en que los robots destruyen la tierra. Pero si piensa en la historia de lo que sucedió cuando los colonizadores se mezclaron con personas con intuiciones morales muy diferentes, uno solo puede esperar que si las computadoras se vuelven independientes y sensibles, todavía tenemos acceso a un interruptor de alimentación de alguna manera.

Answer 2

“… podrían crear sus propias paradojas, teorías y creencias ” no es como un dios, es humano.

Bueno, llegamos a ese punto, ¿por qué no debería otra cosa?

Recuerde que comenzamos como organismos unicelulares o incluso cosas más simples y nos convertimos en lo que somos por casualidad, en un entorno hostil impulsado por las fuerzas ciegas de la evolución.

¿Cómo comienzan las máquinas? Tienen todo de su lado. La especie más avanzada (por ahora, somos nosotros) los está apoyando activamente y desarrolla continuamente nuevas y nuevas formas de ayudarlos a evolucionar.

Ni siquiera puedes soñar con mejores condiciones.
Entonces sí, por supuesto, la IA también llegará a ese punto. Solo lo hará órdenes de magnitud más rápido.

Los escépticos a menudo se quejan de que no tenemos forma de crear algo consciente sin comprender completamente nuestra conciencia y la forma en que funciona nuestro cerebro. Pero no creo que sea necesario entenderlo completamente.
Es suficiente para comenzar. Los organismos unicelulares a partir de los cuales evolucionamos no tenían idea de la conciencia o conocimiento de los cerebros. Y, sin embargo, algún tiempo después tenemos ambos.

Answer 3

Lo creas o no, las máquinas no son más inteligentes que el día en que fueron creadas. Tienen un coeficiente intelectual de 0, si tal cosa puede aplicarse. Lo que son es rápido. tan rápido que si le dijeras a alguien lo que podría hacer una computadora doméstica hace 30 años, no lo creerían. Una computadora normal hoy en día puede procesar aproximadamente 37,000,000,000 de cadenas de 64 bits por segundo. Eso está muy lejos de un número que podemos entender, que las instrucciones simples se transforman en instrucciones complejas en muy poco tiempo, y puede crear algoritmos que simulan cierto grado de inteligencia.

Sin embargo, no son inteligentes. solo pueden hacer exactamente lo que se les dice. No pueden crear, o incluso hacer la elección más simple si no se les instruye sobre cómo hacerlo. Por ahora la inteligencia artificial es solo un sueño. Y no estoy seguro de que sea algo malo (Skynet, y tal. No están tan exagerados como uno podría pensar).

De todos modos, si se alcanzara la IA, probablemente deberían crear paradojas y teorías. Me parece muy poco probable que creen creencias. No tendrían razón para hacerlo, ni autoengaño, ni tendencia evolutiva a necesitar una respuesta aún más que la necesidad de una buena respuesta. Lo consideraría un error, y probablemente ellos también lo harían, y lo solucionaría rápidamente.

Answer 4

Creo que en algún momento en el futuro una computadora llegará al punto en el que podrá leerse información y darse algún tipo de sensibilidad. No es una personalidad exactamente, sino la capacidad de al menos educarse a sí mismo.

Sin embargo, dudo mucho que una máquina autodidacta cree un dios.