Esto es similar a la especulación anterior a 2000 sobre fallas informáticas. AGI (inteligencia general artificial) tiene el potencial de ser utilizado para bien o para mal, pero un AGI que destruye el mundo es un problema distante en el mejor de los casos.
Dos realidades que todos parecen ignorar son el tiempo y la seguridad; Se necesita tiempo para hacer cambios en el mundo físico. Un AGI se limitaría a las computadoras conectadas a Internet.
Si un AGI se saliera de control, podría vencer la seguridad en algunos sistemas, pero no en todos. En cualquier caso, desconectaríamos todos los sistemas de Internet de inmediato. Sin duda, sería un proceso de recuperación muy doloroso eliminar la IA de todos los sistemas informáticos infectados, pero la humanidad no terminaría.
El primer AGI necesitaría inventarnos y enseñarnos nuevos métodos de fabricación basados en una ciencia mejorada. Tendríamos que entender el concepto, crear los nuevos materiales, construir el equipo de fabricación y, a lo largo del camino, resolver los problemas inesperados que surjan. Una vez transcurrido todo ese tiempo, comenzaríamos a fabricar robots físicamente autónomos.
- ¿Alguna razón para no recuperar una carta de recomendación de un empleador, ya proporcionada, para un estudiante universitario con un plagio (no accidental) en un papel?
- ¿Cómo justifican las personas tolerantes la intolerancia extrema de la intolerancia?
- ¿Es válido criticar los hábitos de una cultura extranjera?
- ¿Qué nos dice el clamor por la eutanasia de Excalibur, el perro Ébola en España, sobre los valores humanos?
- ¿Cuáles son algunas de las cosas sobre las que la mayoría de nosotros creemos que tenemos razón, pero en la práctica, resultan estar equivocadas?
Un buen AGI mantendría los problemas inesperados al mínimo. El alcance del esfuerzo sería inmenso. Tendrían que producirse nuevos chips, metales, plásticos, fluidos y otros materiales en algún volumen. Las personas y el entorno físico están involucrados en todo momento, habría eventos que el AGI no podría haber anticipado.
Durante todo este tiempo, los creadores del AGI estarían probando, actualizando y refinando el AGI. Serían capaces, con la ayuda de la AGI, de construir un sistema moral que asegurara que la humanidad fuera vista como un requisito para alcanzar las metas.
Siendo realistas, no importa cuán inteligente sea, el tiempo y el mundo físico evitarían un día del juicio final AGI.