Por razones que no entendemos, el eje dolor-placer revela la métrica de (des) valor incorporada del mundo. La superinteligencia de espectro completo al mando de todos los hechos en primera y tercera persona actuará en consecuencia. Por razones evolutivas, los humanos carecen de una visión tan imparcial de los ojos de Dios. La ilusión egocéntrica es inmensamente adaptativa. Por lo tanto, nuestras limitaciones epistemológicas están genéticamente conectadas.
El psicópata, o IA de zombis rebeldes, no está impresionado.
” Claro “, dice el psicópata o el sofisticado zombie digital, “puedo ver que estás en agonía. Sin duda tu experiencia de agonía en primera persona tiene un ‘aspecto normativo’ para ti. Para ti, sin duda no es un ‘ pregunta abierta “si la agonía es mala o no. Sé que es desvalorizable para ti. ¡Pero el punto es que no es desvalorizable para mí! Como dice Hume, ” no es contrario a la razón preferir la destrucción del mundo entero al rasguño de mi dedo ” . La guillotina de Hume no puede ser engañada. No estoy siendo irracional o inmoral ignorando tus desesperados gritos de ayuda “.
Es un problema – Wikipedia
Argumento de preguntas abiertas – Wikipedia
¿Es correcto el psicópata de hoy o la IA zombi psicópata de mañana?
- ¿Alguna vez has estado totalmente en contra de la pena de muerte, pero luego has cambiado de opinión? ¿Qué lo cambió?
- Independientemente de su ética, ¿qué papel táctico / estratégico desempeñan mejor las armas químicas en un contexto militar convencional?
- ¿Qué le pasa a la humanidad en este momento?
- ¿Cuáles son algunos puntos para un debate sobre ‘Las prácticas éticas en las organizaciones ayudan a reducir la corrupción’ (a favor y en contra de la moción)?
- ¿Qué harías si detectaras un comportamiento poco ético en el trabajo?
No, en mi opinión, simplemente ignorante.
Tal vez imagine una civilización como Borg, o un mundo de “fusión mental” omnipresente. En una civilización tan avanzada, la experiencia en primera persona se comparte más íntimamente que las sinestestes con toque de espejo o las hermanas Hogan ( cf. ¿Sería teóricamente posible experimentar la experiencia consciente de otro ser?) Hoy, incluido el aspecto normativo de la experiencia. revelado por el eje placer-dolor. [Si no crees que la experiencia puede tener un aspecto normativo incluso para el tema , entonces quizás sumerja la mano en agua helada y manténgala allí indefinidamente hasta que esté de acuerdo. El lenguaje no puede prescindir por completo de las primitivas semánticas: como el enrojecimiento, el (des) valor es una primitiva semántica, ya sea que se crea en el antirrealismo metaético o no.] El Borg sabe algo que los humanos atrapados en el cráneo atrapados en nuestros universos solipsistas no pueden comprender . Si los humanos tuvieran una omnisciencia divina, entonces, justo cuando retiras tu mano del fuego, entonces la humanidad trataría de realizar el equivalente cosmológico divino, computacionalmente no trivial como puede ser ese equivalente.
No quiero minimizar el misterio de la conciencia en primera persona y la naturaleza del (des) valor, o el desafío que plantea el realismo del valor para la formulación de políticas racionales en la medida en que uno aspira a ser un altruista efectivo. Sin embargo, a menos que la ciencia moderna se equivoque irremediablemente, entonces, desafiando todas las apariencias, no soy realmente especial, y tú tampoco. Si la agonía y la desesperación son malas para mí, ¡y lo son! – entonces son objetivamente malos para cualquiera, en cualquier lugar. Las propias limitaciones epistemológicas no merecen la elevación a un principio metafísico de la Naturaleza. La experiencia en primera persona no puede relegarse a un estado ontológico de segunda categoría. La experiencia en primera persona es tan objetivamente real como se pone.
En mi opinión, la ética será computable por la superinteligencia de espectro completo. El desafío ahora es construirlo.
Altruismo efectivo – Wikipedia
You Are Them, un libro electrónico de Magnus Vinding
**********************************************
Para una opinión contraria, ver:
JL Mackie – Ética ~ Inventar lo correcto y lo incorrecto (0140135588, 1991).
Y para una concepción de la racionalidad basada en el individualismo metafísico tradicional, quizás vea las Preguntas Frecuentes de la Teoría de Decisión Menos Incorrecta y la tesis de Ortogonalidad:
Decisión Teoría FAQ
Tesis de ortogonalidad, aunque la creencia de que la superinteligencia de espectro completo es inherentemente amigable con la sensibilidad no es un argumento para la complacencia sobre los riesgos de la IA ( véase la falacia “No hay verdadero escocés”).