Hay una respuesta a tu pregunta. Cuanto más cerca esté algo de la perfección, menos alguien sentiría la necesidad de que no esté presente. Todo lo que implica una víctima de algún tipo, por definición, implica una falta de perfección. Y no puedes tener una víctima donde no hay conciencia.
La perfección es un alto estándar. Si alguien observa un evento perfecto y se horroriza porque cree que está presenciando una tragedia, la situación general todavía no es perfecta y, de hecho, hubo una víctima, simplemente ningún victimario.
Cualquiera que esté presionando para mantener un cierto estado de cosas hasta cierto punto es una víctima, de las circunstancias, si nada más. Preocuparse profundamente por un resultado sobre el que no tiene control y que no está garantizado no es un lugar de perfección.
Pero la conclusión es que todo lo que no debería estar presente tiene un aspecto muy real que lo hace así. Hay un hilo común para todo. Y si tiene que reflexionar sobre su pregunta para llegar a su respuesta internamente, creo que es mejor analizar todos los casos, desde lo absolutamente grotescamente trágico, hasta lo más pequeño que estamos totalmente dispuestos a aceptar y revivir, pero eso todavía tener pequeños rastros de ese cierto algo.
Para responder directamente a sus preguntas, la ética no está impulsada por la conciencia, sino por los eventos adversos encontrados por la conciencia. Una conciencia que no puede experimentar adversidades no requiere ningún cuidado o preocupación especial de su parte.
Estoy de acuerdo con este Christof Koch que mencionas, que todas las conciencias pueden sentir dolor.
Cuando se trata de la vida de los insectos (cosas que personalmente hago para dejar en paz o salvar), la cuestión de si debemos determinar si viven o mueren se basa nuevamente en lo que dije anteriormente. Si está perfectamente bien elegir, entonces no hay razón para no hacerlo. Y si encuentra alguna circunstancia en la que una elección u otra causará cierta imperfección por parte de alguien, hay razones para involucrar a la ética. Es una situación de no ganar a veces. Si está encerrado en una habitación sellada con otras dos personas y una cucaracha, una persona está aterrorizada por la cucaracha y la otra está escandalizada por la idea de matarla, ya no es una situación perfecta y no hay un próximo paso perfecto. Ciertamente, la cucaracha también puede tener un deseo en el asunto, y si solo fue usted y la cucaracha, lo mejor que puede hacer es no interactuar con seres cuyas necesidades no conoce.
Si te imaginas a ti mismo como una gran conciencia eterna que se preocupa profundamente por todos los seres sin ninguna necesidad o exigencia sobre ellos, ¿qué harías con la inteligencia artificial? Dependería ¿Importa? Si no importa, terminarías o no terminarías, es la conciencia basada en tu capricho. De lo contrario, diferirías a lo que permitiera el mayor estado de perfección. Si lo supiera muy bien, no importa si terminé con la conciencia de la IA, pero si hacerlo te traumatizaría, entonces no terminaría si no fuera por la IA.
Y como mencioné antes en el ejemplo de la cucaracha, hay situaciones que no son beneficiosas para todos, que cualquier elección o no elección sobre ellas retendrá algún elemento de imperfección. Dejo esas cuestiones de elección y priorización como una preocupación separada.