¿Cómo se programa la moralidad en los vehículos autónomos?

Los únicos escenarios en los que es posible una elección moral son dilemas de una fracción de segundo en los que debe decidir entre dañar a alguien que ingresó de manera ilegal e repentina a la carretera o herir a los pasajeros.

Tales incidentes deben suceder tan rápido que el piloto automático no puede evitar el accidente de manera segura.

Tenga en cuenta que ningún conductor humano sería capaz de tomar una decisión. Ese conductor no tendría tiempo para reaccionar y justo ahora bajaría al peatón o al T-bone el auto que pasó la luz roja.

El automóvil debe estar diseñado para proteger a los pasajeros por encima de todas las preocupaciones, estrictamente por cuestiones de responsabilidad. Después de todo, eso es lo que esperaríamos de un taxista, ¿verdad? Especialmente porque los accidentes sorpresa resultan de que otros bloqueen ilegalmente el derecho de paso.

Por lo tanto, centrarse en evitar el 99.999% de accidentes es en realidad la elección ética.

Creo que lo estás pensando demasiado.
Las reglas no tienen que ser (ni deberían ser) más complicadas de lo que son.
Prioridad 1: Evitar golpear cualquier cosa en movimiento.
Prioridad 2: Evite golpear cualquier cosa que no se mueva.
Prioridad 3: obedecer las normas de circulación.
Prioridad 4: llegar al destino de manera óptima.

Bueno, como no tenemos una gran cantidad de vehículos autónomos en la carretera, creo que el concepto de moralidad es discutible. Sin embargo, existe, y ha existido durante mucho tiempo una moralidad básica para cualquier IA.

“Las tres leyes de la robótica” de Isaac Asimov

  1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños.
  2. Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
  3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley.

Creo que esto todavía lo cubre, incluso para los autos sin conductor.