¿Cuáles son algunas cuestiones éticas en la investigación en informática?

Answer 1

1) Si el software que escribió se usa para violar la ley (o violar las libertades civiles), y sospechaba, sabía o debería haber sabido que era probable que se abusara, ¿es cómplice del delito? Legalmente o solo éticamente? ¿Cómo podríamos hacer cumplir tales leyes? ¿Cómo deben ser castigados tales conspiradores?

2) Si el software que escribió falla, ¿quién es legalmente responsable? ¿Tú? ¿Su empleador? ¿El usuario? Esto también se aplica al hardware controlado por su software, como los sistemas de frenado de automóviles o los robots autónomos. A medida que el software evoluciona o se reutiliza, ¿cómo se debe reevaluar la responsabilidad del contribuyente?

3) ¿Cómo debemos evaluar o etiquetar el software por su nivel de confiabilidad? ¿Debería todo el software comercial informar el nivel de prueba por el que pasó? ¿Debería haber una agencia independiente que garantice la seguridad del software (como lo hace Underwriter’s Laboratories para electrodomésticos)?

4) ¿Qué enfoque asegura mejor las libertades civiles? Regulación: A) qué datos personales se pueden recopilar, B) cómo se pueden recopilar los datos, C) quién tiene acceso a los datos, o D) cómo se pueden utilizar los datos.

5) ¿Debería exigirse la ley algún nivel de supervisión (o transparencia) independiente cada vez que se recopilan datos de personas involuntariamente? (Ejemplos: clientes, peatones, empleados, niños).

6) ¿Debería haber un juramento hipocrático personal para los informáticos, especialmente aquellos que recopilan o extraen datos personales? ¿Debería este juramento ser reevaluado periódicamente por juntas independientes y ejecutado formalmente? ¿Deben evaluarse las sanciones para los infractores, como se hace para los médicos o abogados irresponsables o criminales?

Answer 2

Una grande es la corrección . El software tiende a ser slap-dash en el mejor de los casos: nos gusta enviar todo lo que parece que podría no estar completamente roto. Y, para la mayoría de las cosas, esto está bien: si su aplicación favorita para compartir gatos no tiene cinco nueves de confiabilidad, estará bien.

Sin embargo, a medida que el software se vuelve cada vez más integral para literalmente todo , realmente debemos preocuparnos por la calidad en ciertos casos. Cuando el fracaso puede ocasionar daños por cientos de millones de dólares (The Explosion of the Ariane 5), muertes reales (Therac-25) o revelar la identidad de los disidentes a gobiernos agresivos, la calidad del software de repente se convierte en un imperativo moral.

Fuegos artificiales de $ 500 millones: el vuelo 501 del cohete Ariane 5 explotó debido a un error de software. (Fuente: V88 Ariane 501)

Otras formas de ingeniería tienen pautas éticas muy específicas y organización profesional. Pero dado que la mayoría del software definitivamente no es ingeniería en este sentido, este modelo no tiene sentido para toda la programación. Entonces, ¿cómo gestionamos el riesgo y la calidad del software?

Otra posibilidad es habilitar demasiado poder del gobierno . En el pasado, la falta de capacidad naturalmente mantenía al gobierno bajo control. No podían seguir a todos siempre porque simplemente no tenían mano de obra. ¿Pero ahora? El gobierno puede combinar la vigilancia generalizada con el análisis de datos para seguir literalmente a todos en todas partes y escuchar todo. Un poco escalofriante, ¿no?

Como un ejemplo particular, tenemos cámaras que se destacan en reconocimiento facial y pueden leer placas. Ya es práctico, por ejemplo, hacer un seguimiento de cada persona en una ciudad . De hecho, hasta cierto punto, ¡esto ya sucede en lugares como Londres! ¿Te sientes más seguro cuando sabes que te están mirando?
Un verdadero póster de Londres. Ni siquiera se supone que sea irónico. ¿Te sientes más seguro cuando Big Brother te está mirando?

Solo imagine la Stasi o la KGB con tecnología moderna. La tecnología moderna es un increíble multiplicador de fuerza; considerando lo bien que funcionaron estos gobiernos sin él, esta es una idea verdaderamente aterradora.

¿Cómo restringimos el abuso gubernamental de tecnología como esta?

Answer 3

Conozco personas que se han negado a trabajar en proyectos de robótica para el ejército, o con aplicaciones principalmente militares. He oído hablar de otros que han abandonado el campo por completo, porque incluso el trabajo realizado principalmente para algún otro propósito es muy probable que se adapte para uso militar. Personalmente, en mi último trabajo no estaba muy contento de que los consumidores más entusiastas de nuestra tecnología fueran fantasmas. Me hizo sentir mucho mejor saber que teníamos otros usuarios trabajando en cosas que podrían conducir a nuevas fuentes de energía renovables o cura de enfermedades. En mi trabajo actual, siento una punzada cuando nuestros clientes financieros hablan de reducir la latencia para HFT. Básicamente, todo lo que pueda hacer en informática es probable que encuentre alguna aplicación en pos de objetivos que aborrece. Se trata de gestionar ese riesgo para su conciencia versus el beneficio de hacer que esos mismos resultados estén disponibles para personas con objetivos más nobles.

Algunos de los debates más candentes sobre la ética en la informática tienen que ver con la seguridad. ¿Es correcto o incorrecto invitar a los “sombreros negros” o la NSA a una conferencia de seguridad? ¿Hasta dónde debe llegar uno al territorio del “sombrero negro”, o condonar a otros para que entiendan mejor las amenazas y las contramedidas? ¿Qué significa “divulgación responsable”? ¿Quién debería saber cuándo, sobre una nueva vulnerabilidad o debilidad de cifrado? ¿La campaña de relaciones públicas en torno a “Heartbleed” hizo más para ayudar a los usuarios (presionando a los proveedores para que proporcionen soluciones) o perjudicarlos (asegurando el desarrollo de exploits antes de que las soluciones estuvieran disponibles)?

Answer 4

• ¿Cómo se pueden usar éticamente los datos recopilados de los niños (por ejemplo, la legislación COPPA)?
• ¿En qué punto un modelo predictivo del comportamiento de un individuo se convierte en una invasión de la privacidad?
• ¿Tendrá algún derecho una inteligencia basada en computadora? ¿Son los mismos que los de una persona? De un mono? De un delfín? De un perro?
• ¿Qué usos de las interfaces hombre-computadora no son éticos?
• ¿Debería permitirse que un humano aumentado por computadora (por ejemplo, uno que tiene una computadora que controla la absorción de ácido láctico de una extremidad o una que tiene una extremidad artificial controlada por computadora) compita contra humanos orgánicos no modificados?
• ¿Qué usos de almacenamiento biológico y paradigmas informáticos no son éticos?
• Toda la singularidad hoopla

Answer 5

Algunos problemas abiertos son …

(1) Robar indirectamente un código minuciosamente desarrollado por técnicas como ingeniería inversa, descompiladores, etc.

(2) No otorgar créditos a los desarrolladores de código abierto por desarrollar y mantener utilidades centrales del sistema operativo

(3) Entrega de sistemas de hardware o software no bien probados a los clientes

Answer 6

Tener cero control sobre cómo las personas usan su investigación para bien o para mal.