En el episodio «The Trolley Problem» de The Good Place, Micheal (Ted Danson) sitúa a Chidi (William Jackson Harper) al frente de un tranvía y lo obliga a tomar una decisión muy importante: salvar a cinco personas o a una. Este capítulo se basa en el famoso dilema del tranvía, uno de los experimentos mentales de la ética más conocidos.

En 1978, la filósofa británica Philippa Foot planteó una situación imaginaria en la que nos convertimos en el conductor de un tranvía que ha perdido los frenos y no puede parar. Más adelante, sobre las vías, se encuentran cinco personas trabajando. El tranvía está a punto de atropellarlos, pero nos percatamos de que un cambio de vías se aproxima y sólo debemos jalar una palanca para hacerlo. Sin embargo, sobre estas nuevas vías hay una persona trabajando. En ambas opciones, habrá fatalidades. Ante esta situación, la filósofa pregunta cuál es la decisión correcta: jalar la palanca y cambiar de vías (y matar a uno) o no hacer nada (y permitir que cinco mueran). En general, la gran mayoría de las personas escogen la primera opción.

En un escenario distinto, estamos parados sobre un puente y vemos que el tranvía se dirige hacia las cinco personas. En esta ocasión, frente a nosotros hay una persona de gran tamaño y, de aventarla, pararía el tranvía: salvando a las cinco personas, pero moriría al momento. Una vez más, se nos pregunta si empujaríamos a la persona o no haríamos nada. En este caso, la mayoría de la gente decide no hacer nada.

¿Por qué varían las respuestas si el resultado es el mismo en ambos casos? El experimento mental tiene muchas variables y se ha usado para tratar de delimitar las diferentes intuiciones morales que tenemos. The Good Place muestra una de las soluciones más probables de todas: Chidi es incapaz de tomar una decisión a tiempo y termina atropellando a cinco personas. En un segundo intento, jala la palanca, salvando a cinco desconocidos, pero sentenciado a su amigo Henry (otra de las variables del dilema). En ambos casos, la carga moral es abrumadora.

Las nuevas tecnologías lanzan estos dilemas morales al mundo real de una forma nunca vista. Desde la creación de las páginas en internet hasta las inteligencias artificiales, es necesario que se programen el conjunto de reglas – también conocidos como algoritmos- que guían las acciones que realiza cada programa. Usualmente, es un problema de la ingeniería y no social, cultural y filosófico. Sin embargo, conforme se complejiza la tecnología, cada decisión tiene mayor impacto en la sociedad ya que los sesgos y privilegios de los programadores determinan las posibilidades de cada algoritmo.

Unas veces pueden ser inconsecuentes, otras, llevan a terribles errores como clasificar la fotografía de una persona de piel oscura como un gorila, cuestión que sucedió en 2015.

También te podría interesar: La distopía digital del exceso de información.

El dilema del tranvía toma importancia en la programación de los algoritmos de los automóviles autónomos. Muchos pensamos que esta tecnología ayudará a reducir el número de accidentes, las horas pico de tránsito y, probablemente, hasta el estrés generalizado de la población. No obstante, al programarlos habrá que delimitar las opciones de las computadoras al enfrentarse a situaciones similares a las expuestas por el dilema: un vehículo autónomo anda por una calle y en un último momento detecta que una persona (o cinco o un infante) está cruzando. Para evitar atropellarlos, tiene que girar y estrellarse contra una pared, matando al pasajero.

Seguramente, esta situación será poco probable y se reducirá el peligro conforme mejore la tecnología, pero es imposible descartarla. Hoy ya existen casos de vehículos autónomos de prueba que contaban con un humano al volante para prevenir cualquier falla y, aun así, una persona falleció porque tanto la máquina como el conductor erraron. Por lo tanto, es imperante programar en el algoritmo una respuesta. ¿Qué debe de hacer el automóvil autónomo: girar o continuar? ¿Si el programa siempre salvaguarda al transeúnte, entonces quién compraría el automóvil? ¿Si protege al pasajero, entonces quién permitirá que circulen?

Hoy, en el siglo XXI, nos encontramos en la posición de Chidi. El dilema del tranvía es una realidad y debe ser resuelto si queremos tener las ventajas de los vehículos autónomos. Habrá que indicarle a la máquina con qué respuesta estamos menos incómodos como sociedad.

Si quieren averiguar más sobre sus decisiones, pueden ingresar a Moral Machine y juzgar las acciones del automóvil ante diferentes escenarios, pues, en definitiva, no es una decisión que deberíamos dejarle a las compañías automotrices.

La entrada El dilema del tranvía en el siglo XXI | Columna TL;DR se publicó primero en Cine PREMIERE.

[ad_2]