Así aborda Alemania los conflictos éticos de la era de los coches autónomos

El futuro de la industria del automóvil son los coches autónomos. Pocos dudan de este horizonte. Lo que sí genera abundantes interrogantes es cómo lidiar con esos vehículos del futuro que tomarán decisiones por sí mismos. Sus elecciones en carretera, llegado el momento, pueden tener lugar en situaciones críticas, de vida o muerte. Por eso el Gobierno alemán ha puesto a trabajar a un grupo de expertos en una comisión ética sobre coches autónomos. Es el primer país que lanza una iniciativa de este tipo.

Después de casi doce meses de trabajo, los expertos reunidos por el Ministerio de Transportes presentaron hace unos días un documento con las ideas básicas a tener en cuenta a la hora de fabricar los sistemas que permitan a los coches ser autónomos. Según una de las reflexiones recogidas en ese texto, el piloto automático del vehículo, en situaciones en las que no pueda evitar un accidente, actuará teniendo en cuenta que “es prioritario evitar los daños a personas por encima de los intereses de animales”. Es decir, que si el piloto automático tiene que elegir, cuando no se pueda evitar un accidente, entre atropellar a una persona o a un animal o cosa, elegirá las dos últimas opciones.

Esa reflexión se encuentra entre las veinte “reglas éticas para el tráfico conectado de vehículos autónomos” elaboradas por los catorce especialistas convocados por el ministro de Transportes, el conservador Alexander Dobrindt. En el grupo de expertos figuran juristas, especialistas en cuestiones tecnológicas, representantes de la industria del automóvil y el reputado filósofo Matthias Lutz-Bachmann, de la Universidad Goethe de Fráncfort.

Antes de plantear que el lastimar a personas ha de evitarse por encima de causar daños a animales o cosas, el documento recoge que, en realidad, el principal objetivo de implementar esta tecnología ha de ser “la seguridad”. “La tecnología debe diseñarse de manera que las situaciones críticas ni se planteen”; “el objetivo es reducir el nivel de daños hasta que éstos se eviten completamente”.

Aunque el texto destila confianza en que el futuro tecnológico permita a los humanos dejar totalmente el volante a las máquinas, los expertos subrayan que el sector público ha de ser el que vele por “las garantías de seguridad del sistema autónomo y conectado” de conducción.

De ahí que para el comité de expertos presidido por Udo Di Fabio, jurista y otrora juez del Tribunal Constitucional alemán, resulte “deseable” la creación de una “agencia independiente en el sector público”. Se ocuparía de procesar las “lecciones” que se puedan aprender de la introducción de vehículos autónomos en las carreteras.

Aún quedan años para que se normalice la presencia de ese tipo de coches en Europa. El encargo de Dobrindt pretende prevenir ante situaciones como la vivida el año pasado en las carreteras de Florida (Estados Unidos). Allí, un ciudadano estadounidense de 40 años perdió la vida en un accidente a bordo de su vehículo Tesla tras haber accionado el modo “piloto automático”.

“En Estados Unidos no se plantean tanto las cosas, utilizan una tecnología sin pensarlo demasiado, pero cuando hay daños, se pone en marcha el sistema de legislación y se abre la discusión, como la que hubo con el accidente del Tesla”, comentaba Di Fabio al ser presentada la comisión ética alemana hace un año. “En Europa, vemos un nuevo fenómeno o una nueva tecnología, y reaccionamos de forma prospectiva, haciendo las leyes primero”.

También se es más precavido en países europeos como Alemania porque la nación centroeuropea es signataria desde 1986 de la Convención de Viena sobre Circulación por Carretera, un documento de Naciones Unidas. Estados Unidos, al igual que España, no ha firmado dicho texto, en el que se precisa que “todo vehículo en movimiento o todo conjunto de vehículos en movimiento deberá tener un conductor”.

Esto explica el relativo avance que existe en Estados Unidos en el desarrollo de una tecnología que mantiene ocupado a Tesla, pero también a compañías de Internet como Google y, por supuesto, los grandes grupos del sector, como Toyota, Volvo o los fabricantes alemanes. En Alemania, bastión industrial europeo de este sector, Volkswagen, Daimler y BMW están invirtiendo cantidades millonarias en el desarrollo de modelos autónomos.

Se ha estimado que entre 2016 y 2021 el gasto de los fabricantes germanos en este tipo de proyectos podría alcanzar los 21.000 millones de euros. BMW, por ejemplo, tiene previsto poner en los concesionarios su modelo autónomo, el iNext, en 2021.

Desde Daimler –responsable de marcas como Mercedes Benz o Smart– aseguran a eldiario.es que “en unos años” podrán ofrecer a sus clientes vehículos “altamente automatizados”. Esta compañía dispone ya de varios modelos que permiten que partes de la conducción sean automáticas. Para sus berlinas ha desarrollado, por ejemplo, un sistema de aparcamiento que no precisa de conductor. Éste puede aparcar el coche estando fuera del vehículo, a través de una aplicación móvil.

Jugar a ser Dios 

A que modelos como el iNext puedan circular sin problemas debe contribuir el documento sobre la ética de la conducción autónoma del Ministerio alemán de Transportes. Este, además, podría ser fuente de inspiración para el resto de países europeos.

“Es un documento que ayuda”, pero también “muy abierto”, dice a eldiario.es Ferdinand Dudenhöffer, experto de la industria del automóvil en la Universidad de Duisburgo-Essen (oeste germano). En Daimler califican el texto de “base valiosa” para abordar “las cuestiones de ética y derecho que plantea la conducción autónoma”.

Precisamente Renata Jungo Brüngger, integrante de la junta directiva de Daimler, era uno de los integrantes de la comisión ética. No extraña que las ideas presentadas por el grupo de expertos ya formen “parte del desarrollo de los sistemas de conducción automatizados y autónomos” de la compañía con sede en Stuttgart (suroeste germano), reconocen fuentes de la empresa.

Para Dudenhöffer, la comisión ética no ha entrado en cuestiones relacionadas con la conducción autónoma que podrían resultar más espinosas. “La verdadera pregunta es qué pasa cuando el vehículo autónomo, en una situación de accidente inminente, no tiene más remedio que elegir entre atropellar a un niño o a un jubilado”, plantea. “Ahí la cuestión está en proveer a la máquina de un sistema que permita elegir qué hacer entre opciones al azar, un sistema que permita a la máquina jugar a ser a Dios”, agrega.

De acuerdo con este experto, ante este tipo de situaciones, una persona suele actuar de forma instintiva. Para Dudenhöffer, es clave para resolver ese interrogante el poder emular en el sistema de conducción “un algoritmo que reproduzca el azar” que se pone en marcha cuando una persona actúa al volante siguiendo su instinto. Ante este tipo de circunstancias, la comisión ética alemana ya ha dejado claro que “cualquier distinción basada en características personales (edad, género, constitución física o mental) ha de ”estar estrictamente prohibida“.