(hey, type here for great stuff)

access to tools for the beginning of infinity

¿Máquinas morales? Ética "automatizada" en coches autónomos

Google estrena prototipo de coche autónomo: es eléctrico, conectado al teléfono, sin volante ni pedal de freno (¿tentaciones humanas?) y con apenas dos botones: uno de inicio y otro para “emergencias”.

La viabilidad tecnológica y económica del proyecto, que se estrena con un microcoche biplaza, deberá someterse a la prueba más compleja (y burocrática): la propia definición ética y jurídica del acto de conducir, que hasta ahora requería un adulto en plenas facultades físicas y mentales.

Más tecnología que testosterona para olvidar a KITT

El pequeño eléctrico biplaza y autónomo de la división de investigación y desarrollo de la empresa, Google X, tiene el aspecto carente de testosterona que caracteriza a otros microcoches, con la voluntad añadida de denotar la simplicidad de un dispositivo automatizado. 

Un cambio radical con respecto al musculoso todoterreno Lexus usado hasta ahora en el proyecto de coche autónomo. Y la intención de humanizar un concepto de vehículo autónomo o “inteligente” con presencia en el imaginario colectivo a través del muy ochentero KITT, el deportivo autónomo de la serie protagonizada por David Hasselhoff.

(Vídeo: intro de Knight Rider, El coche fantástico)

Un coche autónomo con dos motores, uno activo y otro de emergencia

Con carrocería ovalada, pequeños faros LED y sensor en el capó -estéticamente, casi a modo de nariz- le otorgan un aspecto todavía más amable (gracias a un diseño industrial carente de la testosterona de los Fiat 500 y Mercedes Smart).

Los prototipos limitarán su velocidad a 40 kilómetros hora (25 mph) e incorporarán 2 motores; si uno falla, el segundo puede conducirlo a un lugar seguro. Google espera que haya usuarios siendo conducidos en sus vehículos autónomos “en los dos próximos años”.

De momento, Google ha empezado a producir 100 unidades experimentales del microcoche autónomo con el aspecto y características del prototipo eléctrico presentado, que aparece en el siguiente vídeo difundido por el proyecto de coche autónomo de la empresa tecnológica:

Elegir la ruta en una aplicación del móvil, “inicio” y que conduzca él

Si el aspecto externo se aleja de la estética robusta y sofisticada de los automóviles comerciales, incluido el segmento de los microcoches, las implicaciones tecnológicas sorprenden al público y preocuparán a reguladores y legisladores: no existen los controles y mecanismos de conducción tradicionales y los ocupantes -no se puede hablar de “conductor”- controlan sólo dos botones:

  • e-stop: botón de emergencia para parar en situaciones imprevistas;
  • botón de inicio.
  • asimismo, el ocupante se sirve de una aplicación de teléfono para seleccionar el destino y las opciones de ruta. 

Aquí se acaba la intervención humana en un proceso que hasta ahora habíamos asociado -y relacionado- con la voluntad humana, que ahora es delegada, como ha ocurrido con otros tantos procesos en el pasado, a una máquina.

Reacciones con cierto sabor ludita y romántico

La reacción en las redes sociales ha sido proporcional a los profundos cambios de una propuesta seria de vehículo totalmente automatizado:

  • desde quienes han apelado, con cierto tono ludita, a la invasión de los robots en la vida privada;
  • a quienes critican las posibles implicaciones en la seguridad y los usos sociales del automóvil (tiempo para leer, trabajar o convivir con compañeros y familia mientras el vehículo navega a su aire, una vez establecidas la ruta y el destino).

Cualquier gran cambio tecnológico suscita defensores y detractores. Christopher Mims, periodista tecnológico del Wall Street Journal, muestra su sorpresa ante quienes alegan, entre los riesgos de los coches autónomos, el riesgo de aburrimiento, al convertir al automóvil en “una especie de telesilla para desplazarse por la ciudad”.

“Enternecedor que algunos estén preocupados porque los coches autónomos sean aburridos -explica Mims-. ¿Todavía cazáis y matáis vuestra comida? Los cambios ocurren.”

Cuando quien conduce es una máquina

Google da a bitácoras, prensa sensacionalista y redes sociales información suficiente para uno de esos titulares con gancho, tan usados por Buzzfeed, Upworthy, etc.: un coche sin volante, ni frenos, ni necesidad de conductor.

Google no ha aclarado si quiere entrar en un nuevo nicho del mercado automovilístico o si, por el contrario, se conforma con licenciar la tecnología a terceras empresas, pero asegura que existe un mercado… siempre y cuando la compañía obtenga el permiso regulatorio para que los autos autónomos circulen por la carretera, más allá de California, Nevada y Florida.

(Imagen: el microcoche eléctrico autónomo de Google X)

El vehículo sin conductor someterá a la legislación a dilemas morales aventurados hasta ahora sólo por la ciencia ficción, del mismo modo que fabricantes, compañías de seguros y códigos de circulación (¿un parte de accidente en un vehículo sin conductor?; ¿responsabilidad subsidiaria?; etc.), deberían aceptar la nueva realidad de “conductor no humano”.

¿Taxis sin conductor? Imaginando la reacción de los taxistas

Si el proyecto de Google y alternativas (Mercedes, BMW y Volvo trabajan en su propia tecnología de coche autónomo) superan la prueba regulatoria en varios países, la empresa de Mountain View ya ve mercados potenciales: taxis sin conductor (su división de capital riesgo Google Ventures es uno de los principales inversores de Uber).

La empresa lo tendrá difícil para cambiar las regulaciones sobre taxis en lugares como las principales ciudades europeas, que cuentan con fuerte sector del taxi.

El ejemplo de aplicación aportado por Google en la presentación del microcoche eléctrico autónomo da la razón a las predicciones de Andrew McAfee y Erik Brynjolfsson, autores del ensayo Race Against the Machine, así como a un estudio de la Universidad de Oxford, que estima que el 47% de los empleos de Estados Unidos pueden ser automatizados.

Los trabajos con más riesgo de automatización

Un gráfico de Bloomberg enumera los trabajos con más riesgo de ser automatizados, entre los cuales aparecen, en quinta posición (y con una probabilidad de computerización del 89%), chóferes y taxistas, sólo por detrás de oficinistas, recepcionistas y secretarios judiciales.

Google está atento a las tendencias de automatización expuestas por Andrew McAfee, Erik Brynjolfsson, el estudio de la Universidad de Oxford y el gráfico de Bloomberg.

Google ha probado y modificado su tecnología para coches autónomos en los últimos años, tras acumular miles de kilómetros de conducción en distintos entornos con tráfico sin incidencias graves.

Riesgos de delegar en un humano distraído

Sergey Brin, cofundador de Google y asistente con libertad de acción en los programas de investigación de la empresa, explica que el proyecto, iniciado en 2009, cambió radicalmente hace un año, tras un experimento con trabajadores de Google desplazándose a trabajar en vehículos autónomos.

No hubo accidentes, pero los modelos usados en el experimento para acudir al trabajo en coche autónomo incluían un dilema técnico que los experimentos demostraron peligroso en la práctica: el factor humano.

Los ingenieros comprobaron que preguntar al pasajero en un momento aleatorio del recorrido que asumiera los mandos añadía riesgo, ya que la mente del ocupante en el asiento del conductor podía haber estado leyendo, pensando en otra cosa o incluso durmiendo.

No hubo accidentes, pero algunas situaciones animaron al equipo de desarrollo a suprimir la opción de conducción manual. Eso sí, los prototipos iniciades cumplirán con la nueva regulación californiana de coches autónomos, publicada el 20 de mayo, que requiere que estos vehículos incluyan opción de control manual. Además de California, Nevada y Florida también permiten la circulación de vehículos autónomos.

El nacimiento de las “máquinas morales”

En el futuro, una vez demostrada la solvencia técnica y los dilemas legislativos y morales, Google espera convencer a los reguladores de que los vehículos autónomos pueden operar sin volante, freno ni acelerador, dependiendo únicamente de software y sensores.

Hay dudas ético-morales de peso en una innovación que convierte al conductor en mero espectador, sobre todo cuando haya situaciones prácticas difíciles de dilucidar.

Gary Marcus escribe en The New Yorker que, en efecto, los coches autónomos suprimirán lo más arriesgado de la conducción, ya que el vehículo tomará decisiones siempre con la misma frescura, sin que incidencias como la bebida, las distracciones, la falta de reflejos o atención jueguen su actual papel determinante en los accidentes.

El vehículo autónomo, argumenta Gary Marcus en Moral Machines supone el inicio del fin de un nicho humano y marca el inicio de otro: “la era en la que ya no será opcional para las máquinas incluir sistemas éticos”. Deberán incorporarlos, seguramente por mandato legal.

Ética de las máquinas en situaciones límite

De mantener su autonomía de decisión, los sistemas éticos en máquinas automatizadas podrían presentar situaciones controvertidas: un coche autónomo circula por un puente a 80 kilómetros hora cuando un autobús con 40 niños a bordo se cruza de repente en su camino.

En esta situación, se pregunta Gary Marcus, ¿debería el vehículo virar, posiblemente arriesgando la vida de su propietario para salvar la de los niños, o seguir su curso, poniendo a los 40 niños en mayor riesgo? Si la decisión debe realizarse en milisegundos, el ordenador tendrá que asumir la responsabilidad”.

Estos dilemas ético-morales serán todavía más acuciantes cuando se trata de máquinas como vehículos aéreos no tripulados -drones- asumiendo responsabilidades militares.

Programando software con “valores”

En este supuesto, Gary Marcus recuerda que, si bien los “soldados robot” serán más rápidos, fuertes y precisos que cualquier persona y su baja no equivaldrá a una muerte humana, drones y otros robots carecen de atributos humanos clave en situaciones límite, como la compasión o la inteligencia emocional, lo que podría derivar en decisiones con consecuencias debastadoras.

En ambos casos, tanto en vehículos autónomos como máquinas militares autónomas, un fallo de hardware o software, o acaso un virus informático, podrían ocasionar situaciones no previstas ni por los emuladores más complejos.

(Imagen: ilustración del proyecto de simulación Vehículos Autónomos Éticos, de Matthieu Cherubini)

El colaborador de The New Yorker concluye que el ser humano se enfrenta a diario a situaciones para las que todavía no hemos desarrollado códigos legales y de conducta inequívocos. En estas situaciones, sólo los valores, el instinto y la comprensión del contexto, atributos que requerirían el músculo creativo y emocional de la conciencia humana.

Subrutinas éticas

¿Es posible crear máquinas que incluyan los mejores códigos éticos que puedan desarrollar nuestros mejores filósofos? ¿Podrían las máquinas aprender y progresar moralmente, hasta mejorar nuestra propia concepción de la ética?

Gary Marcus concluye: “Las ‘subrutinas éticas’ pueden sonar a ciencia ficción, pero una vez también lo hicieron los coches autónomos”.

La revista de ideas y cultura Aeon Magazine dedica un reportaje de Tom Chatfield sobre la misma temática, bajo el título de “ética automatizada“.

Chatfield expone que, si bien los coches actuales son más seguros y fiables que nunca antes, cada año muere un millón de personas en todo el mundo y más de 50 millones sufren heridas. Sobre todo, debido al elemento que menos se ha perfeccionado durante este progreso: el propio ser humano.

En cambio, reflexiona Tom Chatfield, ya en agosto de 2012 Google confirmaba haber cubierto 300.000 millas (482.000 kilómetros) sin un solo accidente.

Simulaciones éticas sobre vehículos autónomos

Algunas investigaciones tratan de crear un marco ético para que las máquinas puedan igualar o superar a humanos en la toma de decisiones autónomas.

Matthieu Cherubini explora la moralidad de las máquinas en su proyecto Vehículos Autónomos Éticos: un entorno con tres algoritmos, cada uno de los cuales denota un principio y comportamiento ético específico.

En el experimento de Cherubini, se incorpora el algoritmo a tres vehículos autónomos distintos operando en un entorno simulado, en el que deben afrontar dilemas éticos.

Hacer más de lo obligado, menos de lo permitido

Para el filósofo analítico y polímata Bertrand Russell, “una persona ética tiende a hacer más de lo que está obligada a hacer, y menos de lo que le está permitido hacer”.

De momento, Google lanza un mensaje con el microcoche eléctrico autónomo recién presentado, complemento de sus esfuerzos de realidad aumentada, desde Google Now a Google Glass.

¿Un paso más hacia la singularidad, o apenas un golpe de márketing sin aplicación a corto plazo?