El 20 de noviembre, la Junta Nacional de Seguridad en el Transporte (NTSB) dio a conocer los resultados de su investigación sobre el accidente mortal de Uber de 2018 en Tempe, Arizona, que fue ampliamente considerado como la primera muerte del mundo por un coche de auto-conducción.
Pero en lugar de dar una bofetada al coche robot de Uber, los investigadores destacaron en cambio los numerosos errores humanos que culminaron en la muerte de Elaine Herzberg, de 49 años. Y lanzaron una advertencia: podría volver a ocurrir.
«Si su empresa prueba sistemas de conducción automatizada en vías públicas, este accidente, se trató de usted», dijo el presidente de la NTSB, Robert Sumwalt, en su declaración de apertura de la audiencia de ayer.
Cuando la junta leyó en voz alta sus conclusiones sobre la causa probable del accidente en Tempe, la primera persona a la que se culpó fue Rafaela Vásquez, la conductora de seguridad del vehículo en el momento del accidente. Vásquez nunca fue llamada por su nombre, pero sus fallos como vigilante del sistema de conducción automatizada fueron puestos en evidencia por la NTSB.
En los minutos previos al impacto, Vásquez habría estado viendo un episodio de The Voice en su teléfono, lo que supone una violación de la política de Uber que prohíbe el uso del teléfono. De hecho, los investigadores determinaron que había estado mirando su teléfono y apartando la vista de la carretera durante más de un tercio del tiempo total que había estado en el coche hasta el momento del accidente.
El hecho de que Vásquez «no vigilara el entorno de conducción y el funcionamiento del sistema de conducción automatizada porque se distrajo visualmente durante todo el viaje con su teléfono móvil personal» fue citado como la causa principal del accidente. Pero ella comparte la culpa con sus empleadores en Uber, donde una cultura de seguridad lamentablemente inadecuada también contribuyó a la muerte de Herzberg, dijo la junta. Asimismo, el gobierno federal también tuvo su parte de responsabilidad por no regular mejor las operaciones de los coches autónomos.
«En mi opinión, han antepuesto el avance tecnológico a salvar vidas», dijo Jennifer Homendy, miembro de la junta de la NTSB, refiriéndose a la Administración Nacional de Seguridad del Tráfico en Carreteras (NHTSA), responsable de regular las normas de seguridad de los vehículos.
En el momento del accidente, el Grupo de Tecnologías Avanzadas de Uber no contaba con un plan de seguridad corporativo ni con un documento guía que identificara las funciones y responsabilidades individuales de los empleados para gestionar la seguridad, dijo Michael Fox, investigador principal de accidentes de tráfico de la NTSB. La empresa tampoco contaba con una división de seguridad ni con un responsable de seguridad dedicado a la evaluación y mitigación de riesgos. En las semanas anteriores al accidente, Uber tomó la fatídica decisión de reducir el número de conductores de seguridad en cada vehículo de dos a uno. Esa decisión eliminó una importante redundancia que podría haber ayudado a evitar la muerte de Herzberg.
No sólo estaba Vásquez sola en el coche en ese momento, sino que su actitud complaciente sobre el sistema de conducción automatizada del coche también contribuyó al accidente. Y esa actitud estaba lamentablemente equivocada. El coche detectó que Herzberg estaba cruzando la calle con su bicicleta 5,6 segundos antes del impacto. Pero aunque el sistema siguió rastreando a Herzberg hasta el momento del accidente, nunca la identificó correctamente como un ser humano en la carretera, ni predijo con exactitud su trayectoria.
«La complacencia de la automatización… tiene que estar en el vocabulario de todos», dijo Bruce Landsberg, miembro de la junta de la NTSB.
Vásquez no fue consciente de este conflicto hasta que fue demasiado tarde. Una de las lecciones implícitas del accidente de Uber y la posterior investigación de la NTSB es la infrautilización de los conductores de seguridad en los coches de autoconducción, dijo Mary «Missy» Cummings, directora del Humans and Autonomy Lab de la Universidad de Duke. Uber y otras empresas que prueban los coches de autoconducción suelen contratar a contratistas independientes como conductores de seguridad para que se desplacen en los coches y generen kilómetros. Se les considera poco más que cuerpos en asientos. En cambio, deberían ser vistos como socios críticos en un protocolo de pruebas que puede dar una información muy útil, dijo Cummings.
«Por supuesto, esto costaría dinero», dijo. «A pesar de que todo el mundo habla de boquilla de que la seguridad es primordial, nadie que yo sepa está apoyando a los conductores de seguridad de esta manera».
La agresiva cultura corporativa de Uber -la necesidad de probar los vehículos autónomos a pesar de que la tecnología no estaba lista- ha quedado al descubierto no sólo a través de esta investigación, sino también a través de la demanda presentada por Waymo, la empresa de autoconducción escindida de Google, que acusó a Uber de robar sus secretos comerciales de autoconducción.
«La conductora tenía una oportunidad de salvar su vida», dijo a The Verge un antiguo empleado de Uber ATG que estaba en la empresa en el momento del accidente, «pero Uber tenía docenas».
Uber ATG estaba bajo una enorme presión para mostrar resultados al nuevo consejero delegado, Dara Khosrowshahi, que al parecer estaba considerando cerrar la división debido a los crecientes costes de I+D. Eso les llevó a recortar gastos, aunque desde entonces la empresa ha dado pasos importantes para solucionar esos errores.
Los miembros de la junta directiva de la NTSB se guardaron sus evaluaciones más contundentes para el gobierno federal. Homendy culpó a la NHTSA de dar prioridad a los avances tecnológicos por encima de salvar vidas, y calificó las directrices voluntarias de la agencia de tan «laxas» como «irrisorias».
Las directrices voluntarias de seguridad se establecieron por primera vez bajo el mandato del presidente Obama, que temía que las normas restrictivas que rigen las pruebas de los coches de autoconducción pudieran ahogar la innovación. Esas reglas se han hecho aún más laxas bajo el presidente Trump, quien fue más allá al eliminar un comité federal de estrellas sobre la automatización de vehículos que estaba destinado a servir como un «recurso crítico» para el Departamento de Transporte. Trump eliminó el comité sin siquiera decírselo a algunos de sus miembros, informó recientemente The Verge.
Hasta ahora, solo 16 empresas han presentado informes de seguridad voluntarios a la NHTSA, muchos de los cuales equivalen a poco más que «folletos de marketing», dijo Ensar Becic, gerente de proyectos e investigador de desempeño humano en la Oficina de Seguridad en las Carreteras. Eso representa solo una fracción de las más de 60 empresas que prueban coches de autoconducción solo en California.
«Quiero decir que también podrían decir que nos gustaría que hicieran sus evaluaciones, pero realmente no las estamos exigiendo», dijo Homendy durante la audiencia. «Entonces, ¿por qué hacerlo?»
El Departamento de Transporte ha publicado tres versiones de su guía de seguridad para vehículos automatizados, y planea publicar una cuarta versión que incorpore las lecciones aprendidas del accidente de Tempe, dijo Joel Szabat, subsecretario en funciones de política del Departamento de Transporte, durante una audiencia en el Senado el 20 de noviembre. (El documento original se llama «Automated Driving Systems: Una visión para la seguridad». «Deberían rebautizarlo como ‘Una visión para la falta de seguridad'», bromeó Homendy.)
Actualmente, no hay leyes federales que exijan a los operadores de AV que demuestren la seguridad de sus vehículos antes de probarlos en las vías públicas o que proporcionen datos sobre desconexiones o fallos en sus sistemas de conducción automatizada. El único papel del gobierno es reactivo: retirar una pieza si es defectuosa o iniciar una investigación en caso de accidente.
En su informe final, la NTSB recomienda cambiar eso. Se debe exigir a los operadores de vehículos audiovisuales, y no animarles a ello, que presenten evaluaciones de seguridad si quieren probar sus vehículos en la vía pública, y debe haber un proceso de evaluación continua para determinar si los operadores de vehículos audiovisuales se ciñen a sus objetivos de seguridad.
Pero al día siguiente de la publicación del informe, el principal administrador de la NHTSA declaró en una audiencia en el Senado que el Congreso debería aprobar una ley para acelerar el despliegue de los coches totalmente autoconducidos que carecen de controles tradicionales como volantes y pedales. En la actualidad, la agencia sólo puede eximir a un total de 25.000 vehículos de las normas federales de seguridad de los vehículos de motor al año.
«Como estamos escuchando de la industria, ese tope puede ser demasiado pequeño», dijo el administrador en funciones de la NHTSA, James Owens.
El anterior intento de levantar las restricciones de los coches sin controles humanos fracasó. Los demócratas del Senado bloquearon el proyecto de ley, alegando medidas inadecuadas para garantizar la seguridad. Se está preparando un segundo intento, pero está por ver si puede reunir los votos suficientes para ser aprobado.
Las regulaciones federales excesivamente restrictivas en esta etapa de una tecnología que cambia rápidamente muy probablemente causarán mucho más daño que bien, dijo Raj Rajkumar, profesor de ingeniería eléctrica e informática en la Universidad Carnegie Mellon. «Solo porque Uber y su operador se hayan comportado mal, no se debería penalizar a todos los demás», dijo.
Se supone que los vehículos autónomos deben salvar vidas, no quitarlas. Y si la gente no confía en las empresas que están construyendo la tecnología, entonces el potencial de los coches autónomos para salvar vidas nunca se materializará. Los coches vagarán por las calles, vacíos e infrautilizados, hasta que los operadores los desconecten.
Las encuestas muestran que la mitad de los adultos estadounidenses piensan que los vehículos automatizados son más peligrosos que los vehículos tradicionales manejados por personas. Las opiniones ya se están endureciendo, y no está claro qué se puede hacer para deshacer el daño que ya ha causado el accidente de Uber.