No dia 20 de novembro, o National Transportation Safety Board (NTSB) divulgou os resultados de sua investigação sobre o acidente fatal de Uber de 2018 em Tempe, Arizona, que se acreditava ser a primeira morte do mundo por um carro que se dirigia sozinho.
Mas em vez de colocar as algemas no carro robô de Uber, os investigadores destacaram os muitos erros humanos que culminaram com a morte de Elaine Herzberg de 49 anos. E eles soaram um aviso: poderia acontecer novamente.
“Se a sua empresa testar sistemas de condução automatizados em vias públicas, este acidente, foi sobre você”, disse Robert Sumwalt, presidente da NTSB, em sua declaração de abertura da audiência de ontem.
Quando a diretoria leu em voz alta suas descobertas sobre a causa provável do acidente em Tempe, a primeira pessoa a ser culpada foi Rafaela Vasquez, a motorista de segurança no veículo no momento do acidente. Vasquez nunca foi chamada pelo nome, mas as suas falhas como cão de guarda do sistema de condução automatizado foram postas em destaque pelo NTSB.
Nos minutos antes do impacto, Vasquez foi reportado um episódio de The Voice no seu telefone, o que viola a política de Uber que proíbe o uso do telefone. De facto, os investigadores determinaram que ela tinha estado a olhar para o seu telefone e longe da estrada durante mais de um terço do tempo total que esteve no carro até ao momento do acidente.
A falha de Vasquez em “monitorizar o ambiente de condução e o funcionamento do sistema de condução automatizado porque ela estava visualmente distraída durante a viagem pelo seu telemóvel pessoal” foi citada como a principal causa do acidente. Mas ela compartilha a culpa com seus empregadores em Uber, onde uma cultura de segurança terrivelmente inadequada também contribuiu para a morte de Herzberg, disse a diretoria. Da mesma forma, o governo federal também arcou com sua parcela de responsabilidade por não regular melhor as operações autônomas de automóveis.
“Na minha opinião, eles colocaram o avanço tecnológico aqui antes de salvar vidas”, disse Jennifer Homendy, membro do conselho da NTSB, da Administração Nacional de Segurança Rodoviária (NHTSA), que é responsável pela regulamentação dos padrões de segurança dos veículos.
Na época do acidente, o Grupo de Tecnologias Avançadas de Uber não tinha um plano de segurança corporativo ou documento orientador que identificasse as funções e responsabilidades individuais dos funcionários para gerenciar a segurança, disse Michael Fox, investigador sênior de acidentes rodoviários da NTSB. A empresa também não tinha uma divisão de segurança e não tinha um gerente de segurança dedicado responsável pela avaliação e mitigação de riscos. Nas semanas anteriores ao acidente, Uber tomou a decisão fatídica de reduzir o número de motoristas de segurança em cada veículo de dois para um. Essa decisão removeu uma redundância importante que poderia ter ajudado a evitar a morte de Herzberg.
Não só Vasquez estava sozinho no carro na época, mas sua atitude complacente sobre o sistema automatizado de condução do carro também ajudou a contribuir para o acidente. E essa atitude foi terrivelmente deslocada. O carro detectou que Herzberg estava atravessando a rua com sua bicicleta 5,6 segundos antes do impacto. Mas mesmo que o sistema tenha continuado a rastrear Herzberg até o acidente, ele nunca a identificou corretamente como um ser humano na estrada, nem previu com precisão seu caminho.
“A complacência automática… precisa estar no vocabulário de todos”, disse Bruce Landsberg, um membro da diretoria da NTSB.
Vasquez estava completamente inconsciente deste conflito até ser tarde demais. Uma das lições implícitas do acidente de Uber e da subsequente investigação da NTSB é a subutilização dos condutores de segurança em carros auto-conduzidos, disse Mary “Missy” Cummings, diretora do Laboratório de Humanos e Autonomia da Universidade Duke. Uber e outras empresas que testam carros auto-conduzidos normalmente contratam empreiteiros independentes como motoristas de segurança para andar nos carros e gerar milhas. Eles são vistos como pouco mais do que corpos em assentos. Em vez disso, eles devem ser vistos como parceiros críticos em um protocolo de teste que pode dar feedback muito útil, disse Cummings.
“Claro, isso custaria dinheiro”, disse ela. “Apesar de todos dizerem que a segurança é fundamental, ninguém que eu conheça está apoiando os motoristas de segurança desta forma”, disse ela.”
A agressiva cultura corporativa de Uber – a necessidade de testar veículos autônomos mesmo que a tecnologia não estivesse pronta – foi exposta não apenas através desta investigação, mas também através do processo judicial trazido pela Waymo, a empresa de auto-condução expulsa do Google, que acusou Uber de roubar seus segredos comerciais de auto-condução.
“O motorista teve uma chance de salvar sua vida”, disse ao The Verge um ex-funcionário da Uber ATG que estava com a empresa no momento do acidente, “mas Uber tinha dezenas”.”
Uber ATG estava sob enorme pressão para mostrar resultados à nova CEO, Dara Khosrowshahi, que alegadamente estava considerando fechar a divisão devido à montagem de R&D custos. Isso levou-os a fazer cortes, embora a empresa tenha feito passos significativos para resolver esses erros.
Os membros do conselho da NTSB salvaram as suas avaliações mais contundentes para o governo federal. Homendy culpou a NHTSA por priorizar o avanço tecnológico em vez de salvar vidas, e ela chamou a orientação voluntária da agência de “laxista” a ponto de ser “risível”
As diretrizes de segurança voluntária foram estabelecidas pela primeira vez sob o Presidente Obama, que temia que regras restritivas que governassem os testes de carros auto-conduzidos pudessem asfixiar a inovação. Essas regras foram tornadas ainda mais laxistas sob o Presidente Trump, que foi mais longe ao eliminar um comitê federal all-star sobre automação veicular que deveria servir como um “recurso crítico” para o Departamento de Transportes. Trump eliminou o comitê sem sequer dizer a alguns de seus membros, The Verge relatou recentemente.
Até agora, apenas 16 empresas submeteram relatórios de segurança voluntários à NHTSA, muitos deles pouco mais do que “folhetos de marketing”, disse Ensar Becic, gerente de projetos e investigador de desempenho humano do Escritório de Segurança Rodoviária. Isso representa apenas uma fração das mais de 60 empresas que testam carros automotores somente na Califórnia.
“Quero dizer, você pode muito bem dizer que gostaríamos de suas avaliações, mas realmente não estamos exigindo isso”, disse Homendy durante a audiência. “Então por que fazer isso?”
O Departamento de Transportes emitiu três versões de sua orientação automatizada de segurança veicular, e planeja emitir uma quarta versão que incorpora as lições aprendidas com o acidente de Tempe, disse Joel Szabat, atuando como secretário de política do Departamento de Transportes, durante uma audiência no Senado em 20 de novembro. (O documento original chama-se “Automated Driving Systems” (Sistemas Automáticos de Condução): Uma Visão para a Segurança”. “Eles deveriam renomeá-lo ‘Uma Visão para a Falta de Segurança'”, Homendy respondeu.)
Neste momento, não existem leis federais que exijam que os operadores de AV demonstrem a segurança de seus veículos antes de testá-los em estradas públicas ou fornecer dados sobre desengates ou falhas em seus sistemas de condução automatizada. O único papel do governo é reativo: chamar de volta uma peça se ela estiver com defeito ou iniciar uma investigação em caso de acidente.
Em seu relatório final, a NTSB recomenda mudar isso. Os operadores AV devem ser obrigados, não encorajados, a submeter avaliações de segurança se quiserem testar seus veículos nas vias públicas, argumenta, e é necessário haver um processo de avaliação contínua para determinar se os operadores AV estão cumprindo seus objetivos de segurança.
Mas no dia seguinte ao relatório ser divulgado, o administrador máximo da NHTSA testemunhou em uma audiência no Senado que o Congresso deveria aprovar uma lei para acelerar a implantação de carros totalmente autoconduzidos que não possuem controles tradicionais como volantes e pedais. Atualmente, a agência só está autorizada a isentar um total de 25.000 veículos das normas federais de segurança de veículos motorizados por ano.
“Como estamos ouvindo da indústria que o limite pode ser muito pequeno”, disse o administrador interino da NHTSA James Owens.
A tentativa anterior de levantar as restrições dos carros sem controles humanos fracassou. Os democratas no Senado bloquearam o projeto de lei, citando medidas inadequadas para garantir a segurança. Uma segunda tentativa está em andamento, mas resta saber se ela pode reunir votos suficientes para passar.
As regulamentações federais excessivamente restritivas nesta fase de uma tecnologia em rápida mudança muito provavelmente causarão significativamente mais danos do que benefícios, disse Raj Rajkumar, professor de engenharia elétrica e de computação da Universidade Carnegie Mellon. “Só porque Uber e seu operador se comportaram mal, todos os outros não devem ser penalizados”, disse ele.
Veículos autônomos devem salvar vidas, não levá-los”. E se as pessoas não confiam nas empresas que estão construindo a tecnologia, então o potencial de salvar vidas de carros auto-conduzidos nunca se materializará. Os carros vagarão pelas ruas, vazios e subutilizados, até os operadores puxarem a ficha.
As sondagens mostram que metade dos adultos americanos pensam que os veículos automatizados são mais perigosos do que os veículos tradicionais operados por pessoas. As opiniões já estão endurecendo, e não está claro o que pode ser feito para desfazer os danos que o acidente do Uber já causou.