Los reguladores federales de seguridad han abierto una investigación sobre la muerte del conductor de un Tesla Model S cuyo coche funcionaba con el sistema Autopilot activado. Se trata del primer accidente mortal conocido que involucra el sistema de automatización parcial de la compañía y una prueba decisiva sobre cómo los conductores, los fabricantes y el gobierno entienden la tecnología que puede dirigir el vehículo, pero que no puede reemplazar la atención humana.
El accidente ocurrido el 7 de mayo en Williston, Florida, le costó la vida a Joshua Brown, de 40 años, cuando un camión con remolque giró a la izquierda, interponiéndose en el camino del Tesla. Según la información divulgada por Tesla el jueves, ni el conductor ni el Autopilot aplicaron los frenos porque el sistema no pudo distinguir el lateral blanco del remolque del cielo iluminado. El automóvil pasó por debajo del remolque.
La Administración Nacional de Seguridad del Tráfico en las Carreteras (NHTSA) ha iniciado una evaluación preliminar que abarca aproximadamente 25 000 vehículos Model S. La agencia indicó que la investigación examinará el diseño y el rendimiento de los sistemas de conducción automatizada en uso en ese momento; el inicio de la investigación no significa que los reguladores hayan encontrado algún defecto.
Un sistema diseñado para asistir, no para reemplazar, al conductor
El sistema Autopilot combina cámaras, radar, sensores ultrasónicos y cartografía digital para mantener el carril, controlar la velocidad y cambiar de carril siguiendo las instrucciones del conductor. Tesla introdujo estas funciones mediante una actualización de software el pasado octubre, un modelo de implementación inusual que dotó a los vehículos existentes de nuevas capacidades sin necesidad de acudir a un centro de servicio.
El sistema no es autónomo. Tesla exige que los conductores mantengan las manos en el volante y estén preparados para tomar el control. Las advertencias visuales y sonoras se intensifican si el vehículo no detecta ninguna acción del volante. El manual del propietario del Model S describe la función Autosteer como una característica en fase beta destinada a autopistas y advierte sobre su uso en calles con intersecciones o tráfico impredecible.
Esa distinción es técnicamente clara, pero en la práctica resulta inestable. Un sistema capaz de controlar un vehículo durante largos periodos puede llevar a los conductores a considerar la supervisión como opcional, sobre todo cuando funciona de forma fiable la mayor parte del tiempo. La automatización puede reducir la carga de trabajo, pero también dificulta la intervención inmediata cuando esta es poco frecuente, ya que el factor humano queda excluido del control.
El accidente expone los límites de la percepción de las máquinas
La colisión en Florida presenta un caso visual complejo: un gran remolque blanco cruzando la carretera contra un fondo brillante. Tesla afirmó que la gran altura del remolque y su posición transversal contribuyeron a la gravedad del accidente. Los sistemas de radar y cámara deben clasificar los objetos, predecir su movimiento y determinar si es necesario frenar sin reaccionar de forma peligrosa ante puentes, señales de tráfico y otras estructuras elevadas.
Según Reuters, la información preliminar indica que el camión con remolque giró en una intersección en una carretera despejada y seca. Los investigadores necesitarán los registros del vehículo, los datos de los sensores y las pruebas físicas para determinar la velocidad, las acciones del conductor, las advertencias y la respuesta exacta de cada subsistema.
Este caso también pone de relieve la importancia del término «piloto automático». Tesla lo utiliza por analogía con la aviación, donde los sistemas automatizados aún requieren pilotos entrenados. Los conductores comunes pueden percibir una promesa más contundente. La compañía reitera que los conductores deben seguir siendo responsables, pero los nombres de los productos, las demostraciones y la experiencia de conducir sin intervención del conductor pueden influir en las expectativas con la misma fuerza que las advertencias.
La regulación está quedando rezagada con respecto al software
de la NHTSA para la automatización de vehículos distingue entre las funciones de asistencia al conductor y los sistemas capaces de realizar la tarea de conducción completa. El piloto automático pertenece a la primera categoría: controla la dirección y la velocidad en condiciones limitadas, mientras que el conductor supervisa el entorno.
La normativa automovilística tradicional se centra en los componentes físicos y los defectos. El comportamiento controlado por software cambia con mayor rapidez, se puede actualizar de forma inalámbrica y depende de la interacción de sensores, código, condiciones de la carretera y el uso humano. Por lo tanto, la investigación debe determinar no solo si falló una pieza, sino también si las limitaciones y advertencias del sistema se diseñaron adecuadamente para un comportamiento predecible del conductor.
Tesla afirma que sus clientes han recorrido más de 130 millones de millas con el Autopilot activado y compara el único accidente mortal con una muerte por accidente de tráfico en EE. UU. aproximadamente cada 94 millones de millas. Esta comparación es preliminar y no permite establecer un nivel de seguridad relativo, ya que el uso del Autopilot se concentra en carreteras y condiciones diferentes al promedio nacional, y porque los datos de uso no han sido analizados de forma independiente.
Un artículo técnico contemporáneo de Wired señala que el rápido despliegue de Tesla difiere del despliegue más conservador que planean los fabricantes de automóviles tradicionales. Esta velocidad permite obtener datos reales y mejoras con mayor rapidez, pero también traslada una mayor parte del entorno de pruebas a los clientes.
La transparencia determinará la confianza en la automatización parcial
La muerte no demuestra que la conducción automatizada sea menos segura que la conducción humana. El error humano contribuye a la gran mayoría de los accidentes, y un sistema de asistencia bien diseñado podría prevenir muchos de ellos. El frenado automático de emergencia, el mantenimiento de carril y las advertencias de colisión ya ofrecen ventajas sin necesidad de una autonomía total.
Pero el progreso depende de descripciones precisas de las capacidades y limitaciones. La taxonomía de automatización de la Sociedad de Ingenieros Automotrices (SAE) distingue entre los sistemas que asisten en uno o más controles y aquellos que supervisan el entorno de conducción. El piloto automático aún requiere que el conductor realice dicha supervisión. Un lenguaje público que difumine estos niveles puede propiciar un uso indebido, incluso si las advertencias legales son precisas.
El enfoque de Tesla también plantea interrogantes sobre el acceso a los datos. La compañía puede recuperar registros detallados de los vehículos y actualizar el software de forma remota, lo que le brinda una perspectiva inusual sobre los incidentes. Los reguladores necesitan acceso suficiente para verificar las afirmaciones de la compañía e identificar patrones en accidentes y situaciones de riesgo. Los conductores necesitan información clara sobre qué datos se registran y cómo se utilizan.
El programa de seguridad para vehículos automatizados de la NHTSA ha fomentado la innovación al tiempo que desarrollaba políticas para sistemas cada vez más avanzados. La investigación en Florida pondrá a prueba si las herramientas existentes son adecuadas cuando el software evoluciona más rápido que las normas formales.
La investigación inmediata se centrará en un automóvil, un camión y una intersección. Su importancia radica en los millones de futuras transiciones entre humanos y máquinas. La automatización parcial ocupa el punto intermedio más complejo: lo suficientemente capaz como para inspirar confianza, pero lo suficientemente limitada como para requerir vigilancia. La seguridad de esta transición dependerá no solo de la mejora de los sensores, sino también de si la tecnología se diseña teniendo en cuenta cómo se comportan realmente las personas cuando una máquina parece conducir por ellas.
