Problemas de detección en sistemas de asistencia al conductor de Tesla
Tesla, que disolvió su equipo de relaciones públicas en 2021, no respondió a la solicitud de comentarios de WIRED. Los sistemas de cámara utilizados por los investigadores en sus pruebas fueron fabricados por HP, Pelsee, Azdome, Imagebon y Rexing; ninguna de estas empresas respondió a las solicitudes de comentarios de WIRED. Aunque la NHTSA reconoce problemas en “algunos sistemas avanzados de asistencia al conductor”, los investigadores son claros: no están seguros de a qué se debe este efecto de luces de emergencia observado en relación con los problemas del Autopilot de Tesla. “No afirmo que sé por qué los Teslas chocan con vehículos de emergencia”, dice Nassi. “No sé si esto sigue siendo una vulnerabilidad”.
Un enfoque en la detección de objetos basada en imágenes
Los experimentos de los investigadores también se centraron únicamente en la detección de objetos basada en imágenes. Muchos fabricantes de automóviles utilizan otros sensores, incluidos radares y lidar, para ayudar a detectar obstáculos en la carretera. Un número menor de desarrolladores de tecnología—Tesla entre ellos—argumenta que los sistemas basados en imágenes aumentados con entrenamiento sofisticado de inteligencia artificial pueden habilitar no solo sistemas de asistencia al conductor, sino también vehículos completamente autónomos. El mes pasado, el CEO de Tesla, Elon Musk, dijo que el sistema basado en visión de la automovilística permitiría coches autónomos el próximo año.
Reacciones de los sistemas ante luces de emergencia
De hecho, cómo un sistema podría reaccionar a luces intermitentes depende de cómo cada fabricante de automóviles diseñe sus sistemas de conducción automatizados. Algunos pueden optar por “ajustar” su tecnología para reaccionar a cosas que no están completamente seguras de que en realidad son obstáculos. En el extremo, esa elección podría llevar a “falsos positivos”, donde un automóvil podría frenar bruscamente, por ejemplo, en respuesta a una caja de cartón con forma de niño. Otros pueden ajustar su tecnología para reaccionar solo cuando están muy seguros de que lo que ven es un obstáculo. Por otro lado, esa elección podría llevar a que el automóvil no frene para evitar una colisión con otro vehículo porque no se percata de que es un vehículo completamente diferente.
Propuesta de solución para el tema de luces de emergencia
Los investigadores de BGU y Fujitsu propusieron una solución de software para el problema de los intermitentes de emergencia. Llamado “Caracetamol”—un juego de palabras entre “car” y el analgésico “Paracetamol”—está diseñado para evitar el problema de “crisis” siendo entrenado específicamente para identificar vehículos con luces de emergencia intermitentes. Los investigadores afirman que mejora la precisión de los detectores de objetos. Earlence Fernandes, profesor asistente de informática e ingeniería en la Universidad de California, San Diego, quien no participó en la investigación, dijo que parecía “sólido”. “Así como un humano puede quedar temporalmente cegado por luces intermitentes de emergencia, una cámara operando dentro de un sistema avanzado de asistencia al conductor puede quedar temporalmente cegada”, dice.
Bryan Reimer, investigador que estudia la automatización y seguridad de vehículos en el MIT AgeLab, menciona que el estudio apunta a preguntas más complejas sobre las limitaciones de los sistemas de conducción basados en IA. Los fabricantes de automóviles necesitan “validación repetible y robusta” para descubrir puntos ciegos como la susceptibilidad a las luces de emergencia, dice. Le preocupa que algunos fabricantes de automóviles estén “moviendo la tecnología más rápido de lo que pueden probarla.”
Fuente y créditos: www.wired.com
Cats: Security
