El caso de la aceleración imprevista de Toyota, o de cómo un código mal hecho puede resultar fatal

Un ejemplo de ello son los vehículos. En el pasado eran objetos esencialmente mecánicos, con poleas, válvulas y mecanismos de comunicación que se basaban en la fuerza aplicada. Sin embargo, la mejora en sus sistemas comenzó a requerir mecanismos de medición más precisos, y todos ellos comenzaron a integrar pequeños computadores dentro de sí.

En la actualidad, la mayor parte de las acciones de los vehículos son ejecutadas por un computador, no por la persona directamente.  Y si bien esto incrementa de manera considerable la eficiencia y la precisión, significa que un error en el computador puede resultar en un accidente letal.

Y esto fue precisamente lo que pasó en el año 2007 con el caso del Toyota que aceleró solo.

El “código espagueti”

En septiembre de 2007 Jean Bookout y Barbara Schwarz se encontraban conduciendo en Oklahoma, Estados Unidos, cuando se estrelló de manera dramática. Bookout pasó 5 meses hospitalizada, mientras que Schwarz murió en el accidente.

La investigación descubrió cosas muy curiosas. En primer lugar, toda la trayectoria previa al choque tenía densas marcas negras en el pavimento. Bookout afirmaba que no solo había usado los frenos de manera desesperada, sino que había puesto así mismo el freno de mano, y sin embargo el vehículo había seguido acelerando. Y la evidencia así lo demostraba.

Lo que siguió fue una larga y tediosa investigación en la que un puñado de especialistas pasó casi dos años revisando las miles de líneas de código del computador que manejaba este Toyota. Lo que estos especialistas se encontraron fue un sistema repleto de posibles fallas, que podía generar en cualquier momento un error. Uno de los problemas, por ejemplo, estaba asociado a una serie de “variables globales”, de las cuales en teoría no podía haber ninguna, pero en la práctica se hace necesario poner algunas. 5, 10, 20 quizás.

Había 10.000.

En fin, Toyota fue encontrado culpable, pero lo que la experiencia nos dejó fue una noción del peligro que representa depender excesivamente de mecanismos digitales, en particular cuando son extremadamente complejos… y cuando de ellos puede depender la vida de una persona. La advertencia de este suceso, ocurrido en 2007, sigue más vigente que nunca hoy que nos encontramos avanzando hacia mecanismos más y más automatizados y le apuntamos a una Inteligencia Artificial.

Fuentes:

Imagen: ibtimes.com