Nueva York, Estados Unidos.
¿Cómo pudo una tripulación bien capacitada que volaba un aeroplano moderno perder el control tan abruptamente de su nave durante un vuelo de rutina?
La automatización proporciona una capacidad masiva de procesamiento de datos y uniformidad en la respuesta. Sin embargo, también puede interferir con el ciclo básico de los pilotos de planear, hacer, revisar y actuar, que es fundamental para el control y el aprendizaje. Ese fue el reto que la tripulación del AF447 enfrentó. Pero sus miembros también tuvieron que lidiar con ciertas “sorpresas de la automatización”, como el que la tecnología se comportara de maneras que ellos no entendían ni esperaban.
El AF447 llevaba tres horas y media de vuelo sobre el Atlántico. Un congelamiento temporal de los sensores de velocidad del Airbus A330 provocó lecturas incongruentes de la velocidad aerodinámica, lo que a su vez llevó a la computadora del vuelo a desconectar el piloto automático. Los sorprendidos pilotos tuvieron que volar el avión manualmente.
Una serie de mensajes aparecieron en una pantalla frente a los pilotos, con información crucial sobre el estado de la aeronave. Todo lo que se necesitaba era que un piloto, Pierre-Cédric Bonin, mantuviera el trayecto del vuelo manualmente mientras el otro, David Robert, diagnosticaba el problema.
Para cuando la tripulación descubrió lo que estaba sucediendo, ya no había suficiente altitud para recuperarse, y el AF447 chocó contra el océano. La posibilidad de que un avión dejara de funcionar sin que la tripulación se diera cuenta también estaba aparentemente fuera de lo que los diseñadores del sistema de la aeronave se imaginaron. Las funcionalidades diseñadas para ayudar a los pilotos en circunstancias normales se sumaron a sus problemas.
La idea de que la misma tecnología que permite a los sistemas ser eficientes y en gran medida no presentar errores también genera vulnerabilidades sistémicas que devienen en catástrofes ocasionales se llama “la paradoja de los sistemas casi totalmente seguros”. Esta paradoja tiene implicaciones para la implantación de tecnología en muchas organizaciones, no solo en aquellas con una seguridad crítica.
Una es la importancia de la cesión de manejo de las máquinas a los humanos, algo que salió muy mal en el AF447. Conforme ha aumentado la sofisticación y complejidad de la automatización, también lo han hecho las condiciones bajo las cuales esas cesiones pueden ocurrir.
Una segunda cuestión es cómo podemos capitalizar los beneficios ofrecidos por la tecnología al tiempo que conservamos las habilidades cognitivas necesarias para manejar situaciones excepcionales. Los pilotos pasan por una instrucción intensa, con evaluaciones frecuentes, ensayos y simulaciones, pero la pérdida de control sigue siendo una fuente de preocupación.
La aviación comercial ofrece una ventana fascinante hacia la automatización, pues los beneficios, así como los riesgos ocasionales, son muy visibles y dramáticos. Cuando la automatización mantiene a las personas completamente seguras casi todo el tiempo, es más probable que tengan problemas para hacerse cargo cuando esta deja de funcionar abruptamente.
(Nick Oliver es profesor de la Escuela de Negocios de la Universidad de Edimburgo, en el Reino Unido, Thomas Calvard es maestro ahí y Kristina Potocnik es una conferencista sénior).
¿Cómo pudo una tripulación bien capacitada que volaba un aeroplano moderno perder el control tan abruptamente de su nave durante un vuelo de rutina?
La automatización proporciona una capacidad masiva de procesamiento de datos y uniformidad en la respuesta. Sin embargo, también puede interferir con el ciclo básico de los pilotos de planear, hacer, revisar y actuar, que es fundamental para el control y el aprendizaje. Ese fue el reto que la tripulación del AF447 enfrentó. Pero sus miembros también tuvieron que lidiar con ciertas “sorpresas de la automatización”, como el que la tecnología se comportara de maneras que ellos no entendían ni esperaban.
El AF447 llevaba tres horas y media de vuelo sobre el Atlántico. Un congelamiento temporal de los sensores de velocidad del Airbus A330 provocó lecturas incongruentes de la velocidad aerodinámica, lo que a su vez llevó a la computadora del vuelo a desconectar el piloto automático. Los sorprendidos pilotos tuvieron que volar el avión manualmente.
Una serie de mensajes aparecieron en una pantalla frente a los pilotos, con información crucial sobre el estado de la aeronave. Todo lo que se necesitaba era que un piloto, Pierre-Cédric Bonin, mantuviera el trayecto del vuelo manualmente mientras el otro, David Robert, diagnosticaba el problema.
Para cuando la tripulación descubrió lo que estaba sucediendo, ya no había suficiente altitud para recuperarse, y el AF447 chocó contra el océano. La posibilidad de que un avión dejara de funcionar sin que la tripulación se diera cuenta también estaba aparentemente fuera de lo que los diseñadores del sistema de la aeronave se imaginaron. Las funcionalidades diseñadas para ayudar a los pilotos en circunstancias normales se sumaron a sus problemas.
La idea de que la misma tecnología que permite a los sistemas ser eficientes y en gran medida no presentar errores también genera vulnerabilidades sistémicas que devienen en catástrofes ocasionales se llama “la paradoja de los sistemas casi totalmente seguros”. Esta paradoja tiene implicaciones para la implantación de tecnología en muchas organizaciones, no solo en aquellas con una seguridad crítica.
Una es la importancia de la cesión de manejo de las máquinas a los humanos, algo que salió muy mal en el AF447. Conforme ha aumentado la sofisticación y complejidad de la automatización, también lo han hecho las condiciones bajo las cuales esas cesiones pueden ocurrir.
Una segunda cuestión es cómo podemos capitalizar los beneficios ofrecidos por la tecnología al tiempo que conservamos las habilidades cognitivas necesarias para manejar situaciones excepcionales. Los pilotos pasan por una instrucción intensa, con evaluaciones frecuentes, ensayos y simulaciones, pero la pérdida de control sigue siendo una fuente de preocupación.
La aviación comercial ofrece una ventana fascinante hacia la automatización, pues los beneficios, así como los riesgos ocasionales, son muy visibles y dramáticos. Cuando la automatización mantiene a las personas completamente seguras casi todo el tiempo, es más probable que tengan problemas para hacerse cargo cuando esta deja de funcionar abruptamente.
(Nick Oliver es profesor de la Escuela de Negocios de la Universidad de Edimburgo, en el Reino Unido, Thomas Calvard es maestro ahí y Kristina Potocnik es una conferencista sénior).
