IA: la banalidad del mal

Una reflexión sobre cómo la tecnología y la inteligencia artificial replantean los límites morales de la vida, la muerte y la dignidad humana en el siglo XXI

Hubo un tiempo en que la humanidad temía a los tiranos de carne y hueso. Temíamos al monarca que firmaba sentencias de muerte con tinta imperial, al dictador que desaparecía cuerpos durante la madrugada, al soldado que oprimía el gatillo mirando directamente a los ojos de su víctima. Existía, al menos, una tragedia profundamente humana en el acto de matar: alguien decidía, alguien ejecutaba y alguien cargaba, aunque fuese parcialmente, con el peso moral de la sangre derramada.

Pero el siglo XXI está engendrando una atrocidad distinta. Por primera vez en la historia comenzamos a aceptar con inquietante normalidad la posibilidad de que una máquina decida quién vive y quién muere. Y quizá ese debería ser uno de los nuevos límites absolutos de los derechos humanos: ningún ser humano debería ser asesinado por decisión autónoma de un algoritmo. Porque detrás de la retórica tecnocrática, detrás del lenguaje aséptico de la innovación y la eficiencia militar, se esconde una pregunta aterradora: ¿qué ocurre con la dignidad humana cuando la muerte deja de ser una decisión moral y se convierte en un simple cálculo computacional?

Hannah Arendt comprendió algo fundamental tras observar los horrores burocráticos del siglo XX, el mal moderno no siempre emerge del odio visceral, sino de la administración fría y mecánica de la obediencia. La “banalidad del mal”, como ella la llamó, aparecía precisamente cuando los individuos dejaban de pensar moralmente y se limitaban a cumplir funciones dentro de una maquinaria más grande que ellos mismos.

La inteligencia artificial aplicada a sistemas letales representa la culminación extrema de esa lógica. Ya no habría siquiera un burócrata justificando sus actos ni un soldado enfrentando el temblor psicológico de matar. Solo existiría una arquitectura algorítmica procesando datos, probabilidades y objetivos estratégicos mientras la vida humana es reducida a una variable estadística. La muerte sin conciencia.

Y allí emerge también la advertencia de Michel Foucault. El filósofo entendió que el poder moderno ya no opera únicamente mediante la violencia visible, sino mediante sistemas capaces de administrar cuerpos, conductas y existencias enteras. Lo llamó biopoder: la capacidad de decidir qué vidas deben protegerse y cuáles pueden ser sacrificadas en nombre del orden, la seguridad o el progreso.

La inteligencia artificial militarizada constituye la forma más sofisticada de biopoder jamás concebida. Un poder sin rostro, sin fatiga y sin remordimiento. Un poder capaz de vigilar, perfilar y eliminar individuos con precisión matemática mientras el lenguaje político disfraza todo bajo expresiones clínicas como “neutralización de amenazas” o “optimización táctica”. Pero la historia enseña algo todavía más sombrío: las nuevas tecnologías de control rara vez se prueban primero sobre los poderosos.

Frantz Fanon entendió que los cuerpos colonizados suelen convertirse en laboratorios del poder moderno. Son las periferias las que reciben primero la violencia deshumanizada del imperio. Y uno no necesita demasiada imaginación para comprender quiénes serán las primeras víctimas masivas de sistemas autónomos de vigilancia y exterminio - pueblos pobres, territorios periféricos, migrantes, habitantes del sur global convertidos en amenazas estadísticas dentro de pantallas militares situadas a miles de kilómetros de distancia.

América Latina conoce demasiado bien esa lógica.

Nuestros pueblos han sido históricamente territorios donde las grandes potencias experimentan doctrinas económicas, estrategias militares y arquitecturas de dominación antes de exportarlas al resto del mundo. Honduras misma ha sentido demasiadas veces el peso de decisiones tomadas lejos de sus montañas y demasiado cerca de centros de poder incapaces de pronunciar siquiera el nombre de nuestros muertos.

Por eso este debate no es tecnológico. Es profundamente civilizatorio. Porque el día en que aceptemos que una máquina pueda decidir autónomamente sobre la vida humana habremos cruzado una frontera moral irreversible. Habremos transformado la muerte en procedimiento y la existencia humana en dato administrable. Y quizá entonces descubramos, demasiado tarde, que la amenaza nunca fue que las máquinas aprendieran a pensar como hombres, sino que los hombres terminaran aceptando pensar como máquinas.

Te gustó este artículo, compártelo
Últimas Noticias