Honduras, con una población altamente expuesta ante los criminales informáticos, está contra el tiempo para crear una ley que castigue la pornografía, suplantación de identidad, extorsiones, estafas y otros delitos cometidos a través de la nueva inteligencia artificial (IA).
Organizaciones hondureñas que protegen a las mujeres y niños empiezan a manifestar preocupación ante la sofisticación de los delitos derivados de la IA, particularmente por la difusión de material audiovisual que suplantan la imagen y voz de personas sin su consentimiento, llamados videos ultrafalsos o deepfakes.
Un deepfake compila imágenes y sonidos engañosos y los une utilizando algoritmos de aprendizaje automático, como resultado, crea escenas con personas (reales o irreales) que jamás realizaron esas acciones y que nunca autorizaron la producción audiovisual, de acuerdo con la empresa de seguridad cibernética Fortinet.
Hasta ahora no hay un informe sobre la situación en Honduras, sin embargo, a nivel mundial, el número total de vídeos deepfake online está en ascenso: en 2023 llegó a 95,820, representó un aumento del 550% respecto a 2019, establece el informe Estado de los Deepfakes Realidades, amenazas e impacto, publicado por la compañía global Security Hero.
Más allá del crecimiento, los deepfake son un problema grave para la sociedad, pues dentro de ese cúmulo de vídeos, la pornografía representa el 98%. El 99% de las personas a las que se dirige la pornografía deepfake son mujeres, según Security Hero.
Noemy Dubón, abogada de la Colectiva de Mujeres Hondureñas (Codemuh), considera que “el país necesita una ley especial para proteger a las personas más vulnerables, como mujeres y niños, pues Honduras es un país que está atrasado en todo”.
Dubón dice que “la tecnología abre nuevas oportunidades de desarrollo a las personas, pero también produce daños y perjuicios cuando estas nuevas herramientas son utilizadas por personas que tienen conductas delictivas”. “Los diputados y diputadas deberían estar accionando para aprobar una ley que castigue o evite este tipo de violencia contra la mujer”.
¿Es necesario aprobar una ley contra los videos ultrafalsos?
Preocupados por la multiplicación de estafas, extorsiones y otros delitos derivados de videos ultrafalsos, organizaciones como Unesco y autoridades de algunos países de América Latina están promoviendo la aprobación de nuevas leyes, como Perú, que recientemente comenzó el proceso para reformar el Código Penal para incorporar como forma agravada el uso de IA en la ejecución de delitos comunes.
La Unesco ha advertido que el rápido auge de la IA ha generado muevas oportunidades, desde facilitar los diagnósticos de salud hasta posibilitar las conexiones humanas a través de las redes sociales, pero, al mismo tiempo, surgen riesgos asociados que contribuyen a la degradación del clima, derechos humanos, desigualdades en perjuicios de los grupos históricamente marginados.
En Honduras, desde el punto de vista de Leonardo Pineda, especialista en seguridad ciudadana y políticas públicas, los individuos que cometan delitos con inteligencia artificial pueden ser juzgados con el Código Penal, particularmente cuando se trate de pornografía infantil y la afectación de la honorabilidad de las personas.
Aprobar una ley, según Pineda, “es cruzar una línea muy fina, muy compleja, sobre todo en países como los nuestros, donde pueden terminar criminalizando la libertad de expresión”.
“¿Quién marca esa línea? ¿Quién marca esa pauta? En Honduras no tenemos un Ministerio Público que pueda comprobar a ciencia cierta los delitos relacionados con IA. Hay que pensarlo muy bien, porque una ley puede ser utilizada como arma por las estructuras de poder para criminalizar la libertad de expresión”, advierte.
Pineda plantea que las universidades deben formar profesionales con capacidades y conocimientos en IA que permitan establecer si un material audiovisual, sospechoso de ser deepfake, puede ser una prueba en un juicio “porque estamos viviendo en un mundo digital y ese es el pan nuestro de cada día”.
Recientemente, en el primer webinar denominado ¿Qué es la inteligencia artificial moderna y de dónde surge?, patrocinado por la Unión Europea, Global Gateway y Cybersec Cluster, Saúl Calderón, doctor en ciencias de la computación y profesor en el Instituto Tecnológico de Costa Rica, maifestó que Centroamérica debería “hacer una estrategia regional (...)” para que las universidades desarrollen postgrados con el objetivo de obtener los beneficios que ofrece la IA a mediano y largo plazo y resolver los problemas.
Calderón observa que en los países de Centroamérica hay “poca inversión en investigación en tecnología (centros de investigación con investigadores de planta, doctorados y maestrías con poco financiamiento y baja atracción y retención de investigadores)”.
Calderón también destaca la “falta de inversión en investigación tecnológica en Centroamérica. Advierte que la región sufre una escasez de centros de investigación, financiación adecuada y programas de doctorado y maestría, lo que limita el avance en este campo. La atracción y retención de investigadores también es un desafío importante”.
Hasta ahora, los países que más han registrado deepfakes son Corea del Sur, China, Japón, India, Estados Unidos, Inglaterra, según Security Hero, donde las autoridades han detectado que los delincuentes han producido estos materiales para extorsionar, desinformar o provocar daños económicos a personas e instituciones.
