San Francisco, Estados Unidos
Facebook anunció ayer que eliminó en el último trimestre 8,7 millones de imágenes de usuarios con desnudos infantiles gracias a la ayuda de un software que detecta automáticamente este tipo de fotos.
La herramienta de aprendizaje automático implementada el año pasado identifica imágenes que contienen desnudos y un niño, lo que permite un mayor cumplimiento de la prohibición de Facebook de exhibir fotos que muestren a menores en un contexto sexualizado. Un sistema similar también reveló la detección de usuarios involucrados en intentar hacerse amigos de menores para la explotación sexual, una práctica conocida como grooming o ciberacoso.
La jefe de seguridad global de Facebook, Antigone Davis, dijo que la “máquina nos ayuda a priorizar” y “organizar de manera más eficiente” el contenido problemático para el equipo de supervisores de la compañía, que está analizando la utilización de la misma tecnología a su aplicación Instagram.
Davis aclaró que los sistemas de seguridad infantil cometen errores, pero los usuarios pueden apelar. “Preferimos errar por el lado de la precaución con los niños”, sostuvo.
