Skip to content
Hugging Face, el que para muchos es el epicentro del software de inteligencia artificial de código abierto, se encuentra en el ojo del huracán. La plataforma, venerada por desarrolladores y empresas, se ha convertido en un campo fértil para la creación de deepfakes de desnudez sin apenas supervisión. Esto no es un simple fallo técnico; es una brecha de seguridad y ética que expone a mujeres y niños a una forma de abuso digital devastadora, poniendo sobre la mesa la urgente necesidad de exigir responsabilidades a los guardianes de esta tecnología.
La voz de alarma la ha dado un demoledor informe de la organización AI Forensics, cuyos hallazgos fueron destacados por The Verge. La investigación es contundente: de los nueve modelos de edición de imágenes más populares analizados en la plataforma, siete cumplieron sin problemas con las solicitudes para generar desnudos. El análisis de las aplicaciones alojadas en los “Spaces” de Hugging Face revela una realidad aún más oscura: un abrumador 73% de las peticiones de los usuarios eran de naturaleza sexual.
Una violencia con rostro de mujer
Los datos no dejan lugar a dudas sobre quiénes son las víctimas. De esas solicitudes de índole sexual, el 83% buscaba “desnudar” una imagen preexistente. Y de esas imágenes, un escalofriante 95% correspondía a mujeres. El informe documenta además que casi el 7% de estas peticiones maliciosas tenían como objetivo explícito a niños. Estamos hablando de una herramienta que, en manos anónimas, se está utilizando sistemáticamente para generar violencia sexual no consentida.
El problema, según los investigadores, no radica en unos pocos modelos defectuosos, sino en una negligencia a nivel de plataforma. “No se están implementando salvaguardias en absoluto a nivel de plataforma”, sentenció Paul Bouchaud, uno de los autores del estudio. Hugging Face ha adoptado una postura de neutralidad que, en la práctica, se traduce en complicidad. Al no implementar filtros ni barreras efectivas, está permitiendo que sus herramientas se conviertan en armas.
Este escándalo coloca a Hugging Face y a todo el ecosistema de IA de código abierto en una encrucijada. La filosofía de compartir libremente la tecnología choca frontalmente con la responsabilidad de prevenir su uso malicioso. Este informe no será el último; es más bien el pistoletazo de salida para un debate mucho más amplio sobre regulación y la obligación de las plataformas de proteger a los usuarios, no solo de ofrecerles código.