Skip to content
En una carrera armamentista digital, los defensores siempre deben ir un paso por delante. Pero, ¿qué sucede cuando las herramientas más potentes son deliberadamente limitadas? Investigadores de ciberseguridad ofensiva están alzando la voz contra las barreras de seguridad (o “guardrails”) impuestas por gigantes como OpenAI y Anthropic. Argumentan que estas medidas, creadas con la noble intención de prevenir el uso malicioso de la IA, les impiden hacer su trabajo: encontrar y neutralizar vulnerabilidades antes de que los verdaderos criminales las exploten. En pocas palabras, la protección de la IA nos podría estar dejando a todos más desprotegidos.
Una Lucha Constante Contra el Modelo
El problema no es teórico, es una frustración diaria. Profesionales que dedican su carrera a simular ataques para fortalecer defensas se encuentran en una batalla constante, no contra hackers, sino contra el propio modelo de IA. Chris Thompson, un veterano del sector, lo resume a la perfección: “pasas mucho tiempo negociando con el modelo en lugar de trabajar en el programa de seguridad principal”. Esta fricción no solo ralentiza la investigación, sino que, según el investigador Paolo Stagno, hace que las empresas de IA “traten a sus clientes como niños que necesitan ser supervisados”, subestimando la necesidad de herramientas sin restricciones para los expertos.
El Martillo de Doble Filo
La raíz del conflicto yace en la naturaleza dual de estas herramientas. Como explica el experto Chris Anley, un simple comando como “arregla este código” es a la vez “un mecanismo esencial para la defensa, pero también una hoja de ruta para encontrar vulnerabilidades críticas”. La IA, en este contexto, es como un martillo: “No puedes construir una casa sin uno. Es definitivamente una herramienta, pero también es irreduciblemente un arma”. Al intentar eliminar su potencial como arma, las compañías están impidiendo que los constructores la usen para edificar nuestras defensas digitales.
¿Quién Decide qué es Seguro?
Esta situación plantea una pregunta fundamental sobre el poder y la gobernanza en la era de la IA. Según un reciente reporte de TechCrunch, que destapó estas tensiones, existe una creciente incomodidad en la comunidad. “No me siento cómodo con que estas grandes empresas tomen decisiones arbitrarias sobre lo que es seguro y lo que no”, afirmó el reconocido investigador Mark Dowd. Las consecuencias de esta centralización de poder son graves. Thompson advierte que esta política está empujando a los investigadores estadounidenses “hacia sistemas de propiedad extranjera” para poder trabajar sin ataduras, creando un riesgo de fuga de talento y conocimiento a competidores geopolíticos.
El panorama a futuro es preocupante. Con las capacidades de la IA creciendo exponencialmente, también lo hará su uso en ciberataques. “Se avecina una gran tormenta. Habrá una gran ola de ataques a una velocidad y escala nunca antes vistas”, alerta Thompson. Si los encargados de protegernos tienen las manos atadas, la pregunta no es si esa tormenta llegará, sino cuán preparados estaremos para sobrevivirla.