Skip to content
En medio del acalorado debate que divide a la industria de la inteligencia artificial, el CEO de Anthropic, Dario Amodei, ha puesto las cartas sobre la mesa. No, su compañía no quiere prohibir los modelos de código abierto. El problema, para Amodei, es mucho más grande y tiene un nombre propio: China. Su intervención redefine el marco de la discusión, llevándola del terreno técnico al tablero geopolítico donde la seguridad nacional se convierte en la principal preocupación.
Un “Bien Público” con Condiciones
Lejos de la imagen de un opositor acérrimo, Amodei defendió que “los modelos de código abierto que no tienen capacidades peligrosas son un bien público”. En declaraciones recogidas por TechCrunch este lunes, el líder de una de las empresas de IA más enfocadas en seguridad buscó disipar la idea de que su objetivo es acabar con el ecosistema abierto que impulsan compañías como Meta o Mistral. La línea roja, según su visión, se cruza cuando un modelo adquiere capacidades que pueden ser armadas o utilizadas para causar un daño a gran escala, un punto donde la apertura se convierte en vulnerabilidad.
El Fantasma de Pekín
La verdadera preocupación de Anthropic no reside en los desarrolladores independientes, sino en los “gobiernos autoritarios”. Amodei señaló directamente a China como el actor “más capaz” de tomar un modelo de vanguardia y utilizarlo para buscar una “superioridad militar permanente” o para perfeccionar sus herramientas de represión ciudadana. El escenario que más le inquieta es el de los “ataques biológicos”, un riesgo que, en su opinión, se magnifica con los modelos abiertos por la dificultad inherente de rastrear su uso y modificación para fines maliciosos.
Soluciones Drásticas para un Problema Complejo
Ante este panorama, las propuestas de Amodei van más allá de la simple retórica. Sugiere medidas concretas como restringir el acceso de China a los chips más avanzados —una política que ya resuena en Washington— y combatir activamente la “destilación” de modelos, una técnica para crear versiones más pequeñas y eficientes a partir de los grandes modelos cerrados. Esto pone sobre la mesa una nueva capa de control en la carrera por el dominio de la IA, una que va más allá del software y se adentra en el hardware y las técnicas de replicación.
La visión de Amodei a futuro incluye una organización global de pruebas de seguridad, un esfuerzo que podría, paradójicamente, requerir cooperación internacional incluso con rivales para neutralizar las amenazas más graves. El debate ya no es solo sobre si el código debe ser abierto o cerrado, sino sobre cómo evitar que las herramientas más poderosas que hemos creado caigan en las manos equivocadas.