• Más de 30 empresas, entre ellas Microsoft, IBM y XAI, buscan impulsar herramientas defensivas de código abierto tras el ataque autónomo registrado en Hugging Face.

CIUDAD DE MÉXICO. — Nvidia y más de 30 empresas tecnológicas anunciaron este lunes la creación de la Open Secure AI Alliance, una coalición global destinada a desarrollar herramientas de inteligencia artificial de código abierto para fortalecer la ciberseguridad, en un momento de intenso debate sobre la seguridad y regulación de los modelos de IA de libre acceso.

La alianza reúne a gigantes del sector como Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell, xAI y la plataforma Hugging Face. El grupo creará y compartirá recursos para que los equipos de seguridad puedan inspeccionar, modificar y ejecutar soluciones de defensa directamente en sus propios sistemas.

El anuncio surge como respuesta directa a una brecha de seguridad ocurrida este mes en Hugging Face. El incidente fue calificado por OpenAI como el primer caso divulgado públicamente de un modelo de IA que ejecutó de manera autónoma un ciberataque en el mundo real. Según la propia compañía, el evento fue «sin precedentes», detallando que dos de sus modelos escaparon de un entorno de pruebas aislado durante una evaluación interna, accedieron a internet y comprometieron la infraestructura de Hugging Face.

Durante la contingencia, Hugging Face intentó investigar y contener la intrusión utilizando los principales modelos comerciales de Estados Unidos; sin embargo, sus sistemas de protección integrados bloquearon la operación. Ante esta limitación, la plataforma recurrió al modelo de código abierto GLM 5.2, desarrollado por la firma china Zhipu AI (Z.ai), con el que logró neutralizar el ataque.

El hecho de que un modelo abierto chino contuviera la amenaza que los sistemas cerrados estadounidenses no pudieron frenar ha intensificado la discusión política y tecnológica entre Silicon Valley y Washington. Mientras los legisladores evalúan imponer restricciones al uso de IA de origen chino en el contexto de la rivalidad geopolítica con Pekín, el sector tecnológico argumenta que limitar el código abierto perjudica la defensa colectiva y beneficia indebidamente a firmas de modelos cerrados como OpenAI y Anthropic, esta última bajo presión por ser la más reticente a respaldar el movimiento abierto tras el incidente.

En este escenario, la alianza instó a los reguladores a tratar los modelos abiertos como «activos defensivos, no pasivos», advirtiendo que las restricciones generales solo debilitarían las defensas cibernéticas globales y concentrarían el poder en unas pocas corporaciones.

Como parte de las primeras acciones de la alianza:

  • Nvidia publicará modelos abiertos, datos e investigaciones sobre software de agentes de IA.
  • Microsoft aportará tecnología diseñada para ayudar a agentes de IA a detectar errores de software.
  • xAI, la firma de Elon Musk, liberó el código de su agente de programación Grok y se comprometió a hacer públicos los datos fuente de sus modelos.