China establece límites a la inteligencia artificial en su competencia con Estados Unidos

Los modelos de inteligencia artificial (IA) destacan por su habilidad para reconocer patrones, lo cual se logra ajustando miles de millones de parámetros, conocidos como pesos, durante su fase de entrenamiento. Estos pesos son valores numéricos asignados a cada conexión dentro de la red de la IA y son determinantes en su funcionamiento. Empresas líderes como OpenAI, Anthropic y Google eligen no divulgar estos pesos al lanzar sus modelos, lo que restringe el acceso de los usuarios a los parámetros que gestionan el rendimiento de estas inteligencias artificiales. En contraposición, algunos modelos que permiten el acceso a los pesos ofrecen la posibilidad de ser descargados y ejecutados localmente, constituyendo una alternativa a los sistemas cerrados que predominan en Estados Unidos.

En estos momentos, Estados Unidos está realizando significativas inversiones para potenciar el desarrollo de la inteligencia artificial, mientras que China ha centrado su estrategia en la distribución de modelos con pesos abiertos. Este enfoque busca proporcionar alternativas más asequibles y adaptables, lo que podría comprometer la competitividad estadounidense en un sector en continuo crecimiento. Aunque el hecho de ofrecer pesos abiertos no asegura que el código fuente del modelo sea igualmente accesible, se observa que China ha avanzado notablemente en la creación y difusión de modelos de pesos abiertos, promoviendo su desarrollo.

Por su parte, las empresas estadounidenses que ofrecen modelos cerrados ejercen un control más estricto sobre sus sistemas de IA, lo que les permite aplicar filtros y limitar funciones específicas. Los modelos de pesos abiertos, en contraste, otorgan a los usuarios la capacidad de descargar y modificar el modelo, lo que podría suponer un riesgo en términos de seguridad. Esto se debe a que un usuario con acceso podría debilitar las medidas de protección y reentrenar el modelo con datos diferentes, incluso llegando a distribuir versiones propias del mismo.

Ante estos desafíos en materia de seguridad, un grupo de investigadores en China ha propuesto el establecimiento de un proceso sistemático que garantice la seguridad de los modelos de pesos abiertos antes de su distribución. Esta propuesta involucra seis etapas que comienzan con una evaluación de riesgos, seguida de fases de identificación, mitigación y verificación de vulnerabilidades. Esta iniciativa refleja el interés de China por implementar estándares específicos y rigurosos para los modelos de pesos abiertos.

A pesar de estos avances, lograr un equilibrio entre la apertura y la seguridad se presenta como un desafío importante. Mientras los modelos de pesos abiertos pueden impulsar la investigación y adaptarse mejor a necesidades concretas, también son susceptibles a usos indebidos que escapan al control de sus creadores. Este dilema plantea a la industria la pregunta de qué medidas de protección deberían ser adoptadas al liberar cada modelo de pesos abiertos.