Base Labs inaugura alianza para mejorar la seguridad de modelos de IA

La empresa Baseten presentó el miércoles un nuevo estándar de infraestructura de seguridad en colaboración con su división de investigación, Base Labs. Esta alianza se establece junto a Hugging Face y Goodfire AI, con el objetivo de desarrollar una infraestructura de evaluación y monitoreo de seguridad para modelos de pesos abiertos. Esta iniciativa surge en un contexto de creciente preocupación sobre la seguridad de los modelos de pesos abiertos, los cuales pueden volverse peligrosos al eliminar sus salvaguardias mediante una técnica conocida como abliteración. Actualmente, Hugging Face, que alberga modelos de inteligencia artificial de código abierto, lista más de 6,000 modelos abliterados.

Base Labs, que fue creado por Baseten a principios de este año, se encargará de desarrollar y publicar métodos para el entrenamiento y monitoreo de modelos abiertos. La empresa está posicionando su trabajo futuro como un “estándar” para estos modelos, que será transparente y se integrará en el proceso de entrenamiento y despliegue, en lugar de añadirse posteriormente. En un mensaje en la red social X, la compañía afirmó: “Creemos que la apertura es una ventaja para la seguridad de la inteligencia artificial. La apertura proporciona mayor visibilidad sobre el comportamiento de los modelos y, lo más importante, mayores medios para transformar la investigación en seguridad en controles accionables y transparentes, en comparación con los modelos de código cerrado”.

Aunque las empresas no han revelado detalles técnicos sobre cómo funcionará la colaboración, Goodfire AI enunció el objetivo en respuesta a la publicación de Baseten: “La seguridad debe integrarse en los modelos abiertos y ser proporcionada por quienes los gestionan”. Goodfire, que se especializa en desentrañar la “caja negra” de la inteligencia artificial para explicar cómo toman decisiones los modelos, parece ser el candidato más adecuado para el componente de “integración”.

Baseten, proveedor de inferencia de inteligencia artificial, recaudó 1,5 mil millones de dólares en una ronda de financiación Serie F en junio, lo que elevó su valoración a 13 mil millones de dólares. Por su parte, Goodfire AI también cuenta con un sólido respaldo financiero, habiendo recaudado 150 millones de dólares en una ronda Serie B liderada por B Capital a principios de este año para avanzar en su plataforma de interpretabilidad de modelos.

De cara al futuro, Baseten está lanzando una convocatoria abierta a la comunidad de desarrolladores para contribuir al marco de trabajo. “Juntos, estamos construyendo un ecosistema de modelos abiertos que sean seguros y accesibles para todos”, destacó la empresa.

Etiquetas: IA, Base Labs