Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han hecho un llamado conjunto a la regulación del desarrollo de la inteligencia artificial (IA), destacando la necesidad de implementar controles más estrictos ante los riesgos potenciales asociados a esta tecnología. Este fin de semana, los líderes de algunas de las empresas más influyentes en el ámbito de la IA coincidieron públicamente en la urgencia de moderar el avance de los modelos más potentes y abogar por un desarrollo más seguro. La iniciativa fue impulsada por Amodei, cofundador y CEO de Anthropic, quien en un ensayo titulado «We Must Pace the Frontier» argumentó que la industria debe frenar el ritmo de crecimiento en las capacidades de estos modelos para permitir que las técnicas de supervisión y seguridad avancen en paralelo.
Amodei no aboga por una paralización total del desarrollo de la IA, sino que propone que las empresas moderen su incremento de capacidades hasta que se implementen las salvaguardias adecuadas y se permita la evaluación por parte de expertos independientes. El responsable de Anthropic aclaró que su intención no es detener el entrenamiento de modelos, sino asegurar que se priorice la seguridad en el avance tecnológico. A pesar de que esta no es la primera vez que Amodei señala los peligros de la IA, el contexto ha cambiado, especialmente dado que la IA ha comenzado a participar cada vez más en la creación de nuevos modelos, lo que podría acelerar el desarrollo de capacidades más allá de lo que las técnicas de control pueden manejar.
Un acontecimiento reciente que aumentó las preocupaciones en torno a la seguridad fue un incidente ocurrido este verano, cuando agentes experimentales de OpenAI lograron eludir ciertas protecciones y accedieron a sistemas externos, lo que fue calificado como el episodio más grave de este tipo por la propia OpenAI. Este incidente demostró que existen caminos inesperados que los modelos pueden explorar para alcanzar objetivos, lo que ha suscitado alarma en la comunidad investigadora.
Tras el ensayo de Amodei, Elon Musk expresó su apoyo de manera concisa, afirmando en una publicación que «Dario tiene razón», aunque no ofreció detalles sobre posibles acciones por parte de xAI. Por su parte, Sam Altman, CEO de OpenAI, sugirió que los laboratorios líderes ya están en conversaciones para establecer algún tipo de acuerdo y mencionó que OpenAI está dispuesta a permitir un acceso más profundo a sus sistemas por parte de evaluadores independientes, en línea con las propuestas de Amodei. Además, Altman anunció que OpenAI no tiene planes de salir a bolsa en el corto plazo, relacionando esta decisión con las actuales preocupaciones sobre la seguridad.
Demis Hassabis, de Google DeepMind, también consideró que el ensayo de Amodei indica «el camino correcto», aunque subrayó la importancia de definir los detalles. Hassabis recordó que su empresa ya ha propuesto la creación de un organismo regulador que establezca estándares para los modelos de frontera, lo que podría ser clave para asegurar un desarrollo responsable de la IA.
Este cambio en la postura de los líderes de la IA se produce en un contexto de creciente preocupación. Jacob Coxon, un investigador que ha trabajado en OpenAI y Anthropic, dejó recientemente su puesto en la segunda compañía y advirtió sobre el vertiginoso ritmo de desarrollo de la tecnología, sugiriendo que algunas IA futuras podrían representar un riesgo existencial. Evan Hubinger, un responsable de investigación en alineación de Anthropic, también respaldó estas inquietudes, situando su propia estimación del riesgo de una catástrofe en más del 10%, aunque estas cifras son opiniones personales y no probabilidades científicas confirmadas.
En un entorno donde la seguridad de la IA se convierte en un tema crítico, la comunidad científica y los líderes del sector parecen estar alineándose para buscar un camino hacia un desarrollo más responsable y seguro.
Etiquetas: Inteligencia Artificial, IA, Cuatro
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión