En las últimas semanas, OpenAI ha solicitado a miembros del Congreso estadounidense una orientación clara sobre la legalidad de organizar una desaceleración en el desarrollo de la inteligencia artificial (IA) a nivel de la industria. Personas cercanas a la compañía han indicado que una coordinación sustancial en materia de seguridad entre los laboratorios de IA podría entrar en conflicto con la legislación antimonopolio, lo que representa un obstáculo significativo para que los grandes gigantes tecnológicos se unan a esta iniciativa.
El pasado fin de semana, Jakub Pachocki, científico jefe de OpenAI, publicó una entrada en su blog donde defendió que el camino más adecuado para el futuro de la investigación en IA incluye “coordinación para ralentizar el desarrollo futuro”, lo que considera esencial para garantizar la seguridad de los sistemas de IA que se auto-mejoran. En el corto plazo, anticipa que “las desaceleraciones voluntarias se volverán comunes hasta que se establezcan estándares de seguridad compartidos”. Sin embargo, algunos académicos del derecho advierten que tal esfuerzo podría entrar en conflicto con las leyes antimonopolio de Estados Unidos.
Nicholas Felstead, director adjunto de la Comisión Australiana de Competencia y Consumo y exbecario de políticas de IA en el Centro de Derecho y Riesgo de IA, argumentó en un artículo de marzo que una pausa coordinada en el desarrollo de IA podría equivaler a restringir la producción, lo que potencialmente violaría la Ley Antimonopolio Sherman. La legalidad de cualquier acuerdo dependería “totalmente de los detalles precisos del mismo”, escribió Felstead. “Pero incluso si la mayoría de las colaboraciones en materia de seguridad finalmente sobrevivieran al escrutinio antimonopolio, la incertidumbre legal puede actuar como un poderoso disuasivo”. OpenAI no ofreció comentarios antes de la publicación de esta información.
Existen algunos indicios iniciales de que el Congreso está prestando atención a estas preocupaciones. En julio, un grupo bipartidista de legisladores presentó un proyecto de ley titulado “Ley de Colaboración sobre Amenazas Adversariales y Riesgos de Seguridad”, que permitiría explícitamente a los laboratorios de IA coordinarse en trabajos de seguridad y protección sin el riesgo de violar las normas antimonopolio. La versión de la Cámara de Representantes fue remitida al Comité Judicial, pero aún no ha sido discutida.
Caleb Knapp, director de asuntos gubernamentales de la organización sin ánimo de lucro AI Policy Network, que respalda el proyecto de ley, declaró que esta iniciativa crearía canales legales para que los laboratorios de IA trabajen juntos en la gestión de incidentes de seguridad. Knapp añadió que hay un “creciente interés en el Congreso por hacer algo” respecto a la seguridad en IA, aunque la aprobación de cualquier medida podría verse retrasada hasta después de las próximas elecciones de mitad de mandato.
A pesar de que algunos ejecutivos de IA pueden tener preocupaciones legítimas sobre las leyes antimonopolio, hay otros líderes del sector que argumentan que estos temores son solo una excusa conveniente para evitar abordar las verdaderas razones por las que los desarrolladores de IA podrían mostrarse reacios a colaborar, que van más allá de las posibles responsabilidades legales. La IA representa un negocio colosal, y estas empresas compiten ferozmente por capturar una parte del mercado emergente de modelos avanzados.
Algunos ejecutivos comparten la opinión de la administración Trump sobre la importancia de mantener la ventaja sobre China en el ámbito de la IA por razones de seguridad nacional. Quizás lo más relevante es que los diferentes desarrolladores de IA tienen opiniones muy distintas sobre la mejor manera de desarrollar una inteligencia artificial segura, lo que podría hacer que sean reacios a colaborar en esta cuestión. “El primer paso es que los líderes de la industria, OpenAI y Anthropic, dejen de pelear y trabajen juntos en una propuesta de ritmo”, escribió John Schulman, cofundador de OpenAI y actual científico jefe del laboratorio rival Thinking Machines, en una publicación reciente.
Las preocupaciones sobre la carrera entre las empresas de IA por construir y lanzar modelos cada vez más poderosos han cobrado protagonismo a nivel nacional este verano. Esta semana, Jacob Coxon, un exinvestigador de Anthropic y OpenAI, sumó su voz a la creciente alarma al emitir una advertencia pública contundente sobre el riesgo que representan los desarrolladores de IA para la humanidad. En los últimos meses, varios incidentes de seguridad, incluido el hackeo de Hugging Face por parte de agentes de OpenAI, han puesto de manifiesto cómo las salvaguardias de la industria no han logrado mantenerse al día con las crecientes capacidades de los modelos. Esta sucesión de eventos ha llevado a muchos legisladores a realizar llamados urgentes para la regulación de la IA.
Etiquetas: Inteligencia Artificial, OpenAI, IA
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión