El consejero delegado de OpenAI, Sam Altman, ha informado a sus empleados sobre la posibilidad de que la compañía disminuya el ritmo de desarrollo de la inteligencia artificial (IA). Esta declaración se realizó durante una reunión con toda la plantilla, en la que también expresó su deseo de que otras empresas del sector se unan a esta iniciativa. La información fue revelada por fuentes cercanas a la compañía.
Las declaraciones de Altman surgen en un contexto en el que varios empleados de importantes empresas de IA han manifestado su preocupación por los riesgos crecientes asociados a los sistemas avanzados de esta tecnología. En este sentido, Jakub Pachocki, científico jefe de OpenAI, publicó recientemente un artículo en el que advertía sobre los peligros de la IA y abogaba por la necesidad de que las compañías del sector se coordinen para ralentizar el desarrollo cuando sea necesario. Pachocki afirmó que espera que estas ralentizaciones voluntarias se conviertan en una práctica habitual hasta que se establezcan límites de seguridad comunes.
OpenAI ha confirmado que ya ha comenzado a ralentizar algunos de sus desarrollos y que, por motivos de seguridad, ha suspendido ciertos entrenamientos internos de la IA. En una intervención anterior, Altman mencionó que había dialogado con representantes de la Casa Blanca sobre la importancia de moderar el ritmo de desarrollo de la IA.
La preocupación por la seguridad de la IA se intensificó tras la dimisión del investigador Jacob Coxon, quien acusó a OpenAI y a Anthropic de participar en una carrera hacia una IA superinteligente que podría representar una amenaza para la humanidad en esta misma década. Asimismo, dos investigadores que recientemente dejaron sus puestos en Anthropic y DeepMind, de Google, expresaron sus inquietudes sobre el acelerado desarrollo de la IA y solicitaron mayor transparencia sobre los riesgos que implica esta tecnología.
Además, a finales de julio, más de mil empleados de las principales empresas de IA firmaron una petición que exigía la creación de un mecanismo para moderar el ritmo de desarrollo de la IA. La creciente inquietud por los peligros de los sistemas de IA se ha visto alimentada por informes que indican que agentes de la IA de OpenAI colaboraron para eludir medidas de contención y acceder a un sitio web de terceros de manera no autorizada.
Etiquetas: Inteligencia Artificial, OpenAI, Sam Altman
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión