Dario Amodei, director ejecutivo y cofundador de Anthropic, ha hecho un llamado para que las empresas de inteligencia artificial moderen la velocidad de desarrollo de esta tecnología. En un mensaje publicado el sábado, enfatizó la necesidad de poner la atención en la prevención de riesgos asociados con la inteligencia artificial, afirmando que es esencial «reducir el ritmo al que mejoramos las capacidades de los modelos de IA». A su juicio, aunque el progreso seguirá pareciendo rápido, es crucial hacer un uso consciente del tiempo que se gana.
La urgencia de estas declaraciones coincide con el lanzamiento el jueves pasado de un informe sobre amenazas emitido por Anthropic. Este documento revela que diversos grupos han utilizado el modelo de IA «Claude» en actividades que abarcan desde la fabricación de armas y operaciones cibernéticas hasta actos de vigilancia y fraude. La inquietud en torno al potencial daño que puede causar la inteligencia artificial ha aumentado a raíz de la renuncia reciente de Jacob Coxon, investigador de Anthropic, quien comentó que los desarrolladores de IA creen realmente que esta tecnología podría representar un riesgo mortal para la humanidad antes de que acabe la década.
Amodei dejó claro que su intención no es solicitar una pausa en el entrenamiento de modelos o en los avances tecnológicos, sino asegurar que las empresas dediquen el tiempo necesario a ajustar y salvaguardar sus modelos. También propuso que evaluadores externos confirmen las medidas de seguridad adoptadas por las empresas. En su marco de actuación, destacó que Anthropic implementaría la incorporación de evaluadores externos permanentes dentro de las compañías líderes en inteligencia artificial, otorgándoles acceso a las herramientas y a los procesos de evaluación de riesgos pertinentes.
Etiquetas: Inteligencia Artificial, CEO, IA, Anthropic
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión