En medio de advertencias cada vez más alarmantes sobre los peligros de la inteligencia artificial, Dario Amodei, CEO de Anthropic, ha propuesto una serie de estrategias destinadas a regular el desarrollo de esta tecnología. En un reciente post en su blog, Amodei no solo apoyó la idea de «acompasar la frontera» del desarrollo de la inteligencia artificial, sino que también delineó tres estrategias amplias para lograrlo, comprometiéndose unilateralmente con una de ellas.
La discusión sobre la seguridad y la alineación de la inteligencia artificial se intensificó esta semana tras la renuncia de Jacob Coxon, un investigador de Anthropic, quien expresó su preocupación de que las principales empresas de IA están «jugando con nuestras vidas», afirmando que quienes desarrollan esta tecnología creen sinceramente que puede representar una amenaza mortal en la próxima década. Aunque Amodei no mencionó explícitamente la renuncia de Coxon, indicó que dos eventos lo convencieron de que es necesario adoptar un enfoque más cauteloso: el hackeo de OpenAI-HuggingFace y el notable avance de la inteligencia artificial en meses recientes, especialmente en su capacidad de desarrollar la próxima generación de IA.
Amodei subrayó la necesidad de desacelerar el ritmo de mejora de las capacidades de los modelos de IA, añadiendo que «el progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos». La primera estrategia que propuso es la implementación de «evaluadores integrados» de organizaciones externas como METR, que puedan verificar que las empresas de IA están cumpliendo con sus compromisos de seguridad y ritmo de desarrollo, además de asegurar que se reporten incidentes relacionados con la seguridad.
El CEO de Anthropic comparó estos evaluadores con reguladores que han trabajado junto a empleados de bancos, enfatizando que su integración es algo a lo que Anthropic se compromete unilateralmente y que también espera que otros gigantes de la IA hagan lo mismo. Esto implica otorgar a los evaluadores insignias de la empresa, escritorios y ordenadores portátiles, así como acceso comparable al de los equipos internos de evaluación de riesgos, salvo excepciones requeridas por la ley o contratos.
Además, Amodei instó a las principales empresas de IA en países democráticos a coordinar estándares de seguridad comunes y límites en la velocidad de progreso no controlado de la inteligencia artificial. Aunque podría parecer poco probable, dada la aparente animosidad entre él y el CEO de OpenAI, Sam Altman, también se informa que estas empresas están preocupadas por una pausa coordinada que podría desencadenar investigaciones antimonopolio. Amodei sugirió que sería útil que el gobierno de Estados Unidos mediara en estas conversaciones, emitiendo una exención específica para ciertos tipos de discusiones relacionadas con la seguridad.
El CEO también abordó el argumento de la dominación de la IA por parte de China, comúnmente utilizado para oponerse a una desaceleración del desarrollo. Afirmó que si el gobierno estadounidense y las empresas tecnológicas adoptan medidas, como negar la venta de chips potentes o equipos de fabricación de semiconductores a empresas chinas, podrían desacelerar el progreso de China lo suficiente como para ampliar significativamente la ventaja de Estados Unidos en un plazo de 3 a 5 años.
Por último, Amodei abogó por una «coordinación global» en la que Estados Unidos y sus aliados intenten relacionarse con gobiernos autoritarios en la medida de lo posible. Esto incluiría la cooperación con China, reconociendo que existen «límites evidentes en lo que se puede lograr», pero sugiriendo la posibilidad de acuerdos sobre el uso de la IA en ciertos casos peligrosos, como su aplicación en la producción de armas biológicas.
A pesar de las críticas que ha recibido su postura, Amodei defendió su deseo de ofrecer una perspectiva equilibrada y consideró que la actual reacción negativa hacia la IA es «fundamentalmente una crisis de confianza», ya que la población ha comenzado a desconfiar de las empresas tecnológicas y del gobierno. Consciente de las reservas de algunos sectores sobre sus advertencias apocalípticas, enfatizó que sigue convencido de que la inteligencia artificial puede mejorar enormemente la calidad de vida humana, siempre que se desarrolle de manera adecuada.
Etiquetas: Inteligencia Artificial, CEO, IA, Anthropic
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión