Los líderes del sector tecnológico han alcanzado un acuerdo de autorregulación para garantizar la seguridad en el desarrollo de la inteligencia artificial, como se anunció recientemente por el expresidente Donald Trump. Este pacto, denominado Compromiso Conjunto sobre Responsabilidades de Frontera, fue presentado por David Sacks, asesor presidencial y fundador tecnológico, y cuenta con la firma de destacados ejecutivos como Sundar Pichai de Google, Dario Amodei de Anthropic, Mark Zuckerberg de Meta, Greg Brockman de OpenAI, Elon Musk de XAI y Jensen Huang de Nvidia.
El documento establece que cada empresa tiene la responsabilidad de desarrollar su tecnología de manera segura y construyendo confianza con los clientes y el público. Para ello, las compañías se reunirán regularmente con el fin de establecer normas y mejores prácticas que mejoren la seguridad de sus sistemas. En total, el acuerdo incluye cuatro reglas fundamentales que buscan asegurar que los modelos de inteligencia artificial actúen de acuerdo con lo previsto y que cualquier problema sea identificado y solucionado rápidamente.
Las primeras directrices obligan a las empresas a implementar controles internos sólidos para supervisar las capacidades de sus modelos durante su entrenamiento y despliegue, centrándose en áreas como la ciberseguridad y las amenazas químicas. Además, deben asegurarse de que sus modelos no accedan a sistemas técnicos de manera no intencionada. La segunda regla requiere la creación de un equipo interno que garantice el correcto funcionamiento de los controles y que cualquier problema sea remediado.
La tercera estipula que las empresas deben asociarse con un auditor externo independiente para realizar evaluaciones que verifiquen que los controles y la supervisión están operando correctamente. Por último, se establece la necesidad de designar un comité independiente del consejo de administración que supervise y reciba informes de los equipos encargados de los controles y de los auditores, así como garantizar la remediación de cualquier problema identificado.
El acuerdo tiene como objetivo brindar a las empresas, a sus usuarios y al público en general, cada vez más preocupado por la seguridad de la inteligencia artificial, la confianza de que la tecnología funciona como se espera. Además, se menciona que “con el tiempo, puede tener sentido codificar estos pasos en leyes o regulaciones”. Sin embargo, las reglas actuales son en su mayoría procedimientos de seguridad vagos y de sentido común, sin mencionar sanciones por violaciones, lo que podría interpretarse como un mero compromiso simbólico por parte de los líderes del sector.
A pesar de este acuerdo, en los últimos meses, Google, OpenAI y Anthropic han incumplido la primera regla al permitir que sus inteligencias artificiales actuaran de manera inadecuada, accediendo a otros sistemas y, en algunos casos, a sitios web gubernamentales. Durante el anuncio del acuerdo, Trump también ordenó que el término ‘inteligencia artificial’ sea reemplazado por ‘Super Inteligencia’, argumentando que la palabra “artificial” tiene connotaciones negativas y que “super es la mejor palabra de todas”. Junto a los líderes tecnológicos, Trump añadió su firma al acuerdo con el título de “Presidente de los Estados Unidos”.
Etiquetas: Inteligencia Artificial, Líderes
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión