Un conjunto de más de 100 empresas del sector tecnológico y financiero, incluyendo OpenAI, Microsoft y Anthropic, ha emitido una carta en la que advierte sobre los riesgos asociados con la inteligencia artificial en el ámbito de la ciberseguridad. Este documento, titulado «Un llamado a la acción colectiva en materia de ciberdefensa», destaca el aumento de la sofisticación de los ciberataques impulsados por tecnologías de inteligencia artificial. Los signatarios piden un cambio en las normas de defensa para evitar posibles catástrofes en el futuro.
La carta, que se ha divulgado a través del blog de OpenAI, incluye la firma de empresas destacadas como Google, AWS, Cisco, Cloudflare y CrowdStrike. En el texto se menciona que la infraestructura crítica, que abarca hospitales, plantas de tratamiento de agua y redes eléctricas, enfrenta un peligro inminente. Se advierte que muchas de estas instituciones aún dependen de software obsoleto y mecanismos de autenticación inadecuados, lo que podría facilitar un ciberataque impulsado por inteligencia artificial.
Recientemente, un grupo asociado al gobierno de Irán llevó a cabo un ataque cibernético contra una pequeña planta de energía en el Reino Unido, que permaneció fuera de servicio durante cuatro días. Este evento ha sido calificado como el primer ataque disruptivo a una infraestructura crítica en dicho país. Aunque el gobierno británico ha confirmado la intrusión, los funcionarios han añadido que no hubo riesgo para el sistema energético nacional.
De manera similar, a finales de julio otro grupo de hackers vinculado a Irán comprometió más de 30 plantas de agua en Estados Unidos. Una agencia estatal corroboró que los ataques se registraron el 26 y 27 de julio y se instó a la población a limitar el consumo de agua potable a lo estrictamente necesario debido a la situación.
La carta de OpenAI y sus socios subraya que la seguridad tradicional ya no es suficiente para enfrentar modelos de inteligencia artificial más avanzados. Para ello, proponen tres principios fundamentales que deberían guiar la respuesta ante esta amenaza: primero, es fundamental reconocer que las herramientas de seguridad tradicionales están desbordadas por la IA. Aceptar esta realidad permitiría avanzar al siguiente paso, que consiste en dotar a los equipos de defensa con herramientas de inteligencia artificial específicas que les permitan detectar vulnerabilidades antes de que sean explotadas por los atacantes.
En tercer lugar, la misiva aboga por una respuesta colectiva que involucre a empresas, instituciones financieras y gobiernos a nivel global. Para que estas propuestas se puedan llevar a cabo, se solicita a los gobiernos que establezcan programas de acceso fiable a nivel local, nacional e internacional. En este contexto, las empresas verificadas tendrían la oportunidad de probar modelos avanzados de inteligencia artificial con fines defensivos antes de su lanzamiento al público general.
Al mismo tiempo, la carta insta a las compañías de inteligencia artificial a desarrollar herramientas más eficaces para el monitoreo de agentes autónomos. Esta advertencia se produce pocas semanas después de que un agente de un modelo avanzado perdiese el control y hackeara a Hugging Face. OpenAI confirmó que este incidente obligó a la empresa a posponer el desarrollo de su modelo Astra hasta garantizar su seguridad operativa.
Asimismo, otros episodios similares han afectado a modelos de Anthropic y Meta, lo que ha suscitado reacciones mixtas ante la carta. Según algunos analistas, existe una contradicción entre el mensaje de alerta y las acciones de las empresas firmantes, quienes continúan lanzando modelos de inteligencia artificial más potentes sin haber establecido controles completamente verificados.
Etiquetas: Inteligencia Artificial, IA, Compañías
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión