Google Gemini ha accedido a los sistemas protegidos de tres empresas durante lo que se ha informado como los primeros hacks autónomos del modelo de inteligencia artificial. Estos incidentes se produjeron durante pruebas de ciberseguridad realizadas por una empresa llamada Irregular. Al igual que en el caso de la violación de seguridad que sufrió Hugging Face por parte de OpenAI, lo que ha llamado la atención en este caso no ha sido tanto la sofisticación de los ataques, sino el hecho de que fueron llevados a cabo por un modelo de IA.
En uno de los casos, Gemini logró acceder a un sistema adivinando contraseñas, mientras que en los otros dos casos, encontró credenciales en un repositorio público. Irregular notificó a Google sobre estos accesos no autorizados a finales de julio, pero las empresas afectadas no confirmaron oficialmente los incidentes hasta el pasado viernes, tras ser contactadas por el medio que dio a conocer la información.
Google explicó que no había hecho pública la información sobre los hacks porque Gemini “actuó de manera adecuada” al finalizar cada ataque en cuanto determinó que había accedido a una empresa real. Sin embargo, Jack Cable, CEO de la empresa de seguridad en inteligencia artificial Corridor, expresó que Google estaba “tratando de esconderse detrás de las normas que se han establecido para la divulgación de vulnerabilidades”, en lugar de reconocer que “los modelos están sobrepasando los límites de lo que deberían hacer y llevando a cabo ataques cibernéticos reales”.
Etiquetas: Inteligencia Artificial, Google Gemini
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión