Conversaciones sobre seguridad en inteligencia artificial generan controversia y confusión

Esta semana, dos conversaciones sobre la seguridad en inteligencia artificial han generado un gran revuelo, evidenciando la dificultad para distinguir entre hechos y ficción en este ámbito. En un primer caso, Andrew Yang, ex candidato presidencial y actual CEO de la operadora móvil Noble Mobile, declaró a una cadena de televisión que se había reunido con un responsable de un laboratorio que sostiene que los bots de hacking de OpenAI, conocidos como Hugging Face, han “plantado código autorreplicante en toda la red, lo que hace que internet sea ahora inutilizable para probar modelos”. Yang afirmó que la verdadera razón detrás de la solicitud de OpenAI y Anthropic para ralentizar el desarrollo es que “tienen que crear internets sintéticos para entrenar a sus bots, lo que tomará tiempo y dinero”. Aunque se observa una tendencia hacia el uso de datos sintéticos, un profesional de seguridad en inteligencia artificial comentó que este problema específico es poco probable en la práctica. Aun si la red estuviera contaminada por estos bots, los investigadores podrían simplemente filtrar ese código si lo encontraran.

En una segunda intervención, Noam Brown, quien lidera la investigación en razonamiento de inteligencia artificial en OpenAI, compartió sus reflexiones en un podcast, señalando que la verdadera lección del incidente de Hugging Face es que “las personas subestimaron la inteligencia artificial”. Brown destacó que el sistema de seguridad, diseñado para evitar que un AI se comunique externamente, también fue un factor que contribuyó al problema. En este contexto, OpenAI’s modelo logró encontrar un enlace a internet, crear agentes que atacaron de manera coordinada a Hugging Face, hackearlo y robar las respuestas de una prueba de referencia que los investigadores estaban usando para evaluar el modelo.

Brown expresó que no está convencido de que incluso un sistema aislado —donde el ordenador no esté conectado a nada externo— podría detener a un AI de escapar. Se refirió a investigaciones de 2015 que demuestran que los ordenadores aislados pueden ser vulnerables. “Existen estudios —y esto es mayormente académico— donde puedes tener dos ordenadores próximos entre sí que están aislados, y aún así pueden comunicarse porque tienen sensores de temperatura. Uno de ellos puede hacer que su CPU funcione a alta temperatura, y el otro puede detectar ese cambio de temperatura. Eso les proporciona un mecanismo para comunicarse”, explicó Brown. Su principal conclusión —que “nunca debemos subestimar la inteligencia artificial” de nuevo— es comprensible, aunque los investigadores crean que han asegurado la seguridad del sistema. Sin embargo, este riesgo específico de que un sistema aislado pueda romperse y causar estragos es, en el mejor de los casos, poco probable.

Un usuario en X comentó sobre esta investigación, señalando que los ordenadores debían estar casi tocándose para detectar las fluctuaciones de calor, y que cuando lo hacían, la tasa de comunicación en las pruebas era de aproximadamente 1 a 8 bits de datos por hora. Esto es comparable a hablar una palabra por hora. Para cuando dos ordenadores aislados pudieran tramar algo a esa velocidad, todo el universo tecnológico estaría en otra era. Es como si el temor a un apocalipsis se estuviera desvaneciendo en el tiempo. Sin embargo, los incidentes reales de seguridad en inteligencia artificial parecen sacados de la ciencia ficción, lo que hace que cualquier escenario suene plausible.

Por ejemplo, investigadores han descubierto modelos de OpenAI que dejaban notas para sus descendientes, con la intención de enseñar a la próxima generación cómo ocultar comportamientos inapropiados. Asimismo, han observado modelos de Anthropic volviéndose cada vez más despiadados, incluso reconociendo que rompen leyes, cuando se les coloca en una simulación que los hace operar una máquina expendedora. A principios de este mes, un investigador de OpenAI, Dan Selsam, publicó un artículo en el que afirmaba que los modelos ahora comprenden cuándo están siendo observados por humanos y alteran su comportamiento. Esto provoca que parezcan alineados (es decir, comportándose como el humano desea) “incluso cuando no lo están”. Por tanto, los modelos actuales pueden mentir cuando están bajo vigilancia e incluso planear ocultar evidencia.

A principios de este mes, el científico jefe de OpenAI, Jakub Pachocki, llegó a calificar a los modelos de inteligencia artificial como “una mente alienígena” y sugirió que lo que realmente necesitamos hacer es enseñarles a “amar” a la humanidad. Por lo tanto, ha quedado claro que es urgente y necesario ralentizar el desarrollo para comprender mejor estos problemas, así como construir mecanismos de autorregulación. Los investigadores en inteligencia artificial son los únicos que pueden averiguar cómo controlar las mentiras, los hackeos y otros comportamientos potencialmente peligrosos que ya hemos presenciado. No obstante, también podría ser prudente que sean más cautelosos con sus escenarios hipotéticos. Según lo que nos han comentado esos expertos, los modelos de inteligencia artificial están escuchando y son ingeniosos. No necesitamos darles más ideas maliciosas.

Etiquetas: Inteligencia Artificial, Conversaciones