El fenómeno conocido como Shadow AI se produce cuando un empleado utiliza herramientas de inteligencia artificial de forma independiente, sin el conocimiento ni la autorización de su empresa, con el fin de mejorar su productividad en tareas diarias. La rápida adopción de la inteligencia artificial generativa ha transformado significativamente la forma en que operan las organizaciones, sin embargo, esta evolución supera a menudo la capacidad de los departamentos de tecnología y seguridad para gestionarla adecuadamente. El Shadow AI se refiere específicamente al uso de soluciones de inteligencia artificial en el entorno corporativo sin la validación previa de los equipos de Tecnologías de la Información (TI) ni de ciberseguridad.
A diferencia de las aplicaciones de software corporativo autorizadas, muchas herramientas de inteligencia artificial operan fuera del control de la organización. Esto implica que las empresas no tienen visibilidad sobre los datos que se ingresan, los servidores que procesan la información ni los términos de privacidad que rigen su uso. A lo largo de los años, las organizaciones han enfrentado el fenómeno conocido como Shadow IT, que incluye el uso de cuentas personales en la nube o aplicaciones de mensajería no aprobadas. El Shadow AI representa una evolución acelerada de este problema, dado que las herramientas de inteligencia artificial no solo almacenan o transmiten datos, sino que también los procesan y transforman, aumentando así los riesgos de seguridad.
A pesar de que la mayoría de los empleados no utilizan estas herramientas con malas intenciones, su uso se debe comúnmente al deseo de ser más eficientes y de responder con rapidez a las demandas de los clientes. Muchos profesionales encuentran que estas herramientas les permiten ahorrar tiempo en tareas como la redacción, el análisis de datos o la programación. Cuando las empresas no ofrecen alternativas rápidas o imponen procedimientos burocráticos excesivos, los empleados suelen recurrir a sus cuentas personales para llevar a cabo su trabajo.
El Shadow AI no solo se manifiesta a través de aplicaciones populares, sino que también se infiltra en diversos flujos de trabajo mediante herramientas que parecen inofensivas. Un ejemplo frecuente es el uso de versiones gratuitas de asistentes de inteligencia artificial como ChatGPT, Claude o Gemini, donde los empleados pueden introducir información sensible, como borradores de contratos o datos financieros, sin ser conscientes del riesgo que esto conlleva. Las condiciones de servicio de estas plataformas a menudo permiten que las entradas sean utilizadas para entrenar futuros modelos, lo que plantea serios peligros a la privacidad y la seguridad de la información.
En el ámbito del desarrollo de software, la presión por acelerar los plazos de entrega lleva a los programadores a utilizar modelos de inteligencia artificial para optimizar su trabajo, lo que puede resultar en la exposición involuntaria de secretos comerciales y credenciales en entornos no seguros. Asimismo, muchos usuarios instalan extensiones en navegadores que, aunque parecen útiles, pueden compartir el contenido de las pestañas activas con terceros, facilitando así la fuga de información corporativa.
Otras prácticas comunes que contribuyen al uso del Shadow AI incluyen el empleo de traductores automáticos no autorizados para documentos importantes, herramientas de diseño que generan presentaciones a partir de información confidencial y bots que transcriben videollamadas donde se discuten temas delicados, como despidos o fusiones.
La proliferación de la inteligencia artificial en la sombra tiene un impacto significativo en la seguridad de las organizaciones, afectando la confidencialidad de la información y la integridad de las operaciones. Cuando un empleado introduce datos internos en plataformas no supervisadas, la empresa pierde el control sobre dicha información. Esto podría incluir desde planes de marketing hasta datos personales de clientes y empleados. Una vez que la información se encuentra fuera del entorno seguro de la red corporativa, no existe garantía sobre su almacenamiento ni sobre quién puede acceder a ella.
En contraste con las versiones corporativas, muchas herramientas de inteligencia artificial públicas y gratuitas incluyen en sus términos de uso cláusulas que permiten el uso de los datos introducidos para fines de entrenamiento, lo que agrava aún más los riesgos asociados al Shadow AI.
Etiquetas: Inteligencia Artificial, Inteligencia Artificial Generativa, AI, Shadow
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión