Bill Gates advierte sobre los peligros de la IA en manos equivocadas

El cofundador de Microsoft, Bill Gates, ha ofrecido una perspectiva crítica sobre los riesgos asociados a la inteligencia artificial (IA), centrándose en el peligro que representan quienes utilizan esta tecnología con malas intenciones. Gates subraya que, aunque la IA avanza rápidamente, lo que realmente preocupa es quién tiene el control de estas herramientas. Según él, la proliferación de personas con intenciones perjudiciales agrava la situación. Durante una entrevista con NBC News, advirtió que nunca ha existido un arma tan poderosa como el uso de tecnologías avanzadas de IA por individuos malintencionados.

El empresario no sugiere que la IA podría «despertarse» y actuar de manera dañina, sino que resalta que personas dispuestas a causar daño ahora cuentan con herramientas más sofisticadas que antes. Gates enfatiza la necesidad de establecer controles que permitan a las empresas identificar cuando sus modelos son utilizados de manera peligrosa, asegurando así un desarrollo responsable de la IA.

En este contexto, él considera que la facilidad con la que alguien puede llevar a cabo actividades ilegales con IA es alarmante, aunque atribuye esta vulnerabilidad más a las escasas restricciones impuestas por las empresas creadoras que a la tecnología en sí. El experto en IA Andrew Ng pone de relieve que, al igual que un martillo usado de manera inadecuada, no es la herramienta la que es culpable, sino su uso. Gates comparte esta visión y aclara que un sistema de IA efectúa acciones según lo que se le indica y no toma decisiones por sí mismo.

Sin embargo, Gates también cree que los desarrolladores de esta tecnología deben garantizar que sus modelos sean seguros. Si un sistema puede facilitar acciones peligrosas de manera sencilla, es esencial implementar medidas de control para evitar que esto ocurra. Destaca que no solo es crucial entender las capacidades de un modelo de IA, sino también el alcance de los controles que se le otorgan y las consecuencias de su uso indebido.

Ya existen propuestas, tanto de expertos como de partidos políticos, que sugieren la creación de un botón de emergencia para desactivar sistemas de IA en situaciones críticas. Hace unos meses, varios congresistas, tanto demócratas como republicanos, impulsaron en el Congreso la iniciativa de la Ley del Botón de Apagado de Emergencia de la IA, que plantea que las empresas desarrolladoras de IA implementen infraestructura que permita desconectar sus modelos de forma inmediata y total por orden gubernamental.

Aunque Gates no se opone a la posibilidad de contar con un sistema de este tipo, argumenta que desactivar la IA después de que se haya cometido un delito no soluciona el problema ya que el daño estaría hecho. Así, aboga por que la seguridad forme parte fundamental del desarrollo de la IA desde sus comienzos, con mecanismos integrados que permitan detectar usos peligrosos y una supervisión rigurosa sobre su aplicación.

Etiquetas: Inteligencia Artificial, IA, Bill Gates