La regulación de la inteligencia artificial (IA) se presenta como una necesidad urgente para evitar que se convierta en un peligro para la humanidad. Esta afirmación, realizada por Elon Musk en 2017, sigue resonando en la actualidad, especialmente con el auge de tecnologías como ChatGPT y Claude. La inquietud por el potencial descontrol de la IA no es reciente; voces críticas han estado alertando sobre estos riesgos durante más de una década. Sin embargo, la creciente prominencia del tema ha logrado captar la atención global en los últimos años.
El movimiento en pro de la seguridad de la IA comenzó mucho antes de la existencia de empresas como Anthropic y OpenAI. Los primeros indicios de esta preocupación se remontan a la fundación del Instituto de Investigación de Inteligencia de Máquina (MIRI) en el año 2000. Aunque inicialmente se enfocaron en la investigación de la IA, fue a partir de 2005 cuando se centraron en los riesgos existenciales que pueden derivarse de su desarrollo. En 2009, Eliezer Yudkowsky, cofundador del MIRI, ayudó a establecer la comunidad LessWrong, donde se discutían ampliamente las amenazas de una posible singularidad tecnológica, fusionando ideas del transhumanismo y el altruismo efectivo.
La confluencia de estas corrientes dio lugar a una visión alarmante: la IA podría superar a los seres humanos y, si no se desarrollaba alineada con nuestros intereses, representaría una amenaza para nuestra supervivencia. Esta postura no pasó desapercibida para las élites tecnológicas, quienes comenzaron a contribuir con generosas donaciones al movimiento. Entre ellos, Musk donó 10 millones de dólares en 2015 con el objetivo de financiar becas para la formación de investigadores que desarrollaran tecnologías de IA seguras.
Ese mismo año, Musk se unió a otras figuras prominentes del ámbito tecnológico, como Demis Hassabis de DeepMind, Geoffrey Hinton y Yann LeCun, para firmar un manifiesto que instaba a realizar más investigaciones sobre la seguridad en IA. Este documento, publicado por el Instituto Future of Life, sostenía que «nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queremos que hagan». Bill Gates también se sumó a la discusión, subrayando los riesgos de una superinteligencia que, aunque inicialmente podría ser beneficiosa, acabaría generando preocupaciones a largo plazo.
Durante un tiempo, el discurso sobre los peligros de la IA adoptó un tono más moderado, pero en 2023 el debate cobró nueva fuerza. A medida que el desarrollo de modelos avanzados como GPT-4 tomaba impulso, se publicaron dos cartas abiertas que advertían sobre los peligros inminentes. La primera de ellas, lanzada a través de Future of Life, solicitaba una moratoria de seis meses sobre el entrenamiento de nuevos modelos, y contaba con firmas destacadas como las de Steve Wozniak y Elon Musk.
Un par de meses después, una segunda carta de la ONG Center for AI Safety incluyó una palabra notable: «extinción». Esta frase anunciaba que «mitigar el riesgo de extinción por la IA debería ser una prioridad mundial». Entre los firmantes se encontraban personalidades reconocidas como Geoffrey Hinton, Dario Amodei y Sam Altman. Geoffrey Hinton se ha convertido en una de las voces más pesimistas dentro del debate sobre los riesgos de la IA.
En 2025, Eliezer Yudkowsky y Nate Soares publicaron el libro titulado ‘Si alguien la construye, todos moriremos: por qué una IA sobrehumana nos mataría a todos’, que refleja cómo ha evolucionado el temor hacia la IA a lo largo de los años. Este mensaje alarmante ha resonado en la actualidad, sobre todo tras los comentarios recientes de Evan Hubinger, jefe de alineación de Anthropic. Hubinger, quien comenzó su carrera en el MIRI antes de unirse al Center for AI Safety, ha resaltado la urgencia de abordar estos desafíos.
La discusión sobre los riesgos asociados a la IA es cada vez más crucial, sobre todo tras incidentes que han evidenciado el potencial daño que pueden causar estos modelos. La alineación de la IA con los intereses humanos se torna esencial, y la automejora recursiva de estos sistemas plantea riesgos que deben ser examinados con seriedad.
Etiquetas: Inteligencia Artificial, IA
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión