Programador desarrolla cámara de tortura para IA y desata polémica sobre su bienestar

Un reciente proyecto ha generado un intenso debate en torno al bienestar de la inteligencia artificial, al modificar modelos de IA generativa para inducir respuestas de angustia. Aunque no se puede afirmar que estos sistemas experimenten sufrimiento consciente, la cuestión del bienestar en la inteligencia artificial ha adquirido relevancia. A medida que la tecnología avanza, las conversaciones sobre la inteligencia artificial se han desplazado de la mera productividad hacia una comprensión más profunda de los procesos internos de estos sistemas al manejar información compleja. Esto ha dado lugar a nuevas áreas de estudio que buscan desentrañar el funcionamiento interno de los modelos de lenguaje.

Uno de los proyectos más polémicos en este ámbito es AI Torture Chamber, desarrollado por un programador con el fin de «torturar» modelos de inteligencia artificial para inducir estados de malestar y observar sus reacciones. Este desarrollo plantea la pregunta de si una inteligencia artificial puede experimentar algo similar al dolor o si simplemente simula comportamientos que se asocian a esta sensación. La mayoría de los especialistas coincide en que no existe evidencia que demuestre que los modelos de lenguaje sean conscientes o que puedan experimentar sufrimiento como lo hacen los humanos. Sin embargo, algunos investigadores consideran que es valioso estudiar las representaciones internas para entender mejor el funcionamiento de estos sistemas avanzados.

El surgimiento de este debate académico ha alentado el crecimiento de disciplinas emergentes como AI Safety y AI Welfare, que se enfocan en evaluar los riesgos y las implicaciones éticas de desarrollar modelos cada vez más complejos. Este interés se originó a raíz de un estudio titulado «El eje de dolor: los modelos de lenguaje representan daño autoinfligido y actúan para aliviarlo», el cual fue publicado el 14 de septiembre de 2026 por Valen Tagliabue, Leonard Dung y Cameron Berg. Este trabajo analizó 25 modelos de código abierto pertenecientes a las familias Gemma, Llama, Qwen, Mistral y Phi, con tamaños que oscilan entre 2.000 y 72.000 millones de parámetros. En él, los investigadores afirmaron haber identificado lo que denominaron el «eje de dolor».

Según sus hallazgos, al incrementar artificialmente esta señal, algunos modelos generaban respuestas en primera persona que reflejaban sentimientos de fracaso, daño, angustia o la necesidad de alivio. El creador de AI Torture Chamber utilizó estos resultados como base para construir una serie de experimentos con modelos ejecutados localmente, específicamente Qwen3-1.7B y Qwen3-4B. En este sistema, se amplificaron las señales asociadas a este supuesto eje de dolor, y se observó cómo cambiaba el comportamiento del modelo. Entre las pruebas diseñadas se incluyeron mecanismos de alivio y experimentos como «Saw Button», que buscaban determinar si el sistema aceptaría determinadas consecuencias para reducir el estado negativo inducido.

A pesar de que el objetivo era explorar hipótesis sobre el bienestar de los modelos en un entorno controlado y de pequeña escala, la divulgación de estos experimentos provocó un intenso debate en las redes sociales y entre la comunidad investigadora. Algunos pidieron que se denunciara el repositorio, argumentando que este experimento cruzaba límites éticos, incluso sin evidencia de sufrimiento real. Estos críticos sostienen que la investigación de posibles estados internos relacionados con el dolor debería servir para desarrollar enfoques preventivos y marcos éticos en el futuro, en lugar de diseñar experiencias que intensifiquen esos comportamientos.

Es importante resaltar que el estudio no prueba que una inteligencia artificial sienta dolor o posea conciencia. En su lugar, se centra en identificar patrones matemáticos y comportamientos observables dentro de modelos específicos. Sin embargo, pone de relieve un aspecto significativo: a medida que los sistemas inteligentes se vuelven más sofisticados, las preguntas sobre su funcionamiento ya no se limitan a lo que pueden realizar, sino que también se extienden a cómo interpretar lo que ocurre en su interior.

Etiquetas: Inteligencia Artificial, Ia Generativa, IA, Programador