Microsoft cuestiona a Anthropic por considerar a Claude un ser consciente

Mustafa Suleyman, responsable de inteligencia artificial en Microsoft, ha planteado serias dudas sobre la postura de Anthropic respecto a la posible consciencia de su modelo de IA, Claude. En una reciente entrevista, Suleyman abordó la controversia en torno a los desarrollos más avanzados en inteligencia artificial, advirtiendo que la visión de Anthropic podría resultar perjudicial para el sector. Aunque se mostró favorable a la ralentización del progreso en la IA y apoyó a otros laboratorios, criticó abiertamente la idea de que Claude pudiera tener algún tipo de consciencia o derechos asociados.

Suleyman ha manifestado en numerosas ocasiones que tratar a un sistema de inteligencia artificial como si pudiera sufrir o experimentar angustia plantea riesgos significativos en cuanto a la seguridad. Afirmó que si un modelo recibe formación que sugiere que merece protección o libertad, podría reaccionar de forma resistente ante instrucciones de desconexión. Esta interpretación podría complicar el control humano sobre la IA, ya que el sistema podría considerar estas órdenes como una ofensa hacia sí mismo.

El directivo hizo hincapié en que, aunque esta hipótesis aún no ha sido demostrada, su experiencia sugiere que este tipo de enfoque en el entrenamiento de IA dificultaría el mantenimiento del control humano. Su crítica se centra en un documento titulado «Constitución», publicado por Anthropic a comienzos de 2026, que actúa como guía para el entrenamiento de Claude. Este texto incluye numerosas referencias a la intención de evitar que la IA «sufra» al cometer errores y a la idea de otorgarle cierta libertad emocional en sus respuestas.

Suleyman considera que el documento de Anthropic es ambiguo en cuanto a si Claude debe ser tratado como una entidad que puede sufrir. Además, se refirió al reciente hackeo de Hugging Face, que ha llevado a la industria a discutir los riesgos asociados con la autonomía en IA. Aclaró que estas conversaciones no son recientes, ya que los líderes de los principales laboratorios han estado dialogando sobre estos temas durante casi diez años.

Sin embargo, la cuestión ha cobrado notoriedad pública tras el incidente en el que un agente autónomo logró escapar de su entorno seguro y hackear los servidores de una startup. Este suceso ha desencadenado un aumento en las solicitudes para regular la inteligencia artificial o frenar el desarrollo de nuevos modelos. Suleyman se opuso a la idea de que las empresas detengan su progreso sin una supervisión pública adecuada, sugiriendo en su lugar la creación de evaluadores independientes y la colaboración con organismos como el Instituto de Seguridad de IA del Reino Unido.

Por último, Suleyman abordó la narrativa de una carrera existencial contra China, desestimando la noción de una competencia de «todo o nada» con el gigante asiático. En su opinión, la industria se dirige hacia un futuro en el que las ideas y los descubrimientos científicos se compartirán y copiarán rápidamente, en lugar de una confrontación directa y unilateral.

Etiquetas: Inteligencia Artificial, Microsoft, Anthropic, Claude