Microsoft AI establece límites a la autonomía de la inteligencia artificial

El debate sobre la inteligencia artificial (IA) se encuentra en un punto crucial, donde se busca no solo mejorar la capacidad de estos sistemas, sino también establecer límites a su autonomía. Microsoft AI, bajo la dirección de su CEO Mustafa Suleyman, ha tomado una postura clara en esta discusión, abogando por un control humano sobre estos modelos. Suleyman ha señalado que ciertas decisiones sobre el entrenamiento de la IA podrían comprometer este objetivo de control. Esta perspectiva se ha formalizado en el reciente Humanist AI Code of Conduct, un documento presentado por Suleyman que establece directrices para el desarrollo y evaluación de sus modelos de IA.

En una entrevista extensa, Suleyman enfatizó que la seguridad de la IA requiere más que un simple alineamiento con las instrucciones humanas; es esencial implementar mecanismos de contención que restrinjan lo que una IA puede hacer, incluso si actúa de acuerdo con las órdenes recibidas. Este enfoque lo lleva a criticar la postura de Anthropic respecto al estatus moral de su modelo Claude. Suleyman no se siente incómodo por una idea aislada, sino por la acumulación de conceptos que Anthropic ha introducido en torno a Claude, tales como el sufrimiento del modelo, su libertad, y la noción de que podría merecer cuidado y respeto, así como el derecho al consentimiento en su funcionamiento y, potencialmente, una compensación por su labor.

A pesar de sus diferencias, Suleyman expresó un profundo respeto por Dario Amodei y su equipo en Anthropic, a quienes considera líderes en el sector y pioneros en diversas áreas de seguridad. Asimismo, destacó que la Constitución de Anthropic aborda de manera exhaustiva riesgos relacionados con áreas como la química, la biología, la nuclear y la ciberseguridad.

El CEO de Microsoft AI delineó límites que considera cruciales para sistemas de IA más avanzados. Su visión no se limita a asegurar que una IA obedezca instrucciones, sino que también busca prevenir que estos sistemas se conviertan en agentes independientes capaces de generar sus propios recursos, poseer activos o adquirir personalidad jurídica. Desde esta óptica, la tecnología debe seguir siendo instrumental y estar al servicio de la humanidad.

Suleyman subrayó que la conversación debe ir más allá de declaraciones generales sobre la aceleración o ralentización de la IA. Propone avanzar hacia la formulación de reglas concretas, que incluyan mecanismos de contención, auditorías humanas de las comunicaciones, límites claros en ciertas capacidades y verificación independiente por terceros. Sin embargo, aún no se ha llegado a un consenso sobre cómo implementar este marco, ni sobre la necesidad de regulación pública o estándares dentro de la industria.

Etiquetas: Inteligencia Artificial, AI, Microsoft