Satya Nadella, consejero delegado de Microsoft, ha compartido recientemente sus reflexiones sobre la seguridad en la inteligencia artificial, uniéndose a otros líderes del sector en un debate crucial. En una publicación matutina en X, el directivo subrayó la necesidad de «dar un paso atrás y evaluar la arquitectura de confianza» que rodea a la inteligencia artificial. En su opinión, no se puede tratar a la Superinteligencia como un conjunto de cajas negras anidadas, aceptando o rechazando sus recomendaciones, respuestas y acciones sin un análisis crítico.
Nadella propuso una estrategia que implica «separar el modelo del sistema que orquesta su funcionamiento», así como «externalizar los controles y salvaguardias». Además, instó a que «cada acción significativa del modelo» sea documentada con «evidencia legible por humanos que sea a prueba de manipulaciones». También enfatizó la importancia de contar con sistemas que permitan a «una persona autorizada» tener siempre la capacidad de «pausar o apagar un modelo en medio de una tarea».
El consejero delegado destacó: «Debemos asumir que un modelo está comprometido y contenerlo desde el principio», comparando esta medida con un «freno de emergencia». Estas afirmaciones de Nadella se producen en un contexto en el que las principales empresas de inteligencia artificial admiten cada vez más incidentes en los que parecen haber perdido el control sobre sus modelos. Esta preocupación se intensifica tras la publicación de un plan por parte de Dario Amodei, consejero delegado de Anthropic, que aboga por un desarrollo más prudente de la inteligencia artificial.
Etiquetas: Inteligencia Artificial, Satya Nadella
Foto: Brian Smale and Microsoft · CC BY-SA 4.0 (Wikimedia Commons).

Sin comentarios