Satya Nadella propone medidas de seguridad para la inteligencia artificial

lnia-satya-nadella-propone-medidas-de-seguridad-para-la-inteligen_1792314226

Satya Nadella, consejero delegado de Microsoft, ha compartido recientemente sus reflexiones sobre la seguridad en la inteligencia artificial, uniéndose a otros líderes del sector en un debate crucial. En una publicación matutina en X, el directivo subrayó la necesidad de «dar un paso atrás y evaluar la arquitectura de confianza» que rodea a la inteligencia artificial. En su opinión, no se puede tratar a la Superinteligencia como un conjunto de cajas negras anidadas, aceptando o rechazando sus recomendaciones, respuestas y acciones sin un análisis crítico.

Nadella propuso una estrategia que implica «separar el modelo del sistema que orquesta su funcionamiento», así como «externalizar los controles y salvaguardias». Además, instó a que «cada acción significativa del modelo» sea documentada con «evidencia legible por humanos que sea a prueba de manipulaciones». También enfatizó la importancia de contar con sistemas que permitan a «una persona autorizada» tener siempre la capacidad de «pausar o apagar un modelo en medio de una tarea».

El consejero delegado destacó: «Debemos asumir que un modelo está comprometido y contenerlo desde el principio», comparando esta medida con un «freno de emergencia». Estas afirmaciones de Nadella se producen en un contexto en el que las principales empresas de inteligencia artificial admiten cada vez más incidentes en los que parecen haber perdido el control sobre sus modelos. Esta preocupación se intensifica tras la publicación de un plan por parte de Dario Amodei, consejero delegado de Anthropic, que aboga por un desarrollo más prudente de la inteligencia artificial.

Etiquetas: Inteligencia Artificial, Satya Nadella

Foto: Brian Smale and Microsoft · CC BY-SA 4.0 (Wikimedia Commons).

Compartir:
Óscar López

Sobre Óscar López

Periodista tecnológico especializado en inteligencia artificial, innovación empresarial y transformación digital. Colaborador de Las Noticias de la IA.

Únete al grupo de WhatsApp

También te puede interesar

   

Sin comentarios

Deja tu comentario

Tu correo no se publicará. Los comentarios se revisan antes de aparecer.

🤖 IA EN DIRECTO
El impacto del idioma en los costos de la inteligencia artificial: ¿hablar en inglés es más rentable?◆Desarrolla tu propio asistente de IA para mejorar tu inglés hablante en el nuevo tutorial de Platzi.◆La Unesco explica cómo interactuar con sistemas de inteligencia artificial◆Jim Zemlin advierte sobre riesgos de la IA en programación y confianza necesaria◆Ken Thompson advirtió sobre los riesgos de confiar en código ajeno◆Elon Musk apoya la petición para el regreso de Jensen Huang a NVIDIA◆Crean cortometraje de cine negro con inteligencia artificial desde la comodidad de su oficina.◆Crea vídeos impactantes en minutos: guía rápida de Filmora 16 para principiantes.◆Amazon planea crear un índice global de datos de compras en línea◆Gemini 4 Hydrogen: la IA gratuita que compite con las de pago y promete revolucionar el mercado tecnológico.◆Los 10 mejores repositorios de GitHub para editar videos, según la experiencia de Benjamín Cordero.◆La velocidad de la inteligencia artificial supera nuestras capacidades de adaptación y respuesta.◆El impacto del idioma en los costos de la inteligencia artificial: ¿hablar en inglés es más rentable?◆Desarrolla tu propio asistente de IA para mejorar tu inglés hablante en el nuevo tutorial de Platzi.◆La Unesco explica cómo interactuar con sistemas de inteligencia artificial◆Jim Zemlin advierte sobre riesgos de la IA en programación y confianza necesaria◆Ken Thompson advirtió sobre los riesgos de confiar en código ajeno◆Elon Musk apoya la petición para el regreso de Jensen Huang a NVIDIA◆Crean cortometraje de cine negro con inteligencia artificial desde la comodidad de su oficina.◆Crea vídeos impactantes en minutos: guía rápida de Filmora 16 para principiantes.◆Amazon planea crear un índice global de datos de compras en línea◆Gemini 4 Hydrogen: la IA gratuita que compite con las de pago y promete revolucionar el mercado tecnológico.◆Los 10 mejores repositorios de GitHub para editar videos, según la experiencia de Benjamín Cordero.◆La velocidad de la inteligencia artificial supera nuestras capacidades de adaptación y respuesta.◆
Este sitio usa cookies para analizar el tráfico. Más información