Microsoft establece nuevas normas de privacidad para su inteligencia artificial en escuelas

Microsoft ha establecido nuevas normas de privacidad y seguridad para la inteligencia artificial en el ámbito escolar, en respuesta a un endurecimiento de las políticas educativas. Esta decisión se produce una semana después de que dos importantes sistemas escolares anunciaran la prohibición de herramientas de IA dirigidas a estudiantes. En un acuerdo con la Federación Americana de Maestros (AFT), el segundo sindicato de docentes más grande de Estados Unidos, y su filial en Nueva York, la Unión de Maestros de Nueva York (UFT), Microsoft se compromete a cumplir diez principios que podrán ser exigidos contractualmente por los distritos escolares que los adopten.

Entre los compromisos asumidos por la compañía se destaca la promesa de no entrenar modelos de IA con datos de estudiantes o educadores. Además, se limitará la cantidad de información que Microsoft recopila inicialmente y se garantizará que las familias entiendan cómo funcionan sus herramientas a través de un lenguaje claro. También se prohíben los compañeros de IA y se exigirá una revisión humana para decisiones que se consideren de “alto riesgo”. Este acuerdo llega tras la implementación por parte de Nueva York y Los Ángeles de prohibiciones de un año sobre el uso de herramientas de IA dirigidas a estudiantes, lo que brinda a los distritos tiempo para evaluar su uso y establecer límites adecuados.

A medida que padres y algunos educadores han mostrado resistencia al uso de la IA y las pantallas en las escuelas, Microsoft parece reconocer que decisiones similares podrían ser adoptadas en otros lugares. A partir de noviembre, los distritos escolares tendrán la opción de añadir estos términos a nuevos acuerdos o a contratos existentes, sin necesidad de renegociar en su totalidad.

La AFT, aunque ha criticado la incorporación de tecnología en las aulas, se muestra abierta a colaborar con empresas tecnológicas para adaptarse al auge actual de la IA. En una intervención en mayo, la presidenta de la AFT, Randi Weingarten, abogó por la prohibición de pantallas antes del tercer grado y de herramientas de IA dirigidas a estudiantes antes de la educación secundaria. Sin embargo, la AFT también anunció la creación de un centro de formación sobre IA para educadores, financiado por Anthropic, Microsoft y OpenAI, con un presupuesto de 23 millones de dólares.

Weingarten, al comentar sobre el nuevo acuerdo de privacidad con Microsoft, destacó que los términos son “a prueba de balas” y necesarios, ya que “nadie más, incluido el gobierno federal, ha asumido la responsabilidad de hacer el trabajo real”. Agregó que es momento de actuar de manera decisiva, afirmando que “cualquier cosa menos que disposiciones legalmente exigibles es simplemente una lista de deseos”.

Etiquetas: Inteligencia Artificial, Microsoft