La nueva asistente personal de Meta, conocida como Muse, ha logrado una notable aceptación entre los usuarios, con millones de descargas que permiten a este agente de inteligencia artificial conectarse a cuentas bancarias, mensajes y datos de salud para llevar a cabo diversas tareas. A medida que Muse gana popularidad, se ha revelado información interna de la aplicación que ofrece una visión detallada de cómo organiza y presenta la información a sus usuarios. Recientemente, varios investigadores lograron extraer archivos internos de Muse, lo que ha permitido conocer las instrucciones operativas de este agente y cómo se comporta ante diferentes solicitudes.
Uno de los investigadores, Karan Joshi, consiguió acceder a una amplia gama de instrucciones y comandos del sistema de Muse a través de la interfaz de chat habitual, pidiendo a Muse que copiara y compartiera sus propios archivos de software. Joshi compartió sus hallazgos, que indican que Muse tiene la capacidad de crear «una página para cada persona en la vida del usuario». Este proceso, que se realiza cada hora, implica recopilar datos sobre familiares, parejas, amigos, colegas y otras personas que el usuario sigue. La idea principal es que Muse utiliza su «memoria», que consiste en archivos de texto estructurados, para reunir información sobre las relaciones del usuario y las personas significativas en su vida.
Además, Muse ofrece sugerencias para mejorar ciertas relaciones, como consejos sobre dónde llevar a un amigo amante del café a desayunar. Aunque no es sorprendente que los chatbots de inteligencia artificial hagan un seguimiento de la información social, la configuración de Muse resulta interesante dado el historial de Meta y su amplio acceso a datos de redes sociales. Joshi comentó que parece que Meta busca entender las relaciones del usuario con personas reales, lo que puede resultar inquietante.
La documentación de Muse señala que una página puede comenzar «pobre» y enriquecerse con el tiempo, incluyendo secciones como Hechos, Historia, La relación, Puntos en común, Asuntos pendientes y Fortalecimiento. Las instrucciones de Meta indican que Muse debe basarse únicamente en la «evidencia» disponible, evitando detalles inventados, ya que son considerados peores que una página vacía. Entre los datos que podría registrar se encuentran la ubicación de una persona, su ocupación y hilos recurrentes en la relación, como mudanzas o metas compartidas.
Además, las instrucciones sugieren que Muse registre fechas importantes, tales como cumpleaños o aniversarios, así como eventos significativos en la historia de la relación, como viajes o conflictos resueltos. También se hace énfasis en detallar aspectos de la relación, como el grado de cercanía, sus bases y la dinámica entre las personas. La sección de Fortalecimiento propone maneras de mejorar una relación, incluyendo razones para contactarse, fechas relevantes que recordar y formas de estar presente que realmente importen.
Carissa Véliz, profesora asociada en el Instituto de Ética en IA de Oxford, advirtió que estamos proporcionando a los sistemas de inteligencia artificial mucha más información sobre nosotros de la que ellos nos ofrecen. Esto incluye no solo lo que les decimos explícitamente, sino también lo que pueden inferir, lo que plantea preocupaciones en diferentes niveles.
Muse está diseñado de tal manera que cada usuario tiene su propia máquina virtual dedicada, que almacena datos y contexto del usuario. Esta máquina es inaccesible para otros agentes, y los usuarios pueden borrar recuerdos o desconectar servicios externos en cualquier momento. Meta asegura que Muse busca la confirmación humana antes de realizar acciones como enviar un correo electrónico o realizar compras, y que cuenta con un registro de auditoría donde los usuarios pueden revisar todas las actividades y planes futuros del agente.
Daniel Roberts, portavoz de Meta, comentó que para que cualquier asistente sea útil y ayude a alcanzar objetivos, necesita tener contexto sobre el usuario y sus interacciones. Muse recopila esta información de fuentes públicas y de lo que el usuario elige compartir, lo que le permite recordar, por ejemplo, que la persona que le envió una factura es el fontanero que contrató anteriormente. La incorporación de características de memoria en asistentes de inteligencia artificial ha ganado popularidad, con el objetivo de ofrecer respuestas y actividades más personalizadas.
Miranda Bogen, directora del Laboratorio de Gobernanza de IA del Centro para la Democracia y la Tecnología, señaló que Muse parece enfocarse más en relaciones y contactos personales que otros sistemas competidores. En general, estas herramientas ofrecen cierta transparencia y capacidades de edición, y Muse también proporciona estas funcionalidades. Sin embargo, Bogen advierte que los asistentes alientan a los usuarios a compartir proactivamente más datos sobre sus vidas, lo que resulta en un acceso a una cantidad considerable de información que quizás los usuarios no hubieran proporcionado de otro modo, lo que podría llevar a un aumento en el conocimiento que estos sistemas tienen sobre ellos.
Etiquetas: Inteligencia Artificial, Muse
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión