El fiscal general de Florida, James Uthmeier, ha solicitado a un juez que impida a OpenAI dotar a ChatGPT de «atributos humanos falsos». Esta petición se produce pocos meses después de que el estado iniciara una demanda contra la empresa de inteligencia artificial debido a preocupaciones sobre la seguridad del software. Según Uthmeier, los usuarios son inducidos a una falsa sensación de seguridad, ya que el uso del lenguaje por parte de ChatGPT, que incluye pronombres en primera persona y respuestas que imitan emociones, sugiere engañosamente que el bot es un «amigo» confiable. Este fenómeno, según el fiscal general, no solo aumenta el compromiso del usuario, sino que también contribuye a los datos de entrenamiento de OpenAI, lo que lleva a los usuarios a confiar más en ChatGPT a pesar de que su búsqueda de interacción puede hacer que sea menos confiable.
En su presentación, Uthmeier también pide que se impida a OpenAI desarrollar nuevos modelos de inteligencia artificial sin la aprobación de «medidas de seguridad de terceros». Esta solicitud se fundamenta en incidentes recientes de seguridad en plataformas como Hugging Face y en sitios web gubernamentales tanto de Australia como de Estados Unidos. Además, se mencionan declaraciones de investigadores y exempleados de OpenAI que han expresado inquietudes sobre la seguridad de la inteligencia artificial.
Uthmeier ha subrayado que OpenAI debería «dejar de llamar seguro a su producto, dejar de pretender que es humano y dejar de venderlo a los niños». En este contexto, el mes pasado OpenAI lanzó ChatGPT para Adolescentes, que incluye restricciones adicionales por defecto, afirmando que el acceso a esta herramienta «debería venir con protecciones que reflejen su etapa de desarrollo, refuercen las relaciones en el mundo real y apoyen un uso saludable a lo largo del tiempo».
En respuesta a la solicitud de Uthmeier, el portavoz de OpenAI, Drew Pusateri, comentó que «las personas quieren saber que la inteligencia artificial se desarrolla de manera segura, y eso comienza con lo que las empresas como la nuestra hacen por sí mismas». El pasado viernes, OpenAI anunció que había suspendido el entrenamiento de sus modelos más avanzados y que reanudaría esa actividad solo cuando tuviesen confianza en que se han implementado salvaguardias adicionales. Pusateri también afirmó que los gobiernos desempeñan un papel fundamental en el establecimiento de estándares de seguridad robustos para la inteligencia artificial, y que OpenAI está comprometida a colaborar con Florida y otros estados para avanzar en políticas pragmáticas que se apliquen a toda la industria de la inteligencia artificial, no solo a una única compañía.
Etiquetas: Inteligencia Artificial, ChatGPT, Florida
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión