El fiscal de la ciudad de San Francisco ha enviado una carta de cese y desistimiento a Meta, instando a la empresa a detener la difusión de anuncios pagados que incluyen contenido sexual infantil generado por inteligencia artificial. En la misiva, se solicita a Meta explicaciones sobre cómo estos anuncios, que han aparecido repetidamente en sus plataformas, lograron evadir sus sistemas de moderación. Recientemente, se reveló que Meta había publicado más de 350 anuncios en los últimos meses que transformaban imágenes fijas de menores, algunos de ellos identificados como individuos reales, en breves videoclips que podían mostrarles realizando actos sexuales. Al hacer clic en estos anuncios, los usuarios eran dirigidos a descargar aplicaciones de generación de imágenes y videos mediante inteligencia artificial, algunas de las cuales podrían ser utilizadas para desvestir digitalmente a personas o crear imágenes íntimas no consensuadas.
Estos anuncios, que fueron detectados por investigadores del Tech Transparency Project (TTP), incluían algunos que se habían subido varias veces y alcanzaron a más de 29,000 cuentas en diversos países de la Unión Europea. Además, se publicaron en Facebook, Instagram y Threads, llegando también a usuarios en Estados Unidos, Australia e India. Aunque WIRED informó inicialmente sobre un lote de 53 anuncios a principios de agosto, más de 250 anuncios adicionales aparecieron en las plataformas de Meta después de este primer aviso.
El fiscal de San Francisco, David Chiu, declaró que Meta ha fallado en abordar un problema conocido de anuncios sexualmente explícitos generados por inteligencia artificial, mientras se beneficia económicamente de ellos. Chiu enfatiza que estos anuncios son profundamente perturbadores y perjudican a niños reales. A pesar de que Meta afirma tener una política de cero tolerancia hacia la explotación infantil, la magnitud y persistencia de estos problemas indican que los esfuerzos actuales son insuficientes, lo que Chiu considera inaceptable.
En la carta, Chiu cuestiona cómo funcionan las políticas de anuncios y los sistemas de seguridad de Meta, pidiendo que el personal legal, de seguridad infantil y de publicidad de la empresa participe en “discusiones rápidas” con la oficina del fiscal. También señala que los hallazgos son especialmente preocupantes porque no parecen ser un fallo aislado que Meta haya corregido al ser alertada del problema.
Desde Meta, se ha afirmado que no hay indicios de que los anuncios se hayan mostrado en San Francisco, lo que, según la empresa, significa que están “fuera de la jurisdicción del fiscal de la ciudad”. Sin embargo, un portavoz de la oficina del fiscal, Alex Barrett-Shorter, argumenta que, dado que “los consumidores de San Francisco pueden acceder a los anuncios ilegales a través de los espacios en línea de Meta”, este asunto es competencia de la ciudad. Barrett-Shorter califica la respuesta de Meta de asombrosa, sugiriendo que la empresa parece estar más preocupada por su responsabilidad que por la explotación de menores.
Meta había informado previamente que muchos de los anuncios identificados por los investigadores del TTP ya habían sido retirados antes de ser reportados, y que todos ellos fueron eliminados posteriormente por violar las políticas de la empresa. Según Meta, el gasto total en publicidad para los más de 300 anuncios hallados por los investigadores fue inferior a 5,000 dólares. La carta del fiscal exige que Meta detenga la difusión de estos anuncios y explique cómo lograron eludir sus sistemas de moderación, así como cómo escalan y informan anuncios al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). También se solicita detalles sobre cómo aborda a los anunciantes responsables de este contenido y a los reincidentes.
La misiva sostiene que los hallazgos sugieren “problemas sistémicos más amplios” con la forma en que Meta detecta la posible explotación sexual infantil en la publicidad, planteando “preguntas legales significativas” para la compañía. Chiu aclara que el objetivo de su oficina no se limita a identificar fallos pasados, sino a garantizar que Meta implemente sistemas que prevengan la explotación sexual de menores a través de anuncios por los que recibe pago, y que cumpla de manera fiable con las obligaciones legales cuando se percate de la aparente explotación sexual infantil.
Los investigadores del TTP revelaron que, en algunos casos, Meta no respondió a los informes sobre anuncios abusivos durante más de una semana, tiempo durante el cual esos anuncios fueron vistos por cientos de personas más. Cuando algunos anuncios fueron retirados, inicialmente no se marcaron como contenido de explotación sexual infantil, según el TTP y una revisión de la biblioteca de anuncios de Meta. La carta de Chiu concluye que la magnitud, persistencia y naturaleza de los problemas documentados sugieren que los esfuerzos de Meta para retirar anuncios son “lamentablemente inadecuados”, y solicita una respuesta de la empresa en un plazo de 28 días.
Las normas de comunidad y políticas publicitarias de Meta prohíben la explotación sexual infantil, el abuso y la desnudez, así como la promoción de aplicaciones que faciliten la desnudez. La compañía ha asegurado que todos los anuncios son revisados de acuerdo a sus políticas mediante revisiones automatizadas y, en ocasiones, manuales. A pesar de las acciones realizadas por Meta en contra de aplicaciones de desnudez, incluidos litigios contra una empresa radicada en Hong Kong vinculada a ciertas plataformas, los investigadores continúan encontrando miles de anuncios que dirigen a estas aplicaciones.
Etiquetas: Inteligencia Artificial, IA, San Francisco, Meta
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión