La fiscalía de Nueva York incauta más de doce sitios de deepfake

Durante casi una década, numerosos sitios web abusivos de «pornografía» deepfake han difundido miles de vídeos no consensuados en los que se representan a mujeres, incluidas celebridades, políticos y figuras públicas, en situaciones sexuales. En un movimiento considerado uno de los mayores desmantelamientos de este tipo de plataformas, las autoridades de Nueva York han incautado más de una docena de estos sitios perjudiciales. El lunes, la Oficina del Fiscal de Distrito de Manhattan comunicó la confiscación de 12 dominios que, según afirman, se han utilizado para compartir, publicar y vender ilegalmente vídeos deepfake de celebridades. Aproximadamente 1.200 personas, en su mayoría mujeres, fueron retratadas en imágenes y vídeos sexuales no consensuados en estos sitios, que incluían a influencers de redes sociales, actores, activistas, atletas, músicos y políticos. El fiscal de distrito, Alvin Bragg, declaró que “estas horrendas violaciones de la privacidad siguen a las víctimas en sus carreras y vidas personales, y tienen un inmenso impacto en su bienestar emocional y mental”, instando a las posibles víctimas a que se pongan en contacto con la oficina de delitos cibernéticos. La oficina también indicó que las investigaciones sobre quiénes son los responsables de estos sitios y sobre aquellos que subieron los vídeos dañinos continúan en curso.

Las incautaciones, realizadas bajo las leyes de procedimiento penal de Nueva York, representan una de las acciones más significativas y exhaustivas contra sitios web que albergan vídeos deepfake explícitos desde que esta tecnología emergió a finales de 2017. Con el avance de la inteligencia artificial, ha surgido una oscura industria de sitios web, aplicaciones y bots diseñados para «desvestir» fotos de mujeres o crear vídeos sexuales gráficos que las incluyen. Estas imágenes y vídeos son cada vez más realistas y pueden generarse en cuestión de segundos. Aunque la tecnología deepfake se utiliza ampliamente contra mujeres y niñas no famosas, las celebridades han alzado la voz sobre los muchos daños que sufren al ser representadas en este tipo de contenido y los retos que enfrentan para que se elimine.

A pesar de que las leyes contra los deepfakes han avanzado lentamente, la Ley estadounidense Take It Down permite cada vez más la eliminación de imágenes, incluyendo disposiciones que facultan a los funcionarios de la ley para desmantelar y confiscar sitios web. La Oficina del Fiscal de Distrito de Manhattan no ha revelado públicamente los sitios que han sido incautados; sin embargo, antes del anuncio de Bragg, se observó que varias de las páginas de inicio de los sitios fueron reemplazadas por avisos de desmantelamiento, indicando que “ESTE DOMINIO HA SIDO INCAUTADO”, con los sitios ahora afirmando haber sido tomados bajo una orden de confiscación emitida por un Tribunal Supremo del Estado de Nueva York.

Leonie Oehmig, investigadora del Instituto para el Diálogo Estratégico (ISD) que ha estudiado el ecosistema de creación de deepfakes, afirmó que los desmantelamientos son una victoria significativa en la lucha contra la creación de imágenes íntimas no consensuadas (NCII). Oehmig comentó que la aplicación de las leyes estatales demuestra que el contenido dañino puede ser abordado, y que los sitios incautados no parecen ser accesibles incluso al intentar acceder a ellos mediante redes privadas virtuales (VPN) desde otras ubicaciones. “Esto demuestra que una aplicación coordinada y significativa es posible incluso cuando la regulación sigue siendo fragmentada entre jurisdicciones”, añadió.

Los sitios incautados probablemente hayan sido visualizados millones de veces y muchos utilizaban nombres que incluían frases como «sex celebrity» o prometían «deepfakes reales». Estos alojaban vídeos falsos de algunas de las celebridades más famosas del mundo, con uno de los sitios afirmando que “se utilizan los rostros de varias actrices para los deepfakes”. Los vídeos podían durar varios minutos e incluir escenas completamente explícitas, a menudo intercambiando los rostros de celebridades o figuras públicas en vídeos pornográficos existentes. Versiones archivadas de los sitios muestran que algunos vídeos habían sido visualizados decenas de miles de veces, siendo uno de los sitios reclamado haber estado en línea desde 2018.

Benjamin Shultz, investigador principal del American Sunlight Project, una organización sin ánimo de lucro, destacó que la mayoría de los vídeos tomaban la forma de películas pornográficas reales, manipuladas para mostrar los rostros de las víctimas en lugar de los actores originales. Shultz, que ha estado documentando el abuso de deepfakes contra figuras políticas y que ha encontrado algunos de estos sitios durante su investigación, mencionó que muchos de los vídeos parecían ser republicaciones de contenido que originalmente había sido compartido en el sitio MrDeepFakes, una plataforma de deepfake notoria que fue retirada después de que sus creadores fueron identificados por periodistas. “En al menos dos de los sitios incautados, se crearon perfiles de funcionarios electos que incluían su nombre y cargo, junto con una cuadrícula de vídeos manipulados que presentaban su semejanza”, explicó Shultz.

A través de investigaciones recientes, Shultz indicó que 56 políticos europeos habían sido mencionados o aparecido en los sitios, incluyendo a 16 políticos estadounidenses y dos del Reino Unido. Aunque Oehmig considera que los desmantelamientos son alentadores, advirtió que existen muchos otros aspectos de la industria deepfake que están causando daños graves. “La intervención efectiva debe dirigirse a múltiples puntos del ecosistema, incluyendo las herramientas utilizadas para la creación de NCII sintética, la detección y promoción de estos contenidos, la infraestructura técnica que los mantiene en línea, y los sistemas de pago y afiliación que permiten a los operadores monetizarlos”, concluyó Oehmig.

Etiquetas: Nueva York