Empresas de Tecnología Facilitan el Acceso a Sitios Web de Desnudo No Consentido
Principales empresas de tecnología, incluyendo Google, Apple y Discord, han estado permitiendo que las personas se registren rápidamente en sitios web de “desnudo” dañinos, que utilizan inteligencia artificial para quitar la ropa de fotos reales, haciendo que las víctimas aparezcan “desnudas” sin su consentimiento. Más de una docena de estos sitios web de deepfake han estado usando botones de inicio de sesión de las empresas tecnológicas durante meses. Un análisis de WIRED encontró 16 de los mayores sitios web denominados de “desnudo” y “nudify” utilizando la infraestructura de inicio de sesión de Google, Apple, Discord, Twitter, Patreon y Line. Este enfoque permite a las personas crear cuentas fácilmente en los sitios web de deepfake, ofreciéndoles una apariencia de credibilidad, antes de que paguen por créditos y generen imágenes.
Aumento de Imágenes No Consentidas
Si bien los bots y sitios web que crean imágenes íntimas no consensuales de mujeres y niñas han existido durante años, el número ha aumentado con la introducción de la inteligencia artificial generativa. Este tipo de abuso de “desnudo” es alarmantemente generalizado, con adolescentes varones supuestamente creando imágenes de sus compañeras de clase. Los críticos señalan que las empresas tecnológicas han sido lentas para abordar la magnitud de los problemas, con los sitios web apareciendo en posiciones altas en los resultados de búsqueda, anuncios pagados promoviendo estos sitios en redes sociales, y aplicaciones mostrándose en las tiendas de aplicaciones.
“Esta es una continuación de una tendencia que normaliza la violencia sexual contra mujeres y niñas por parte de Big Tech”, dice Adam Dodge, abogado y fundador de EndTAB (Ending Technology-Enabled Abuse). “Las API de inicio de sesión son herramientas de conveniencia. Nunca deberíamos hacer de la violencia sexual un acto de conveniencia”, dice. “Deberíamos construir muros alrededor del acceso a estas aplicaciones, y en cambio, les estamos dando a las personas un puente levadizo.”
Acciones de las Empresas Tecnológicas
Los herramientas de inicio de sesión analizadas por WIRED, que se implementan a través de API y métodos de autenticación comunes, permiten a las personas utilizar cuentas existentes para unirse a los sitios web de deepfake. El sistema de inicio de sesión de Google apareció en 16 sitios web, el de Discord en 13, y el de Apple en seis. El botón de X estaba en tres sitios web, con los de Patreon y el servicio de mensajería Line apareciendo en los mismos dos sitios.
WIRED no está nombrando los sitios web, ya que permiten abusos. Varios son parte de redes más amplias y son propiedad de las mismas personas o empresas. Los sistemas de inicio de sesión se han utilizado a pesar de que las empresas tecnológicas tienen reglas que establecen que los desarrolladores no pueden utilizar sus servicios de maneras que faciliten daño, acoso, o invadan la privacidad de las personas.
Después de ser contactados por WIRED, voceros de Discord y Apple dijeron que han eliminado las cuentas de desarrollador conectadas a sus sitios web. Google afirmó que tomará medidas contra los desarrolladores cuando encuentre que se han violado sus términos. Patreon dijo que prohíbe cuentas que permitan la creación de imágenes explícitas, y Line confirmó que está investigando pero dijo que no podía comentar sobre sitios web específicos. X no respondió a una solicitud de comentarios sobre el uso de sus sistemas.
Expansión Rápida de la Tecnología Deepfake
En las horas después de que Jud Hoffman, vicepresidente de confianza y seguridad de Discord, dijera a WIRED que había terminado el acceso de los sitios web a sus API por violar su política de desarrollador, uno de los sitios web de desnudo publicó en un canal de Telegram que la autorización a través de Discord estaba “temporalmente no disponible” y afirmó que estaba intentando restaurar el acceso. Ese servicio de desnudo no respondió a la solicitud de WIRED sobre sus operaciones.
Desde que la tecnología deepfake emergió hacia finales de 2017, el número de videos e imágenes íntimas no consensuales que se crean ha crecido exponencialmente. Si bien los videos son más difíciles de producir, la creación de imágenes usando sitios y aplicaciones de “desnudo” o “nudify” se ha vuelto común.
“Debemos ser claros en que esto no es innovación, esto es abuso sexual”, dice David Chiu, abogado de la ciudad de San Francisco, quien recientemente abrió una demanda contra sitios web de desnudo y nudify y sus creadores. Chiu dice que los 16 sitios web en los que se centra la demanda de su oficina han tenido alrededor de 200 millones de visitas solo en los primeros seis meses de este año. “Estos sitios web están involucrados en una explotación horrible de mujeres y niñas en todo el mundo. Estas imágenes se utilizan para acosar, humillar y amenazar a mujeres y niñas”, alega Chiu.
Fuente y créditos: www.wired.com
Cats: Security
