En mayo, TikTok anunció que etiquetaría automáticamente el contenido generado por IA en su plataforma. Sin embargo, esto no es cierto para todas las versiones de la aplicación. Un nuevo informe de la Fundación Mozilla y AI Forensics revela que la versión Lite-Save Data de TikTok, dirigida a usuarios en mercados más pobres, no solo deja el contenido generado por IA sin etiquetar, sino que también carece de otras salvaguardias similares.
“Etiquetar es una táctica muy importante que las plataformas utilizan para ofrecer alguna forma de confianza y seguridad”, dice Odanga Madung, un miembro de Mozilla y coautor del informe.
Los usuarios de la versión completa de TikTok, por ejemplo, verán etiquetas que indican que el contenido es gráfico o que representa un comportamiento peligroso. Algunos contenidos sobre temas como elecciones y salud, de manera similar, incluyen un aviso que alienta a los usuarios a acceder a información creíble a través de un “centro de recursos” en la aplicación.
En TikTok Lite, ninguna de estas medidas de protección está presente. Entre otras cosas, esto significa que con el contenido engañoso generado por IA siendo un problema en elecciones alrededor del mundo, los usuarios en mercados más pobres reciben menos información sobre lo que es falso y lo que es real en comparación con los usuarios en mercados más ricos.
Madung cuestiona por qué, de todas las características que podrían eliminarse para optimizar la aplicación, la empresa eligió excluir las que hacen que la plataforma sea más segura para los usuarios. “No sabemos si esto es una elección o si simplemente es negligencia”, afirma.
“Hay varias inexactitudes fácticas en este informe que representan fundamentalmente de manera errónea nuestro enfoque hacia la seguridad”, dijo un portavoz de TikTok en un comunicado. “El hecho es que el contenido que infringe nuestras reglas se elimina de TikTok Lite de la misma manera que en nuestra aplicación principal y ofrecemos numerosas características de seguridad.” La empresa se negó a señalar inexactitudes específicas.
Las versiones Lite de las aplicaciones han sido durante mucho tiempo una forma para que las empresas aumenten su cuota de mercado en áreas donde los usuarios enfrentan altos costos de datos o solo pueden permitirse teléfonos menos avanzados. En 2015, Meta, entonces Facebook, lanzó Facebook Lite, una versión simplificada de su aplicación que era más compatible con redes de datos 2G. Ese mismo año también lanzó Free Basics, que permitía a los usuarios en el Sur Global acceder a la plataforma y a ciertos otros sitios web sin que se les cobrara por el uso de datos. (Una aplicación o servicio que cumple con estos criterios se llama “zero-rated”.) En ese momento, el proyecto enfrentó críticas generalizadas, particularmente en India, por crear una experiencia de segundo nivel para los clientes más pobres.
TikTok lanzó su versión Lite en 2018 en Tailandia, y se expandió rápidamente a otros mercados en el sudeste asiático, incluyendo Indonesia, Malasia y Filipinas. La aplicación, que a diferencia de la versión completa de TikTok puede funcionar en redes 2G y 3G, ahora tiene más de 1 billón de descargas, según datos de Google Play Store. (TikTok Lite solo está disponible para teléfonos Android.)
“La mayoría de los usuarios en el Sur Global son de bajos ingresos y están limitados en recursos”, dice Payal Arora, profesora de culturas de IA inclusivas en la Universidad de Utrecht. Las versiones Lite de las aplicaciones ayudan a las empresas a incluir a estas personas, algo que ella considera aún más crítico de lo que ha sido en el pasado porque “los datos son moneda en este mercado impulsado y hambriento de IA.”
Fuente y créditos: www.wired.com
Cats: Politics,Politics / Politics News,watered down
