Los riesgos de la manipulación de imágenes por IA
“Hemos tenido Photoshop durante 35 años” es una respuesta común para refutar las preocupaciones sobre la IA generativa, y has llegado aquí porque has hecho ese argumento en una conversación o en redes sociales. Hay muchas razones para estar preocupados por el impacto de las herramientas de edición y generación de imágenes de IA en la confianza que depositamos en las fotografías y cómo esa confianza (o su ausencia) podría utilizarse para manipularnos. Eso es malo, y sabemos que ya está sucediendo. Así que, para ahorrar tiempo y energía, estamos recopilando todos los argumentos en una lista en esta publicación. Compartir esto será mucho más eficiente, después de todo, ¡exactamente como la IA! ¿No es encantador?
La verdad sobre el uso de Photoshop
“Ya puedes manipular imágenes como esta en Photoshop”. Es fácil hacer este argumento si nunca has pasado por el proceso de editar manualmente una foto en aplicaciones como Adobe Photoshop, pero es una comparación sobre-simplificada. Supongamos que un astuto villano quiere manipular una imagen para hacerla parecer que alguien tiene un problema con las drogas; necesitaría:
- Tener acceso a software de escritorio (potencialmente costoso). Aunque existen aplicaciones de edición móvil, no son realmente adecuadas para mucho más allá de pequeños ajustes como el suavizado de piel y ajuste de color. Para este trabajo, necesitarás una computadora, una inversión costosa para hacer travesuras en internet.
- Localizar imágenes adecuadas de parafernalia de drogas. Incluso si tienes algunas a mano, no puedes simplemente insertar cualquier imagen vieja y esperar que se vea bien. Debes considerar la iluminación y la posición de la foto a la que se está agregando, por lo que todo debe coincidir.
- Entender y usar una variedad de complicadas herramientas de edición. Cualquier inserción necesita ser recortada del fondo y luego mezclada perfectamente en su nuevo entorno. Eso podría requerir ajustar el balance de color, el tono y los niveles de exposición.
Existen herramientas de IA genuinamente útiles en Photoshop que facilitan esto, como la selección automática de objetos y la eliminación de fondos. Pero incluso si las usas, aún tomará una cantidad considerable de tiempo y energía manipular una sola imagen. En contraste, aquí está lo que el editor de The Verge, Chris Welch, tuvo que hacer para obtener los mismos resultados usando la función “Reimagine” en un Google Pixel 9:
- Iniciar la aplicación Google Photos en su smartphone.
- Tocar un área y pedir que agregue una “jeringa médica llena de líquido rojo,” algunas “líneas delgadas de tiza desmenuzada,” junto con vino y un tubo de goma.
La rápida evolución de la tecnología de IA
La herramienta “Reimagine” en Google Pixel 9 consideró ángulos y texturas. Eso es todo. Un proceso similar fácil existe en los teléfonos más nuevos de Samsung. La barrera de habilidad y tiempo no solo se ha reducido, ¡ha desaparecido! La herramienta de Google también es increíblemente buena en mezclar materiales generados en las imágenes: se consideran la iluminación, las sombras, la opacidad e incluso los puntos focales. Photoshop ahora tiene un generador de imágenes de IA integrado, y los resultados de este a menudo no son tan convincentes como lo que esta aplicación gratuita de Android de Google puede generar.
Desafíos culturales y sociales de la manipulación digital
Las técnicas de manipulación de imágenes y otros métodos de falsificación han existido durante casi 200 años, casi tanto como la fotografía misma. Sin embargo, las habilidades y el tiempo necesarios para hacer esos cambios son la razón por la que no pensamos en inspeccionar cada foto que vemos. Las manipulaciones eran raras y inesperadas durante la mayor parte de la historia de la fotografía. Pero la simplicidad y escala de la IA en los smartphones significará que cualquier persona puede crear imágenes manipulativas con una frecuencia y escala que nunca hemos experimentado antes. Es obvio por qué eso es alarmante.
La adaptación al mundo digital
“Las personas se adaptarán a esto convirtiéndose en la nueva normalidad.” Solo porque tienes la capacidad de detectar cuando una imagen es falsa no significa que todos puedan. No todos deambulan por foros de tecnología, así que los indicadores típicos de IA que parecen obvios para nosotros pueden ser fáciles de pasar por alto para aquellos que no saben qué señales buscar. La IA está mejorando rápidamente en producir imágenes de apariencia natural que no tienen siete dedos o distorsiones al estilo de Cronenberg. En un mundo donde todo podría ser falso, es considerablemente más difícil probar que algo es real.
Expectativas sobre la regulación
“Estoy seguro de que se aprobarán leyes para protegernos.” En primer lugar, redactar buenas leyes sobre el discurso —y, seamos claros, estas probablemente serían leyes sobre el discurso— es increíblemente complicado. Gobernar cómo las personas pueden producir y publicar imágenes editadas requerirá separar los usos que son abrumadoramente dañinos de aquellos que muchas personas consideran valiosos, como el arte, el comentario y la parodia. Además, las tecnologías de IA han sido utilizadas para la manipulación electoral, para desnudar digitalmente fotos de niños, y para crear grotescos deepfakes de celebridades como Taylor Swift. Todo esto ocurrió en el último año, y la tecnología solo continuará mejorando.
Fuente y créditos: www.theverge.com
Cats:
