Google y las herramientas de edición fotográfica impulsadas por IA
El último desarrollo en la edición fotográfica proviene de Google, que ha anunciado herramientas de edición AI en su nuevo Pixel 9, siguiendo a Samsung y Apple. La herramienta se llama “Reimagine” y se basa en las funciones de Magic Editor del año pasado, permitiendo a los usuarios seleccionar objetos no humanos en las fotos y generar nuevos elementos mediante un texto descriptivo.
Resultados inquietantes de las pruebas de Reimagine
A pesar de su potencial creativo, las pruebas muestran resultados perturbadores. Al experimentar con instrucciones creativas, algunos colegas lograron generar imágenes desconcertantes, como cuerpos cubiertos con sábanas ensangrentadas. Se agregaron escenas de accidentes automovilísticos y parafernalia de drogas a fotos, lo que plantea preocupaciones sobre el uso indebido de la tecnología.
Responsabilidad de Google ante las preocupaciones sobre el contenido generado
Alex Moriconi, portavoz de Google, comentó que las herramientas están diseñadas para desbloquear la creatividad, pero que también pueden ser mal utilizadas para crear contenido ofensivo. Aseguraron tener políticas claras y barreras para prevenir abusos, aunque admitieron que algunos comandos pueden desafiar estas limitaciones.
Desafíos en la identificación de contenido problemático
Un problema grave es la incapacidad de identificar rápidamente las imágenes manipuladas. Las fotos editadas con Reimagine no llevan marcas visibles, solo una etiqueta en los metadatos, que pueden ser fácilmente eliminados. Google ha implementado un sistema de etiquetado más robusto llamado SynthID para imágenes generadas por Pixel Studio, pero las imágenes editadas con Magic Editor carecen de esta etiqueta.
La manipulación de fotos no es nueva, pero nunca ha sido tan fácil crear imágenes engañosas. Con un simple texto y el nuevo teléfono Pixel, es posible alterar fotos de manera realista. Esto presenta un riesgo, ya que la circulación de fotos engañosas puede ocurrir rápidamente sin que la mayoría de las personas se dé cuenta.
Es prudente ejercer un escepticismo adicional ante las imágenes que se ven en línea, dado el potencial de manipulación que ahora existe en la palma de la mano.
Fuente y créditos: www.theverge.com
Cats:
