La Detección de Imágenes Generadas por IA
Primero, la mala noticia: es realmente difícil detectar imágenes generadas por IA. Las señales evidentes que solían ser indicativas — manos distorsionadas y texto confuso — son cada vez más raras a medida que los modelos de IA mejoran a un ritmo vertiginoso. Ya no es obvio qué imágenes son creadas utilizando herramientas populares como Midjourney, Stable Diffusion, DALL-E y Gemini. De hecho, las imágenes generadas por IA están comenzando a engañar a las personas aún más, lo que ha creado grandes problemas en la difusión de desinformación. La buena noticia es que, generalmente, no es imposible identificar imágenes generadas por IA, pero requiere más esfuerzo que antes.
Detectores de Imágenes Generadas por IA
Estas herramientas utilizan visión por computadora para examinar patrones de píxeles y determinar la probabilidad de que una imagen sea generada por IA. Esto significa que los detectores de IA no son completamente infalibles, pero son una buena forma para que la persona promedio determine si una imagen merece un escrutinio, especialmente cuando no es inmediatamente obvio. “Desafortunadamente, para el ojo humano —y hay estudios— hay aproximadamente un 50-50 de posibilidades de que una persona lo acierte,” dijo Anatoly Kvitnitsky, CEO de la plataforma de detección de imágenes IA o No. “Pero para la detección de IA en imágenes, debido a los patrones similares a los píxeles, esos todavía existen, incluso a medida que los modelos continúan mejorando.” Kvitnitsky afirma que IA o No logra un 98 por ciento de tasa de precisión de promedio.
Comparativa de Detectores de IA
Otros detectores de IA que generalmente tienen altas tasas de éxito incluyen Hive Moderation, SDXL Detector en Hugging Face, e Illuminarty. Probamos diez imágenes generadas por IA en todos estos detectores para ver cómo funcionaron.
IA o No
IA o No proporciona un simple “sí” o “no”, a diferencia de otros detectores de imágenes de IA, pero dijo correctamente que la imagen era generada por IA. Con el plan gratuito, obtienes 10 subidas al mes. Probamos con 10 imágenes y obtuvimos una tasa de éxito del 80 por ciento.
Hive Moderation
Probamos la herramienta de demostración gratuita de Hive Moderation con más de 10 imágenes diferentes y obtuvimos una tasa de éxito del 90 por ciento en general, lo que significa que tenían una alta probabilidad de ser generadas por IA. Sin embargo, no pudo detectar las cualidades de IA de una imagen artificial de un ejército de ardillas trepando una pared de roca.
SDXL Detector
El SDXL Detector en Hugging Face tarda unos segundos en cargarse, y podrías recibir un error en el primer intento, pero es completamente gratis. También proporciona un porcentaje de probabilidad. Dijo que el 70 por ciento de las imágenes generadas por IA tenían una alta probabilidad de ser generativas de IA.
Illuminarty
Illuminarty tiene un plan gratuito que ofrece detección básica de imágenes de IA. De las 10 imágenes generadas por IA que subimos, solo clasificó el 50 por ciento como con una probabilidad muy baja. Para horror de los biólogos roedores, le dio a la infame imagen de un ratón una baja probabilidad de ser generada por IA.
Otros Métodos de Detección
Otro método es la simple búsqueda inversa de imágenes, que es lo que Bamshad Mobasher, profesor de ciencias de la computación, recomienda. Al subir una imagen a Google Imágenes o a una herramienta de búsqueda de imágenes inversa, puedes rastrear el origen de la imagen. Si la foto muestra un evento noticioso aparentemente real, “puedes determinar que es falso o que el evento real no ocurrió,” dijo Mobasher.
Importancia de la Alfabetización en IA
Sin los métodos mencionados anteriormente, no serán de gran utilidad si no primero haces una pausa al consumir medios — particularmente en redes sociales — para preguntarte si lo que estás viendo fue generado por IA. Así como la alfabetización mediática se convirtió en un concepto popular alrededor de la elección de 2016 llena de desinformación, la alfabetización en IA es la primera línea de defensa para determinar qué es real o no. Los investigadores de IA Duri Long y Brian Magerko definen la alfabetización en IA como “un conjunto de competencias que permite a los individuos evaluar críticamente las tecnologías de IA; comunicarse y colaborar efectivamente con IA; y usar IA como herramienta en línea, en casa, y en el lugar de trabajo”
Iniciativas para Combatir Deepfakes y Desinformación
Como hemos visto, hasta ahora los métodos que los individuos pueden usar para discernir imágenes de IA de las reales son limitados. Para agravar la situación, la difusión de imágenes generadas por IA puede ser problemática. Sin embargo, tras la IA generativa, han surgido varias iniciativas para fortalecer la confianza y la transparencia.
Fuente y créditos: mashable.com
Cats: Tech
