La amenaza de los videos generados por IA
Esta publicación es parte de la serie “Exponiendo la IA” de Lifehacker. Estamos explorando seis tipos diferentes de medios generados por IA, subrayando las peculiaridades y características que ayudan a distinguir entre el contenido artificial y el creado por humanos. Las empresas de IA están entusiasmadas con los generadores de video: alaban las posibilidades creativas que ofrecen estos nuevos modelos y disfrutan de los impresionantes resultados que pueden lograr. Sin embargo, desde mi perspectiva, una tecnología que permite a cualquiera crear videos realistas con un simple comando no es divertida ni prometedora, sino aterradora. ¿Realmente quieres vivir en un mundo donde cualquier video que veas en línea pueda haber sido creado de la nada con IA? Así nos dirigimos.
Los peligros de la manipulación de videos
Cuando das a malos actores las herramientas para manipular videos a un grado que muchas personas, si no la mayoría, creerán que son reales a simple vista, estás echando gasolina sobre un fuego que ha estado ardiendo desde que la primera persona mintió en internet. Es más importante que nunca estar alerta sobre lo que vemos en línea y tomar un enfoque crítico hacia cualquier video que pretenda representar la realidad, especialmente cuando esa realidad está destinada a provocarnos o influir en nuestra perspectiva del mundo.
Tipos de videos generados por IA
Actualmente, hay dos tipos de videos generados por IA a tener en cuenta. El primero son videos completamente generados por modelos de IA, secuencias enteras que no utilizan material real y nunca existieron antes de ser producidas. El otro tipo de video preocupante son los videos alterados por IA, como los deepfakes: videos reales que utilizan IA para superponer el rostro de una persona sobre otro, o para alterar un rostro real para que coincida con contenido de audio manipulado.
Cómo funcionan los generadores de video por IA
Al igual que otros modelos de IA generativa, los generadores de video de IA son alimentados con una gran cantidad de datos para funcionar. A diferencia de los modelos de imagen que se entrenan en imágenes individuales, los generadores de video analizan la relación entre múltiples imágenes y cómo éstas cambian en secuencia. Es importante ser capaz de detectar si un video es real o manipulado, ya que a medida que estos generadores de video mejoran, podrían aparecer cada vez más videos engañosos en línea, similares a como han proliferado las imágenes generadas por IA.
Señales de alerta para identificar videos manipulados
La tecnología para superponer un rostro sobre otro es impresionante pero imperfecta. En muchos casos, un deepfake tendrá signos evidentes de falsificación. Además, es común que la boca del rostro manipulado no coincida con el discurso subyacente, lo que se convierte en una señal clara de manipulación. Otros indicios pueden incluir errores visuales, artefactos, y física poco realista en los videos generados por IA. Por ejemplo, los modelos de IA a veces no comprenden cómo funcionan los objetos en el mundo real, lo que resulta en movimientos o acciones poco convincentes.
Es importante abordar el contenido en línea con escepticismo. No necesitas una IA para crear publicaciones engañosas que distorsionen la verdad o para manipular un video clip. Pero el video generado por IA es diferente: no solo el video mismo está manipulado, sino que podría no haber sucedido en absoluto. Es una pena que tengamos que aproximarnos a internet (y al mundo en general) de manera tan cínica, pero cuando un solo comando puede producir un video entero de la nada, ¿qué otra elección tenemos?
Fuente y créditos: lifehacker.com
Cats: Tech
