El impacto de los deepfakes en las elecciones
No se debe interpretar erróneamente: existieron deepfakes engañosos que se difundieron durante estas elecciones. Por ejemplo, en los días previos a las elecciones en Bangladés, circularon deepfakes en línea animando a los partidarios de uno de los partidos políticos del país a boicotear la votación. Sam Gregory, director de programas de la organización sin fines de lucro Witness, que ayuda a las personas a usar la tecnología para apoyar los derechos humanos, afirma que su equipo sí observó un aumento en los casos de deepfakes este año. “En múltiples contextos electorales”, dice, “ha habido ejemplos de uso engañoso o confuso de medios sintéticos en formato de audio, video e imagen que han desconcertado a los periodistas o que no han podido verificar o cuestionar completamente.” Esto revela, añade, que las herramientas y sistemas actuales para detectar medios generados por IA aún están rezagados respecto al ritmo al que se desarrolla la tecnología. Fuera de los EE. UU. y Europa Occidental, estas herramientas de detección son aún menos fiables. “Afortunadamente, la IA en formas engañosas no se utilizó a gran escala en la mayoría de las elecciones o de manera decisiva, pero está muy claro que hay una brecha en las herramientas de detección y el acceso a ellas para quienes más las necesitan,” dice Gregory. “Este no es el momento para la complacencia.”
La manipulación de los medios sintéticos
La mera existencia de medios sintéticos ha permitido que los políticos puedan alegar que los medios reales son falsos, un fenómeno conocido como el “dividendo del mentiroso.” En agosto, Donald Trump alegó que las imágenes que mostraban grandes multitudes de personas acudiendo a los mítines de la vicepresidenta Kamala Harris eran generadas por IA. (No lo eran). Gregory afirma que en un análisis de todos los informes a la fuerza de respuesta rápida de deepfakes de Witness, aproximadamente un tercio de los casos involucraban a políticos utilizando IA para negar evidencia de un evento real, muchos de los cuales implicaban conversaciones filtradas.
Uso discreto de la IA en las elecciones
Sin embargo, Brennen señala que el uso más significativo de la IA este año ocurrió tras las cámaras, en formas más sutiles y menos llamativas. “Si bien hubo menos deepfakes engañosos de lo que muchos temían, aún hubo mucho uso de IA detrás de las escenas,” dice Brennen. “Creo que hemos estado viendo que mucho más contenido generado por IA se usó para escribir correos, anuncios en algunos casos o discursos.” Pero debido a que estos tipos de usos de la IA generativa no son tan visibles para el consumidor como los deepfakes, dice Brennen, es difícil conocer exactamente la escala en la que se utilizaron estas herramientas.
El papel de la IA en campañas políticas
Schneier menciona que la IA desempeñó un papel importante en las elecciones, incluyendo “traducción de idiomas, encuestas, asistencia en estrategias.” Durante las elecciones en Indonesia, una firma de consultoría política utilizó una herramienta basada en ChatGPT de OpenAI para redactar discursos y elaborar estrategias de campaña. En India, el primer ministro Narendra Modi utilizó un software de traducción por IA para traducir sus discursos a varios de los idiomas hablados en India en tiempo real. Schneier agrega que estos usos de la IA tienen el potencial de beneficiar a la democracia en general, permitiendo que más personas se sientan incluidas en el proceso político y ayudando a pequeñas campañas a acceder a recursos que de otro modo estarían fuera de su alcance. “Creo que veremos el mayor impacto para los candidatos locales,” dice. “La mayoría de las campañas en este país son pequeñas. Es una persona que se postula para un trabajo que ni siquiera podría ser remunerado.” Las herramientas de IA que podrían ayudar a los candidatos a conectarse con los votantes o presentar documentos, dice Schneier, serían “fenomenales.”
AI como símbolo de oposición en regímenes represivos
Schneier también señala que los candidatos y portavoces de IA pueden ayudar a proteger a personas reales y candidatos de oposición en estados represivos. A principios de este año, opositores bielorrusos en el exilio presentaron un candidato de IA como símbolo de protesta contra el presidente Alexander Lukashenko, el último dictador de Europa. El gobierno de Lukashenko ha arrestado a periodistas y disidentes, así como a sus familiares. Por su parte, las empresas de IA generativa ya se involucraron con las campañas estadounidenses este año. Tanto Microsoft como Google ofrecieron capacitaciones a varias campañas sobre cómo utilizar sus productos durante la elección. “Puede que aún no sea el año de las elecciones de IA, porque estas herramientas apenas están comenzando,” dice Schneier. “Pero están comenzando.”
Fuente y créditos: www.wired.com
Cats: Politics,Year in Review
