Se utilizaron muchos contenidos generados por IA para expresar apoyo o fanatismo por ciertos candidatos. Por ejemplo, se publicó un vídeo generado por IA de Donald Trump y Elon Musk bailando la canción de los BeeGees “Stayin’ Alive”. compartido millones de veces en las redes socialesincluido el senador Mike Lee, republicano de Utah.
“Se trata de señalización social. Son todas las razones por las que la gente comparte estas cosas. No es IA. Estamos viendo los efectos de un electorado polarizado”, dice Bruce Schneier, tecnólogo de interés público y profesor de la Escuela Kennedy de Harvard. “No es que hayamos tenido elecciones perfectas a lo largo de nuestra historia y ahora, de repente, aparece la IA y todo es desinformación”.
Pero no lo tuerzas: ahí eran Deepfakes engañosos que se difundieron durante esta elección. Por ejemplo, en los días previos a las elecciones en Bangladesh, Los deepfakes circularon en línea alentadores. partidarios de uno de los partidos políticos del país a boicotear la votación. Sam Gregory, director de programa de la organización sin fines de lucro Witness, que ayuda a las personas a usar la tecnología para apoyar los derechos humanos y dirige un programa de detección de respuesta rápida para organizaciones de la sociedad civil y periodistas, dice que su equipo vio un aumento en los casos de deepfakes este año.
“En múltiples contextos electorales”, dice, “ha habido ejemplos de uso real engañoso o confuso de medios sintéticos en formato de audio, video e imagen que han desconcertado a los periodistas o no les ha sido posible verificarlos o cuestionarlos completamente. ” Lo que esto revela, dice, es que las herramientas y sistemas actualmente existentes para detectar medios generados por IA todavía están por detrás del ritmo al que se desarrolla la tecnología. En lugares fuera de EE. UU. y Europa occidental, estas herramientas de detección son aún menos confiables.
“Afortunadamente, la IA de manera engañosa no se utilizó a gran escala en la mayoría de las elecciones ni de manera fundamental, pero está muy claro que existe una brecha en las herramientas de detección y el acceso a ellas para las personas que más la necesitan”, dice Gregory. “Este no es el momento para la complacencia”.
La mera existencia de medios sintéticos, dice, ha significado que los políticos hayan podido alegar que los medios reales son falsos, un fenómeno conocido como el “dividendo del mentiroso”. en agostoDonald Trump alegó que las imágenes que mostraban grandes multitudes de personas asistiendo a mítines en favor de la vicepresidenta Kamala Harris fueron generadas por IA. (No lo eran.) Gregory dice que en un análisis de todos los informes a la fuerza de respuesta rápida de Witness, alrededor de un tercio de los casos eran políticos que usaban IA para negar evidencia de un evento real, muchos de los cuales involucraban conversaciones filtradas.
