Un canadiense que engañó a periodistas en un elaborado engaño de música de IA dice que se disculpa con cualquiera herida por su experimento, pero que ha sido “demasiado fascinante” para alejarse.
Un hombre que usaba el seudónimo Andrew Frelon se hizo pasar por el portavoz de una banda llamada The Velvet Sundown, con el que luego dijo que no tenía participación, creando un frenesí mediático que impulsó a la “banda” asistida por IA a un millón de oyentes mensuales en Spotify.
Habló con CBC News por teléfono el viernes con la condición de que no se revele su nombre real. CBC News acordó no usar su nombre real porque teme el acoso en función de los mensajes de odio que recibió en línea, y se preocupa que perdiera el trabajo si se identifica.
La saga en línea pegajosa comenzó cuando la banda apareció en las plataformas de transmisión de música hace varias semanas y acumuló cientos de miles de transmisiones de dos álbumes de larga duración.
Su combinación de rock relajado inspirado en la década de 1970 y moderno pop independiente aparecieron en varias listas de reproducción populares de Spotify, incluida una con canciones de guerra de Vietnam.
Pero los oyentes inteligentes notaron que algo estaba mal. Los supuestos miembros de la banda no tenían una huella digital, y no había ningún registro de ellos haber actuado en vivo. El álbum y la foto de perfil, con cuatro rockeros de cabello peludo, también llevaban sellos distintivos de IA generativa.
Pero a medida que la controversia ganó vapor, una cuenta sobre Plataforma de redes sociales x Permitiendo representar a la banda negó enfáticamente que cualquiera de la música fue creada por la inteligencia artificial, llamando a las acusaciones “perezosas” y “sin fundamento”.
CBC contactó a la cuenta X el miércoles e intentó organizar una entrevista a través de una cuenta de Gmail que pretendía representar a la banda.
Entonces, un hombre que se hace llamar Andrew Frelon le dijo a Rolling Stoneen un artículo que se publicó en línea más tarde ese día, que está detrás de Velvet Sundown y la cuenta X, y que utilizó la plataforma AI generativa Suna para crear las canciones. Llamó al proyecto como un “engaño de arte”.
Una nueva investigación de Western University está brillando sobre el uso del gobierno federal de la inteligencia artificial a través de un registro gubernamental automatizado de seguimiento. Joanna Redden, profesora asociada de información y estudios de medios y codirectora en Starling: Just Technologies. Solo sociedades. y Data Justice Lab, se unió a London Morning para hablar sobre los datos y las preocupaciones sobre el uso de la IA.
Pero justo cuando el misterio parecía estar resuelto, una cuenta de X diferente vinculada a la página oficial de Sundown Spotify Publicó una declaración Decir que Frelon no tiene nada que ver con la banda.
“Alguien está intentando secuestrar la identidad de la puesta del sol de terciopelo”, dijo el comunicado, que también apareció en las cuentas de Spotify e Instagram de la banda el jueves.
Ese mismo día, Frelon, quien dio la entrevista de Rolling Stone, Publicado un largo blog Confirmar que no tenía nada que ver con la banda y que casi todo lo que le dijo a la revista, incluido su nombre, era una mentira.
La identidad de la banda real fue una vez más un misterio. Resultó que el engaño era, de hecho, parte de un engaño más grande.
‘Es demasiado fascinante de un misterio’
Hablando con CBC News el viernes, Frelon sostuvo que tiene una conexión “cero” con el atercojo.
Cuando se le preguntó sobre su motivación para mantener una artimaña tan complicada, Frelon dijo que la forma en que todo se ha desarrollado se ha convertido en “combustible artístico de aviones”.
“Hay tantas cosas culturales y técnicas extrañas en juego aquí. Es un misterio demasiado fascinante para que me aleje”, dijo.
La verdadera persona detrás de Andrew Frelon es un experto en problemas de seguridad y política de plataformas web, con una amplia experiencia utilizando IA generativa. Nació en los Estados Unidos pero vive en Canadá.
Varias publicaciones estadounidenses importantes lo han entrevistado sobre sus otros proyectos de IA y su trabajo de seguridad y políticas.
CBC News verificó su identidad a través de capturas de pantalla y un chat de video de señal. Frelon envió capturas de pantalla de su correspondencia con Rolling Stone para confirmar que fue la persona que hizo esa entrevista.
Frelon dijo que intentó el año pasado monetizar su propio proyecto de música AI con un amigo. Seguro que la AI generó la puesta del sol al terciopelo, y sorprendido por su éxito aparentemente durante la noche, decidió convertirse en el publicista de facto de la banda como un experimento de “ingeniería social”.
Para sembrar más confusión, Frelon compartió publicaciones hechas por la cuenta oficial de Velvet Sundown X, para hacer que parezca que estaba conectado a la cuenta que ejecuta. También generó y publicó “fotos” de AI de la banda en varios entornos y escenarios, y dijo que usó ChatGPT cuando inicialmente respondía a los periodistas.
Parte de su intención con el experimento de Velvet Sundown, dijo, estaba borrando la realidad e intentar ver cuán diligentemente trabajarían los miembros de los medios para verificar su identidad.
“Realmente estoy explotando la incertidumbre”, dijo. “Y creo que ese es el arte”.
Su experimento también destacó la facilidad de crear contenido engañoso y la velocidad con la que se propaga.
Frelon dijo que finalmente espera avanzar en la conversación sobre la IA generativa y sus riesgos y beneficios.
Más de 200 artistas, incluidos Sheryl Crow y la finca de Bob Marley, han escrito una carta que suplica la protección contra el uso poco ético de la inteligencia artificial, como la reproducción no autorizada de sus voces y semejanzas.
En el proceso, sin embargo, dijo que recibió una avalancha de mensajes de odio y reconoció que la broma ha molestado a algunas personas.
“No quise hacerlo maliciosamente, aunque obviamente algunas de las técnicas que utilicé eran de menos y no muy geniales”, dijo. “Reconozco eso, y me disculpo por las personas afectadas”.
El engaño de Frelon sobrealimentó el éxito de Velvet Sundown; La audiencia de la banda ha crecido en unos 700,000 oyentes mensuales en Spotify desde que comenzó su engaño, golpeando un millón el sábado.
En otro giro más, la cuenta de X oficial de la banda admitió el sábado a su uso de IA después de tocar a Coy durante semanas, diciendo En una declaración de redes sociales Es un “proyecto de música sintética guiada por la dirección creativa humana, y compuesta, expresada y visualizada con el apoyo de la inteligencia artificial”.
Todavía no está claro quién está detrás de Velvet Sundown, y su cuenta X no ha respondido a las solicitudes de entrevistas de CBC News.
Frelon dijo que recibió un mensaje de la cuenta X de Velvet Sundown el sábado, insistiendo en que renombra su cuenta y elimina todas las referencias a que la banda sea “100% generada por humanos”.
La página X de Frelon ahora está marcada como una cuenta de “parodia”.
Plataformas de transmisión de infiltrado de ‘bandas’ AI
Música electrónica generada por IA, y Canciones de ai imitando a los artistas existentesse han convertido en un lugar común, pero las “bandas” de IA son un fenómeno más nuevo.
Laszlo Tamasi, el hombre detrás de Hard-Rock At The Devil Inside, que tiene millones de transmisiones de Spotify, admitió en junio que usa AI para hacer la música y generar las imágenes de la banda, después de que los fanáticos y escritores de música plantearon preguntas.
Otros artistas populares, como el acto de “Dark Country” Aventhis y el provocativo cantante de soul Nick Hustles, se han revelado de manera similar que son creaciones de IA con aportes detrás de escena de los humanos.
El cantante y compositor con sede en Nueva Escocia, Ian Janes, que tenía Su propia batalla con la música de IA Después de que un proyecto aparentemente generado por IA apareció en Spotify usando su nombre, dijo de alguna manera, la industria de la música ha preparado el escenario para una adquisición de IA al depender tanto de las técnicas asistidas por tecnología como la cuantificación y la corrección de tono.
Dijo que los oyentes se han acostumbrado tanto a la “perfección” con ayuda de la tecnología en la música grabada que cuando escuchan una canción generada por IA, puede parecer indistinguible de algo hecho por personas reales. Por el contrario, cuando una voz humana sale de la clave, o una canción acelera o ralentiza, la gente podría percibir que como un error.
“El acondicionamiento de nuestros oídos a la perfección algorítmica en la música ha preparado el escenario para que la IA esté preparada para tomarnos ese trabajo”, dijo Janes.
El Velvet Sundown inicialmente planteó sospechas en parte porque su nombre parecía derivado de actos como el Velvet Underground y Sunset Rubdown, y sus títulos y letras de la canción también parecían carecer de originalidad. Su canción más transmitida, Polvo en el vientopor ejemplo, recuerda el éxito de Kansas de 1977 Polvo en el viento.
Pero Alexander Olson, asociado de investigación senior en la Facultad de Ciencias Aplicadas e Ingeniería de la Universidad de Toronto que investiga la IA, dijo que se está volviendo cada vez más difícil para la persona promedio identificar la IA en todos los medios.
Para muchos, la inteligencia artificial es una herramienta. Para otros, representa plagio y robo de propiedad intelectual. Lorelei Pepi, profesora de animación en la Universidad Emily Carr en Vancouver, se une a nuestro Dan Burritt en una conversación para desempacar el impacto de AI en el sector creativo.
“Se ha hecho aún más difícil en este entorno, porque mucha gente confía en Spotify para elegir canciones para ellos y hacer esas recomendaciones”, dijo.
El crítico musical con sede en Winnipeg, Darryl Sterdan, llama a la música de Velvet Sundown “genérica” y “olvidable”, y dijo que la IA aún no está en el punto en que puede reproducir el alma y la “humanidad indefinible” detrás de las canciones valiosas.
Pero predice que no pasará mucho tiempo antes de que AI genere un verdadero éxito pop global que encienda la tabla, forzando a instituciones como los Grammys y Junos a “recompensar formalmente” las creaciones de IA en un intento por seguir siendo relevantes. “Entonces, el diluvio realmente comenzará”, dijo.
