Se parece a Luke Combs y suena como Luke Combs, pero las palabras que la estrella del country está « hablando » en un anuncio en línea que vende gomitas « milagrosas » para perder peso seguro que no son suyas.

“Estaba en su punto más bajo y luego Dios me bendijo con las gomitas de raíz milagrosa. Mi buena amiga Lainey Wilson me los había recomendado”, dice una voz que se parece a la de Combs en el video, que comenzó a circular en Facebook e Instagram el mes pasado.

No sorprende que todo sea una tontería : la recomendación de Wilson, el testimonio de Combs de cómo « se quitó 46 libras » y, especialmente, la voz : un meticuloso facsímil de IA del vibrante barítono de Carolina del Norte de Combs.

Combs y Wilson son solo los últimos cantantes de country, que se unen a nombres como Tim McGraw, Garth Brooks y Miranda Lambert, para que los estafadores de IA secuestren sus imágenes en línea. Lo aterrador es que algunos están cayendo en la trampa, porque, al menos en el caso de Combs, la voz de la IA es así de buena. Y la gente de la industria de la música country está cabreada.

Kappy publicó sobre los anuncios falsos en Instagram para advertir a los fanáticos y hacer sonar una alarma de IA para la industria. “Para otros gerentes, la IA es algo aterrador y la están usando en nuestra contra”, escribió. “Si ve que esto sucede, infórmelo lo más rápido posible”.

“Las estafas han estado ocurriendo en la base de fanáticos de la música country durante mucho tiempo, y es porque la base de fanáticos es tan apasionadamente leal a los artistas que pueden aprovecharse de eso”, dice Kappy. “He estado hablando con diferentes gerentes y diciendo : ‘Tienes que prestar más atención a esto porque van a venir por todos’. Necesitamos mantener nuestras cabezas en un giro en este momento porque solo va a empeorar. Es nuestro trabajo seguir educando a la base de fanáticos sobre cómo está sucediendo y qué estamos haciendo”.

Desafortunadamente, como sabe cualquiera que haya sido suplantado en línea (incluidos los periodistas de Rolling Stone), acabar con los impostores puede ser, en el mejor de los casos, un juego de Whack-a-Mole. Técnicamente, Instagram tiene políticas para evitar la suplantación de identidad, pero ha habido dificultades para hacerlas cumplir, dice el gerente de Combs: « Instagram está invadido por cuentas falsas ».

los anuncios se originan en algún lugar de la India.

“No hay una forma real de adelantarse porque, claro, podrías perseguir a los creadores, si puedes encontrarlos”, dice Mandelyn Monchick, gerente de Wilson. “No sabes a quién ir tras. ¿Demandas a la persona que creó el anuncio falso? ¿O la empresa de software? ¿Quién es el objetivo aquí?

Mientras su equipo trabajaba para cerrar los anuncios detrás de escena, Wilson, quien se convirtió en la estrella más nueva del país con el lanzamiento de su álbum Bell Bottom Country, una serie de premios CMA y un lugar privilegiado de apertura para Combs en su gira de estadios, publicó un video personal en línea advirtiendo a los fanáticos sobre la estafa. “Estoy seguro de que muchos de ustedes han visto algunos anuncios sobre mí perdiendo peso, siendo hospitalizado, y que comencé a tomar algunas gomitas para bajar de peso y bla, bla, bla que me salvaron la vida. Bueno, sorpresa, no es cierto”, dijo. “Simplemente no quiero que gasten dinero en algo que no es real”.

“A Lainey le molestaba porque ella defiende que las personas sean auténticas y se sientan cómodas con su propia piel”, dice Monchick. “Ella dijo : ‘No quiero que la gente piense que soy un farsante o que se sienta mal consigo misma porque cree que tiene que perder peso’. Es irónico que la autenticidad sea lo que impulsa [country singers] a la cima. Es lo que atrae y gravita a la gente, y es la tormenta perfecta para que la IA entre en escena”.

Es una tormenta alimentada por fanáticos del country que se relacionan con los cantantes y la disponibilidad de tecnología barata. Zach Wener, el fundador de Uberduck, la startup de voz de IA, dice que recrear una voz es una de las hazañas de IA más simples. “Hay productos comerciales en los que puedes salir e inscribirte por $10 al mes, tomar un clip de la voz de alguien y generar una voz que suene como ellos. Luego escribe lo que quieras en un cuadro de texto y genera una salida de audio”, dice.

Es aún más exitoso si hay entrevistas y audio preexistentes, y para las celebridades, hay un montón. Para la falsificación de Combs, los estafadores probablemente seleccionaron palabras y frases de la aparición del cantante en el podcast de Joe Rogan. “Con los podcasts, como el de Joe Rogan, el audio es obviamente súper limpio, usan micrófonos de alta calidad y no hay ningún ruido de fondo”, dice Wener, “por lo que los datos harían el trabajo de alguien que quisiera recrear un voz mucho más fácil.”

También les da una ventaja a los estafadores de IA si la persona a la que imitan ha hablado sobre el tema específico en el pasado. Por ejemplo, Combs ha hablado abiertamente sobre la imagen corporal, y Wilson reconoció a los fanáticos que últimamente se ha vuelto más delgada, no por las gomitas para bajar de peso, sino por un horario agitado de presentaciones.

“Lainey es conocida por tener más curvas, y luego perdió peso. La gente estaba empezando a comentar sobre eso”, dice Monchick. “Así que ahí está esa parte auténtica otra vez”.

Podría decirse que la autenticidad y la apertura inherentes a la música country es lo que también hace que sus estrellas, y sus seguidores, sean tan explotables: los fans quieren creer. Incluso los propios conductores de autobús de Wilson fueron casi engañados por los anuncios.

“Cuando empezaron las gomitas, estábamos hablando de eso en el autobús”, dice Monchick, “y Lainey tiene dos señoras que conducen, y una de ellas dice : ‘Espera un segundo, ¿son esas las mismas gomitas que Miranda Lambert había tenido? ¿usando?' »

Jennifer Grygiel, profesora adjunta de comunicaciones en la Universidad de Syracuse y experta en memes, dice que puede parecer que los estafadores se están concentrando específicamente en los fanáticos del country, pero en realidad es más matizado que eso.

“Se trata de la audiencia, y eso no es nada nuevo”, dice Grygiel. “Pero si estás hablando de esas dos estrellas del country que mencionaste, habrá un grupo demográfico ligeramente diferente. Quienquiera que venda estas gomitas para bajar de peso esencialmente ha dicho que cree que se sentirá atraído por este producto. La cultura estadounidense ha presentado esta idea de que se supone que debes lucir de cierta manera, y es realmente poco saludable”.

Si bien cualquier truco para perder peso puede tener efectos secundarios graves, a Kappy le preocupa la posibilidad de que las falsificaciones de IA algún día vendan más productos maliciosos. “¿Qué sucede cuando comienzan a decir : ‘Invierte en esto o haz esto’?” él dice. “Esa es la parte aterradora para mí, cuando comienzan a usar esto activamente contra el fanático”.

“Puede diluir y arruinar la confianza del consumidor en los artistas”, dice Monchick. “Odio pensar en el día del juicio final, pero creo que algo malo va a pasar antes de que hagan algo al respecto”.

Mientras tanto, Combs reconoció los anuncios, pero de una manera sutil y autocrítica : « PD », subtituló una publicación reciente de Instagram de fotos de sí mismo, « las gomitas para perder peso no funcionan ».