• Un equipo de la Universidad de Chicago dice que ha encontrado una nueva forma de proteger el arte de la IA
  • Su programa, Glaze, encubre una imagen que alimenta los modelos de aprendizaje con datos inexactos
  • Descargado más de 890,000 veces, ofrece a los artistas la oportunidad de contrarrestar que la IA tome su trabajo sin consentimiento

Cargando Algo se está cargando.

Gracias por registrarte !

Accede a tus temas favoritos en un feed personalizado mientras estás en movimiento. descarga la aplicación

En el otoño de 2022, AI vino por Autumn Beverly.
Fue solo unos meses después de que la mujer de 31 años con sede en Ohio comenzara a dedicarse al arte a tiempo completo y dejara su trabajo diario como entrenadora de perros. Tuiteaba su trabajo, en su mayoría bocetos a lápiz de colores de animales, tratando de hacerse un nombre. Los conciertos llegaron poco a poco: una solicitud de logotipo aquí, un trabajo de arte conceptual allá.
En ese momento, la inteligencia artificial generativa comenzaba a impresionar a las personas en línea. La IA pronto sería mejor que los artistas humanos, le dijeron a Beverly. Su nueva carrera se estaba desvaneciendo, pero había poco que pudiera hacer.
Luego se volvió personal. En octubre, Beverly consultó un sitio web, HaveIBeenTrained.com, que revela si se utilizó una obra de arte o una fotografía para enseñar modelos de IA.

Su trabajo reciente era solo una fracción de lo que se había cosechado. Incluso los dibujos que publicó hace años en la plataforma para compartir imágenes DeviantArt se estaban utilizando para crear un bot que algún día podría reemplazarla.
« Tenía miedo incluso de publicar mi arte en cualquier lugar. Traté de difundir mi arte justo antes de eso, para que mi arte fuera visto, y ahora eso era casi algo peligroso », dijo Beverly a Insider.
Miles de artistas comparten su dilema mientras la IA domina la atención mundial: si comercializan su trabajo en línea, estarían alimentando la misma máquina que está a punto de acabar con sus carreras.

Glaze explota una ‘brecha enorme’ entre cómo la IA y los humanos entienden el arte

Ben Zhao, profesor de ciencias de la computación en la Universidad de Chicago, dice que la respuesta podría estar en cómo la IA ve la información visual de manera diferente a los humanos.

Su equipo produjo un programa gratuito este año llamado Glaze, que dicen que puede alterar una imagen de una manera que engaña a los modelos de aprendizaje de IA mientras mantiene los cambios mínimamente visibles para el ojo humano.
Descargado 893.000 veces desde su lanzamiento en marzo, vuelve a renderizar una imagen con ruido visual usando la computadora del artista.
Esa imagen aún se puede alimentar a los modelos de aprendizaje de IA, pero los datos obtenidos de ella serían inexactos, dijo Zhao a Insider.
Si Beverly alteró su arte con Glaze, un humano aún podría decir cómo se ve la pieza. Pero el encubrimiento haría que una IA viera características distintivas de otro estilo de arte, como las pinturas abstractas de Jackson Pollock, dijo Zhao.

Una versión Glazed de una escena con bisontes y lobos de Autumn Beverly. otoño beverly

Glaze permite a los usuarios ajustar la intensidad del encubrimiento, así como la duración del renderizado, lo que podría demorar hasta 60 minutos.
Dependiendo de lo que elija el usuario, las diferencias visuales pueden ser marcadas.

Esta imagen de Creative Commons de la Estatua de la Libertad (más a la izquierda) se volvió a renderizar con Glaze usando « muy bajo » (segundo desde la izquierda), « medio » (segundo desde la derecha) y « muy alto » (más a la derecha) ajustes de intensidad. Celso Flores/Flickr

Puede parecer que Glaze está distorsionando ligeramente una imagen, pero la nueva representación cambia por completo la forma en que un modelo de IA percibe la foto o la obra de arte, dijo Zhao.
Y debería funcionar en todos los ámbitos con los modelos de aprendizaje actuales, porque explota una brecha fundamental entre cómo la IA lee las imágenes y cómo las ven los humanos, dijo Zhao.

« Esa enorme brecha ha existido durante 10 años. La gente ha entendido esta brecha, tratando de cerrarla, tratando de minimizarla. Se ha demostrado que es realmente sólida y resistente, y es la razón por la que aún se pueden realizar ataques contra modelos de máquinas », dijo. dicho.

Mezclando webcómics con Van Gogh

El punto principal de Glaze es proteger el estilo individual de un artista, dijo Zhao. Su equipo conceptualizó el programa cuando fueron contactados por artistas preocupados de que los modelos de IA se dirigieran específicamente a su trabajo personal.
Ya está sucediendo, agregó. El equipo de la Universidad de Chicago ha visto a personas que venden programas en línea capacitados para imitar los dibujos y pinturas de un solo artista.
« Entonces, alguien está descargando un montón de arte de una cuenta en particular que pertenece a un artista en particular, entrenándolo en estos modelos y diciendo: ‘Esto reemplaza al artista, puedes tener esto si me lo descargas y me pagas un par de dólares ». dólares' », dijo Zhao.

Sarah Andersen, quien creó y dirige el cómic web « Sarah’s Scribbles », descubrió el año pasado que los generadores de texto a imagen de IA, como Stable Diffusion, podían crear cómics con su estilo característico.
Con un seguimiento tan grande como el suyo (más de 4,3 millones de personas en Instagram), le preocupa que los datos de AI sobre su trabajo puedan usarse como una herramienta poderosa para la suplantación de identidad o el acoso en línea, le dijo a Insider.
« Si quieres acosarme, puedes escribir ‘personaje de Sarah Andersen’, pensar en algo realmente ofensivo y escupirá cuatro imágenes », dijo Andersen.

Andersen dijo que notó que algunos generadores de arte se volvieron menos efectivos para imitar su trabajo después de que ella planteó el problema a algunas empresas. Sin embargo, un aviso de IA enviado en abril a Midjourney que contenía su nombre, junto con instrucciones genéricas no relacionadas con el estilo de dibujo, produjo resultados con similitudes estilísticas discutibles con su personaje. Generado por IA/Mitad del viaje

Ahí es donde Glaze está naturalmente posicionado para intervenir, dijo Zhao. Si una IA no puede recopilar datos precisos sobre el estilo de un artista, no puede esperar reemplazarlo o copiar su trabajo.

Mientras tanto, Andersen no tiene forma de eliminar todo su trabajo, que ha subido constantemente durante los últimos 12 años. Además, las redes sociales contribuyen esencialmente a todos sus ingresos actuales, dijo.
Ella es una de las principales demandantes en una demanda colectiva de mil millones de dólares contra empresas de inteligencia artificial como OpenAI y Stability AI, que dice que las empresas entrenaron a sus modelos en miles de millones de obras de arte sin el consentimiento de los artistas.
A medida que continúan los procedimientos legales, Andersen espera que Glaze sirva como una medida defensiva provisional para ella.
« Antes de Glaze, no teníamos ningún recurso para protegernos contra la IA. Se habla de una opción de exclusión voluntaria, pero cuando has sido un artista en línea como yo durante más de una década, tu trabajo está en todas partes », dijo.

Glaze podría iniciar una carrera armamentista entre artistas e IA, pero ese no es el punto

En última instancia, si una empresa de IA quisiera eludir a Glaze, podría hacerlo fácilmente, dijo Haibing Lu, profesor de infoanalítica en la Universidad de Santa Clara que estudia IA.
« Si fuera una empresa de inteligencia artificial, en realidad no estaría muy preocupado por esto. Glaze básicamente agrega ruido al arte, y si realmente quisiera descifrar sus sistemas de protección, es posible hacerlo, es muy simple ». Lu le dijo a Insider.
En teoría, eso podría conducir a una pseudocarrera armamentista, en la que las empresas de IA y el equipo de Glaze intentan continuamente superarse entre sí. Pero si las empresas de inteligencia artificial están dedicando recursos a descifrar Glaze, entonces ya cumplió parcialmente su propósito, dijo Zhao.
« El objetivo de la seguridad es elevar el listón tan alto que alguien que está haciendo algo que no debería estar haciendo se dé por vencido y, en cambio, encuentre algo más barato que hacer », dijo Zhao.

Los sistemas tecnológicos diseñados para salvaguardar el trabajo de alguien están legalmente protegidos en algunos países, pero no está claro si un programa como Glaze podría entrar en esa categoría, dijo a Insider Martin Senftleben, profesor de derecho de la información en la Universidad de Ámsterdam.
« Personalmente, puedo imaginar que los jueces estarán dispuestos a decir que ese es el caso », dijo Senftleben.

¿Qué más pueden esperar los artistas?

Los artistas preocupados por la IA pueden tener pocas alternativas a Glaze. Si creadores como Beverly o Andersen quieren demandar a las empresas de inteligencia artificial por infracción de derechos de autor, tendrán un camino difícil hacia la victoria, dijo Senftleben.
« El problema es que la mera imitación de estilo normalmente no es suficiente para presentar un reclamo de derechos de autor, porque los conceptos, estilos, ideas, etc., permanecen libres bajo las reglas de derechos de autor », dijo Senftleben. Por ejemplo, la autora de « Harry Potter », JK Rowling, no posee el monopolio de las historias sobre un niño que descubre que tiene poderes mágicos, agregó.

Un curso legal para los artistas podría ser un sistema de licencias que les pague cuando su arte se use para enseñar IA, dijo Senftleben. O los países podrían recaudar ganancias de las obras generadas por IA para canalizar el dinero de regreso a los bolsillos de los artistas, agregó. Pero podrían pasar años, tal vez incluso una década, para que esas leyes entren en vigencia, dijo.
Glaze tiene como objetivo llenar el vacío hasta que esas leyes o pautas se afirmen, dijo Zhao.
« Glaze nunca tuvo la intención de ser algo perfecto », dijo. « El objetivo ha sido lidiar con esta amenaza para los artistas, donde pierdes tus ingresos por completo o sales y sabes que alguien podría reemplazarte con un modelo ».
Mientras tanto, Beverly ha comenzado a publicar su trabajo en línea nuevamente con Glaze y es una de las defensoras de la plataforma. Dejó de dibujar por completo de agosto a octubre, creyendo que su carrera había terminado, pero ahora está creando y promocionando alrededor de 10 piezas nuevas al mes.

« Creo que si hay un camino ético a seguir, definitivamente deberíamos impulsarlo. Soy una artista digital. Uso programas actualizados en mi trabajo todo el tiempo. No estoy en contra del progreso », dijo. « Pero no me gusta que me exploten ».
OpenAI y Midjourney no respondieron a las solicitudes de comentarios de Insider sobre Glaze. El equipo de prensa de Stability AI se negó a comentar sobre Glaze porque es un software de terceros no afiliado, pero dijo que está implementando solicitudes de exclusión voluntaria en versiones más nuevas de su generador de arte.
LAION, la organización sin fines de lucro que recopila recursos artísticos para el aprendizaje automático, no respondió a múltiples solicitudes de comentarios de Insider sobre cómo obtener el consentimiento de los artistas.