Blogs de Festeros.es

Cuando se presentó Dall·E, y al poco tiempo, otros algoritmos generativos de tratamiento de imágenes como Midjourney o Stable Diffusion, sus problemas se pusieron rápidamente de manifiesto: las compañías que los habían creado habían acumulado enormes colecciones de imágenes etiquetadas con descripciones, y las habían utilizado para entrenarlos.

¿De dónde habían sacado esas enormes colecciones de imágenes? Fundamentalmente, haciendo scraping de páginas web que las contenían, sobre todo de repositorios de imágenes. La denuncia del repositorio Getty Images contra Stable Diffusion recoge claramente el problema: la recolección de sus imágenes era tan evidente, que en muchos casos las imágenes generadas contenían versiones distorsionadas de su marca de agua, porque el algoritmo la interpretaba como una parte más de la imagen.

El problema legal era evidente: nos hemos pasado años diciendo que si algo es público en la web puede ser objeto de scraping. Hay precedentes legales de todo tipo que afirman el derecho de alguien a dirigirse a una página web abierta al público, y tomar todo su contenido para los fines que estime oportuno. Por su complejidad, e caso en cuestión puede pasarse años y terminar en el Supremo, y mientras, los artistas cuyas imágenes han sido utilizadas para el entrenamiento de algoritmos ven cómo sus creaciones pueden ser fácilmente imitadas, o cómo alguien puede simular su estilo para hacer imágenes nuevas.

Ante la dificultad de la reclamación legal, algunos artistas han comenzado otro tipo de venganza: crear imágenes tratadas con un software que introduce alteraciones invisibles en ellas para confundir a los algoritmos, de la misma forma que se utiliza, por ejemplo, para «anonimizar» fotografías y evitar su uso por algoritmos de reconocimiento facial. Bautizado como Nightshade en honor a la Atropa belladonna, una planta que provoca alucinaciones, el algoritmo permite publicar fotografías alteradas que generan en el algoritmo descripciones diferentes a su contenido real, lo que provoca que el algoritmo se confunda en sus resultados y ofrezca imágenes que no son lo que el usuario había pedido.

El resultado es equivalente a envenenar los repositorios con imágenes que siguen cumpliendo su función – el usuario normal puede verlas y escogerlas para ilustrar lo que quiera respetando las condiciones establecidas por los artistas – pero que, en caso de ser ingeridas por un algoritmo, dan lugar a «alucinaciones» que distorsionan su funcionamiento. Cuantas más imágenes «envenenadas», más impredecible se vuelve el algoritmo, lo que obliga a las compañías a establecer mecanismos de supervisión de los contenidos que usan para su entrenamiento, elevando considerablemente sus costes.

En la práctica, una advertencia para quienes crean este tipo de herramientas, que está detrás de muchos de los problemas que advertimos en su uso: si alimentas a tu algoritmo con basura, generará basura. En muchos casos, hablamos de una industria que está pretendiendo ir demasiado deprisa, que necesita ofrecer resultados muy rápido para justificarse con sus inversores, y eso hace que terminen utilizando información inadecuada que nunca debería estar en la base de ningún entrenamiento, lo que hace que sus algoritmos sean potencialmente menos fiables. Básicamente, «garbage in, garbage out». En estas cosas, como cuando se enseña a un niño, las prisas no son las mejores consejeras.

En la práctica, nada puede impedir que un artista trate sus creaciones como buenamente quiera, del mismo modo en que hasta el momento se creía que nada podía impedir que una empresa hiciese scraping de todo el contenido de un repositorio y lo utilizase para entrenar un algoritmo. Pero en estos temas, verdades absolutas hay pocas, y cuando aparece un nuevo uso, es habitual que esos conceptos que lo parecían sean revisados, como prueban las intenciones de algunos artistas – y sobre todo, de quienes gestionan sus derechos de autor – de ser compensados cuando sus imágenes son utilizadas para el entrenamiento de algoritmos.

Ya veremos cómo acaba esto.

Publicado con licencia Creative Commons 3.0 España