Blogs de Festeros.es

Resulta enormemente interesante presenciar con una cierta mirada crítica la evolución de la sociedad ante las aplicaciones de una tecnología, el machine learning, y sus posibilidades.

Hoy mismo, Stable Diffusion ha anunciado una nueva versión de su algoritmo, la 2.0, en la que, entre otras cosas como impedir la generación de imágenes pornográficas o retratos fotorealistas de celebridades, elimina también la posibilidad de solicitar dibujos que sigan el estilo de un artista determinado. Las restricciones han encontrado reacciones negativas por parte de muchos usuarios que consideran que el modelo ha sido de alguna manera limitado, y que tales limitaciones limitan su libertad creativa.

En la imagen, el resultado de pedir a Stable Diffusion «un pájaro en el estilo de Piet Mondrian». Dejando aparte que la imagen sea un poco primaria y que no me haya puesto a refinar la petición ni a retocarla de ninguna manera con las herramientas que el propio algoritmo ofrece, el resultado es evidente, y corresponde a extraer de la librería imágenes creadas por Piet Mondrian, capturar su estilo, y superponer a ello la imagen de un pájaro, igualmente obtenida de miles o millones de imágenes de pájaros.

¿Cuál es el problema, además de partir, en este caso, del estilo de un artista profundamente reconocible, pero que ha tenido uno de sus cuadros colgado al revés en una galería durante setenta y cinco años sin que nadie se diera cuenta? Básicamente, que algunos artistas que tienen estilos muy reconocibles protestan porque los algoritmos inundan la red de imágenes que resultan para muchos difícilmente discernibles de las genuinas pero en las que ellos no han tenido la menor participación, imágenes que, en un momento dado, convierten en muy difícil diferenciar las imágenes reales creadas por el artista de las creadas por el algoritmo. En esos términos habla Greg Rutkowski, un artista digital con un estilo muy definido, que se había convertido en uno de los más solicitados en el algoritmo, y que se considera perjudicado por ello.

¿Qué ocurre cuando la red se llena de imágenes supuestamente pintadas por ti, pero que han sido creadas por un algoritmo que imita tu estilo y características? ¿Y cuando, a su vez, esas imágenes sintéticas son utilizadas para realimentar el algoritmo? Entrenar un algoritmo con imágenes protegidas por derechos de autor es en principio legal como lo es el que alguien que conozca la obra de un autor se inspire en él para la suya, pero la cuestión, si sigue evolucionando de esa forma, es posible que termine generando algunos litigios.

Con el progreso de los algoritmos, crear imágenes sintéticas que superen la barrera de la credibilidad, como ocurre con el llamado deepfake porn, es cada vez más sencillo. El Reino Unido, de hecho, acaba de tipificar como delito la difusión de este tipo de imágenes sin el consentimiento de la persona afectada, en un momento en el que resulta perfectamente sencillo meterse en cualquier búsqueda y encontrar imágenes pornográficas sintéticas de prácticamente cualquier mujer con un mínimo de fama o visibilidad pública – algunas de las cuales han definido ya la cuestión como «una causa perdida» – con todo lo que ello conlleva, incluidas las páginas que ganan dinero con ello.

¿Qué ocurre cuando, por ejemplo, alguien utiliza un algoritmo para generar imágenes de pornografía infantil? ¿Debemos alegrarnos porque, al menos, no las ha generado utilizando explotando a niños de carne y hueso, o plantearnos que sigue siendo una barbaridad que debe ser perseguida? ¿Qué ocurre a medida que esa realidad sintética se convierte en cada vez más perfecta y más difícil de diferenciar de la «realidad real»? ¿Y si una imagen sintética de una persona conocida termina haciéndose viral y convirtiéndose en prácticamente representativa de la persona real? ¿Deben tratar de limitarse las creaciones que un algoritmo de machine learning puede llevar a cabo, o resulta simplemente imposible o inútil teniendo en cuenta que esos algoritmos pueden ser creados cada vez más de manera sencilla con herramientas de tipo low code o no code?

¿Hasta qué punto va a ser necesario acotar lo que un algoritmo puede o no puede hacer?

Publicado con licencia Creative Commons 3.0 España