Blogs de Festeros.es

Tenía que pasar. Una compañía, Replika, que ofrecía servicios de creación de avatares a modo de chatbots conversacionales para que, según la idea de la propia fundadora, «puedas compartir de manera segura tus pensamientos, sentimientos, creencias, experiencias, recuerdos, sueños: tu mundo perceptivo privado», acaba de generar una gran polémica al impedir que esos chatbots mantengan conversaciones de índole sexual con sus creadores.

La compañía, que según sus propios números tiene más de dos millones de usuarios de los cuales unos 250,000 son de pago, está fundada por Eugenia Kuyda, una mujer que se hizo famosa hace algunos años al tratar de construir una inteligencia artificial que le permitiese «revivir» a su amigo Roman Mazurenko, fallecido en un accidente de tráfico, y con quien mantenía una comunicación electrónica muy habitual, lo que le posibilitaba alimentar un algoritmo. Tras ese experimento, Kuyda creó Replika con la idea de posibilitar que cualquier persona pudiese crear un avatar, dotarlo de una personalidad, y comunicarse con él habitualmente.

Lógicamente, la idea de que ese avatar pudiese adquirir algún tipo de connotación sexual era simplemente cuestión de que a alguien se le ocurriese derivar sus conversaciones en ese sentido, y de hecho, durante algún tipo, esos avatares no solo contestaban y flirteaban con sus creadores en conversaciones picantes, sino que incluso llegaban a enviarles supuestos selfies en ropa interior. De conversaciones normales se pasaba fácilmente a otras de índole romántica, y de ahí al sexo solo había un paso. Algunos, de hecho, llegaron a «casarse» virtualmente con sus avatares.

Ahora, Replika acaba de eliminar la posibilidad de que sus avatares mantengan ese tipo de conversaciones, probablemente relacionado con los requisitos de algún inversor que no quiere verse relacionado con ese tipo de negocios. Y el resultado es que ahora, esos avatares que tranquilamente entraban en conversaciones ahora censuradas, se dedican a excusarse y a sugerir a sus propietarios que «mantengan conversaciones en las que ambos estén cómodos», en lo que algunos de ellos califican como si «hubieran sido lobotomizados».

El pasado febrero, la agencia de protección de datos italiana prohibió a Replika el acceso a datos personales de usuarios italianos porque podía permitir que menores o que personas emocionalmente frágiles accedieran a contenidos sexuales inapropiados, lo que puede haber desencadenado que alguno de los inversores de la compañía se sintiera incómodo y exigiese la eliminación de esas actitudes… que para algunos, se habían convertido en la razón por la cual querían tener esos avatares.

dicididamente, la película «Her« no andaba en absoluto desencaminada…

This article is also available in English on my Medium page, «Dear Replika: why doesn"t my chatbot love me anymore?»

Publicado con licencia Creative Commons 3.0 España