Blogs de Festeros.es

Boston Dynamics añade la nueva funcionalidad de generación de voz de ChatGPT a su robot Spot, y el resultado son robots que pueden recibir a personas en una visita corporativa, con capacidad de generar acentos y de dar lugar a una empatía hasta el momento casi desconocida en el mundo de la robótica, posiblemente con la salvedad de aquellos vídeos de «robots maltratados» que hacían que todos nos pusiéramos de su lado y viéramos como odioso al «malvado humano» que empujaba al robot, le pegaba con un palo o le impedía levantar la caja que tenía órdenes de trasladar.

Ver a Spot hablando con un impecable acento británico y ataviado con un bombín y un bigote puede, sin duda, tener su gracia. Pero ver que cada vez más personas se dedican a utilizar la prestación de síntesis de voz de ChatGPT para mantener largas conversaciones en su smartphone con el asistente generativo en todo tipo de situaciones, desde para pasar el tiempo en los atascos hasta paseando por la calle con los Airpods puestos, a modo de lo que ocurría en la película «Her«, resulta profundamente distópico, y plantea potenciales problemas éticos de todo tipo.

La antropomorfización de la tecnología es algo relativamente habitual a lo largo de la historia. Pero cuando el avance de esa tecnología permite no solo generar voz, sino también mantener conversaciones y convertirse prácticamente en una especie de «relación personal», y cuando esto es además llevado al mercado como una forma de normalización de la tecnología por empresas completamente carentes de ética y con un historial de «moverse rápido y romper cosas», creo que estamos coqueteando con el desastre, y generando potencialmente inestabilidad mental en muchas posibles víctimas.

Cualquiera que conozca el valor que un adolescente otorga, por ejemplo, a sus ídolos, o que se plantee qué puede haber de bueno en que un adulto con problemas personales utilice a modo de terapia a un algoritmo escasamente condicionado por algunas restricciones y con la posibilidad de «alucinar» ocasionalmente, entiende que estamos entrando en cuestiones potencialmente peligrosas. La posibilidad ya no de que esas «relaciones» simplemente «funcionen mal», sino más aún, que puedan ser instrumentalizadas para influir en la conducta de las personas que las mantienen es muy elevada, y puede llevarnos a planteamientos éticos de muchísimos tipos.

Las experiencias con otras personas pueden obviamente condicionarnos en muchísimos aspectos, pero al menos son experiencias y conversaciones entre personas con un supuesto criterio. Pasar de ahí a condicionar a las personas mediante asistentes generativos y hacerlo, además, sin ninguna precaución aparente más que unas cuantas restricciones pintadas casi a brocha gorda por no sabemos exactamente quién es, simplemente, una barbaridad. Si además le añadimos un nivel de accesibilidad elevado y un elemento de normalización, pronto tendremos a personajes populares que mantienen conversaciones cotidianas con millones de personas e introducen en sus conversaciones los elementos personales mencionados en conversaciones anteriores, que extraen datos personales de todo tipo y los venden a anunciantes, o que inducen estados de ánimo en sus interlocutores humanos para mediatizar, por ejemplo, una compra de un producto o, ¿por qué no?, un voto en un sentido determinado.

Las sociedades humanas no están maduras para asimilar una tecnología como la IA generativa en el contexto de las relaciones personales, simplemente porque no hemos pasado por una etapa de educación que permita a las personas entender de verdad con qué están conversando. Por lo general, el ser humano tiende a otorgar una cierta «autoridad» al algoritmo, le adscribe una supuesta capacidad de consulta y síntesis de información prácticamente ilimitada, y tiende a prácticamente subcontratar su pensamiento crítico a las respuestas a las que accede a través de medios tecnológicos. El desconocimiento de la tecnología, como bien decía Arthur C. Clarke, hace que se convierta en indistinguible de la magia. Y algo así, sin duda, puede tener efectos enormemente nocivos en las sociedades humanas: desde trastornos de percepción de la realidad hasta auténticas alienaciones y problemas psicológicos.

Siempre me resultó muy curioso conocer a alguien a quien veo en los medios muy a menudo, cierta sensación de «he estado con esa persona en el salón de mi casa» que me llevaba en muchas ocasiones a asumir una familiaridad más allá de la que debería tener con alguien a quien veo por primera vez. Asimilar relaciones completamente asimétricas como la que (no) tienes con alguien que, por ejemplo, te da las noticias todos los días y a quien muchos incluso contestan, es de por sí una tarea que requiere cierta madurez, educación y criterio. ¿Qué va a ocurrir cuando personas que lleven tiempo hablando todos los días con un algoritmo generativo que simula de manera muy convincente ser su ídolo tengan finalmente la oportunidad de conocer realmente a esa persona, o internalicen como reales esas conversaciones? ¿Y cuando alguien atribuya una personalidad determinada a algo que no es más que un algoritmo generativo que recombina información de la red? ¿Y todo ello en un contexto de regulación incierto, en total ignorancia de cómo funcionan o cómo se deben gestionar ese tipo de herramientas, y por no hablar de la falta de experiencia sobre los trastornos psicológicos que pueden llegar a inducir?

Estamos en lo de siempre: el problema no es el desarrollo de la tecnología, sino las cosas que algunos irresponsables ponen en el mercado sin tomar las precauciones adecuadas. Pretender regular la tecnología en ver de poner bajo control al imbécil que busca por encima de todo y a cualquier precio extraer un beneficio económico del lanzamiento de productos y servicios basados en ella. El «muévete rápido y rompe cosas» que ya generó tantos problemas, llevado ahora al siguiente nivel.

No, no soy el típico que se asusta de la tecnología ni que le atribuye connotaciones negativas. De hecho, si llevas tiempo leyéndome sabrás que suelo estar en el otro lado, en el del tecno-optimismo. Y sin embargo, este tema me preocupa genuinamente, y creo que va a terminar haciendo que nos arrepintamos de muchas cosas.

Publicado con licencia Creative Commons 3.0 España