Blogs de Festeros.es

Carmen López, de El Diario, me contactó por correo electrónico para hablar sobre la antropomorfización de los algoritmos de inteligencia artificial y sobre por qué tantas personas tratan a ChatGPT y a otros algoritmos generativos como si fueran personas, pidiéndoles las cosas por favor y dándoles las gracias, y hasta qué punto esto no es un comportamiento buscado por las compañías que los gestionan.

Con mis comentarios y los de otras personas ha publicado hoy su artículo titulado «Buenos días, ChatGPT: ¿por qué somos amables con la IA?» (pdf), en el que discute hasta qué punto tiene sentido hacer algo así, interpretar nuestra relación con un algoritmo como si fuera una persona.

El diseño en forma de chat adoptado por compañías como OpenAI está obviamente pensado para favorecer la conversación, porque lo que le interesaba a OpenAI cuando lo puso en el mercado a finales de noviembre del año pasado era que tuviese mucho uso, y así asegurarse la posibilidad de seguir entrenándolo con más y más conversaciones. Por tanto, el formato de chat sí busca que sea antropomorfizado por el usuario final, y que haya quien termine pidiéndole de todo, desde consejos médicos a psicológicos, hasta consultorio matrimonial. Si el formato fuese otro, no habría obtenido tanta repercusión y no se habría convertido en uno de los fenómenos de mayor difusión de todos los tiempos. A partir de ahí, los usuarios hacen el resto: dado que un formato chat te evoca conversaciones con personas, la antropomorfización es simplemente un «contagio» de ese formato, y darle los buenos días o las gracias es casi algo que haces por costumbre o por educación (ahora bien, algunos usuarios dicen que le dan los buenos días o las gracias porque saben que las máquinas acabarán dominando el mundo y que seguro que entonces se acordarán de quiénes eran los humanos que les trataban bien… :-) 

Sin embargo, hay un problema: tratar a un algoritmo como si fuera una persona impide, en muchos casos, que le pidamos las cosas como realmente se las debemos pedir para obtener un resultado adecuado, porque una serie de convenciones basadas en un elemento de las relaciones humanas como la buena educación y los modales puede interferir con el tipo de pregunta que realmente necesitaríamos hacerle.

Para interaccionar con una máquina, lo que tenemos que tener en la cabeza es el resultado que buscamos, con todos sus modificadores adecuados convertidos en restricciones para la máquina. Es el caso del llamado prompt engineering, el dar forma a nuestra pregunta para que incluya todos los elementos que buscamos en la respuesta: qué papel queremos que adopte el algoritmo, qué formato buscamos, qué temas queremos que mencione y cuáles queremos que evite, qué longitud de respuesta pretendemos obtener, etc. Obviamente, cuando hablamos con una persona – o nos hacemos la ilusión de que es así – no funcionamos de esa manera, porque sería visto como algo insoportable, pero cuando interactuamos con una algoritmo es recomendable que sea así, por una simple cuestión de diseño de interfaz.

Por tanto, podemos tratar a los algoritmos como buenamente nos dé la gana, pero deberíamos tener en cuenta que por una simple cuestión de HCI, Human-Computer Interaction, estaremos sujetos a unas desventajas importantes si lo hacemos así, y los resultados que obtendremos serán muy posiblemente subóptimos. Si vamos a tener asistentes de este tipo pululando por todas partes, más vale que vayamos empezando a asimilar que las reglas para interactuar con ellos no son las mismas que las que gobiernan generalmente las interacciones entre personas. Por puro sentido común.

Publicado con licencia Creative Commons 3.0 España