Blogs de Festeros.es

Tras el éxito de ChatGPT, lo que estamos viendo ahora es una auténtica explosión cámbrica de compañías proponiendo algoritmos de todo tipo, para cualquier cosa que se nos ocurra, con abundante financiación para todas ellas. Solo esta semana, más de doscientas.

Mientras, algunos tratan de desbloquear esos algoritmos para que eludan las restricciones que tienen programadas y entender sus sesgos y condicionantes, señalando la enorme importancia de que este tipo de herramientas sean de código abierto para que podamos manejarlas con un mínimo de discernimiento: por mucho que Microsoft pretenda que ChatGPT-4 muestra atisbos de inteligencia artificial general o AGI, un algoritmo no «piensa por sí mismo», es fruto de aquello con lo que está entrenado, lo que conlleva que podamos fácilmente crearlo con algún tipo de agenda detrás. Así, los conservadores norteamericanos acusan a ChatGPT de ser claramente progresista, y tratan de construir sus propios chatbots que contesten aquello que a ellos les gusta.

Así uses un algoritmo para escribir críticas de restaurantes aunque todavía no sea capaz de degustar el menú, para escribir software o para hacerte un novio virtual, los sesgos de cualquier tipo estarán ahí, construidos de manera consciente o inconsciente, en función de la información con la que el algoritmo fue entrenado, e independientemente de lo hábil que seas al plantear las preguntas. En este momento, vivimos tiempos de intensa competitividad: Microsoft pretende impedir a otros algoritmos que se alimenten de los datos que genera su nuevo Bing, mientras Google lanza ya en beta cerrada su Bard (si quieres solicitar acceso, usa tu VPN y dile que estás en el Reino Unido o en los Estados Unidos) y van apareciendo comparaciones entre ambos y Sam Altman reflexiona, nada menos que en Forbes, sobre la inteligencia artificial como una de las fuerzas detrás de la ruptura del capitalismo. Toda una señal.

Es aquí donde se ve la importancia del código abierto: o tenemos la libertad de acceder a la trastienda de los algoritmos y a los repositorios de datos y a los criterios con los que han sido entrenados, o estaremos trabajando con herramientas peligrosas por naturaleza, capaces de generar todo tipo de sesgos sin que necesariamente seamos conscientes de ello. Por alguna razón, sea por falta de experiencia o por temor reverencial, la mente humana tiende a adscribir a las máquinas algún tipo de imparcialidad o incluso de infalibilidad: si lo contesta el algoritmo, es correcto. Nada más lejos de la realidad. Un futuro en el que los algoritmos que usamos para cada vez más cosas dependan de unas pocas compañías que los construyen y los condicionan con los criterios que estiman oportunos es una pesadilla que tenemos que evitar, y el antídoto para ello es o bien la transparencia, o bien la posibilidad de construir y entrenar nosotros mismos nuestros propios algoritmos.

Vayamos empezando a pensar en ello.

Publicado con licencia Creative Commons 3.0 España