Blogs de Festeros.es

Las reacciones a ChatGPT están siendo no solo cada vez más pintorescas a medida que más personas lo prueban, sino también una buena prueba de cómo las personas reaccionan ante la innovación.

En muchos casos, lo que vemos es la activación de un auténtico «modo pánico»: el Departamento de Educación de la ciudad de Nueva York ha tomado la decisión de prohibir el uso de ChatGPT a estudiantes y profesores, una medida total y absolutamente estéril porque no existe ninguna forma de ponerla en práctica ni de controlarla adecuadamente. La International Conference on Machine Learning (ICML), una de las conferencias más importantes sobre la temática, ha formulado también otra regla similar, la de prohibir el uso de textos generados por ChatGPT en los artículos académicos presentados en ella, salvo que dicho texto sea utilizado como parte del análisis experimental del estudio. De nuevo, otra prohibición sin sentido, dada la imposibilidad actual para detectar adecuadamente si un texto escrito proviene o no de la herramienta en cuestión. China, en su línea habitual, prohibe directamente cualquier herramienta de generación de medios si carece de un sistema de marcas de agua que permitan identificar la procedencia de su producción.

La irrupción y popularización meteórica de una herramienta de uso radicalmente sencillo y capaz de escribir textos que pueden suplantar de manera convincente a una persona está generando un auténtico «momento iPhone», con un detalle adicional: está disponible, por el momento sin limitaciones, para cualquiera. La pregunta, en cualquier caso, es clara: ¿tiene sentido entrar en modo pánico por una herramienta que, en muy poco tiempo, tendrá un uso tan habitual como el mismísimo Excel?

Así, mientras la compañía afirma, ante los ataques de histeria de numerosas instituciones académicas, que está trabajando en la incorporación de esas demandadas marcas de agua, la evidencia persiste: cualquier sistema de ese tipo está destinado a ser ineficaz, porque podrá ser a su vez detectado y, además, porque siempre quedará, como ocurría en los sistemas de protección anti-copia, el llamado «agujero analógico«: la posibilidad de simplemente tomar el producto de ChatGPT, y copiarlo de nuevo introduciendo algunos cambios cosméticos, un arte que ya dominan perfectamente todos los estudiantes que, habitualmente, copian y pegan texto desde la Wikipedia u otras fuentes.

Mientras algunos se afanan por obtener «detectores» de ChatGPT con mayor o menos éxito como GPTZero basados en algunas métricas (perplexity, burstiness) que difieren entre la escritura humana y la de una herramienta algorítmica, o por educar a los docentes en el reconocimiento de sus características, otros comenzamos a adoptar un enfoque diferente: el de asumir que herramientas como esa no solo van a estar ahí, fácilmente disponibles para su uso por cualquiera, sino que además van a mejorar, mucho y muy rápidamente, para pasar de ser los bullshit generators un poco de juguete y con cierto desprecio por la verdad que son ahora, para pasar a tener un nivel muy elevado, comparable con el de un experto en prácticamente cualquier materia. Estamos en lo que he dicho siempre con respecto a muchas otras tecnologías: si se descubre una tecnología capaz de sustituir a un profesor, yo, como profesor con mucha experiencia que soy, querré ser de los que están trabajando en ella y con ella, no de los que intentan prohibirla.

Es comprensible que ChatGPT y otros modelos de lenguaje similares puedan suscitar preocupaciones sobre el potencial de plagio académico. Sin embargo, es importante recordar que ChatGPT es solo una herramienta y puede usarse tanto para fines buenos como malos. Depende de las personas usarlo de manera responsable y ética.

También es importante tener en cuenta que, aunque los modelos de lenguaje como ChatGPT son muy buenos para generar texto similar al humano, no reemplazan el pensamiento original y el análisis. Los estudiantes y los investigadores todavía tendrán que participar en el pensamiento crítico, la investigación y el análisis para producir trabajos académicos de alta calidad.

En última instancia, dependerá de los educadores, las instituciones y los propios estudiantes asegurar que ChatGPT y otros modelos de lenguaje se usen de manera ética y responsable. Esto podría implicar establecer pautas para el uso adecuado de estas herramientas, así como educar a los estudiantes sobre la integridad académica y la importancia de citar adecuadamente las fuentes y dar crédito a los demás por su trabajo.

Y si con esto no te queda claro, es un problema. Sobre todo, porque los tres párrafos anteriores a este incluidos en este artículo, como podréis comprobar haciendo clic en el siguiente vínculo, los ha escrito ChatGPT. Yo solo he añadido los enlaces y la ilustración. Y esta vez, sí que os ha colado.

Ahí lo dejo.

This article is also available in English on my Medium page, «Don"t be afraid of ChatGPT, it"s just another innovation we"ll learn to love»

Publicado con licencia Creative Commons 3.0 España