Blogs de Festeros.es

La noticia del día es que finalmente, Joe Biden ha decidido unirse a la fiesta regulatoria dictando la primera orden ejecutiva que pretende sentar los estándares de protección y seguridad de la inteligencia artificial, y que obliga, entre otras cosas, a que las compañías que desarrollan productos y servicios basados en esta tecnología desarrollen estándares y compartan los resultados de sus pruebas de seguridad con el gobierno.

Para alguien que lleva toda su vida profesional definiendo su interés de investigación como «los efectos de la tecnología sobre las personas, las empresas y la sociedad», me resulta especialmente triste y, sobre todo, muy peligroso, que no parezcamos haber entendido nada de situaciones de regulación anteriores, como por ejemplo las redes sociales, y que estemos aparentemente decididos a repetir los errores cometidos.

Los estándares y las pruebas de seguridad de una tecnología nunca, nunca, nunca, nunca pueden dejarse en manos de quienes compiten generando productos y servicios con ella. Nunca quiere decir eso, nunca. Sin ningún tipo de matiz. Si lo haces, prepárate para pagar las consecuencias. Los efectos potenciales de una tecnología como la inteligencia artificial abarcan absolutamente todos los ámbitos de la vida en sociedad, desde la privacidad de las personas hasta la discriminación, los derechos civiles, los mercados de trabajo, etc., y eso no quiere decir, por supuesto, que por ello debamos dejar de investigar o de desarrollar esa tecnología – algo que además es imposible – sino que su incorporación a todos los aspectos de esa sociedad requiere de una supervisión muy elevada. Y supervisión es algo que alguien aplica a lo que tú haces, nunca algo que uno se aplica a sí mismo, menos aún si ese alguien tiene todo tipo de antecedentes que muestran que nunca se tomó esos potenciales efectos en serio y que antepuso su interés por facturar a cualquier daño que sus productos o servicios podrían causar.

Con las redes sociales lo vimos perfectamente claro: desde sus orígenes, el interés estuvo puesto en conseguir un producto que enganchase a sus usuarios, que los hiciese consumir cuantas más páginas, mejor. ¿Por qué fue así? Simplemente, porque se entendía que el producto debía forzosamente ser gratuito para facilitar el efecto red, el que una persona tuviese una elevada posibilidad de encontrar a una gran cantidad de sus familiares y amigos en la red en cuestión, y porque se pretendía financiar la actividad mediante la publicidad segmentada.

Esto hoy nos parece muy natural, pero en su momento, debió haber levantado todo tipo de alarmas, porque la diferencia entre esa tecnología y la anterior era precisamente que permitía capturar muchísimos datos del usuario, mientras la anterior – la televisión, los diarios, las vallas, etc. – únicamente permitían suponerla o inferirla. A partir de ahí, toda la regulación debió basarse en lo que se podía o no podía hacer con esa información: cuál era lícito captar y almacenar y cuál no, cómo podía utilizarse, a quién podía revenderse o qué efectos podría tener sobre los derechos fundamentales de la persona.

Como ese trabajo de sandboxing no se hizo, pasó lo que pasó: manipulación electoral, compartición de datos personales de todo tipo incluyendo los más supuestamente protegidos como salud, afinidades políticas o creencias religiosas, insistencia en el uso hasta lograr la adicción, trastornos psicológicos… cuando una compañía como Meta, con un pasado que incluye todos, absolutamente todos los desmanes posibles, sigue definiendo hoy su visión como «creemos en una Internet basada en publicidad, que brinde a las personas acceso a productos y servicios personalizados, independientemente de su situación económica», y ningún regulador se plantea qué hay de malo en ello (el hecho de que esas personas que cita no sean usuarios, sino simple materia prima que se vende al mejor postor), y la compañía simplemente se plantea ofrecer sus productos por suscripción, con un precio disuasorio, para poder así decir eso de «mis usuarios consintieron», tenemos una clara evidencia de todo lo que se puede hacer mal en regulación.

No, la regulación no consiste en obligar a Meta a que ofrezca una suscripción, sino en explicarle «amablemente» que su producto, tal y como está concebido, infringe los derechos humanos más básicos, y que por tanto, no puede ser ofrecido en su estado actual. Si infringe derechos fundamentales, que el usuario te diga «venga, estoy de acuerdo» es algo que no vale. Si Meta quiere hacer publicidad no segmentada más que por horario, por contenido, por geografía y por pocas más cosas que no supongan violar la privacidad del usuario, adelante. Si no, si se empeña en ofrecer a sus verdaderos clientes – los anunciantes -información completa y exhaustiva de sus usuarios, debería ser calificado como ilegal y excluido radicalmente del mercado. Y por supuesto, si incumples y lo haces, además, de manera reiterada, deberías ser fuertemente castigado.

Con la inteligencia artificial nos disponemos a recorrer el mismo, imprudente camino. Que un regulador diga a los participantes en el mercado eso de «venga, regulaos vosotros» es completamente inaceptable, sobre todo si existen precedentes de lo que ocurrió en esas condiciones en tecnologías anteriores. Que se asuma algún tipo de «buena fe» de quienes nunca la han tenido es simplemente demencial. En su lugar, lo que hay que hacer es enunciar los posibles efectos ya conocidos y potencialmente perniciosos, y decir a las compañías que si incurren, por acción o por omisión, en alguno de esos efectos, caerán sobre ellas todos los males del Averno – no una multita que compense pagar porque lo que has facturado gracias a ello es brutalmente superior.

Aparentemente, estamos dejándonos cegar por un «no se puede saber qué efectos tendrá esto» y no hablando de que hay efectos negativos que ya existen, que ya están aquí y que ya conocemos. Y eso es profundamente irresponsable y no puede traer nada bueno. Al final, es repetir las sabias palabras del tío Ben en Spiderman: un gran poder conlleva una gran responsabilidad. Si la tecnología te otorga un gran poder, bajo ningún concepto podrás prescindir de la responsabilidad necesaria para ejercerlo, y si lo haces, serás fuerte y ejemplarmente castigado. Si eres un enfermo avaricioso e incapaz de controlarse que siempre, sistemáticamente, termina causando daños a diestro y siniestro, tu sitio es la cárcel, no la dirección de una compañía tecnológica. Y por supuesto, quien define las reglas de lo que se puede y no se puede hacer nunca, bajo ningún concepto podrás ser tú mismo.

Veremos que sale de esta orden ejecutiva. Pero de entrada, no parece que vaya a ser nada bueno.

Publicado con licencia Creative Commons 3.0 España