Las matemáticas cotizan al alza en Sevilla. Con al de algoritmo. El Centro Común de Investigación de la Comisión Europea va a potenciar en su sede en Sevilla su equipo dedicado al análisis de los sistemas algorítmicos que se utilizan en la sociedad actual para identificar, categorizar, clasificar, sugerir y presentar información a los usuarios. Es decir, a cualquier persona, tanto en nuestra faceta de consumidores como en el sesgo que se nos puede aplicar sobre nuestra identidad en función de lo que hacemos y/o decimos en las webs, en las redes sociales, en la mensajería. Esos sistemas algorítmicos ayudan, influyen y, a menudo, reemplazan cada vez más a los humanos en los procesos de toma de decisiones. Es un tema de creciente preocupación el impacto social y ético de cómo los sistemas algorítmicos dan forma a la visibilidad y promoción del contenido digital, tenga estilo informativo desde instituciones, o publicitario desde empresas, o de recomendación espontánea desde la ciudadanía. Los creadores de algoritmos sí que son 'influencers'.
Las medidas adoptadas por la Comisión Europea bajo la Ley de Servicios Digitales exigen auditorías algorítmicas de rendición de cuentas y transparencia. Mucho trabajo tienen por delante quienes vertebran desde Sevilla el desarrollo del Centro Europeo para la Transparencia Algorítmica. Tienen su oficina en Cartuja en la acera de enfrente de un centro comercial que, como cualquier otro espacio de consumo, se apresta a vivir el 'black friday'. Reclamo consolidado como el mayor momento de ventas al cabo del año para muchas tiendas y marcas, tanto por sus ofertas en establecimientos presenciales como por su gama de productos enfocados directamente a su venta desde las plataformas online. En países como España, millones de personas ya han dedicado tiempo desde sus ordenadores o viendo escaparates a brujulear, antes de que se activen los descuentos, qué quieren comprarse, o qué necesitan adquirir, o qué les llama la atención sin tenerlo pensado de antemano. El rastro digital de esos comportamientos se adiciona al inmenso volumen de datos que sirven de retroalimentación a los sistemas algorítmicos para perfeccionarse, y para establecer unos patrones de oferta y de demanda ante los que cada cual ha de plantearse si en nuestras búsquedas digitales encontramos lo que queremos, o quieren que encontremos lo que les interesa vendernos como nuestra elección personal.
Uno de los proyectos de investigación más interesantes que se han liderado desde la Comisión Europea en Sevilla sobre este temática es HumaInt, para comprender el impacto de la inteligencia artificial en el comportamiento humano, enfocado a su influencia en las capacidades cognitivas y socioemocionales. en la toma de decisiones. En esa línea, el Centro Europeo para la Transparencia Algorítmica tiene la encomienda de contribuir a un entorno digital más seguro, predecible y confiable para las personas y las empresas. Evaluarán los riesgos y propondrán nuevos enfoques transparentes y mejores prácticas. Ha de ayudar al gobierno comunitario encabezado por Ursula von der Leyen a esclarecer si el funcionamiento de los sistemas algorítmicos de Google, Amazon, Facebook, Apple, etc., cumple lo estipulado en la Ley de Servicios Digitales. Esto son palabras mayores. La Comisión Europea reclama a los gigantes que monopolizan los servicios de consumo digital a que abran sus algoritmos de recomendación para que se inspeccione el mecanismo por el que los contenidos se adaptan a cada usuario. Eso sí es que es 'black'. Y no solo los 'friday'.