La ministra española de Trabajo y Economía Social, Yolanda Diaz, firmó con la secretaria de Trabajo de Estados Unidos, Julie Su, el pasado febrero una declaración sobre transparencia algorítmica en el mundo del trabajo para combatir el “sesgo algorítmico”. Este hecho me llamó la atención en su día, y releyendo la noticia me doy cuenta de que una de sus afirmaciones, por una vez y sin que sirve de precedente, era ajustada a la realidad: “Los algoritmos y las formulas matemáticas no son libres”. Efectivamente los algoritmos como conjunto ordenado y finito de operaciones que permiten encontrar la solución de un problema no son libres sino esclavos del diseño humano. Un diseño que condiciona nuestras vidas teniendo en cuenta que los algoritmos están presentes en la mayoría de las acciones que una persona desarrolla diariamente en el trabajo y en nuestro ocio. Según un informe de Electronics Hub el tiempo que diariamente dedicamos fuera del trabajo al uso de ordenadores y móviles es de 6 horas y 37 minutos, es decir un 40% del tiempo que estamos despiertos.
El sesgo algorítmico se refiere a los errores sistémicos (propio del diseño hecho por humanos) que dan lugar a resultados injustos debido a datos de entrada sesgados o limitados, algoritmos parciales o prácticas excluyentes durante el desarrollo del programa. Este sesgo tiene una gran importancia en el desarrollo de la inteligencia artificial (IA), ya que esta interviene cada vez más en ámbitos importantes como la sanidad, las finanzas y la justicia penal, donde las decisiones sesgadas pueden tener efectos perjudiciales o desastrosos. Como ejemplo, tenemos el siguiente caso: Amazon construyó en su día un sistema de IA para automatizar su proceso de contratación. El algoritmo se entrenó con los currículos enviados a la empresa durante diez años, que procedían predominantemente de varones. En consecuencia, el sistema empezó a favorecer a los candidatos varones en detrimento de las mujeres, demostrando un claro sesgo. Este sería un vivo ejemplo de algoritmo de contratación sesgado. Para evitar estos sesgos se debe estar muy atento al desarrollo de los algoritmos utilizándose datos diversos y representativos con una clara documentación sobre la toma de decisiones, es decir transparencia algorítmica en todos los sectores donde se utilice.
Tan pronto como los algoritmos se han extendido para organizar la sociedad, la política, las instituciones y el comportamiento, los sociólogos han empezado a preocuparse con las maneras en que los resultados no previstos y la manipulación de datos impactan en las sociedades humanas. Así hemos observado como los sesgos algorítmicos han afectado a los resultados de las elecciones o a difundir bulos y mentiras. La publicación “La campaña rusa que investiga el FBI ataca al Rey y al Partido Popular” del periódico ABC (30-09-24), muestra como la empresa Agencia de Diseño Social con sede en Moscú está dedicada a campañas masivas de bulos y mentiras al servicio del Kremlin que a través de internet publica mensajes que dañen las instituciones de cuatro países de la Unión Europea: Alemania, Francia, Italia y España. La empresa rusa manejaba informes donde aparecía el bajo nivel de conciencia que existe en la opinión pública española sobre el problema que plantea la penetración rusa en redes y medios de comunicación. Esta empresa esta investigada y sancionada este año en Estados Unidos.
La pregunta que nos hacemos es que ocurriría si estos errores sistémicos no son producto humano sino de la máquina. Una cuestión ya planteada después de la publicación “Maquinaria e Inteligencia Informática” (Alan Turing, 1950) por la revista Mind bajo el título: ¿Pueden pensar las máquinas? Dado que los algoritmos de IA son un conjunto de reglas y procesos diseñados para permitir que una máquina pueda aprender y tomar decisiones por sí misma sin la intervención humana, resulta pertinente que se dé respuesta a esa pregunta. El hecho de que el campo de la informática esté tan avanzado que crea sistemas que pueden realizar tareas que identifican nuestros sentimientos, motivaciones y disposiciones, suscita el debate en torno a la ética, privacidad y la legalidad de la intromisión en nuestras vidas. Una injerencia que será más intensa con la convergencia de la IA con las tecnologías emergentes. Si IA Superinteligente superara la inteligencia humana, ¿seremos capaces de utilizar u orientar los algoritmos para crear un mundo más justo y equitativo? ¿o nos esclavizarán los algoritmos, manipulando nuestras opiniones y limitando nuestras experiencias?
No hay comentarios:
Publicar un comentario