ÉTICA ALGORITMICA por el Prof. Dr. D. Alberto Requena Rodríguez, académico de número

La Inteligencia Artificial (IA) está cada vez más presente en nuestras vidas. Tanto la civil, como la investigadora. Desde los teléfonos que los estamos llamando “smartphones” (teléfonos inteligentes), y aunque nuestra piel no perciba el alcance, los estamos llamando inteligentes, con todas las consecuencias, hasta los sofisticados sistemas de chatbox  o el desarrollo de la conducción autónoma, que tienen lugar sin presencia humana y mil otras facetas de la vida, son objeto de control de un sistema informático que lo gobierna desde el subsuelo, con capacidad de progreso a través de aprendizaje autónomo..

Lo cierto y verdad es que los humanos que usamos estos servicios e incluso nos alegramos de que nos oferten servicios todavía más audaces, no reparamos en que no conocemos las consecuencias que tienen los algoritmos que nos brindan tan brillante servicio. La inclusión en listas de usuarios supone que pueden tener consecuencias en la dinámica de las solicitudes de trabajo, en la consecución de créditos o en los historiales que conforman los conflictos legales. Si nosotros entramos en Internet a buscar el curriculum de alguien con quien vamos a tener contacto, por aquello de conocer con quien nos sentamos, no pensaremos que los demás no hagan algo parecido. Solo que esta forma de actuar, es previsible que no sea ni una información exhaustiva, ni la apropiada, ni mucho menos la que nosotros quisiéramos que se conociera.

Se puede reclamar con cualquier intención y dirección, pero probablemente lo más razonable a los desmanes que derivan de unos procesos de elaboración de información fuera de control, parcialidad en la elección y falta de garantía de veracidad, consiste en insistir en la alineación de los algoritmos que la IA utiliza, con los ideales éticos que nuestro sistema social sostiene. Es un reto que se viene intentando abordar desde hace tiempo y en diferentes foros. Cada vez es más apremiante.

Las entidades financieras han sido un sector de actividad en el que menos costó el arraigo de la informática. El siglo pasado fue testigo de miles de trabajadores sustituidos, incluso con ventaja, por sistemas de tratamiento de la información, automáticos. En el fondo ha sido un proceso al que falta arrojar mucha luz, porque si bien personalmente ha sido ventajoso para los trabajadores implicados, no está suficientemente aclarado cuál es la parte que ha venido a recaer sobre las espaldas de otros trabajadores que no se han beneficiado en nada de tantas prejubilaciones bancarias, sino todo lo contrario. La factura alguien la ha pagado y no necesariamente se ha quedado encerrada en el interior de este sector de actividad. Lo cierto y verdad es que todas las actividades que antes desarrollaban humanos, hoy son máquinas quienes las realizan. La decisión de dar o no un crédito, si bien en apariencia proviene de humanos expertos, en gran medida resultan de estudios y propuestas que parten de sistemas automáticos que exploran en el mar de datos que forman parte del acervo que una entidad financiera pone a buen recaudo. Pero esto sucede con muchos otros frentes de actividad o servicio.

La discriminación es una cuestión de fondo que aborda la IA en el momento presente. Al final tras la aplicación de los algoritmos, los filtros acaban permitiendo lograr una discriminación  que supone el impulso de una decisión final. Todo el aprendizaje de las máquinas acaba en la discriminación para la proposición final. Cualquier sistema autónomo tiene una etapa decisiva que supone discriminación. Los humanos lo hacemos constantemente, se supone que respondiendo a restricciones éticas que permiten conductas que responden a valores morales.

La IA tiene que avanzar en la incorporación de una ética que permita responder a las consecuencias de sus algoritmos que inciden de forma individual y colectiva en una sociedad. Aparentemente una herramienta como lo es un ordenador animado por programación de Inteligencia Artificial  se pudiera concebir sin vinculación con una discriminación. Es de suponer que desde una visión antropocéntrica que asigne la discriminación a un comportamiento exclusivamente humano. Pero esto está muy alejado de lo que ocurre en la realidad, dado que en el ámbito de la Inteligencia Artificial los sistemas autónomos están entrenados mediante el tratamiento de datos históricos, que es la base de referencia empleada para que los sistemas adquieran “la expertise” requerida para desenvolverse en el ámbito concreto de la aplicación. Se señala con frecuencia que en Estados Unidos el simple dato del código postal pone de relieve datos relacionados con la raza o el estatus social. En muchos comercios grandes y pequeños, ya nos piden en España el código postal, hay que suponer que no tanto por la raza como por el estatus social. Los algoritmos pueden emplear el código postal para elaborar una discriminación inconsciente, sino ¿para qué la piden? No es fácil soslayar esta cuestión, porque los datos con los que se entrenan los sistemas condicionan el conocimiento que el sistema adquiere. Y, ciertamente, pretender corregir “injusticias” provocadas por algoritmos, el sistema perderá objetividad, cuando no calidad. Es algo complejo, por tanto.

La discriminación exige evitar la información sensible. Las personas tienen derecho a la privacidad. Eso implica la exigencia de que los sistemas de Inteligencia Artificial tienen que trabajar con decisiones que no pueden suponer ni discriminación ni olvidar la justicia, por muy diferentes y complejos que puedan ser estos términos para los humanos y para las máquinas. No es fácil lograrlo, pero no podemos omitir nuestra acción suponiendo que con las normas, códigos y reglas que constituyen nuestro sistema ético es con lo que hay que desenvolverse en el mundo de la Inteligencia Artificial. No es concebible ceder lo que la cultura nos ha legado a lo largo de mucho tiempo. No es admisible un sistema ético diferente por el mero hecho de que las máquinas autónomas entran en escena. La tecnología no puede arrasar con siglos de cultura en que hemos acumulado nuestro papel en la Naturaleza. Los algoritmos deben estar impregnados de la Ética que nos permite vivir en sociedad: ética algorítmica.