Transparencia algorítmica

Acuñado en 1959 por Arthur Samuel, el término machine learning hace referencia a la capacidad de un sistema informático de aprender sin ser programado explícitamente. Estos sistemas reciben y analizan datos de entrada para predecir valores de salida dentro de un rango estipulado. A medida que estos algoritmos reciben nuevos datos, aprenden y optimizan sus operaciones para mejorar su rendimiento, desarrollando su inteligencia con el tiempo.

Cada vez es más común encontrar este tipo de algoritmos predictivos distintos ámbitos como el judicial, financiero, policial, educativo o energético. Algunos de ellos han sido objeto de crítica debido a las decisiones sesgadas que tomaban, por ejemplo: en 2016 la organización Pro Publica denunció que el sistema COMPAS, utilizado en el sistema judicial de varios estados de Estados Unidos con el fin de evaluar la probabilidad de reincidencia de los convictos, sistemáticamente asignaba un riesgo mayor a las personas negras.

Para evitar que este tipo de comportamientos no deseados se produzcan y que las decisiones que propicien sean acordes a los principios normativos de no discriminación e igualdad de trato, es necesario impulsar la transparencia algorítmica y así evitar que estos sistemas se conviertan en cajas negras que gobiernan aspectos cada vez más importantes de nuestras vidas sin el debido control y supervisión. A tal fin, la Comisión Europea ha propuesto en sus 'Directrices éticas para una IA fiable' que esta transparencia se alcance a través de garantizar la trazabilidad (que los algoritmos estén documentados de la manera más detallada posible para que se pueda trazar la decisiones a las que llegan), la explicabilidad (que las personas afectadas puedan reclamar una explicación adecuada del proceso de toma de decisiones del sistema) y la comunicación (que cualquier persona pueda identificar claramente cuando ha sido objeto de una decisión automatizada y cuente con información clara sobre el nivel de precisión del sistema y sus limitaciones).