XAI: El siguiente paso en la adopción de la Inteligencia Artificial

En el mundo financiero esta tecnología puede traer consigo beneficios significativos: mayor inclusión financiera y mejor servicio a los clientes, por mencionar algunos, siempre y cuando las personas confíen en ella y el siguiente paso para conseguirlo es la explicabilidad.

La IA está transformando el sector financiero por la tecnología disruptiva que ha tenido gran impacto en actividades como prevención de fraudes, análisis predictivo y scores de riesgo, entre otras.

De acuerdo con John McCarthy, coautor del término “inteligencia artificial” y ganador del Premio Turing en 1971, esta ciencia no se limita a métodos observables; cuando alcanza cierto nivel de sofisticación, surge el problema de interpretabilidad.

Este desafío recientemente ha conllevado al desarrollo de la Inteligencia Artificial Explicable, (XAI, por sus siglas en inglés), la cual tiene como objetivo, que los algoritmos en los que el modelaje subyace o las predicciones del mismo sean comprensibles para el ser humano.

De acuerdo con la academia, la XAI se basa en tres principios que suelen ser empleados de forma intercambiable:

La transparencia, que se refiere a la descripción y justificación de los parámetros del algoritmo, así como de sus resultados. La interpretabilidad, tocante a la posibilidad de entender el modelo y que la decisión final sea comprensible para el usuario. Finalmente, la explicabilidad, que es la capacidad de demostrar por qué cada observación ha recibido un valor concreto.

Estos conceptos se pueden abordar de dos formas: mediante el desarrollo de algoritmos que son explicables por su propia naturaleza (White Box) o utilizar técnicas de interpretabilidad para los modelos donde la comprensión de su funcionamiento es menos visible (Black Box). Entre los ejemplos de técnicas de interpretabilidad se encuentran Shap Values (Shapley Additive exPlanations), LIME (Local Interpretable Model-agnostic Explanations) y PDP (Partial Dependence Plots).

La XAI es esencial para que las empresas de servicios financieros, así como sus clientes, sean capaces de comprender, confiar y gestionar eficazmente el potencial que tiene esta tecnología en la industria. Además de la explicabilidad, otros factores que fomentarán esta adopción son la supervisión humana, la agencia del usuario, la privacidad y gobernanza de datos, así como la actualización de la regulación.

De acuerdo con una encuesta realizada este año por la empresa neoyorquina de asesoría financiera Betterment, seis de cada 10 personas tienen interés en seguir aumentando sus conocimientos financieros. Este dato es interesante si se contempla que de esos 10, cuatro se informan mediante un asesor, los otros seis por la familia, amigos, noticias y redes sociales. 

Aún hay camino por recorrer y el potencial de inclusión financiera podría ser abordado mediante el uso de estas nuevas herramientas, que ya se utilizan en servicios de entretenimiento, por mencionar un ejemplo.  

La tecnología no crea confianza por sí misma, las personas confían en los humanos que la validan y certifican. En el sector financiero cada vez hay más empresas que están invirtiendo, desarrollando y evaluando la integración de estas técnicas en sus modelos de negocio y es precisamente donde la XAI fungirá como un jugador relevante al promover la comprensión en las empresas y sus respectivos clientes.

Julio Sánchez, CFA, CQF 
Asset Management - CIO México