eXplainable Artificial Intelligence (XAI) / FAT ML (Fairness, Accountability, and Transparency in Machine Learning)

Explainable AI (XAI) or Transparent AI es una inteligencia artificial (IA) cuyas acciones pueden ser fácilmente comprendidas por humanos, en contrase con las IAs tipo "caja negra" que emplean algoritmos complejos y opacos, en las que ni siquiera sus diseñadores pueden explicar porque la IA ha llegado a una decisión concreta.

XAI es uno de los elementos del modelo FAT ML (Fairness, Accountability and Transparency in Machine Learning) y pueden usarse para desarrollar el derecho social a la explicación.

En cualquier caso, esta transparencia no suele ser gratis. A menudo hay inconvenientes en cuanto a lo inteligente y transparente que puede ser una IA, y es posible que estos inconvenientes aumenten con el aumento de la complejidad interna de los sistemas. El desafío tecnológico de explicar las decisiones de una IA se conoce como "problema de interpretabilidad".