Intel·ligència artificial explicable
La intel·ligència artificial explicable (XAI) es refereix a mètodes i tècniques en l'aplicació de la intel·ligència artificial (IA) que permeten als usuaris humans entendre i interpretar els resultats obtinguts. Contrasta amb el concepte de "caixa negra" dins l'aprenentatge automàtic, on fins i tot els dissenyadors d'un algorisme no poden explicar per què aquest arriba a una decisió específica.[1] La XAI es considera una implementació del dret social a l'explicació.[2]
El disseny d'algorismes en IA sovint contraposa la precisió d'un model amb la seva interpretabilitat.[3] Per exemple, els models d'aprenentatge profund obtenen resultats punters degut a la seva complexitat, però aquesta mateixa fa impossible seguir el raonament de la màquina, pas a pas. En canvi, els arbres de decisió es poden entendre fàcilment, però obtenen pitjors resultats. En aquest sentit, els algorismes d'aprenentatge automàtic es poden classificar en models de caixa blanca, si són interpretables per experts, i models de caixa negra, si no ho són.[4] En certes aplicacions (com ara filtres de càmera), entendre el raonament de la màquina no és essencial i podem prioritzar la precisió del model, però en altres (com ara el diagnòstic mèdic o l'avaluació de risc en una assegurança), hi ha riscs ètics i legals si no entenem el procés de decisió, així que hem de considerar l'interpretabilitat. Tot i així, cal remarcar que l'interpretabilitat pot ser beneficiosa fins i tot sense riscos, ja que permet justificar les decisions preses en el disseny, i validar el correcte funcionament de l'algorisme.[5]
La XAI no es limita a l'elecció d'uns models sobre uns altres. Els models de caixa negra es poden estudiar bé considerant l'estructura interna de l'algorisme (per exemple, Grad-CAM per a xarxes neuronals convolucionals[6]), o bé considerant-lo com una autèntica caixa negra (per exemple, l'aproximació local LIME).[7]
Referències modifica
- ↑ «Computer says no: why making AIs fair, accountable and transparent is crucial» (en anglès). , 05-11-2017.
- ↑ Edwards, Lilian; Veale, Michael Duke Law and Technology Review, 16, 2017, pàg. 18.
- ↑ Adadi, Amina; Berrada, Mohammed «Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)». IEEE Access, 6, 2018, pàg. 52138–52160. DOI: 10.1109/access.2018.2870052. ISSN: 2169-3536.
- ↑ Loyola-González, O. IEEE Access, 7, 2019, pàg. 154096–154113. DOI: 10.1109/ACCESS.2019.2949286. ISSN: 2169-3536 [Consulta: free].
- ↑ Adadi, A.; Berrada, M. «Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)». IEEE Access, 6, 2018, pàg. 52138–52160. DOI: 10.1109/ACCESS.2018.2870052. ISSN: 2169-3536.
- ↑ Error en el títol o la url.Selvaraju, Ramprasaath R.; Cogswell, Michael; Das, Abhishek; Vedantam, Ramakrishna; Parikh, Devi. «». IEEE, 2017-10. DOI: 10.1109/iccv.2017.74.
- ↑ Error en el títol o la url.Ribeiro, Marco Tulio; Singh, Sameer; Guestrin, Carlos. «». New York, NY, USA: ACM, 13-08-2016. DOI: 10.1145/2939672.2939778.