Explainable Artificial Intelligence: Metodi, modelli e pratiche per comprendere valutare le decisioni dell’IA

Perché un modello di Intelligenza Artificiale prende una determinata decisione? Un sistema può essere accurato e, allo stesso tempo, apprendere correlazioni fragili, sfruttare informazioni irrilevanti o produrre decisioni difficili da verificare. L'Explainable Artificial Intelligence nasce per rendere osservabili questi meccanismi e trasformare le predizioni dei modelli in oggetti di analisi, valutazione e controllo. Questo manuale presenta in modo progressivo e scientificamente rigoroso i principali metodi dell'Explainable AI, partendo dalle basi del Machine Learning interpretabile fino alle tecniche post-hoc e ai modelli basati sui concetti. Nel libro vengono affrontati: - interpretability, explainability, fidelity e valutazione delle spiegazioni; - alberi decisionali, regole, GAM, GA2M, EBM e Neural Additive Models; - prototipi, ProtoPNet e apprendimento logico induttivo; - approcci neuro-simbolici, Semantic Loss, Markov Logic Networks, ProbLog e DeepProbLog; - LIME, PredDiff, SHAP e KernelSHAP; - gradienti, SmoothGrad, Integrated Gradients, Grad-CAM e attention; - ICE, Partial Dependence Plot e Permutation Feature Importance; - Concept Bottleneck Models, Concept Embedding Models e concept interventions; - fairness, robustezza, sanity checks, governance e quadro normativo europeo. Ogni metodo viene introdotto attraverso il problema da risolvere, l'intuizione, la formalizzazione matematica, il funzionamento passo dopo passo, esempi concreti, vantaggi, limiti e criteri di utilizzo. Il volume è rivolto a studenti di Informatica, Ingegneria Informatica, Intelligenza Artificiale e Data Science, oltre che a professionisti tecnici che desiderano comprendere e valutare criticamente le decisioni dei sistemi di Machine Learning. Sono sufficienti conoscenze di base di Machine Learning. Non sono richieste competenze pregresse avanzate di Explainable AI.