Che cos'è l'IA spiegabile?

Con l'avanzare delle tecnologie di deep learning come l'intelligenza artificiale (AI) e l'apprendimento automatico (ML), ci viene chiesto di comprendere i risultati prodotti dagli algoritmi informatici. Ad esempio, come hanno fatto gli algoritmi di ML a produrre un particolare risultato?
L'IA spiegabile (o XAI) comprende i processi e gli strumenti che consentono agli utenti umani di comprendere i risultati generati dagli algoritmi di ML. Le organizzazioni devono creare fiducia nei modelli di IA quando li mettono in produzione.
L'intero processo XAI viene anche definito un modello "black box" creato direttamente dai dati generati. Vediamo quindi alcuni casi d'uso dell'Explainable AI.

Casi d'uso dell'IA spiegabile

Ecco alcuni casi d'uso reali di Explainable AI:

Per i testi in linguaggio naturale:
XAI for Text si concentra sullo sviluppo di modelli black-box per compiti legati al testo. Ad esempio, la sintesi di documenti legali. In questo caso d'uso, gli utenti possono esplorare e comprendere XAI for Text sulla base delle seguenti considerazioni:
Tipo di compito testuale in esame
Spiegazione delle tecniche utilizzate per il compito
Gli utenti target per la particolare tecnica XAI
Allo stesso modo, un modello di deep learning basato su XAI può classificare dati testuali sotto forma di recensioni e trascrizioni. Utilizzando l'IA spiegabile, è possibile determinare il motivo delle previsioni del modello in base alle parole chiave e alle frasi specifiche incluse nel testo.

È inoltre possibile utilizzare XAI for Text per addestrare un modello di apprendimento profondo per generare un sommario dell'articolo basato sul testo di partenza. Ad esempio, è possibile ottenere una distribuzione dei punteggi di attenzione su token selezionati nel testo di partenza. Le parole (con un punteggio di attenzione compreso tra 0-1) vengono evidenziate nel testo di partenza e mostrate agli utenti finali. Più alto è il punteggio di attenzione, più scura è l'evidenziazione del testo e maggiore è l'importanza della parola nel sommario dell'articolo.

Per le immagini visive:
L'IA spiegabile viene utilizzata anche per automatizzare il processo decisionale basato su immagini visive ad alta risoluzione. Alcuni esempi di immagini ad alta risoluzione sono le immagini satellitari e i dati medici. Oltre all'elevato volume di dati satellitari, i dati acquisiti sono ad alta risoluzione e contengono più bande spettrali. Ad esempio, luce visibile e infrarossa. È possibile utilizzare modelli addestrati da XAI per "dividere" le immagini ad alta risoluzione in patch più piccole.

Nel campo delle immagini mediche, i modelli XAI sono utilizzati per rilevare la polmonite toracica attraverso le radiografie. Analogamente, il riconoscimento delle immagini è un altro caso d'uso di Explainable AI nel settore delle immagini visive. Utilizzando l'IA visiva, è possibile addestrare modelli di IA personalizzati per riconoscere immagini o oggetti (contenuti nelle immagini catturate).

Per le statistiche:
I modelli e gli algoritmi XAI sono efficaci in base al loro grado di precisione o di interpretazione. I modelli di relazione statistica come la regressione lineare, gli alberi decisionali e i K-nearest neighborhood sono facili da interpretare ma meno accurati. Affinché i modelli di rete neurale siano interpretabili e accurati, è necessario che i dati di alta qualità vengano immessi nel modello AI.

L'XAI ha un enorme potenziale nel campo della scienza dei dati. Ad esempio, l'Explainable AI è utilizzata nei sistemi di produzione statistica dell'Istituto di ricerca e di sviluppo del settore. Banca Centrale Europea (BCE). Collegando i desiderata dell'utente ai ruoli "tipici" dell'utente, XAI può delineare i metodi e le tecniche utilizzati per soddisfare le esigenze di ciascun utente.

Parliamo poi degli strumenti e dei framework comuni utilizzati nell'Explainable AI.

IA spiegabile - Strumenti e quadri di riferimento

Negli ultimi tempi, i ricercatori di IA hanno lavorato su diversi strumenti e framework per promuovere l'IA spiegabile. Ecco una panoramica di alcuni di quelli più popolari:

Cosa succede se: Sviluppato dal team di TensorFlow, What-If è uno strumento visivamente interattivo utilizzato per comprendere l'output dei modelli AI di TensorFlow. Con questo strumento è possibile visualizzare facilmente i set di dati e le prestazioni del modello AI implementato.

LIME: Abbreviazione di Local Interpretable Model-agnostic Explanation, lo strumento LIME è stato sviluppato da un gruppo di ricerca dell'Università di Washington. LIME fornisce una migliore visibilità di "ciò che accade" all'interno dell'algoritmo. Inoltre, LIME offre un modo modulare ed estensibile per spiegare le previsioni di qualsiasi modello.

AIX360: Sviluppata da IBM, AI Explainability 360 (o AIX 360) è una libreria open-source utilizzata per spiegare e interpretare insiemi di dati e modelli di apprendimento automatico. Rilasciata come pacchetto Python, AIX360 include una serie completa di algoritmi che coprono diverse spiegazioni e metriche.

SHAP: Acronimo di Shapley Additive Explanations, SHAP è un approccio teorico basato sui giochi per spiegare i risultati di qualsiasi modello di apprendimento automatico. Utilizzando i valori di Shapley della teoria dei giochi, SHAP è in grado di collegare le allocazioni ottimali di credito con le spiegazioni locali. SHAP è facile da installare utilizzando PyPI o Conda Forge.

Conclusione

Le organizzazioni devono avere una comprensione completa dei loro processi decisionali basati sull'IA attraverso il monitoraggio dell'IA. Explainable AI consente alle organizzazioni di spiegare facilmente gli algoritmi di ML e le reti neurali profonde utilizzati. In modo efficace, contribuisce a creare fiducia nel business insieme all'uso produttivo delle tecnologie AI e ML.