In Breve
- Cosa è la Trustworthy AI?
- La Trustworthy AI si riferisce a pratiche di intelligenza artificiale che garantiscono governance, trasparenza e spiegabilità.
- Qual è l'impatto della governance sull'IA?
- Una governance adeguata può aumentare il ROI fino a 15 volte rispetto a sistemi senza controlli.
- Quali settori sono più avanzati nell'adozione dell'IA?
- Il settore bancario e quello pubblico mostrano i tassi più elevati di adozione di pratiche di governance per l'IA.
Un recente studio condotto da SAS con dati IDC ha messo in luce l’importanza delle pratiche di Trustworthy AI nel contesto aziendale. L’analisi ha rivelato che l’adozione di governance, trasparenza dei dati e spiegabilità può aumentare la probabilità di ottenere un ritorno sugli investimenti (ROI) fino a 15 volte rispetto a sistemi privi di controlli adeguati.
Le organizzazioni che implementano protocolli rigorosi riguardanti la qualità dei dati, la tracciabilità e l’auditabilità riescono a raddoppiare i risultati economici derivanti dall’intelligenza artificiale. In contrasto, meno del 5% delle aziende che non adottano tali processi riporta ritorni comparabili.
Un aspetto critico emerso dallo studio è l’assenza di spiegabilità, che limita l’efficacia dei sistemi di intelligenza artificiale. L’incapacità degli algoritmi di motivare le proprie decisioni porta fino al 97,2% degli utenti a intervenire manualmente per correggere o modificare i risultati, vanificando i guadagni di produttività. Inoltre, la fiducia degli operatori diminuisce con l’aumentare dell’autonomia dell’IA: dal 76% per l’IA generativa al 66% per l’IA agentica.
Lo studio ha anche evidenziato che le imprese che si impegnano per garantire l’affidabilità dell’IA ottengono performance superiori su 13 indicatori aziendali, tra cui contenimento dei costi, crescita del fatturato ed esperienza del cliente. Infatti, l’85% delle aziende più avanzate prevede di aumentare gli investimenti in governance dell’IA di oltre il 10% nell’anno successivo.
Tuttavia, un limite comune riscontrato è l’architettura informativa: solo il 17,5% delle imprese dispone di un’infrastruttura dati completamente ottimizzata per supportare l’IA agentica. Avere fondamenta dati solide quadruplica la probabilità di ottenere un ROI elevato.
La variazione nell’adozione di framework strutturati è evidente anche nei diversi settori. Nel settore bancario, l’85% delle aziende ad alta maturità ha linee guida di governance definite, rispetto al 29%% dei ritardatari. Nel settore pubblico, il 41%% dei leader prevede aumenti di spesa superiori al 20%% per l’IA affidabile, mentre nelle scienze della vita la penetrazione dell’IA su scala aziendale è del 23%%.
Secondo Bryan Harris, CTO di SAS, anche agenti avanzati possono registrare tassi di errore superiori al 25%% nelle attività complesse. Per garantire accuratezza e ripetibilità, è fondamentale integrare competenze di dominio nei workflow agentici, mantenendo le persone al centro dei controlli. Chris Marshall, Vice President di IDC, sottolinea che supervisione, spiegabilità, responsabilità e solide basi dati sono prerequisiti per scalare con successo l’autonomia dell’IA.
