Nel contesto in continua evoluzione dell’intelligenza artificiale e del machine learning, la trasparenza e la comprensione dei modelli IA sono diventati aspetti essenziali. Le Model Card di Sas, integrate nella piattaforma Sas Viya, sono strumenti pensati per documentare in modo chiaro e accessibile ogni elemento dei modelli di IA. Queste carte, si legge sul sito dell’azienda, non si limitano a fornire informazioni tecniche, ma cercano di rendere la complessità dell’IA comprensibile anche a un pubblico non esperto.
“Le Model Card di SAS”, ha spiegato Davide Pecchia, Trustworthy AI specialist, Data Ethics Practice di Sas, “offrono una rappresentazione completa del modello di AI, dalle finalità principali fino ai dettagli tecnici più approfonditi. Con l’obiettivo di: garantire trasparenza e fiducia e offrire agli utenti una base chiara e affidabile per capire come utilizzare il modello”.
Aspetti principali
Le Model Card sono suddivise in cinque sezioni:
- Overview: Fornisce una panoramica generale del modello, comprensibile anche ai non esperti, con rappresentazioni visive e un linguaggio chiaro. Descrive le finalità principali, i fattori critici e le limitazioni del modello.
- Model Usage: Indica in quali contesti il modello è stato progettato per essere utilizzato, i benefici attesi e le sue limitazioni, per garantirne un uso corretto.
- Data Summary: Analizza i dati utilizzati per addestrare il modello, evidenziando eventuali problemi di qualità o di privacy. Questa sezione è importante per garantire un uso etico e affidabile.
- Model Summary: Contiene informazioni tecniche sulle prestazioni del modello, come l’accuratezza e i bias, e offre un quadro utile per monitorare l’efficacia del modello nel tempo.
- Model Audit: Definisce i criteri di controllo, come le soglie di accuratezza e i limiti di bias. Gli indicatori di performance chiave aiutano a monitorare che il modello rispetti gli standard aziendali e normativi.
Governance e Normativa
Con l’introduzione dell’AI Act, la normativa europea che regolamenta l’uso dell’intelligenza artificiale, le Model Card possono diventare uno strumento utile per facilitare il rispetto delle normative, centralizzando e organizzando le informazioni chiave sui modelli. Documentando prestazioni e limitazioni, le Model Card hanno l’obiettivo di aiutare le aziende a garantire conformità e trasparenza. Inoltre, le Model Card sono uno strumento utile per la governance, permettendo alle aziende di monitorare costantemente i propri modelli e di affrontare eventuali problematiche in modo proattivo, favorendo un utilizzo etico ed efficace dell’AI. Le Model Card rappresentano anche un supporto pratico per le aziende che desiderano superare la fase di sperimentazione dei progetti di AI, il cosiddetto “Pilot Purgatory”. Documentando in modo dettagliato ogni aspetto del modello, aiutano a ridurre la diffidenza e a favorire un’adozione più ampia e consapevole dell’AI.
Per altri contenuti iscriviti alla newsletter di Forbes.it CLICCANDO QUI .
Forbes.it è anche su WhatsApp: puoi iscriverti al canale CLICCANDO QUI .
