Per fornire una risposta accurata, ecco cosa dovrebbero fare le pubbliche amministrazioni (PA) prima di adottare foundation models ad alto impatto, basato su linee guida italiane e pratiche comuni di governance IA. Risposta diretta
- Prima di tutto, le PA devono assicurarsi che i foundation models adottino misure di trasparenza adeguate che chiariscano l’attribuzione delle responsabilità e dei ruoli, in particolare tra fornitori e utenti del sistema di IA. Questo è essenziale per una gestione responsabile e per la governance delle decisioni automatizzate. [cita rilevante: riferimenti a linee guida e piani PA sull’IA disponibili in documenti ufficiali e pubblicazioni di policy]
- Le PA dovrebbero integrare tali modelli in quadri normativi e di governance esistenti, includendo requisiti di accountability, auditabilità, gestione dei rischi, e responsabilità per conseguenze etiche e sociali.
- È fondamentale valutare non solo le prestazioni tecniche, ma anche l’impatto sull’organizzazione, sui servizi pubblici forniti e sulle persone, includendo requisiti di trasparenza, tracciabilità delle decisioni e mitigazione dei bias.
- Per implementazioni ad alto impatto, occorre definire processi di procurement, gestione contrattuale e monitoraggio continuo, con KPI chiari su affidabilità, sicurezza, privacy e conformità normativa.
Se vuoi, posso:
- estrarre linee guida precise dai documenti ufficiali italiani sull’IA nella PA (Piano Triennale ICT PA, decalogo AGID, Strategie IA 2024-2026) e riassumerle con citazioni dirette.
- fornire una checklist operativa in forma di tabella che PA possono usare per una valutazione pre-adozione, includendo ruoli, responsabilità, requisiti di trasparenza e auditabilità.