Le model cards sono documenti standardizzati che accompagnano il rilascio di un modello IA, descrivendone caratteristiche, limiti, performance e rischi. Concetto introdotto da Margaret Mitchell e Timnit Gebru (Google) nel paper "Model Cards for Model Reporting" (2019).
Cosa contiene una model card seria:
- Model details: chi l'ha creato, versione, data, tipo di modello, licenza.
- Intended use: per cosa è pensato il modello, e per cosa non è pensato.
- Training data: provenienza, dimensione, lingue coperte, periodo temporale, eventuali filtri applicati.
- Evaluation data: benchmark usati per valutare.
- Performance: risultati per categoria (genere, etnia, lingua, dominio).
- Ethical considerations: bias noti, rischi, limitazioni etiche.
- Caveats and recommendations: come e dove non usare il modello.
Esempi reali:
- Hugging Face: ogni modello pubblicato deve avere una model card. Standard di fatto della community open source.
- Google: model card per Gemini, BERT, etc.
- Meta: model card pubbliche per la famiglia Llama.
- Anthropic: pubblica model card e system card per Claude.
Quadro normativo:
- AI Act: per sistemi ad alto rischio richiede documentazione tecnica equivalente a una model card estesa.
- NIST AI Risk Management Framework (USA): raccomanda model card.
- ISO/IEC standards: in elaborazione standard internazionali sulla documentazione.
Per chi sviluppa o usa modelli aziendali: la model card non è burocrazia, è strumento di gestione del rischio. Quando un modello fa cose strane, leggere la sua model card è il primo passo per capire se è un comportamento atteso o un bug. E in caso di problemi legali, la documentazione dimostra diligenza.