Retour au module/Risque de modèle et gouvernance de l'IA, d'un inventaire fantôme à un registre examinable
Le point

Un inventaire qui ne contient que les modèles que quelqu'un a pensé à déclarer n'est pas un inventaire.

Ce qui tourne réellement

L'inventaire des modèles, y compris ceux arrivés sans passer par le risque de modèle.

Inventaire des modèles

Tout modèle influençant une décision, son niveau de risque, et sa dernière validation indépendante

ModèleTypeNiveauDernière validation
Score de créditStatistiqueNiveau 1il y a 4 mois
Filtrage LCB-FTÀ base de règlesNiveau 1il y a 11 mois
Élasticité tarifaireStatistiqueNiveau 2il y a 19 mois
Assistant de tri de CVModèle de langageNiveau 1il y a 2 mois
Propension à l'attritionApprentissage automatiqueNiveau 3il y a 7 mois
Synthèse du supportModèle de langageNiveau 3il y a 1 mois

Pourquoi c'est important

0 modèle de niveau un a dépassé sa date de validation et 2 de ces systèmes sont des solutions tierces que personne ici ne peut inspecter. Les deux faits sont ordinaires ; ce qui ne l'est pas, c'est de pouvoir les voir sur un même écran.

Comment des modèles arrivent non déclarés

Rarement par décision de quiconque. Une équipe achète un outil contenant un modèle, ou une fonctionnalité est livrée avec un modèle de langage faisant quelque chose qui ressemble à de la mise en forme et qui s'avère être du jugement. Ni l'un ni l'autre ne passe par un point de contrôle conçu pour une construction de modèle trimestrielle.

Risque de modèle et gouvernance de l'IA, d'un inventaire fantôme à un registre examinable | GeneSecure