Une banque recherche un algorithme pour affiner ses décisions en matière de risque de crédit. Les autorités réglementaires s'attendent à ce que cet algorithme utilise uniquement des critères standards (par exemple, les cotes de crédit, la situation professionnelle, le revenu disponible) et qu'il empêche la discrimination de groupes spécifiques (par sexe, identité ethnique ou origine socio-économique).

Solution

Deloitte a développé l’application Guardian et d'autres outils pour identifier et mesurer les biais dans les données brutes, les données d'entraînement et la conception du modèle. Grâce à Guardian, nous pouvons détecter, analyser et évaluer les biais dès le début du processus de préparation des données et pour un large éventail de modèles d'IA.

Cela permet de garantir que les données sous-jacentes d'un cas d'utilisation particulier sont représentatives et que les résultats ne sont pas faussés par des biais involontaires. Le dispositif de suivi de Guardian surveille la puissance prédictive par rapport au degré de biais perçu des modèles successifs.

Résultats

Le modèle de risque de crédit de la banque prend des décisions uniquement sur la base de critères stricts sans discrimination (potentiellement illégale) sur des aspects interdits (ethnicité, sexe, religion ...) qui pourraient entraîner des décisions préjudiciables et injustes. La banque n'a donc pas à craindre d'atteinte à sa réputation ou de sanctions des régulateurspour cause de discrimination avec ses modèles d'IA.

Un constructeur automobile lance un nouveau parc de voitures dotées d'une fonction de détection automatique des voies de circulation sur la route : une automatisation de niveau 4 selon l'échelle de conduite automatisée de la Society of Automotive Engineers (SAE). Le système a des difficultés à détecter les travaux routiers, car il n'existe pas encore de normes définitives et établies.

Solution

Pendant la phase de développement, Deloitte envisage déjà de multiples fonctionnalités pour réduire les risques. L'accent est mis sur le développement de structures de modélisation résilientes et de modèles critiques pour se protéger contre les risques potentiels tels que des imprévus.

En utilisant des techniques de pointe, telles que le lissage aléatoire ou les réseaux adverses génératifs, nous formons des réseaux neuronaux profonds pour qu'ils soient robustes et pertinents face à un large panel de travaux routiers.

Le processus de développement comprend également des stress tests et des tests contradictoires pour déployer l'algorithme dans différents contextes et réentraîner l'IA pour les situations où le modèle ne serait pas suffisamment robuste.

Résultat

La fonction de détection des voies de circulation donne des résultats fiables dans toutes les situations spécifiées par le service d'assurance qualité du client. Le constructeur automobile répond aux normes réglementaires et la nouvelle flotte fonctionne en toute sécurité et comme prévu.

Une entreprise de télécommunications travaille sur un système d'IA pour prédire en fonction du marché et des attentes, quel produit proposer à ses clients et à quel prix. Au cours de la phase de développement, l'entreprise se rend compte que l'ensemble des données dont elle dispose est trop épars pour fournir des résultats pertinents, car seul un sous-ensemble de clients a donné son consentement pour l'utilisation des données en vertu du règlement général sur la protection des données (RGPD). L'entreprise a des données supplémentaires en sa possession, mais ne dispose pas des autorisations nécessaires pour les utiliser en raison de la protection des données.

Solution

Deloitte s'appuie sur son cadre d'anonymisation pour développer le système d'IA d'une manière conforme au RGPD. Il existe deux approches principales, la construction de données d'entraînement synthétiques et l'anonymisation des ensembles de données existants avec des méthodes de pointe telles que la confidentialité différentielle ou le "k-anonymty".

Ces méthodes garantissent que les pirates ne peuvent pas remonter du résultat de l'IA jusqu'à une ligne individuelle dans le jeu de données utilisées, ce qui nous permet de masquer l'influence d'un individu particulier sur le résultat et de protéger la vie privée de chaque individu.

Résultat

Le modèle final est conforme aux réglementations actuelles sur la confidentialité des données et peut résister aux attaques de désidentification. L'entreprise de télécommunications est en mesure d'utiliser des données hautement sensibles comme données d'apprentissage tout en respectant des restrictions légales.

Sachant que le système est robuste, l'entreprise peut désormais concentrer tous ses efforts sur l'obtention des meilleures performances du modèle.

Un organisme de réglementation doit mettre en place un système plus efficace pour détecter les délits financiers tels que les délits d'initié. L'agence avait appliqué avec succès l'IA pour découvrir des tendances de plus en plus nuancées.

Cependant, les criminels testent des moyens de manipuler l'algorithme de détection de l'agence pour dissimuler leur activité illégale sous le seuil de détection. Dès que le modèle est disponible en ligne, les blanchisseurs d'argent observent comment il se comporte et tentent d'inverser sa méthodologie. Leur objectif est de faire en sorte que le modèle perçoive leurs transactions frauduleuses comme légitimes.

Solution

Nos experts précisent l'environnement et les critères qui permettront au modèle de fonctionner en toute sécurité, en définissant des scénarios de menaces potentielles dès le début du processus de conception afin d'aborder les vecteurs d'attaque possibles pendant la phase de modélisation.

La conception du système tient compte à la fois des cybermenaces traditionnelles et des risques spécifiques à l'IA, par exemple en cas de fuite des données ou des modèles internes vers le public.

Cette double vulnérabilité souligne l'importance de développer le système dans une infrastructure sécurisée où l'accès est restreint et où le modèle peut rester confidentiel. En outre, nous n'utilisons que des logiciels sécurisés pour développer le modèle et des techniques de pointe pour entraîner l'IA, comme l'ajout de bruit aux données d'entraînement.

Résultat

En garantissant la "Security by Design", l'organisme de réglementation peut déployer son modèle en étant sûr d'avoir pris en compte les potentiels risques. De plus, l'organisme évite de devoir consacrer un budget important aux experts en sécurité supplémentaires pendant la phase de post-développement pour combler les failles de sécurité du système d'IA.