Les nouvelles règles sur l'IA

Littératie ou culture numérique en matière d’IA

Le Règlement sur l’IA oblige toutes les entreprises à former leurs travailleurs à la littératie en matière d’IA avant février 2025. Outre cette obligation légale, une étude récente de Deloitte montre que 39 % des travailleurs belges considèrent qu’il revient à l’employeur d’organiser une formation adéquate sur l’IA². Une telle formation implique que les travailleurs acquièrent une compréhension élémentaire de ce qu’est réellement l’IA, de ses limites et de la manière dont ils peuvent l’utiliser de manière sûre et intelligente dans leur travail. Il ne s’agit pas de formations techniques approfondies mais plutôt de sensibilisation : comment éviter les erreurs, protéger les informations sensibles de l’entreprise et tirer le meilleur parti de cette technologie. Le législateur européen part du principe qu’avec une bonne base de connaissances, les travailleurs utiliseront l’IA de manière responsable, protégeant ainsi à la fois les clients et l’entreprise des dommages que ces systèmes peuvent occasionner.

Voici quelques exemples concrets de la manière dont l'IA peut nuire à votre entreprise :

• Un collaborateur des ressources humaines utilise un outil d'IA pour effectuer une première sélection des CV des nouveaux candidats. Cependant, étant donné que les systèmes d'IA dépendent des données historiques sur lesquelles ils sont formés, l'outil d'IA pourrait conclure qu'un homme est mieux adapté à un poste en informatique qu'une femme. Cela pourrait non seulement priver votre entreprise d’un profil intéressant mais aussi entraîner une violation de la législation anti-discrimination.
• L’équipe marketing utilise un outil d’IA générative pour rédiger un article sur les avantages d’une machine que leur entreprise propose. L’outil d’IA affirme que l’implémentation de cette machine dans la ligne de production réduira les coûts d'au moins 40 % dès la première année. Dans l’urgence de la rédaction de l’article, cette information est incluse telle quelle dans l’article final. Il s’avère toutefois que tant la statistique que les sources mentionnées sont complètement inventées, causant à l’entreprise un dommage réputationnel important.
• L’équipe commerciale utilise un outil d’IA pour réaliser des transcriptions de réunions et partager les points d’action avec les collègues absents. Lors de la dernière réunion commerciale, une mauvaise connexion a conduit l’outil d’IA à inventer des points d’action supplémentaires. Un collègue absent commence alors à démarcher un client existant comme s'il s'agissait d'un prospect. Le résultat est une perte de crédibilité auprès du client ainsi qu’une perte de temps.

Pour éviter de tels scénarios, il est crucial de promouvoir la culture numérique en matière d’IA au sein de votre entreprise.  Une formation sur l’IA devrait couvrir au minimum les sujets suivants :

• Identifier et prévenir les risques liés à l’IA : L'IA pose des défis, comme des problèmes de confidentialité ou de discrimination. Les travailleurs doivent apprendre à reconnaître ces risques et à limiter leurs conséquences.
• Penser de manière critique face aux résultats de l’IA : L'IA ne produit pas toujours des résultats sans erreur. Les travailleurs doivent être capables d'évaluer la qualité des résultats et de savoir quand une intervention humaine est nécessaire.
• Comprendre les limites de l’IA : Les travailleurs doivent être conscients des limites de l'IA, telles que la dépendance aux données d'entraînement, les connaissances contextuelles limitées et l'absence de conscience émotionnelle et éthique.
• Augmenter la productivité : Les travailleurs doivent apprendre ce qui est pertinent de faire avec l'IA, comme l'utiliser pour créer des résumés, rédiger des e-mails, relire des textes, etc.

Il ne fait aucun doute que l'IA offre des opportunités considérables pour les entreprises mais cela n'est possible que si les travailleurs disposent des connaissances et compétences adéquates. Les risques courants, tels que la fuite de données sensibles, la confiance aveugle dans les résultats de l'IA ou l'utilisation d'outils discriminatoires, peuvent nuire à votre entreprise tant financièrement qu'en termes de réputation.

La solution ? Investissez dans la formation en matière d’IA. En sensibilisant vos équipes, vous leur permettrez de reconnaître les risques, de traiter de manière critique les résultats de l'IA et d'utiliser la technologie de manière sûre et productive. Vous éviterez ainsi les problèmes, respecterez le Règlement sur l'IA et exploiterez pleinement ses avantages.

Besoin d'aide pour organiser une telle formation ? Contactez-nous.

* European trust in gen AI | Deloitte Insights
1 Trust in Generative AI: A Belgian Perspective, slide 35-36
2 Trust in Generative AI: A Belgian Perspective, slide 25