“Selon une récente étude de marché commandée par IBM, environ 37 % des entreprises canadiennes de plus de 1 000 employés déclarent utiliser l’IA dans le cadre de leurs opérations. Cependant, bien moins de la moitié d’entre elles prennent des mesures clés pour une IA digne de confiance, comme la réduction des biais (26 %), le suivi de la provenance des données (29 %), la surveillance de l’IA dans les environnements infonuagique et IA (39 %), ou la protection de la confidentialité des données tout au long du cycle de vie (42 %).”

Tout d’abord, il est important de comprendre que les IA sont conçues pour apprendre à partir de données. La qualité et la pertinence des données utilisées pour entraîner l’IA ont donc un impact significatif sur la fiabilité des résultats. Les données doivent provenir de sources fiables et pertinentes et être traitées de manière appropriée pour garantir leur fiabilité. Les utilisateurs doivent également être conscients des biais potentiels des données et de l’impact que cela peut avoir sur les résultats.

Ensuite, la transparence et l’explicabilité de l’IA sont des facteurs importants pour évaluer la fiabilité des données fournies. Les utilisateurs doivent comprendre comment fonctionne l’IA et comment les résultats sont générés. Les IA doivent être conçues pour fournir des explications claires et compréhensibles sur leur fonctionnement ainsi que sur les résultats qu’elles produisent, ce qui est encore loin d’être la norme aujourd’hui. Les utilisateurs doivent également être en mesure de vérifier les résultats produits par l’IA en utilisant d’autres sources d’information.

Il est également important de prendre en compte les limites de ces solutions. Celles-ci ne sont pas infaillibles et peuvent parfois produire des résultats erronés ou trompeurs. Les utilisateurs doivent être conscients de ces limites et ne pas se fier uniquement aux résultats fournis par ces systèmes pour prendre des décisions importantes. Il est donc essentiel d’être conscient des risques potentiels liés à l’utilisation de l’IA, tels que la perte de confidentialité et la sécurité des données.

Enfin, la réglementation et les normes en matière d’IA peuvent jouer un rôle important dans la garantie de la fiabilité des données fournies par ces systèmes. Les gouvernements et les organismes de réglementation peuvent établir des normes et des directives, ainsi que des mécanismes de surveillance et de contrôle. Les utilisateurs doivent être conscients des réglementations en vigueur et des normes applicables aux IA qu’ils utilisent.

Du point de vue d’un utilisateur, il est important de se poser les questions suivantes pour évaluer la fiabilité des données fournies par une IA :

• Identifier la source des données utilisées : L’utilisateur peut chercher à savoir d’où proviennent les données utilisées par l’IA. Celles-ci peuvent provenir de sources publiques ou privées, être collectées par l’entreprise elle-même ou achetées à des tiers. Il est également crucial de vérifier si les données ont été collectées de manière éthique et légale.Exemple: supposons qu’une entreprise utilise une IA pour recommander des produits à ses clients. L’utilisateur pourrait poser des questions sur l’origine des données utilisées par cette IA. Sont-elles basées sur les historiques d’achat des clients de l’entreprise elle-même, des données provenant de fournisseurs tiers, ou encore des données agrégées à partir de sources publiques ? Cette clarification permet à l’utilisateur de mieux comprendre la fiabilité et la pertinence des recommandations fournies par l’IA.
• Comprendre comment les données ont été traitées : L’utilisateur peut chercher à comprendre comment les données ont été nettoyées, transformées et analysées pour produire les résultats. Il est également essentiel de vérifier si les données ont été anonymisées et si les méthodes de traitement des données sont transparentes.Exemple: imaginons qu’une IA soit utilisée pour prédire les performances des étudiants dans un examen. L’utilisateur pourrait s’intéresser à la façon dont les données ont été nettoyées, par exemple, en supprimant les entrées incorrectes ou en corrigeant les valeurs aberrantes. Il pourrait également chercher à comprendre comment les données ont été transformées pour l’analyse, telles que la normalisation des scores ou la conversion des formats de données.
• Vérifier comment les résultats ont été validés : L’utilisateur peut chercher à savoir si les résultats ont été validés par des experts ou des méthodes de validation appropriées. Il est également recommandé de comparer les résultats avec d’autres sources d’information pour vérifier leur cohérence.Exemple: considérons une IA utilisée pour détecter les fraudes financières. L’utilisateur pourrait demander des informations sur les méthodes de validation utilisées pour évaluer l’efficacité de celle-ci. Ont-elles été validées par des experts en fraude ou par des tests sur des ensembles de données indépendants ? La comparaison des résultats de l’IA avec les décisions prises par des experts humains pourrait également être une mesure de validation importante.
• Identifier les biais potentiels de l’IA : L’utilisateur peut chercher à comprendre comment l’IA a été entraînée et testée pour détecter les biais potentiels. Il est également important de vérifier si elle a été testée sur des données représentatives de la population cible et si les résultats ont été ajustés pour tenir compte des biais potentiels.Exemple: prenons l’exemple d’une IA utilisée pour filtrer les candidatures à un poste dans une entreprise. L’utilisateur pourrait questionner l’entreprise sur la diversité des données d’entraînement utilisées pour former l’IA. Ont-elles inclus une représentation adéquate des différentes origines ethniques, des genres, et des milieux socio-économiques ? L’utilisateur pourrait également vérifier si des mesures ont été prises pour atténuer les biais potentiels, tels que l’ajustement des algorithmes ou l’utilisation de données équilibrées.
• Comprendre comment les résultats sont présentés : L’utilisateur peut chercher à comprendre comment les résultats sont présentés et comment ils peuvent être interprétés. Il est recommandé de vérifier si les résultats sont présentés de manière claire et compréhensible, et s’il existe des limites ou des mises en garde associées aux résultats.Exemple: supposons qu’une IA soit utilisée pour recommander des traitements médicaux. L’utilisateur pourrait s’interroger sur la clarté des explications fournies par l’IA concernant les raisons derrière chaque recommandation. Il pourrait également rechercher des informations sur les incertitudes associées à chaque recommandation, ainsi que sur les risques potentiels et les alternatives disponibles.

En se posant ces questions, les utilisateurs et utilisatrices peuvent évaluer la fiabilité des données fournies par une IA et prendre des décisions éclairées en fonction des résultats. Il est également important de se rappeler que les IA ne sont pas infaillibles et qu’il est toujours préférable de vérifier les résultats avec d’autres sources d’information avant de prendre des décisions importantes.

En fin de compte, la confiance dans les résultats fournis par une IA dépend de la prise en compte rigoureuse de la validité des données utilisées. Il est essentiel d’être conscients des limites des IA et de remettre en question les résultats qui semblent douteux ou incohérents.

Cependant, malgré ces défis, il y a des raisons d’être optimiste quant à l’avenir de la fiabilité des données fournies par les IA. Les progrès technologiques et les avancées de la recherche ouvrent la voie à des solutions plus transparentes et plus fiables. De plus, la sensibilisation croissante du public et des décideurs politiques contribue à créer un environnement plus favorable à l’utilisation responsable de ces technologies.

En tant qu’expert en innovation numérique, je vous encourage à rester informé et vigilant quant à l’utilisation des IA dans votre vie quotidienne et professionnelle. En posant les bonnes questions et en prenant les précautions nécessaires, nous pouvons toutes et tous contribuer à garantir la fiabilité des données fournies par celles-ci. Si vous souhaitez en savoir plus sur ce sujet ou sensibiliser vos équipes, n’hésitez pas à me contacter pour une consultation ou une formation sur mesure.

---

Pour aller plus loin:

Exemples d’implications pratiques de la fiabilité des données dans divers secteurs:

Santé

Dans le domaine de la santé, la fiabilité des données est cruciale. Par exemple, une étude a montré que les modèles d’IA peuvent parfois avoir du mal à représenter correctement la diversité des populations, ce qui peut conduire à des préjugés et des inexactitudes. De plus, une mauvaise utilisation des outils d’IA peut compromettre la fiabilité des données et la qualité du contenu médical.

Finance

Dans le secteur financier, une mauvaise qualité des données peut avoir des conséquences dévastatrices. Par exemple, un problème de qualité des données peut entraîner une aggravation des inégalités face au numérique et à la santé et des risques pour la vie privée, un ralentissement des progrès scientifiques et une érosion de la confiance du public.

Marketing

Dans le domaine du marketing, une mauvaise qualité des données peut également avoir un impact significatif. Par exemple, une mauvaise utilisation des outils d’IA peut compromettre la fiabilité des données et la qualité du contenu marketing.

Perspectives futures sur la fiabilité des données fournies par l’IA

De nombreux projets de recherche sont en cours pour améliorer la transparence et l’interprétabilité des modèles d’IA. Par exemple, l’équipe de l’Institut intelligence et données (IID) a lancé la plateforme Data Provenance Explorer, un référentiel open source permettant de télécharger, de filtrer et d’explorer la provenance ainsi que les caractéristiques des données. De plus, l’interprétabilité et l’explicabilité sont deux domaines de recherche qui sont au cœur de la démystification des réseaux de neurones, des algorithmes d’IA dits aussi “boîtes noires”.

Ces initiatives et d’autres similaires sont essentielles pour garantir que les modèles d’IA soient non seulement précis et efficaces, mais aussi transparents et compréhensibles. Cela permettra aux utilisateurs de rester engagés et curieux face aux développements futurs de l’IA.

J’espère que ces informations vous seront utiles !