INTELLIGENCE ARTIFICIELLE : PAS SANS ELLES !

« Rien ne se perd, rien ne se crée, tout se transforme » et avec l’IA, tout s’amplifie et les femmes disparaissent.

l’IA fait désormais partie de notre quotidien sans que nous en ayant parfois conscience : des propositions de contenu sur les réseaux sociaux, aux applications par authentification biométrie , diagnostics médicaux automatiques ou encore, procédures d’embauche. Il en va sans dire qu’il s’agit aujourd’hui d’un outil stratégique majeur. Toutefois, les atteintes aux droits fondamentaux sont bien réelles sans que nous puissions véritablement en discerner les contours, en mesurer les risques voir les contrôler.

L’IA c’est comme le sexe chez les ados, tout le monde en parle, tout le monde est persuadé que les autres en font mais personne ne sait ce que c’est  ?

De manière simple, l’IA est l’ensemble des méthodes mises en œuvre en vue de créer des machines capables de simuler l’intelligence humaine. De manière plus technique, selon l’informaticien Shortliffe, l’IA « consiste à concevoir des algorithmes permettant aux ordinateurs de réaliser des tâches nécessitant du raisonnement symbolique, dépassant les simples calculs mathématiques ». Autrement dit, ces algorithmes intelligents se caractérisent par l’autonomie de prendre des décisions propres, de prédire des résultats, de s’adapter et évoluer en fonction des données collectées à travers le mécanisme de l’auto-apprentissage. Au-delà d’une simple machine à calculer, l’IA serait donc une machine à penser.

Toutefois, il peut paraître comme une erreur de langage que de parler « d’intelligence » car elle n’a rien à voir avec l’intelligence humaine. En effet, bien que les capacités de calcul de l’IA soient impressionnantes, la machine ne sait qu'apprendre et reproduire ce qu'elle a déjà vu et ce que l’Homme lui enseigne. Conçue dans l’objectif d’automatiser certaines activités humaines, celle-ci ne dispose d’aucune capacité de discernement, de réflexion, de moral ou de bon sens. L’IA n’est donc autre que le reflet de la pensée humaine.

L’IA, reflet de l’Homme dans le meilleur comme dans le pire …

Libres de préjugés et de biais propres aux affects humains, les algorithmes sont souvent considérés, à tort, comme un idéal de neutralité et de fiabilité, propice à l’égalité de traitement. Or, comme tout outil, il existe des risques intrinsèques et en l’espèce, la neutralité algorithmique n’existe pas. En effet, l’IA est de plus en plus pointée du doigt car de nombreuses études montrent qu’elle contribue à renforcer les biais sexistes présents dans notre société. Elle est autant un sujet de fantasme que d’incertitude, d’optimisme que d’inquiétude.

« L’intelligence artificielle est l’icône de la modernité. Au contraire, sur le terrain de l’égalité entre les hommes et les femmes, elle est plutôt archaïque. »

- L’intelligence artificielle, pas sans elles ![1]

Nos dernières inventions numériques continuent donc de véhiculer le sexisme et les stéréotypes de genre, mettant à mal, de jours en jours, la place de la femme en société. L’IA vient non seulement reproduire un monde rongé par des inégalités hommes/femmes mais les amplifie. Elle engendre le risque exponentiel de renforcer les discriminations de manière automatique tout en leur donnant une apparence objective, comme le démontre le rapport de la CNIL et du Défenseur des droits[2].

Le carburant de l’IA est la data

L’IA doit son succès à la présence de données massives combinées à des capacités de calcul gargantuesques. Elle repose sur trois éléments notamment : des algorithmes, des données et des ordinateurs. Alors que les ordinateurs sont en principe neutres et ne peuvent être taxés de biais, les algorithmes et les données peuvent, eux, être biaisés à des degrés arbitraires. 

En effet, lorsqu’une catégorie de population n’est pas représentée de façon proportionnelle dans les banques de données d’apprentissage par rapport au monde réel, cela crée pour l’algorithme une représentation du monde distordue de laquelle il va tirer des conclusions biaisées. De même, des données erronées ou incomplètes présentes pour une catégorie d’individus engendreront des décisions biaisées, augmentant le risque d’erreur et de discrimination à leur encontre. Ces conclusions peuvent engendrer des conséquences lourdes sur la vie des individus : accès à l’emploi, évolution professionnelles, accès à l’information, aux crédits, aux études, etc. Étant qualifiés de boîtes noires, ces algorithmes intelligents appellent donc à des obligations de transparence et d’interprétabilité. 

Une sous-représentation des femmes dans les métiers de l’IA

La faiblesse des effectifs, voire l’absence de femmes dans les métiers de l’intelligence artificielle est également une des raisons à l’origine des risques de résultats biaisés délivrés par une IA. Alors que les organismes de prévision affirment que ces métiers vont représenter la majorité des nouveaux emplois pendant la prochaine décennie, les femmes ne représentent que 15% des effectifs de « data scientists » et la situation continue à se détériorer. En effet, la part des femmes dans le monde de l’IA continue à baisser tant au niveau du choix d’études post-bac qu’à l’étape de l’insertion professionnelle et de l’accès aux postes de responsabilités.

Ainsi, à l’heure ou l’élimination progressive des femmes dans le secteur se dessine, la féminisation des métiers du numérique est plus que jamais pressante et indispensable pour permettre de répondre à ces problématiques. D’une part, elle permettra de rééquilibrer la présence des femmes dans ces métiers afin d’amorcer un environnement inclusif. D’autre part, elle permettra une diminution des biais de données dans les algorithmes grâce à la diversification des profils.

Une question d’éthique : quel futur voulu pour l’Homme ?

« Science sans conscience n’est que ruine de l’âme »

 - Rabelais

Rappelons que l’éthique est un ensemble de principes moraux, une conception du « bien », qui oriente et motive le comportement de l’Homme en société. Ainsi, l’IA étant amorale, ce n’est pas tant elle qui doit être éthique ou pas, mais bien davantage ses usages, imaginés et développés par des humains, car seuls ces derniers disposent d’une liberté de choix en conscience. Or les concepteurs d’algorithmes, comme les organisations utilisant ce type de système n’affichent pas la vigilance nécessaire pour éviter l’automatisation des effets discriminatoires sexistes. D’où la nécessité de penser une IA de confiance, respectueuse des libertés fondamentales, afin de répondre à ces enjeux. 

Alertés sur ces problèmes, la communauté scientifique, d’un côté, se sont lancés dans des projets de recherche en IA Éthique (Fair Machine Learning), visant notamment à corriger les biais de discrimination des modèles mais aussi à rendre explicables les résultats des algorithmes. Les organisations gouvernementales[3], de l’autre, tentent de mettre en place un cadre normatif afin de réguler le développement, l’utilisation et le contrôle d’une IA.

Précisément, le Projet de recommandation pour une éthique de l’IA[4], adopté par les 193 membres de l’Unesco le 24 novembre dernier, énonce des valeurs et des principes constituant un socle commun, préalable à la formulation de lois et règlements par les Etats membres. Par exemple, une recommandation précise concerne la question de la discrimination :

« Les états membres doivent veiller à ce que les stéréotypes fondés sur le genre et les préjugés discriminatoires ne soient pas transposés dans les systèmes d’IA, mais plutôt repérés et corrigés de manière proactive. »

Par ailleurs, la Commission européenne a présenté en avril 2021 le « Artificial Intelligence Act »[5], une proposition de règlement sur l’IA qui prône une IA digne de confiance, respectueuse des valeurs humaines et droits fondamentaux européens.

Notons que l’innovation technologique responsable n’est pas un frein à la compétitivité des entreprises, au contraire. Les entreprises capables d’expliquer le fonctionnement de leurs algorithmes en toute transparence peuvent avoir un véritable avantage sur leurs concurrents.  La confiance par la transparence étant le gage de conserver sa clientèle, voire de l’élargir. On pourrait alors penser à créer une Responsabilité Numérique de l’Entreprise, à l’instar de la Responsabilité Sociale de l’Entreprise (RSE). 

In fine, c’est bien à l’humain de définir, penser, introduire et maintenir de l’éthique au cœur même des systèmes d’IA.

[1] L’intelligence artificielle, pas sans elles !, 2019, Aude Bernheim et Flora Vincent.

[2] Rapport mai 2020, Cnil et Défenseur des droits : « Algorithmes : prévenir l’automatisation des discriminations »

[3] CNCDH, Avis relatif à l’impact de l’IA sur les droits fondamentaux, avril 2022 : https://www.cncdh.fr/sites/default/files/a_-_2022_-_6_ _intelligence_artificielle_et_droits_fondamentaux_avril_2022.pdf

[4] Projet de recommandation pour une éthique de l’IA, UNESCO, 2021 : https://unesdoc.unesco.org/ark:/48223/pf0000379920_fre.page=15

[5] Commission européenne, “AI Act”, avril 2021 :  https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence