Nº 7366 – 1er rejeb 1446 (2-1-2025)
BULLETIN OFFICIEL
127
1.3. Un enjeu sociétal L'IA, en tant que technologie transversale, exerce une influence majeure sur la société et ses structures organisationnelles. Elle offre des solutions innovantes pour relever divers défis et évolutions, tout en redéfinissant les perceptions du monde et les interactions humaines. L'IA permet des avancées notables dans de nombreux domaines19, tels que l'amélioration de la qualité des soins de santé, l'optimisation des transports et l'accès à des services plus abordables, personnalisés et durables. De plus, elle facilite l'accès à l'information et à la formation, tout en contribuant à la sécurité des environnements de travail par l'automatisation des tâches dangereuses. L'adoption de l'IA est de nature également à stimuler la création d'emplois au sein des entreprises qui exploitent ces technologies émergentes. Toutefois, les applications de l'IA comportent aussi un ensemble de risques. Elles peuvent ainsi être détournées pour manipuler l'opinion publique à travers la désinformation, porter atteinte à la vie privée ou faciliter des cyberattaques. Des questions éthiques se posent également avec des innovations comme les avatars numériques, qui soulèvent de nouveaux enjeux quant à la préservation de l'intégrité des personnes et des droits individuels. Les préoccupations liées aux conséquences potentielles de l’IA ont conduit certains experts à demander un moratoire temporaire en 202320, afin de renforcer les cadres de sécurité et de régulation entourant son développement. Des initiatives, telles que le projet AI Ethics de l’Université de Montréal et la Déclaration de Montréal pour un développement responsable de l’IA21, visent à promouvoir une IA respectueuse des droits humains, de l’équité sociale et de la durabilité22. Un autre défi majeur pour le déploiement de l'IA réside dans les biais intégrés dans ses systèmes. Ces biais peuvent être de nature raciale, de genre, ou même liés à des différences culturelles, et sont susceptibles d’affecter l’équité des décisions prises par ces systèmes. Les causes et sous-jacents de ces biais sont multiples. Les données d'entraînement, souvent le reflet de biais présents dans la société, jouent à ce titre, un rôle-clé. Par exemple, un algorithme de reconnaissance faciale entraîné principalement sur des images de personnes à la peau blanche peut manquer de précision pour identifier correctement des individus à la peau de couleur différente. De surcroît, l’interaction entre l’IA et les utilisateurs humains peut également introduire des biais, notamment dans les systèmes d’apprentissage continu, comme les chatbots, où les termes employés par les utilisateurs peuvent influencer le comportement du modèle. D’autres sources de biais proviennent de l'optimisation multi-objectifs23. Certains modèles d’IA cherchent ainsi à équilibrer plusieurs critères, mais les pondérations attribuées à ces objectifs peuvent entraîner des distorsions dans les résultats. De surcroît, les biais peuvent également 19 Pour mettre en avant les applications bénéfiques pour la société, les Nations Unies organisent chaque année depuis 2017 un sommet mondial « AI for Good » visant à présenter les projets les plus prometteurs rendus possibles grâce aux applications de l'intelligence artificielle. 20 https://www.courrierinternational.com/article/gpt-4-un-millier-d-experts-de-la-tech-demandent-un-moratoire-sur-la-recherche-en-ia 21 https://declarationmontreal-iaresponsable.com/ 22 Ces initiatives mettent l'accent sur des valeurs telles que le respect de la personne, la justice, le bien-être, l'autonomie, la vie privée, la démocratie, l'équité, l'inclusion, la prudence, la responsabilité et la durabilité. 23 L'optimisation multi-objectifs est un processus de prise de décision qui consiste à trouver la meilleure solution possible en tenant compte de plusieurs critères ou objectifs simultanément.
11