En route vers une intelligence artificielle durable

Présenté le 20 mars 2025 par François Pelletier et Marc Taillefer.

Dans cet atelier pratique, nous explorerons un cas concret d'application d'éléments de normes pour développer une pratique de consultation sur l'intelligence artificielle durable.

https://videos.jevalide.ca/w/cV5tx4RQeKxQmKQDCV4Lcw

• La Déclaration de Montréal
• Les objectifs de développement durable de l’ONU
• Quelques normes pouvant servir d’inspiration à la pratique
  • ISO 22989:2022 - Technologies de l’information — Intelligence artificielle — Concepts et terminologie relatifs à l’intelligence artificielle
  • ISO 27001:2022 - Sécurité de l’information, cybersécurité et protection de la vie privée — Systèmes de management de la sécurité de l’information — Exigences
  • ISO 27002:2022 - Sécurité de l’information, cybersécurité et protection de la vie privée — Mesures de sécurité de l’information
  • ISO 27701:2019 - Techniques de sécurité — Extension d’ISO/IEC 27001 et ISO/IEC 27002 au management de la protection de la vie privée — Exigences et lignes directrices
  • ISO 53002:2024 - Lignes directrices pour contribuer aux objectifs de développement durable (ODD) des Nations Unies
  • Normes IEEE de la série 7000 - Autonomous and Intelligent Systems
• Discussions
  • préoccupations
  • bonnes pratiques à explorer

Titre complet: La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle

1. Cadre éthique pour développement et déploiement de l’IA
2. Orienter la transition numérique
3. Espace de dialogue pour développement inclusif, équitable et écologiquement soutenable

10 principes:

• 🔥 Bien-être
• 🛵 Respect de l’autonomie
• 🔒 Protection de l’intimité et de la vie privée
• 🤝 Solidarité
• 🗳 Participation démocratique
• ⚖️ Équité
• 🌈 Inclusion de la diversité
• 🤔 Prudence
• 📜 Responsabilité
• 🌍 Développement soutenable

https://declarationmontreal-iaresponsable.com/la-declaration/

Je suis signataire !

17 objectifs que les Nations Unies se sont données pour 2030.

https://www.un.org/sustainabledevelopment/fr/objectifs-de-developpement-durable/

• Parce qu’il se passe absolument n’importe quoi en ce moment dans le domaine de l’IA. Nous avons besoin de repères et de critères de qualité.

• Parce que l’égo prend souvent le dessus sur la collaboration. Chaque organisation veut avoir son propre code d’éthique en IA pour bien paraître.
  • Source: https://inventory.algorithmwatch.org/

• Parce que l’intelligence artificielle, ça va bien au dela de l’IA générative.
  • Source: https://jevalide.ca/2023/09/08/les-types-dintelligence-artificielle/
• Pour pouvoir se comprendre:
  • Les normes offrent un vocabulaire commun issu d’un consensus international.

Système d’IA (3.1.4): système technique qui génère des sorties telles que du contenu, des prévisions, des recommandations ou des décisions pour un ensemble donné d’objectifs définis par l’homme.

Intelligence artificielle générale (3.1.14) : type de système d’IA (3.1.4) qui traite un large éventail de tâches (3.1.35) en affichant un niveau de performances satisfaisant.

Biais (3.5.4): différence systématique de traitement de certains objets, de certaines personnes ou de certains groupes par rapport à d’autres.

Prévisibilité (3.5.8): propriété d’un système d’IA (3.1.4) qui permet aux parties prenantes (3.5.13) de formuler des hypothèses fiables au sujet de la sortie.

Partie prenante (3.5.13): toute personne, groupe ou organisation pouvant affecter, être affecté(e) ou se sentir lui-même/elle-même affecté(e) par une décision ou une activité.

Génération automatique de texte: tâche (3.1.35) consistant à convertir des données contenant de la sémantique en langage naturel.

1. Domaine d’application
2. Références normatives
3. Termes et définitions
4. Abréviations
5. Concepts de l’IA
6. Cycle de vie de système d’IA
7. Aperçu fonctionnel du système d’IA
8. Écosystème de l’IA
9. Domaines de l’IA
10. Applications des systèmes d’IA

Norme gratuite ! https://www.iso.org/fr/standard/74296.html

Ce sont les deux normes principales en sécurité de l’information (dont fait partie la cybersécurité)

La norme ISO/IEC 27001:2022 propose la mise en place de 93 mesures de contrôle qui sont définies en annexe. La norme ISO/IEC 27002:2022 propose des moyens de mettre en oeuvre ces contrôles.

Ils sont regroupés en 4 principales catégories:

• Organisationnel
• Personnel (RH)
• Physiques
• Technologiques

Référence: https://www.iso.org/standard/71670.html

Référence: https://www.iso.org/standard/87945.html

1. Identifier les parties prenantes pertinentes pour optimiser les contributions aux ODD.
2. Déterminer les exigences, besoins et attentes de ces parties prenantes.
3. Décider quelles exigences seront traitées et comment.
4. Établir un processus pour engager les parties prenantes afin de comprendre :
   • Les impacts réels et attendus des activités de l’organisation
   • L’importance relative des différents impacts et enjeux de développement durable
   • Les besoins et attentes des parties prenantes
   • Les conséquences si les impacts attendus ne sont pas atteints
   • Leur tolérance aux impacts inattendus

Groupes sous-reconnus et vulnérables à considérer :

• Femmes et filles
• Personnes en situation de handicap
• Enfants
• Peuples autochtones
• Migrants, travailleurs migrants et leurs familles
• Personnes discriminées sur la base de leur ascendance (y compris la caste) ou de leur race
• Autres groupes vulnérables (ex : personnes âgées, déplacées, pauvres, analphabètes, minorités ou groupes religieux)

• Responsabilité : Être redevable envers les parties prenantes, assumer la responsabilité des impacts.
• Transparence : Fournir des informations pertinentes, précises et complètes sur les activités liées aux ODD.
• Comportement éthique : Agir avec honnêteté, équité et intégrité, lutter contre la corruption.
• Respect des besoins des parties prenantes : Engager et considérer les perspectives des parties prenantes.
• Respect des normes internationales : Appliquer les meilleures pratiques, surtout en l’absence de réglementations locales adéquates.
• Respect des droits humains : Protéger et promouvoir les droits humains, éviter toute complicité d’abus.
• Ne laisser personne de côté : Promouvoir l’inclusion, réduire les inégalités, autonomiser les femmes.

1. Données et analyses : Innovations dans la collecte, l’analyse et la diffusion des données (ex : mégadonnées, IA, Internet des objets, technologie satellitaire) pour mesurer les impacts, identifier les tendances et allouer les ressources efficacement.
2. Stratégies de communication : Utilisation de plateformes numériques et médias sociaux pour amplifier les messages.

Norme gratuite ! https://www.iso.org/fr/standard/87945.html

Référence: https://standards.ieee.org/initiatives/autonomous-intelligence-systems/

• IEEE 7000: Standard Model Process for Addressing Ethical Concerns during System Design
• IEEE 7001: Standard for Transparency of Autonomous Systems
• IEEE 7002: Standard for Data Privacy Process
• IEEE 7003: Standard for Algorithmic Bias Considerations
• IEEE 7005: Standard for Transparent Employer Data Governance
• IEEE 7007: Ontological Standard for Ethically Driven Robotics and Automation Systems
• IEEE 7009: Standard for Fail-Safe Design of Autonomous and Semi-Autonomous Systems
• IEEE 7010: Recommended Practice for Assessing the Impact of Autonomous and Intelligent Systems on Human Well-Being
• IEEE 7014: Standard for Ethical Considerations in Emulated Empathy in Autonomous and Intelligent Systems

Norme pour les services numériques concernant les enfants :

• IEEE 2089: Standard for an Age Appropriate Digital Services Framework Based on the 5Rights Principles for Children

Toutes ces normes sont disponibles gratuitement sur le site de IEEE GET: https://ieeexplore.ieee.org/browse/standards/get-program/page/series?id=93

5Rights Foundation: https://5rightsfoundation.com/

• Quelles sont les principales préoccupations sur l’utilisation de l’IA dans les TPO ?

• Quelles sont les bonnes pratiques qui sont réalistes à adopter pour utiliser de l’IA dans les TPO ?

• François Pelletier
• Marc Taillefer

Normes TPO: Faire la promotion des normes pour les très petites organisations - normestpo.ca

Consultation en IA responsable par François Pelletier - jevalide.ca