Connecter les Canadiens
Accorder la priorité à la participation des Autochtones à la technologie
24 nov. 2025
Lorsque Kendal Burtch, membre de l'équipe TELUS, et Melanie Demers, de
Two Worlds Consultation
, ont fait une présentation à d'autres chercheurs lors de la conférence internationale sur les technologies humanitaires 2025 de l'Institute of Electrical and Electronics Engineers (IEEE)
, ils ont parlé de la manière d'améliorer les systèmes d'intelligence artificielle (IA). Mais il ne s'agissait pas d'optimiser les algorithmes. Ils parlaient des moyens d'intégrer le respect et la souveraineté dans la conception de l'IA, et d'impliquer des voix et des points de vue qui aideront à façonner la technologie qui définira notre avenir.« Nous pouvons construire les systèmes d'IA les plus sophistiqués au monde, dit Burtch, mais s'ils sont conçus sans perspectives autochtones, sans compréhension de la souveraineté des données autochtones et sans société de personnes significative, ils échoueront toujours. »
Alors que le développement occidental de l'IA tend à aborder les données comme des points d'information individuels et quantifiables, les perspectives autochtones sur les données sont relationnelles, holistiques et indissociables de la collectivité autochtone, du territoire et de générations de connaissances autochtones. Le problème, c'est qu'aujourd'hui, la plupart des systèmes d'IA reposent sur des cadres occidentaux et souvent sur des données qui donnent une fausse image des Autochtones, ce qui signifie que ces systèmes peuvent passer à côté de tout le contexte et de la signification des données et des connaissances autochtones.
La voie à suivre? Accorder la priorité à la participation des Autochtones dans les technologies émergentes. Lorsque nous le faisons, l'IA devient meilleure pour tout le monde.
Alors que l'IA progresse rapidement, nous avons l'occasion de construire ces outils puissants de manière réfléchie et durable, avec une participation significative des Autochtones dès le départ.
La participation des Autochtones de tout le Canada – Premières Nations, Inuits et Métis – au développement de l'IA profite à tous. En intégrant les connaissances, les valeurs et les principes de souveraineté des données autochtones dans les fondements des technologies émergentes, nous pouvons créer des systèmes plus éthiques, plus équitables et plus efficaces pour tous.
Des recherches utiles
Plus tôt cette année, MM. Burtch et Demers ont corédigé et présenté une étude de recherche à la conférence IEEE International Humanitarian Technology Conference de 2025 sur un sujet central aux conditions de service de TELUS pour le bien social : l'implication des Autochtones dans les technologies émergentes. Le document, intitulé
« Sustainable Involvement of Indigenous Peoples in AI »
(participation durable des Autochtones à l'IA), a des implications importantes non seulement pour TELUS, mais aussi pour tous ceux qui élaborent des technologies au 21e siècle.TELUS, en partenariat avec des collectivités autochtones et des entreprises autochtones, a entrepris un parcours pour comprendre à quoi ressemble une participation significative des Autochtones dans l'IA dans la pratique. Two Worlds Consulting a organisé des ateliers au nom de TELUS avec des membres des Premières Nations, des Inuits et des Métis de partout au Canada afin d'explorer des questions cruciales sur l'éthique des données, le développement de l'IA et le savoir autochtone.
Melanie Demers de Two Worlds Consulting (à gauche) et Kendal Burtch de TELUS (à droite) partagent leurs perspectives sur la priorisation de la participation des collectivités autochtones à l'IA.
Pourquoi un dialogue significatif est-il important?
Les Autochtones ont souvent été exclus du développement de la technologie, ce qui a conduit à des systèmes qui ne reflètent pas leurs voix, leurs valeurs ou leurs connaissances. Lorsque les Autochtones ne participent pas de manière significative, nous risquons de perpétuer cette exclusion historique, en créant des systèmes d'IA qui aggravent les inégalités existantes et ne reflètent pas les systèmes de connaissances autochtones.
Trente-cinq pour cent des répondants autochtones interrogés dans le rapport sur
l'IA 2024 de TELUS ont déclaré avoir l'impression que l'IA
a des préjugés à leur encontre. Ce biais peut prendre de nombreuses formes, allant de la reconnaissance faciale avec des taux d'erreur plus élevés pour les visages autochtones aux grands modèles de langage qui ne reconnaissent pas les langues et les noms autochtones, en passant par le contenu généré par l'IA qui perpétue des croyances racistes ou donne une fausse image des cultures autochtones. Alors que le Canada investit dans le développement de l'IA, nous avons le choix : cette technologie aggravera-t-elle les inégalités existantes ou contribuera-t-elle à les combler?Comprendre les données autochtones et l'IA
La représentativité de l'IA dépend des données sur lesquelles elle s'entraîne. Lorsque les systèmes d'IA sont entraînés sur la base de données qui ne respectent pas les points de vue autochtones – ou pire, lorsque les données autochtones sont utilisées sans consentement ni compréhension – les résultats peuvent perpétuer les préjudices, les préjugés et l'appropriation.
La compréhension occidentale des données fait souvent référence à des éléments d'information individuelle - des uns et des zéros qui représentent des points de données singuliers qui peuvent être isolés, traités et analysés indépendamment. Les points de vue autochtones sur les données sont différents. Les données autochtones englobent tout ce qui a trait aux Autochtones, y compris leurs terres, leurs langues, leurs ressources, leurs pratiques culturelles et leurs connaissances traditionnelles. Ces données sont holistiques et interconnectées, indissociables de l'identité et de la souveraineté de la collectivité autochtone.
Sans comprendre ces formes de savoirs autochtones, nous risquons de perdre le contexte ou le sens en les traitant dans un modèle d'IA.
Par exemple, lorsque l'IA traite la préparation traditionnelle des aliments comme une simple recette (une liste d'ingrédients et d'étapes), elle perd quelque chose d'essentiel. La préparation traditionnelle des aliments est une donnée autochtone qui englobe les récits, l'historique, les liens avec la terre et les saisons, les connaissances transmises de génération en génération et les relations au sein de la collectivité autochtone. La nature holistique et interconnectée de ces connaissances ne peut être capturée en isolant des points de données individuels.
Demers et Burtch présentent à la Conférence internationale sur les technologies humanitaires de l'IEEE.
Trois thèmes clés de la participation des Autochtones à l'IA
Les ateliers ont mis en lumière trois thèmes interconnectés qui guident la façon dont les organisations devraient aborder l'intelligence artificielle et les collectivités autochtones.
1. Respecter la souveraineté des données
La souveraineté des données autochtones signifie que les Autochtones ont le droit de régir leurs propres données, c'est-à-dire la manière dont elles sont collectées, stockées, utilisées et partagées.
Les organisations peuvent respecter ce droit en adoptant des cadres tels que
PCAP®
(propriété, contrôle, accès et possession) ou les principes CARE
(Collective Benefit, Authority to Control, Responsibility, and Ethics). En pratique, TELUS a offert une formation sur le PCAP® aux membres de son équipe TELUS qui prennent en charge la confidentialité des données, l'éthique, la gouvernance et l'intelligence artificielle, et s'est engagée à ne pas utiliser l'IA générative pour reproduire l'art ou les images autochtones.
2. Faire participer les Autochtones au développement de l'IA
Les participants ont indiqué que les collectivités autochtones doivent participer activement à l'ensemble du cycle de vie des systèmes d'IA, de leur conception initiale à leur gouvernance finale. La collaboration devrait se concentrer sur des domaines clés tels que la formation en IA pour les collectivités autochtones, la formation en littératie numérique et la participation directe à l'élaboration de modèles. Cette approche collaborative produit des systèmes d'IA dotés d'un ancrage éthique plus fort et de meilleurs résultats pour tous les utilisateurs.
Par exemple, TELUS, en s'associant à une entreprise autochtone de mise à l'essai de logiciels,
PLATO
, pour créer une « équipe violette
» spécialisée – une approche combinant l'équipe rouge (tests offensifs) et l'équipe bleue (tests défensifs) – teste non seulement l'IA pour déceler les préjugés envers les Autochtones, mais renforce également l'expertise et l'autodétermination des Autochtones dans le développement de l'IA.3. Adopter une approche fondée sur les distinctions
Les ateliers ont révélé que le développement de l'IA doit refléter les cultures, les structures de gouvernance et les visions du monde distinctes des Premières Nations, des Inuits et des Métis. Il est essentiel de reconnaître le caractère distinctif de ces groupes et d'éviter les généralisations. Les systèmes d'IA actuels reposent souvent sur des cadres occidentaux, ce qui risque de ne pas représenter les points de vue autochtones distincts et de perpétuer les préjugés systémiques. TELUS a retenu les services de
pipikwan pêhtâkwan
, une entreprise technologique dirigée par des Autochtones, pour mieux comprendre l'éthique autochtone telle qu'elle s'applique à l'utilisation par TELUS de grands modèles de langage et d'outils d'IA générative. pipikwan pêhtâkwan a conseillé TELUS en partageant des informations sur son outil d'IA wâsikan kisewâtisiwin
, qui a été guidé par des Autochtones de partout au Canada et un conseil d'aînés diversifié. L'outil peut être intégré aux systèmes d'IA existants pour corriger les préjugés inconscients et le racisme envers les Autochtones, et offre une approche basée sur les distinctions en reconnaissant les besoins uniques des différentes collectivités et en offrant plusieurs façons de savoir.TELUS a retenu les services de pipikwan pêhtâkwan, une entreprise technologique dirigée par des Autochtones, pour mieux comprendre l'éthique autochtone en matière d'IA qui s'applique à l'utilisation par TELUS de grands modèles de langage et d'outils d'IA générative. pipikwan pêhtâkwan a conseillé TELUS en partageant des informations sur son outil wâsikan kisewâtisiwin, qui a été guidé par des Autochtones de partout au Canada et un conseil diversifié d'aînés. L'outil s'intègre aux systèmes d'IA existants pour corriger les préjugés inconscients et le racisme envers les Autochtones, et propose une approche fondée sur les distinctions en reconnaissant les besoins uniques des différentes collectivités autochtones et en offrant de multiples modes de connaissance. Cette approche répond à la nécessité de développer une infrastructure d'IA axée sur les perspectives autochtones, renforçant ainsi les garde-fous de TELUS contre les préjugés et les préjudices.
À propos de cette recherche : Ce billet de blogue est basé sur une recherche présentée à la conférence internationale sur les technologies humanitaires 2025 de l'IEEE et documente l'engagement de TELUS auprès des Premières Nations, des Inuits et des Métis dans le cadre d'ateliers animés par Two Worlds Consulting et guidés par le comité consultatif autochtone de TELUS.
Ressources :
