Share:
Indigenous communities across Canada are seeking greater control over data collected about them as the use of AI and online disinformation grows. Elders worry Indigenous teachings shared online could be distorted by AI, while community leaders worry about the effects of disinformation on young people increasingly turning to the internet for news and information.
Vulnerable, diaspora and Indigenous communities are subject to increasing disinformation.
Indigenous leaders say large language models can reproduce biases and negative stereotypes. They argue that communities need to oversee how data about them is collected and used to protect their people, teachings and online identities.
“When the algorithms get put in place, they’re not considering our culture, it’s not considering our languages, it’s not considering our past, it’s not considering our health of our people,” said Carmen Jones, director of research and data management for the Chiefs of Ontario.
As the federal government implements its AI strategy, Jones and other Indigenous leaders say data sovereignty — the ability to manage, control and protect data about their communities — is essential.
They say AI can falsify Indigenous identities and help spread disinformation.
Disinformation, AI and Indigenous communities in Canada is the focus of the third episode of an 8-part documentary series on the information ecosystem airing on CPAC-TV and on cpac.ca.
Partout au Canada, les communautés autochtones cherchent à exercer un plus grand contrôle sur les données recueillies à leur sujet, dans un contexte marqué par l’essor de l’intelligence artificielle (IA) et de la désinformation en ligne. Les Aînés craignent que les enseignements autochtones diffusés sur Internet soient déformés par l’IA, tandis que les dirigeants communautaires s’inquiètent des effets de la désinformation sur les jeunes, qui se tournent de plus en plus vers Internet pour s’informer.
Les communautés vulnérables, les communautés de la diaspora et les communautés autochtones sont de plus en plus exposées à la désinformation.
Selon les dirigeants autochtones, les grands modèles de langage peuvent reproduire des préjugés et des stéréotypes négatifs. Ils estiment que les communautés doivent pouvoir superviser la collecte et l’utilisation des données qui les concernent afin de protéger leurs membres, leurs enseignements et leurs identités numériques.
« Lorsque les algorithmes sont mis en place, ils ne tiennent pas compte de notre culture, de nos langues, de notre passé ni de la santé de nos populations », a déclaré Carmen Jones, directrice de la recherche et de la gestion des données aux Chefs de l’Ontario.
À l’heure où le gouvernement fédéral met en œuvre sa stratégie en matière d’intelligence artificielle, Mme Jones et d’autres dirigeants autochtones soutiennent que la souveraineté des données — soit la capacité de gérer, de contrôler et de protéger les données concernant leurs communautés — est essentielle.
Ils affirment que l’IA peut servir à falsifier les identités autochtones et à propager la désinformation.
La désinformation, l’intelligence artificielle et les communautés autochtones au Canada sont au cœur du troisième épisode d’une série documentaire en huit volets consacrée à l’écosystème de l’information, diffusée sur CPAC et sur cpac.ca.
Partout au Canada, les communautés autochtones cherchent à exercer un plus grand contrôle sur les données recueillies à leur sujet, dans un contexte marqué par l’essor de l’intelligence artificielle (IA) et de la désinformation en ligne. Les Aînés craignent que les enseignements autochtones diffusés sur Internet soient déformés par l’IA, tandis que les dirigeants communautaires s’inquiètent des effets de la désinformation sur les jeunes, qui se tournent de plus en plus vers Internet pour s’informer.
*Indiciates required field
