Canada’s National AI Council Must Include Civil Society

Dear Prime Minister Carney, Minister Solomon, and Members of the Prime Minister’s National Council on Artificial Intelligence,

Re: Ensuring Meaningful Civil Society and Community Representation in Canada’s National AI Council

We, the undersigned civil society organizations, public-interest advocates, academics, researchers, community leaders, and representatives of equity-seeking communities, write to ask the Government of Canada to reflect on the composition and governance of the newly established Prime Minister’s National Council on Artificial Intelligence—and to strengthen it by ensuring that civil society and the communities most affected by AI have a meaningful and sustained role in its work.

We welcome the Government of Canada’s recognition that artificial intelligence is not simply a technological or economic issue, but one that touches democracy, safety, sovereignty, public services, employment, culture, and the lives of people across the country. The government has stated that the Council will provide independent advice on the evolution of its AI for All strategy, including AI adoption, sovereign infrastructure, safety, the protection of democracy, and ensuring that Canadians prosper from AI.

The Council brings together significant expertise. Its announced membership includes leading researchers, entrepreneurs, investors, executives, public-sector leaders, and experts in AI safety and governance. We respect the experience these members bring and do not question the importance of their participation. At the same time, the public announcement does not identify dedicated representation for civil-society organizations, Indigenous Peoples and rightsholders, labour, disability communities, equity-seeking communities, youth, or other groups whose lived experiences will increasingly be shaped by AI-enabled systems.

That absence matters because the Council’s mandate extends far beyond technology development. AI is increasingly implicated in areas such as education, employment, health care, public services, information, culture, and democratic participation. Decisions about how these systems are governed inevitably involve questions about values, rights, trade-offs, accountability, and who gets to participate in defining the public interest. Civil society brings a form of expertise that is different from that of government, academia, or industry: proximity to communities, lived experience, public-interest advocacy, and the ability to represent people who may never enter an AI laboratory or corporate boardroom.

Canada has an opportunity to demonstrate that strong AI leadership is not only about technological capability, investment, or speed of adoption. It is also about building institutions capable of earning public trust. Our earlier civil-society engagement on Canada’s AI strategy called for permanent, structured participation from civil society, Indigenous communities, and underrepresented groups—not simply consultation after major decisions have already been shaped.

Here is what we believe should happen next:

1. Expand meaningful representation on the National AI Council. Include clearly designated voices from civil society, Indigenous Peoples and rightsholders, labour, disability communities, equity-seeking groups, youth, and organizations working directly with communities affected by AI.
2. Create a permanent mechanism for civil-society participation. Establish a standing Civil Society and Communities body connected to the Council, with the ability to provide input into priorities, raise emerging concerns, and contribute evidence before recommendations are finalized—not only after decisions have been made. This builds on proposals already advanced by Canadian civil-society organizations for structured, ongoing participation in national AI governance.
3. Make the Council’s work meaningfully transparent. Publish its mandate, meeting agendas, recommendations, relevant evidence considered, conflict-of-interest disclosures, and government responses wherever appropriate. Transparency should help Canadians understand not only what decisions are being considered, but whose perspectives informed them and how competing interests were weighed.
4. Embed public benefit, rights, and accountability into the Council’s work. Advice concerning AI adoption, infrastructure, safety, commercialization, and government transformation should systematically consider human rights, privacy, equity, reconciliation, accessibility, labour impacts, environmental consequences, and mechanisms for accountability and redress. Canada’s earlier civil-society proposals similarly called for public-benefit and equity considerations to be integrated directly into AI policymaking.

Not every signatory to this letter will share the same position on every question surrounding artificial intelligence. We do not need to. What brings us together is a belief that technologies capable of reshaping Canadian society should not be governed through the perspective of any single sector.

We are not asking Canada to slow its ambitions in artificial intelligence. We are asking Canada to strengthen the institutional design through which those ambitions are pursued.

If AI is to serve all Canadians, Canadians—in all their diversity—must have a meaningful role in shaping how it is governed.

We stand ready to participate, contribute, and collaborate.

Monsieur le premier ministre Carney, Monsieur le ministre Solomon, et membres du Conseil national du premier ministre sur l’intelligence artificielle,

Objet : Assurer une représentation significative de la société civile et des communautés au sein du Conseil national de l’IA du Canada

Nous, organisations de la société civile, défenseurs de l’intérêt public, universitaires, chercheurs, dirigeants communautaires et représentants de communautés en quête d’équité soussignés, demandons au gouvernement du Canada de réfléchir à la composition et à la gouvernance du nouveau Conseil national du premier ministre sur l’intelligence artificielle — et de le renforcer en veillant à ce que la société civile et les communautés les plus touchées par l’IA jouent un rôle significatif et durable dans ses travaux.

Nous saluons la reconnaissance par le gouvernement du Canada du fait que l’intelligence artificielle n’est pas simplement un enjeu technologique ou économique, mais qu’elle touche la démocratie, la sécurité, la souveraineté, les services publics, l’emploi, la culture et la vie des personnes partout au pays. Le gouvernement a indiqué que le Conseil fournira des conseils indépendants sur l’évolution de sa stratégie « L’IA pour tous », notamment sur l’adoption de l’IA, l’infrastructure souveraine, la sécurité, la protection de la démocratie et les moyens de faire en sorte que la population canadienne bénéficie de l’IA.

Le Conseil rassemble une expertise importante. Sa composition annoncée comprend des chercheurs, entrepreneurs, investisseurs, dirigeants, responsables du secteur public ainsi que des spécialistes de la sécurité et de la gouvernance de l’IA. Nous respectons l’expérience de ces membres et ne remettons pas en question l’importance de leur participation. Toutefois, l’annonce publique n’identifie pas de représentation désignée pour les organisations de la société civile, les peuples autochtones et titulaires de droits, le mouvement syndical, les communautés de personnes en situation de handicap, les communautés en quête d’équité, les jeunes ou d’autres groupes dont les réalités vécues seront de plus en plus façonnées par les systèmes fondés sur l’IA.

Cette absence est importante, car le mandat du Conseil va bien au-delà du développement technologique. L’IA intervient de plus en plus dans des domaines comme l’éducation, l’emploi, les soins de santé, les services publics, l’information, la culture et la participation démocratique. Les décisions sur la gouvernance de ces systèmes soulèvent inévitablement des questions de valeurs, de droits, d’arbitrages, de responsabilité et de participation à la définition de l’intérêt public. La société civile apporte une forme d’expertise différente de celle du gouvernement, du milieu universitaire ou de l’industrie : proximité avec les communautés, expérience vécue, défense de l’intérêt public et capacité de représenter des personnes qui n’entreront peut-être jamais dans un laboratoire d’IA ou une salle de conseil d’administration.

Le Canada a l’occasion de démontrer qu’un leadership solide en IA ne repose pas uniquement sur la capacité technologique, l’investissement ou la rapidité d’adoption. Il dépend aussi de la création d’institutions capables de gagner la confiance du public. Nos démarches antérieures de la société civile concernant la stratégie canadienne en matière d’IA demandaient une participation permanente et structurée de la société civile, des communautés autochtones et des groupes sous-représentés — et non simplement une consultation après que les décisions importantes ont déjà été façonnées.

Voici ce qui, selon nous, devrait se produire ensuite :

1. Élargir la représentation significative au sein du Conseil national de l’IA. Inclure des voix clairement désignées de la société civile, des peuples autochtones et titulaires de droits, du mouvement syndical, des communautés de personnes en situation de handicap, des groupes en quête d’équité, des jeunes et des organisations qui travaillent directement avec les communautés touchées par l’IA.
2. Créer un mécanisme permanent de participation de la société civile. Établir un organe permanent de la société civile et des communautés lié au Conseil, capable de contribuer à l’établissement des priorités, de soulever des préoccupations émergentes et de fournir des éléments probants avant que les recommandations soient finalisées — et non seulement après la prise de décisions. Cette proposition s’appuie sur des demandes déjà formulées par des organisations canadiennes de la société civile en faveur d’une participation structurée et continue à la gouvernance nationale de l’IA.
3. Rendre les travaux du Conseil réellement transparents. Publier son mandat, les ordres du jour des réunions, les recommandations, les éléments probants pertinents examinés, les déclarations de conflits d’intérêts et les réponses du gouvernement, lorsque cela est approprié. La transparence devrait aider la population canadienne à comprendre non seulement les décisions envisagées, mais aussi les perspectives qui les ont éclairées et la manière dont les intérêts concurrents ont été pondérés.
4. Intégrer l’intérêt public, les droits et la responsabilité dans les travaux du Conseil. Les conseils concernant l’adoption de l’IA, l’infrastructure, la sécurité, la commercialisation et la transformation gouvernementale devraient systématiquement tenir compte des droits de la personne, de la vie privée, de l’équité, de la réconciliation, de l’accessibilité, des répercussions sur le travail, des conséquences environnementales et des mécanismes de responsabilité et de recours. Les propositions antérieures de la société civile canadienne demandaient également que les considérations d’intérêt public et d’équité soient directement intégrées à l’élaboration des politiques sur l’IA.

Les signataires de cette lettre ne partageront pas nécessairement la même position sur toutes les questions liées à l’intelligence artificielle. Ce n’est pas nécessaire. Ce qui nous rassemble, c’est la conviction que des technologies capables de transformer la société canadienne ne devraient pas être gouvernées selon la perspective d’un seul secteur.

Nous ne demandons pas au Canada de ralentir ses ambitions en matière d’intelligence artificielle. Nous lui demandons de renforcer l’architecture institutionnelle au moyen de laquelle ces ambitions sont poursuivies.

Si l’IA doit servir toute la population canadienne, les Canadiennes et Canadiens — dans toute leur diversité — doivent jouer un rôle significatif dans la manière dont elle est gouvernée.

Nous sommes prêts à participer, à contribuer et à collaborer.