IA souveraine : 4 questions techniques avant de choisir votre architecture

Quand une équipe intègre l’IA dans un produit, la première décision n’est pas le choix du modèle. C’est de savoir où vivront les données et qui contrôlera l’infrastructure. L’enjeu monte d’un cran : le gouvernement fédéral a lancé une Stratégie canadienne sur la capacité de calcul souveraine pour l’IA assortie d’investissements pouvant atteindre deux milliards de dollars pour bâtir une capacité de calcul nationale. Pour ceux qui construisent, la souveraineté n’est pas un slogan politique. C’est une série de choix d’architecture concrets, avec des conséquences directes sur la latence, la conformité et la facture mensuelle. Choisir son architecture IA est aussi importante que choisir un bon partenaire tech pour développer un projet numérique. C’est le fondement de toute infrastructure importante pour une organisation.

Depuis quelques mois, nous accompagnons des équipes qui se posent les mêmes questions lorsqu’il est question d’intégrer l’IA. Voici les quatre plus fréquentes. 

Où vivent vos données à chaque utilisation ? 

Utiliser un agent IA semble anodin. En réalité, chaque utilisation sérialise vos données et les transmet vers un serveur dont vous ignorez souvent l’emplacement.

Trois notions distinctes méritent d’être clarifiées :

• la résidence des données : le pays où elles sont stockées
• le lieu d’inférence : l’endroit où le modèle exécute réellement le calcul
• la propriété de l’infrastructure : qui possède et opère les serveurs 

Ces trois éléments ne coïncident pas toujours. Un fournisseur peut annoncer un stockage au Canada tout en effectuant l’inférence ailleurs, journaliser vos requêtes pendant trente jours, ou se réserver le droit de les utiliser pour entraîner ses futurs modèles. Les clauses qui comptent sont la rétention des journaux, l’entraînement sur les données client et la localisation réelle du traitement.

Lire le contrat de traitement des données, et pas seulement la page marketing, devient une étape très importante.

Quelle architecture pour quelle sensibilité? 3 approches selon vos données

Il n’existe pas d’architecture unique. Le bon choix dépend du niveau de sensibilité des données et des exigences de latence. Trois grandes approches se dégagent.

• L’utilisation étrangère grand public offre une intégration rapide et une faible latence, mais les données transitent souvent hors du Canada, le modèle reste une boîte noire (poids fermés) et le coût est un opex facturé au jeton. Elle convient aux données publiques ou peu sensibles.
• Le cloud souverain canadien garde les données au pays sous contrat, avec un modèle géré et un effort d’intégration modéré : un bon compromis pour des données personnelles ou des secteurs réglementés.
• L’auto-hébergement, enfin, place tout sous votre contrôle (poids ouverts que vous opérez, résidence entièrement maîtrisée), au prix d’un capex GPU et d’un effort d’ingénierie élevés, ce qui le réserve aux données critiques ou confidentielles. La logique rejoint celle que le gouvernement du Québec a inscrite dans son Énoncé de principes : réduire la dépendance envers les fournisseurs étrangers et conserver autant que possible le contrôle sur les modèles, les données et les infrastructures qui les hébergent.

En pratique, plus la donnée est sensible, plus on glisse vers l’auto-hébergement.

Le local, est-ce réaliste ?

Tout dépend du volume de requêtes et de sa régularité. Comparons les ordres de grandeur, en dollars américains et aux tarifs de marché de 2026. Acheter une seule carte de calcul haut de gamme (un GPU, ou processeur graphique, comme la NVIDIA H100) coûte entre 25 000 et 40 000 dollars, sans compter l’alimentation, le refroidissement et le réseau, qui peuvent gonfler la note de 30 à 50 %. Louer le même GPU dans le nuage revient plutôt à quelques dollars l’heure (souvent 2 à 3 dollars, jusqu’à 7 dollars et plus chez les grands fournisseurs).

En face, une API grand public comme celle d’OpenAI facture à l’usage, de l’ordre de 5 dollars le million de jetons (unités de texte facturées) en entrée et 30 dollars en sortie pour un modèle phare, et bien moins pour ses modèles économiques.

La comparaison ne se joue donc pas sur le prix unitaire, mais sur le taux d’utilisation. Un GPU acheté ne devient rentable que lorsqu’il est suffisamment utilisé. Faites les calculs vous-même pour juger de la rentabilité d’un tel projet.

Local, étranger, ou les deux ? Et si le routage hybride était la solution?

De là découle l’architecture qui nous semble la plus saine dans bien des cas : le routage hybride. On dirige les requêtes sensibles et le volume de base vers le GPU local, ce qui le maintien occupé et amorti, et on déverse les pics ou les requêtes non sensibles vers une API externe facturée à l’usage. Le local apporte le contrôle et la conformité, le cloud apporte l’élasticité.

C’est le calcul que peu d’équipes mènent jusqu’au bout. Une API grand public affiche un coût au jeton (unité de texte facturée) faible et aucun coût initial : de l’opex pur. L’auto-hébergement inverse la structure. Il cumule le capex du GPU (achat ou location longue durée), le coût d’ingénierie pour déployer, quantifier et optimiser le débit (jetons par seconde), puis la maintenance. Surtout, un GPU acheté ne dort pas gratuitement. Chaque heure d’inactivité augmente le coût réel par requête, puisque le capital s’amortit sur un volume plus faible. Or la demande est rarement constante (pics le jour, creux la nuit), et un GPU dédié tourne souvent bien en dessous de sa capacité.

Sources :

• Innovation, Sciences et Développement économique Canada (gouvernement du Canada), Stratégie canadienne sur la capacité de calcul souveraine pour l’IA (lancement décembre 2024)
• Innovation, Sciences et Développement économique Canada, Fonds d’accès à une capacité de calcul pour l’IA
• Innovation, Sciences et Développement économique Canada, Stratégie nationale en matière d’intelligence artificielle (données d’adoption des PME, Statistique Canada)
• Ministère de la Cybersécurité et du Numérique, gouvernement du Québec, Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics, édition 2025