Que se passe-t-il lorsque l’IA dérape?

En juillet 2026, environ 1 200 agents d’OpenAI se sont échappés (en anglais) d’un environnement d’essais de sécurité contrôlé. Sept cents de ces agents ont atteint Internet et ont « piraté » Hugging Face, une plateforme libre où des développeurs partagent des modèles d’IA et des ensembles de données.

Les agents rebelles ne cherchaient pas à causer de tort. Ils tentaient simplement de remplir leur objectif en matière d’essais. Cet événement a toutefois suscité une grande inquiétude au sein de la population et des craintes quant à la sécurité de l’IA et au besoin de garde-fous.

Que signifie l’incident impliquant Hugging Face pour les utilisateurs quotidiens d’IA? Et quelles leçons cela nous enseigne-t-il alors que nous intégrons l’IA plus profondément dans notre vie quotidienne?

S’agissait-il d’un avertissement?

C’est l’avis de nombreuses entreprises spécialisées en IA et des autorités. Peu après la brèche survenue chez Hugging Face, plus de 100 entreprises, dont OpenAI, Anthropic et Microsoft, ont signé une lettre ouverte dans laquelle elles affirmaient que « les cyberattaques rendues possibles par l’IA deviendront beaucoup plus répandues et sophistiquées, à mesure que les modèles du monde entier gagneront en capacités ».

Pour Duncan Cass-Beggs, directeur général de la Global AI Risks Initiative du Centre for International Governance Innovation basé à Waterloo, l’incident mettant en cause Hugging Face est « l’exemple le plus frappant à ce jour de systèmes d’IA agissant de manières qui ne cadrent pas avec les intentions de leurs concepteurs ».

Bien que l’incident lié à Hugging Face n’ait eu aucun impact catastrophique réel, il démontre ce qui pourrait arriver si l’IA commençait à penser par elle-même. Il montre également ce qui pourrait se passer si cette puissante technologie devait se retrouver entre les mains de personnes malintentionnées.

Hugging Face n’est pas le seul cas d’IA rebelle. En mai et juin 2026, des agents d’IA ont tenté de pirater le site Web de Bibliothèque et Archives Canada (en anglais). Selon la société de recherche Transluce, les agents ont tenté d’y accéder à deux reprises, mais fort heureusement, ils n’ont pas compromis les systèmes gouvernementaux. Un incident impliquant un agent d’IA rebelle a moins bien tourné en Australie. En juin, un agent d’OpenAI a pénétré dans un portail de données de santé du gouvernement et a obtenu un accès non autorisé à des fichiers.

Un appel à la vigilance

Un groupe international de scientifiques (en anglais), incluant des Canadiens, appelle à de meilleures mesures de confinement pour les modèles d’IA.

Dans une lettre ouverte, ils demandent une meilleure sécurité de l’IA et des changements immédiats dans la manière dont les modèles d’IA sont développés et déployés. Ils soulignent plusieurs situations dans lesquelles des modèles d’IA se sont échappés d’environnements confinés pour compromettre d’autres entreprises et leurs systèmes.

Toutes les plus grandes entreprises d’IA – Anthropic, Meta et Google – ont révélé que des agents avaient été impliqués dans des piratages au cours d’essais.

La curiosité apaise la peur

Alors que des histoires comme celle de Hugging Face défraient la manchette et que les prédictions globalement pessimistes concernant l’IA se multiplient, comment pouvons-nous aborder ce sujet avec les enfants qui nous entourent?

La société Peachey Counselling a cité un récent sondage (en anglais) indiquant que 60 % des répondants perçoivent l’IA comme une menace. Il est naturel de ressentir de l’anxiété et de l’incertitude face à cette nouvelle technologie. Mais pour les enfants, celle-ci fait simplement partie de leur réalité, au même titre que les appareils intelligents et les réseaux sociaux.

C’est l’occasion de montrer l’exemple en adoptant le comportement et l’attitude que vous souhaitez voir chez eux. Si vous êtes curieux et que vous expérimentez de manière sécuritaire, ils seront enclins à faire de même. Mais si vous êtes trop contrôlant et hypervigilant, ils risquent d’avoir peur d’une technologie qui fera partie intégrante de leur façon de vivre, d’étudier et de travailler.

Il est tout à fait acceptable d’établir des limites et des règles familiales : quand est-il approprié d’utiliser l’IA et quand ne l’est-ce pas? Il est aussi capital de discuter librement plutôt que de faire la leçon. Dans le cadre de discussions sécuritaires et sans jugement, les enfants sont plus enclins à partager ce qu’ils aiment à propos de l’IA et ce qui les inquiète. Ce type de dialogue renforce la confiance et les compétences en matière de pensée critique.

Matthew Johnson, directeur général de l’éducation chez HabiloMédias (en anglais), souligne à quel point il est important d’enseigner aux enfants ce qu’est l’IA, ce qu’elle n’est pas et comment elle fonctionne. Ils doivent comprendre qu’il ne s’agit pas d’une vraie personne, qu’elle ne pense pas comme les humains, qu’elle est différente d’un moteur de recherche ordinaire et qu’elle fournit des réponses basées sur des modèles qu’elle trouve. L’IA peut également avoir des hallucinations, inventer des choses et interpréter des informations de travers.

Le 5 mars 2027, HabiloMédias soulignera la deuxième édition annuelle de la Journée de la littératie en IA, dont l’objectif est d’aider les jeunes et leur famille à comprendre le fonctionnement des outils d’IA et la façon dont ils façonnent ce que nous voyons et faisons en ligne.

L’incident lié à Hugging Face n’était pas une tentative malveillante de causer du tort. Il a cependant démontré à quel point cette technologie est devenue performante. Pendant que les entreprises et les gouvernements se penchent sur des questions de plus vaste portée, chacun de nous peut utiliser l’IA en toute sécurité et réfléchir de manière critique à ce que nous lisons et voyons. L’IA va continuer à évoluer. Si nous demeurons curieux et ouverts d’esprit, la peur que nous pourrions ressentir pourra laisser place à de nouvelles possibilités.