L’intelligence artificielle transforme en profondeur la sécurité informatique. Elle change à la fois la façon dont les organisations se défendent et la façon dont les attaques sont menées. Courriels d’hameçonnage générés automatiquement, hypertrucages (deepfakes), maliciels plus sophistiqués : les menaces deviennent plus rapides, mieux ciblées et plus difficiles à repérer.
Une arme à double tranchant
Du côté défensif, l’IA aide les équipes de sécurité à analyser d’énormes volumes de données, à détecter des comportements réseau anormaux, à repérer les tentatives d’hameçonnage et à automatiser une partie de la réponse aux incidents. Concrètement, un outil bien réglé peut faire passer le délai d’intervention de plusieurs heures à quelques minutes — un écart décisif quand une intrusion est en cours.
Le problème, c’est que ces mêmes capacités servent aussi aux attaquants. L’IA a « démocratisé » la cybercriminalité : la barrière à l’entrée n’a jamais été aussi basse. Un fraudeur n’a plus besoin de maîtriser une langue ni de rédiger un message convaincant ; un modèle le fait pour lui, à partir de données publiques sur la cible. Résultat : des campagnes d’hameçonnage hyperpersonnalisées, produites à grande échelle et avec très peu d’effort. Des spécialistes consultés par la Harvard Extension School rappellent qu’une entreprise peut perdre des dizaines de millions de dollars en moins d’une demi-heure lors d’une attaque automatisée — un délai beaucoup trop court pour improviser une réponse.
Les fournisseurs tiers, premier point d’entrée
Une part importante des attaques pénètre les systèmes par l’intermédiaire des fournisseurs et des logiciels que l’on branche un peu partout. Avant d’adopter un outil d’IA, une organisation devrait donc interroger ses fournisseurs sur leur gouvernance : comment surveillent-ils leurs modèles ? Comment détectent-ils la « dérive » d’un modèle ? Que se passe-t-il en cas d’incident ? Les contrats de service, les indicateurs (KPI) et les niveaux de service (SLA) doivent être examinés de près, d’autant que beaucoup de produits d’IA sont encore jeunes sur le plan des cadres de gouvernance.
Sécuriser ses propres modèles
Les entreprises qui développent leurs propres modèles ne sont pas à l’abri non plus. Un modèle apprend de ses données : s’il est « empoisonné » par un attaquant, il peut devenir inutile, voire ouvrir une nouvelle voie d’attaque. Quelques principes reviennent chez les experts :
Une gouvernance interne solide, avec des garde-fous clairs, pour protéger les modèles et donner de la visibilité aux dirigeants et aux conseils d’administration.
L’humain dans la boucle : des analystes pour repérer les hallucinations ou les manipulations.
La transparence et l’explicabilité : un système de sécurité ne peut pas fonctionner comme une boîte noire dont on accepte les décisions sans comprendre ce qu’il fait.
La responsabilité : on ne peut jamais déléguer sa reddition de comptes. Si un modèle adopté par l’organisation cause un problème, la responsabilité revient à l’organisation.
Pour s’outiller, plusieurs équipes s’appuient sur des cadres reconnus comme le AI Risk Management Framework du NIST, qui aide à gouverner, cartographier, mesurer et gérer le risque lié à l’IA.
L’intelligence artificielle transforme en profondeur la sécurité informatique. Elle change à la fois la façon dont les organisations se défendent et la façon dont les attaques sont menées. Courriels d’hameçonnage générés automatiquement, hypertrucages (deepfakes), maliciels plus sophistiqués : les menaces deviennent plus rapides, mieux ciblées et plus difficiles à repérer.
Une arme à double tranchant
Du côté défensif, l’IA aide les équipes de sécurité à analyser d’énormes volumes de données, à détecter des comportements réseau anormaux, à repérer les tentatives d’hameçonnage et à automatiser une partie de la réponse aux incidents. Concrètement, un outil bien réglé peut faire passer le délai d’intervention de plusieurs heures à quelques minutes — un écart décisif quand une intrusion est en cours.
Le problème, c’est que ces mêmes capacités servent aussi aux attaquants. L’IA a « démocratisé » la cybercriminalité : la barrière à l’entrée n’a jamais été aussi basse. Un fraudeur n’a plus besoin de maîtriser une langue ni de rédiger un message convaincant ; un modèle le fait pour lui, à partir de données publiques sur la cible. Résultat : des campagnes d’hameçonnage hyperpersonnalisées, produites à grande échelle et avec très peu d’effort. Des spécialistes consultés par la Harvard Extension School rappellent qu’une entreprise peut perdre des dizaines de millions de dollars en moins d’une demi-heure lors d’une attaque automatisée — un délai beaucoup trop court pour improviser une réponse.
Les fournisseurs tiers, premier point d’entrée
Une part importante des attaques pénètre les systèmes par l’intermédiaire des fournisseurs et des logiciels que l’on branche un peu partout. Avant d’adopter un outil d’IA, une organisation devrait donc interroger ses fournisseurs sur leur gouvernance : comment surveillent-ils leurs modèles ? Comment détectent-ils la « dérive » d’un modèle ? Que se passe-t-il en cas d’incident ? Les contrats de service, les indicateurs (KPI) et les niveaux de service (SLA) doivent être examinés de près, d’autant que beaucoup de produits d’IA sont encore jeunes sur le plan des cadres de gouvernance.
Sécuriser ses propres modèles
Les entreprises qui développent leurs propres modèles ne sont pas à l’abri non plus. Un modèle apprend de ses données : s’il est « empoisonné » par un attaquant, il peut devenir inutile, voire ouvrir une nouvelle voie d’attaque. Quelques principes reviennent chez les experts :
Pour s’outiller, plusieurs équipes s’appuient sur des cadres reconnus comme le AI Risk Management Framework du NIST, qui aide à gouverner, cartographier, mesurer et gérer le risque lié à l’IA.