Peut-on prévenir les erreurs humaines en cybersécurité grâce à l’intelligence artificielle

Les erreurs humaines représentent aujourd’hui la principale cause des incidents de cybersécurité dans les organisations. Contrairement aux idées reçues, ces failles ne sont pas toujours le résultat d’une mauvaise intention, mais souvent celui de facteurs psychologiques ou environnementaux comme le stress, la fatigue ou une concentration altérée. Une étude récente propose une solution innovante pour anticiper ces risques en temps réel.

L’idée repose sur un système capable d’analyser en continu l’état physiologique et cognitif des utilisateurs, ainsi que leur environnement immédiat. Des capteurs mesurent des indicateurs comme le rythme cardiaque, la réponse électrodermale de la peau, la température ambiante, le niveau sonore ou encore l’éclairage. Ces données, souvent imperceptibles pour l’utilisateur lui-même, révèlent des signes de stress ou de surcharge mentale avant même que des erreurs ne soient commises. Par exemple, une augmentation de la température au-delà de 24 degrés ou un bruit dépassant 55 décibels réduit significativement les capacités de concentration et de prise de décision. De même, une lumière trop intense ou un éclairage mal adapté peut provoquer une fatigue visuelle et mentale, augmentant ainsi les risques d’oubli ou de mauvaise manipulation.

Le cœur du système utilise un modèle d’intelligence artificielle combinant deux technologies : un réseau de neurones convolutifs pour identifier des motifs dans les données des capteurs, et un réseau récurrent de type LSTM pour suivre l’évolution de ces motifs dans le temps. Cette approche permet de détecter des changements subtils dans l’état de l’utilisateur, comme une montée de stress ou une baisse d’attention, avec une précision de 84 %. Lorsqu’un risque élevé est identifié, le système peut déclencher des actions adaptées, telles qu’un avertissement, une restriction temporaire d’accès ou une alerte à un responsable.

L’un des défis majeurs réside dans la capacité à généraliser ce modèle à différents individus. Chaque personne réagit en effet différemment au stress ou à son environnement. Pour y remédier, le système a été conçu pour s’adapter à chaque utilisateur sans nécessiter de réapprentissage complet. Il utilise une normalisation dynamique des données, ce qui lui permet de distinguer les variations normales des signes avant-coureurs d’une erreur potentielle. Cependant, cette méthode peut rencontrer des limites si les données initiales ne couvrent pas suffisamment de situations variées.

Un autre enjeu concerne la protection de la vie privée. Les données physiologiques, comme le rythme cardiaque ou la réponse cutanée, peuvent révéler des informations sensibles sur la santé, telles qu’une grossesse, un trouble mental ou une maladie chronique. Leur collecte et leur utilisation soulèvent donc des questions éthiques et juridiques. Dans de nombreux pays, ces données sont considérées comme sensibles et soumises à des réglementations strictes. Les organisations souhaitant déployer un tel système doivent ainsi veiller à obtenir le consentement éclairé des employés, à garantir la transparence sur l’utilisation des données et à mettre en place des politiques claires pour éviter toute discrimination ou atteinte à la vie privée.

Le système a été testé avec des données simulées reproduisant des conditions réelles. Les résultats montrent qu’il peut identifier des états à risque avec une bonne fiabilité, même si des améliorations restent possibles, notamment pour réduire les fausses alertes. Une phase de calibration individuelle, où chaque utilisateur porterait le dispositif pendant une journée complète, pourrait affiner davantage la précision en tenant compte des spécificités de chacun.

En pratique, ce type de technologie pourrait transformer la manière dont les organisations abordent la cybersécurité. Au lieu de se concentrer uniquement sur des solutions techniques comme les pare-feu ou les logiciels antivirus, elle place l’humain au centre de la stratégie de protection. En adaptant les mesures de sécurité en fonction de l’état réel des utilisateurs, elle offre une approche proactive pour prévenir les erreurs avant qu’elles ne surviennent. Cela pourrait non seulement réduire le nombre d’incidents, mais aussi améliorer le bien-être des employés en évitant des situations de stress extrême ou de surcharge cognitive.

Références

Origine de l’étude

DOI : https://doi.org/10.1186/s42400-026-00609-z

Titre : BioEnvSense: a human-centred security framework for preventing behaviour-driven cyber incidents

Revue : Cybersecurity

Éditeur : Springer Science and Business Media LLC

Auteurs : Duy Anh Ta; Farnaz Farid; Farhad Ahamed; Ala Al-Areqi; Robert Beutel; Tamara Watson; Alana Maurushat