„`html

Können menschliche Fehler in der Cybersicherheit durch künstliche Intelligenz verhindert werden?

Menschliche Fehler sind heute die Hauptursache für Cybersicherheitsvorfälle in Organisationen. Entgegen der landläufigen Meinung sind diese Schwachstellen nicht immer auf böswillige Absichten zurückzuführen, sondern oft auf psychologische oder umweltbedingte Faktoren wie Stress, Müdigkeit oder beeinträchtigte Konzentration. Eine aktuelle Studie schlägt eine innovative Lösung vor, um diese Risiken in Echtzeit vorherzusehen.

Die Idee basiert auf einem System, das kontinuierlich den physiologischen und kognitiven Zustand der Nutzer sowie deren unmittelbare Umgebung analysieren kann. Sensoren messen Indikatoren wie Herzfrequenz, elektrodermale Hautreaktion, Raumtemperatur, Geräuschpegel oder Beleuchtung. Diese Daten, die für den Nutzer selbst oft unmerklich sind, offenbaren Anzeichen von Stress oder mentaler Überlastung, noch bevor Fehler begangen werden. So verringern beispielsweise eine Temperatur über 24 Grad oder ein Lärmpegel über 55 Dezibel die Konzentrations- und Entscheidungsfähigkeit deutlich. Ebenso kann zu intensives Licht oder eine ungeeignete Beleuchtung zu visueller und mentaler Erschöpfung führen und damit das Risiko von Vergesslichkeit oder Fehlbedienungen erhöhen.

Das Herzstück des Systems nutzt ein KI-Modell, das zwei Technologien kombiniert: ein konvolutionäres neuronales Netzwerk zur Erkennung von Mustern in den Sensordaten und ein rekurrentes Netzwerk vom Typ LSTM, um die Entwicklung dieser Muster über die Zeit zu verfolgen. Dieser Ansatz ermöglicht es, subtile Veränderungen im Zustand des Nutzers, wie einen Anstieg von Stress oder einen Konzentrationsabfall, mit einer Genauigkeit von 84 % zu erkennen. Wird ein hohes Risiko erkannt, kann das System angepasste Maßnahmen auslösen, wie eine Warnung, eine vorübergehende Zugriffsbeschränkung oder eine Benachrichtigung an einen Vorgesetzten.

Eine der größten Herausforderungen besteht darin, dieses Modell auf verschiedene Personen zu verallgemeinern. Jeder Mensch reagiert nämlich unterschiedlich auf Stress oder seine Umgebung. Um dies zu lösen, wurde das System so konzipiert, dass es sich an jeden Nutzer anpassen kann, ohne dass ein vollständiges Neulernen erforderlich ist. Es verwendet eine dynamische Normalisierung der Daten, die es ihm ermöglicht, zwischen normalen Schwankungen und Frühwarnzeichen für potenzielle Fehler zu unterscheiden. Allerdings kann diese Methode an Grenzen stoßen, wenn die anfänglichen Daten nicht ausreichend vielfältige Situationen abdecken.

Eine weitere Herausforderung betrifft den Schutz der Privatsphäre. Physiologische Daten wie Herzfrequenz oder Hautreaktion können sensible Gesundheitsinformationen preisgeben, etwa eine Schwangerschaft, psychische Störungen oder chronische Krankheiten. Ihre Erhebung und Nutzung werfen daher ethische und rechtliche Fragen auf. In vielen Ländern gelten solche Daten als sensibel und unterliegen strengen Vorschriften. Organisationen, die ein solches System einführen möchten, müssen daher darauf achten, die informierte Zustimmung der Mitarbeiter einzuholen, Transparenz über die Datennutzung zu gewährleisten und klare Richtlinien zu schaffen, um Diskriminierung oder Eingriffe in die Privatsphäre zu vermeiden.

Das System wurde mit simulierten Daten getestet, die reale Bedingungen nachbilden. Die Ergebnisse zeigen, dass es riskante Zustände mit guter Zuverlässigkeit erkennen kann, auch wenn noch Verbesserungen möglich sind, insbesondere zur Reduzierung von Fehlalarmen. Eine individuelle Kalibrierungsphase, in der jeder Nutzer das Gerät einen ganzen Tag lang trägt, könnte die Genauigkeit weiter erhöhen, indem sie die individuellen Besonderheiten berücksichtigt.

In der Praxis könnte diese Technologie die Art und Weise, wie Organisationen Cybersicherheit angehen, verändern. Statt sich ausschließlich auf technische Lösungen wie Firewalls oder Antivirenprogramme zu konzentrieren, stellt sie den Menschen in den Mittelpunkt der Schutzstrategie. Indem die Sicherheitsmaßnahmen an den tatsächlichen Zustand der Nutzer angepasst werden, bietet sie einen proaktiven Ansatz, um Fehler zu verhindern, bevor sie auftreten. Dies könnte nicht nur die Anzahl der Vorfälle verringern, sondern auch das Wohlbefinden der Mitarbeiter verbessern, indem extrem stressige oder kognitiv überfordernde Situationen vermieden werden.

„`

Références

Origine de l’étude

DOI : https://doi.org/10.1186/s42400-026-00609-z

Titre : BioEnvSense: a human-centred security framework for preventing behaviour-driven cyber incidents

Revue : Cybersecurity

Éditeur : Springer Science and Business Media LLC

Auteurs : Duy Anh Ta; Farnaz Farid; Farhad Ahamed; Ala Al-Areqi; Robert Beutel; Tamara Watson; Alana Maurushat