«`html

Можно ли предотвратить человеческие ошибки в кибербезопасности с помощью искусственного интеллекта

Человеческие ошибки сегодня являются основной причиной инцидентов кибербезопасности в организациях. Вопреки распространённому мнению, эти уязвимости не всегда являются результатом злого умысла, а чаще — следствием психологических или внешних факторов, таких как стресс, усталость или нарушенная концентрация. Недавнее исследование предлагает инновационное решение для предотвращения этих рисков в режиме реального времени.

Идея основана на системе, способной непрерывно анализировать физиологическое и когнитивное состояние пользователей, а также их непосредственное окружение. Датчики измеряют такие показатели, как частота сердечных сокращений, кожно-гальваническая реакция, температура окружающей среды, уровень шума или освещённость. Эти данные, часто незаметные для самого пользователя, выявляют признаки стресса или умственного перенапряжения ещё до того, как будут допущены ошибки. Например, повышение температуры выше 24 градусов или шум свыше 55 децибел значительно снижают способность к концентрации и принятию решений. Аналогично, слишком яркий свет или неподходящее освещение могут вызвать зрительную и умственную усталость, увеличивая риск забывчивости или неправильных действий.

В основе системы лежит модель искусственного интеллекта, сочетающая две технологии: свёрточная нейронная сеть для выявления паттернов в данных датчиков и рекуррентная сеть типа LSTM для отслеживания изменения этих паттернов во времени. Такой подход позволяет обнаруживать тонкие изменения в состоянии пользователя, такие как рост стресса или снижение внимания, с точностью 84 %. Когда выявляется высокий риск, система может инициировать соответствующие действия, такие как предупреждение, временное ограничение доступа или оповещение ответственного лица.

Один из основных вызовов заключается в способности обобщить эту модель для разных людей. Каждый человек действительно по-разному реагирует на стресс или окружающую среду. Чтобы решить эту проблему, система была разработана так, чтобы адаптироваться к каждому пользователю без необходимости полного переобучения. Она использует динамическую нормализацию данных, что позволяет различать нормальные колебания и предвестники потенциальной ошибки. Однако этот метод может столкнуться с ограничениями, если исходные данные не охватывают достаточное количество различных ситуаций.

Ещё одна проблема связана с защитой частной жизни. Физиологические данные, такие как частота сердечных сокращений или кожная реакция, могут раскрывать конфиденциальную информацию о здоровье, например беременность, психическое расстройство или хроническое заболевание. Их сбор и использование поднимают этические и юридические вопросы. Во многих странах такие данные считаются чувствительными и подлежат строгому регулированию. Организации, желающие внедрить такую систему, должны заботиться о получении осознанного согласия сотрудников, обеспечивать прозрачность использования данных и разрабатывать чёткие политики, чтобы избежать дискриминации или нарушения частной жизни.

Система была протестирована на смоделированных данных, воспроизводящих реальные условия. Результаты показывают, что она может выявлять состояния риска с хорошей надёжностью, хотя улучшения всё же возможны, особенно для сокращения ложных тревог. Фаза индивидуальной калибровки, в ходе которой каждый пользователь носил бы устройство в течение полного дня, могла бы дополнительно повысить точность с учётом индивидуальных особенностей.

На практике такая технология могла бы преобразовать подход организаций к кибербезопасности. Вместо того чтобы сосредотачиваться только на технических решениях, таких как межсетевые экраны или антивирусное программное обеспечение, она ставит человека в центр стратегии защиты. Адаптируя меры безопасности в зависимости от реального состояния пользователей, она предлагает проактивный подход для предотвращения ошибок до их возникновения. Это могло бы не только сократить количество инцидентов, но и улучшить благополучие сотрудников, избегая экстремальных стрессовых ситуаций или когнитивной перегрузки.

«`

Références

Origine de l’étude

DOI : https://doi.org/10.1186/s42400-026-00609-z

Titre : BioEnvSense: a human-centred security framework for preventing behaviour-driven cyber incidents

Revue : Cybersecurity

Éditeur : Springer Science and Business Media LLC

Auteurs : Duy Anh Ta; Farnaz Farid; Farhad Ahamed; Ala Al-Areqi; Robert Beutel; Tamara Watson; Alana Maurushat