Аннотация. Цель работы представляет собой предиктивный и сравнительный анализы временных рядов показателей аварийности и факторов влияния для обнаружения корреляций между их сегментами в прошлом и прогнозированием появления аналогичных паттернов и их сочетаний, которые приводят к рискам возникновения критических событий, в будущем. Анализ показателей аварийности и причин их возникновения может быть выполнен на базе исследования данных, представленных в виде набора временных рядов. В статье рассматриваются вопросы применения методов глубокого обучения и нейронных сетей для прогнозирования и сравнительного анализа будущих сочетаний паттернов временных рядов. В качестве метода предиктивного анализа предлагается использовать подход с использованием модели рекуррентной нейронной сети, дополненной архитектурой трансформера. Механизм внимания трансформера позволяет эффективно прогнозировать длинные временные ряды показателей аварийности и факторов влияния. Временные ряды формируются по данным, которые извлекаются с фоторадарных комплексов фото- и видеофиксации в дорожно-транспортной среде. Результатами исследований является модель рекуррентной нейронной сети с трансформером, методика ее синтеза и глубокого обучения на примере больших данных о зафиксированных проездах транспортных средств и нарушениях ими скоростного режима на участках автомагистралей. Исследование выполнено при поддержке гранта Российского научного фонда (проект № 20-71-10087).
Annotation. The purpose of the work is a predictive and comparative analysis of time series of accident rates and influencing factors to detect correlations between their segments in the past and predict the emergence of similar patterns and combinations that lead to risks of critical events in the future. Analysis of accident rates and the causes of their occurrence can be performed on the basis of a study of data presented in the form of a set of time series. The article discusses the use of deep learning methods and neural networks for forecasting and comparative analysis of future combinations of time series patterns. As a method of predictive analysis, it is proposed to use an approach using a recurrent neural network model, complemented by a transformer architecture. The transformer attention mechanism can effectively predict long time series of accident rates and influencing factors. Time series are formed based on data that is extracted from photo radar photo and video recording systems in the road transport environment. The results of the research are a model of a recurrent neural network with a transformer, a methodology for its synthesis and deep learning using the example of big data on recorded passages of vehicles and violations of speed limits on sections of highways. The study was supported by a grant from the Russian Science Foundation (project no. 20-71-10087).
1. Martínez Francisco, Maria P. Frias, M. Dolores Pérez-Godoy, Antonio Jesús Rivera Rivas. Time Series Forecasting by Generalized Regression Neural Networks Trained with Multiple Series // IEEE Access PP. 2022. Vol. 10. P. 3275–3283. DOI: 10.1109/ACCESS.2022.3140377.
2. Kim T., King B.R. Time series prediction using deep echo state networks // Neural Comput & Applic 32. 2020. Vol. 32. P. 17769–17787. DOI: 10.1007/s00521-020-04948-x.
3. Gábor Petneházi. Recurrent neural networks for time series forecasting // Computer Science, Machine Learning. 2019. DOI: 10.48550/arXiv.1901.00069.
4. Shaojie Bai, J Zico Kolter, Vladlen Koltun. An empirical evaluation of generic convolutional and recurrent networks for sequence modeling // Computer Science, Machine Learning. 2018. DOI: 10.48550/arXiv:1803.01271.
5. Li Z., Zhang X., Dong Z. TSF-transformer: a time series forecasting model for exhaust gas emission using transformer. Appl Intell 53. 2023. P. 17211–17225. DOI: 10.1007/s10489-022-04326-1.
6. Zhou X., Hu Y., Liang W., Ma J., and Jin Q. Variational LSTM enhanced anomaly detection for industrial big data // IEEE Trans. Ind. Informat. Vol. 17, Is. 5. 2021. P. 3469–3477.
7. Chung J., Gülçehre Ç., Cho K., Bengio Y. Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling // Computer Science, Neural and Evolutionary Computing. 2014. DOI: 10.48550/arXiv.1412.3555.
8. Qingsong Wen, Tian Zhou, Chaoli Zhang, Weiqi Chen, Ziqing Ma, Junchi Yan, Liang Sun. Transformers in time series: A survey // Computer Science, Machine Learnin. 2022. DOI: 10.48550/arXiv:2202.07125.
9. Lee Sangwon, Hong Junho, Liu Ling, Choi Wonik. TS-Fastformer: Fast Transformer for Time-Series Forecasting // ACM Transactions on Intelligent Systems and Technology. 2024. Vol. 15, Is. 2. № 24. P. 1–20.
10. Sakatani Y. Combining RNN with Transformer for Modeling Multi-Leg Trips // ACM WSDM WebTour 2021. 2021. P. 50–52.
11. Anton Finogeev, Michael Deev, Alexey Finogeev, Ilja Kolesnikoff. Proactive Big Data Analysis for Traffic Accident Prediction // 2020 5th International Conference on Innovative Technologies in Intelligent Systems and Industrial Applications (CITISIA), Sydney, Australia. 2020. P. 1–9.
12. Leyla Gamidullaeva, Alexey Finogeev, Sergey Vasin, Vardan Mkrttchian, Artiom Berezin. The use of benchmarking tool to improve efficiency of company’s innovation activities in the conditions of digital economy // International Journal of Process Management and Benchmarking. 2021. Vol. 11, Is. 2. P. 151–177.
13. Alexey Finogeev, Michael Deev, Danila Parygin, Аnton Finogeev. Intelligent SDN Architecture with Fuzzy Neural Network and Blockchain for Monitoring Critical Events // Applied Artificial Intelligence. 2022. Vol. 36, Is. 1. DOI: 10.1080/08839514.2022.2145634.
14. Колесников И.Н., Финогеев А.Г. Проактивный мониторинг событий на основе предиктивного анализа временных рядов // Модели, системы, сети в экономике, технике, природе и обществе. 2020. № 1 (33). C. 111–125. DOI: 10.21685/2227-8486-2020-1-9.