Современный этап развития и проектирования систем управления характеризуется сложностью объектов и технологических процессов управления, непосредственно систем управления и неопределенностью возмущений. При этом установление аналитических зависимостей алгоритмов контуров адаптации не всегда возможно. В этой связи все большее применение получают контуры управления и регуляторы и контуры адаптации, построенные на основе нейронных сетей. Одним из основных вопросов при построении НС является процедура ее обучения. Здесь возможны два подхода: 1) предварительное обучение на симуляторе системы управления и возмущения; 2) в составе непосредственно системы управления, как правило, на основе моделей. В работе анализируются алгоритмы обучения нейронных систем в функции ошибки на основе градиентных методов первого порядка с различными функциями активации. Рассматривались следующие алгоритмы обучения: Backpropagation (MFE); quickProp; Rprop; Nesterov Accelerated Gradient (NAG); AdaDelta; Adam; NAdam при различных значениях коэффициентов вычислительных процедур. Точность работы алгоритмов оценивалась по абсолютной ошибке аппроксимации рассматриваемых функций в режиме онлайн-обучения нейронной сети при её стационарных параметрах, а также в составе адаптивной САУ. Три функции: сигмоидальная, SoftPlusy, ReLU – рассматривались в качестве функций активации в скрытых слоях нейронной сети. Анализ ведется для характерного управляющего и возмущающего воздействия систем автоматического управления – синусоидального сигнала. Даются рекомендации по выбору алгоритмов и функций активации.

The current stage of development and design of control systems is characterized by the complexity of objects and technological processes of control, control systems themselves and the uncertainty of disturbances. At the same time, it is not always possible to establish the analytical dependencies of the algorithms of the adaptation contours. In this regard, control loops and regulators and adaptation loops built on the basis of neural networks are increasingly used. One of the main issues in the construction of the NS is the procedure for its training. There are two possible hikes here: 1) preliminary training on the simulator of the control system and perturbation; 2) as part of the control system itself, usually based on models. The paper analyzes algorithms for training neural systems in the error function based on first-order gradient methods with various activation functions. The following learning algorithms were considered: Backpropagation( MFE); quickProp; Rprop; Nesterov Accelerated Gradient (NAG); AdaDelta; Adam; NAdam for different values of coefficients of computational procedures. The accuracy of the algorithms was estimated by the absolute error of the approximation of the functions under consideration in the online training mode of the neural network with its stationary parameters, as well as in the adaptive ACS. Three functions were considered as activation functions in the hidden layers of the neural network: sigmoid, SoftPlusy, and ReLU. The analysis is carried out for the characteristic control and disturbing influence of automatic control systems – a sinusoidal signal. Recommendations on the choice of algorithms and activation functions are given.