Визначення оптимального маршруту в комп’ютерній мережі засобами багатошарової нейронної моделі
Loading...
Date
2018
Journal Title
Journal ISSN
Volume Title
Publisher
Дніпропетровський національний університет залізничного транспорту імені академіка В. Лазаряна, Дніпро
Abstract
UK: Мета. Класичні алгоритми пошуку найкоротшого шляху на графі, що лежать в основі наявних протоколів маршрутизації, які сьогодні використовують у комп’ютерних мережах, в умовах постійної зміни заван-таженості мережі не можуть привести до оптимального рішення в реальному часі. У зв’язку з цим метою статті є розробити методику визначення оптимального маршруту в об’єднаній комп’ютерній мережі. Методика. Для визначення оптимального маршруту в об’єднаній комп’ютерній мережі, що працює за різними технологіями, розроблено на мові Python із використанням фреймворку TensorFlow програмну модель «MLP 34-2-410-34». Вона дозволяє виконувати наступні етапи: генерацію вибірки (випадкову або збалансовану); створення нейронної мережі, на вхід якої подають масив пропускних спроможностей каналів комп’ютерної мережі; навчання й тестування нейронної мережі на відповідних вибірках. Результати. Нейронна мережа конфігурації 34-2-410-34 з функціями активації ReLU та Leaky-ReLU у прихованому шарі та лінійною функцією активації у вихідному шарі навчається за алгоритмом Adam. Цей алгоритм є комбінацією алгоритмів Adagrad, RMSprop та стохастичного градієнтного спуску з інерцією. Зазначені функції навчаються найбільш швидко на всіх обсягах навчальної вибірки, менш за інші піддаються перенавчанню, й досягають значення помилки в 0,0024 на контрольній вибірці й у 86 % визначає оптимальний шлях. Наукова новизна. Проведено дослідження параметрів нейронної мережі на основі розрахунку середнього гармонійного за різних функцій активації (Linear, Sigmoid, Tanh, Softplus, ReLU, L-ReLU) на навчальних вибірках різного обсягу (140, 1 400, 14 000, 49 000 прикладів) та за різними алгоритмами оптимізації навчання нейронної мережі (BGD, MB SGD, Adam, Adamax, Nadam). Практична значимість. Використання нейронної моделі, на вхід якої подають значення пропускних спроможностей каналів, дозволить у реальному часі визначити оптимальний маршрут в об’єднаній комп’ютерній мережі.
EN: Purpose. The classic algorithms for finding the shortest path on the graph that underlie existing routing proto-cols, which are now used in computer networks, in conditions of constant change in network traffic cannot lead to the optimal solution in real time. In this regard, the purpose of the article is to develop a methodology for determin-ing the optimal route in the unified computer network. Methodology. To determine the optimal route in the comput-er network, the program model "MLP 34-2-410-34" was developed in Python using the TensorFlow framework. It allows toperform the following steps: sample generation (random or balanced); creation of a neural network, the input of which is an array of bandwidth of the computer network channels; training and testing of the neural network in the appropriate samples. Findings. Neural network of 34-2-410-34 configuration with ReLU and Leaky-ReLU activation functions in a hidden layer and the linear activation function in the output layer learns from Adam algo-rithm. This algorithm is a combination of Adagrad, RMSprop algorithms and stochastic gradient descent with inertia. These functions learn the most quickly in all volumes of the train sample, less than others are subject to re-evaluation, and reach the value of the error of 0.0024 on the control sample and in 86% determine the optimal path. Originality. We conducted the study of the neural network parameters based of the calculation of the harmonic mean with different activation functions (Linear, Sigmoid, Tanh, Softplus, ReLU, L-ReLU) on train samples of dif-ferent volumes (140, 1400, 14000, 49000 examples) and with various neural network training algorithms (BGD, MB SGD, Adam, Adamax, Nadam). Practical value. The use of a neural model, the input of which is an array of chan-nel bandwidth, will allow in real time to determine the optimal route in the computer network.
RU: Цель. Классические алгоритмы поиска кратчайшего пути на графе, что лежат в основе существующих протоколов маршрутизации, которые сегодня используют в компьютерных сетях, в условиях постоянного изменения загруженности сети не могут привести к оптимальному решению в реальном времени. В связи с этим целью статьи является разработать методику определения оптимального маршрута в объединенной компьютерной сети. Методика. Для определения оптимального маршрута в объединенной компьютерной сети, которая работает по разным технологиям, написана на языке Python с использованием фреймворка TensorFlow программная модель «MLP 34-2-410-34». Она позволяет выполнять следующие этапы: генерацию выборки (случайную или сбалансированную); создание нейронной сети, на вход которой подают массив пропускных способностей каналов компьютерной сети; обучение и тестирование нейронной сети на соответствующих выборках. Результаты. Нейронная сеть конфигурации 34-2-410-34 с функциями активации ReLU и Leaky-ReLU в скрытом слое и линейной функцией активации в результирующем слое обучается по алгоритму Adam. Этот алгоритм является комбинацией алгоритмов Adagrad, RMSprop и стохастического градиентного спуска с инерцией. Указанные функции учатся наиболее быстро на всех объемах учебной выборки, меньше других поддаются переобучению, и достигают значения ошибки в 0,0024 на контрольной выборке и в 86 % определяют оптимальный путь. Научная новизна. Проведено исследование параметров нейронной сети на основе расчета среднего гармоничного при разных функциях активации (Linear, Sigmoid, Tanh, Softplus, ReLU, L-ReLU) на учебных выборках разного объема (140, 1 400, 14 000, 49 000 примеров) и за различными алгоритмами оптимизации обучения нейронной сети (BGD, MB SGD, Adam, Adamax, Nadam). Практическая значимость. Использование нейронной модели, на вход которой подают значения пропускных способностей каналов, позволит в реальном масштабе времени определить оптимальный маршрут в объединенной компьютерной сети.
EN: Purpose. The classic algorithms for finding the shortest path on the graph that underlie existing routing proto-cols, which are now used in computer networks, in conditions of constant change in network traffic cannot lead to the optimal solution in real time. In this regard, the purpose of the article is to develop a methodology for determin-ing the optimal route in the unified computer network. Methodology. To determine the optimal route in the comput-er network, the program model "MLP 34-2-410-34" was developed in Python using the TensorFlow framework. It allows toperform the following steps: sample generation (random or balanced); creation of a neural network, the input of which is an array of bandwidth of the computer network channels; training and testing of the neural network in the appropriate samples. Findings. Neural network of 34-2-410-34 configuration with ReLU and Leaky-ReLU activation functions in a hidden layer and the linear activation function in the output layer learns from Adam algo-rithm. This algorithm is a combination of Adagrad, RMSprop algorithms and stochastic gradient descent with inertia. These functions learn the most quickly in all volumes of the train sample, less than others are subject to re-evaluation, and reach the value of the error of 0.0024 on the control sample and in 86% determine the optimal path. Originality. We conducted the study of the neural network parameters based of the calculation of the harmonic mean with different activation functions (Linear, Sigmoid, Tanh, Softplus, ReLU, L-ReLU) on train samples of dif-ferent volumes (140, 1400, 14000, 49000 examples) and with various neural network training algorithms (BGD, MB SGD, Adam, Adamax, Nadam). Practical value. The use of a neural model, the input of which is an array of chan-nel bandwidth, will allow in real time to determine the optimal route in the computer network.
RU: Цель. Классические алгоритмы поиска кратчайшего пути на графе, что лежат в основе существующих протоколов маршрутизации, которые сегодня используют в компьютерных сетях, в условиях постоянного изменения загруженности сети не могут привести к оптимальному решению в реальном времени. В связи с этим целью статьи является разработать методику определения оптимального маршрута в объединенной компьютерной сети. Методика. Для определения оптимального маршрута в объединенной компьютерной сети, которая работает по разным технологиям, написана на языке Python с использованием фреймворка TensorFlow программная модель «MLP 34-2-410-34». Она позволяет выполнять следующие этапы: генерацию выборки (случайную или сбалансированную); создание нейронной сети, на вход которой подают массив пропускных способностей каналов компьютерной сети; обучение и тестирование нейронной сети на соответствующих выборках. Результаты. Нейронная сеть конфигурации 34-2-410-34 с функциями активации ReLU и Leaky-ReLU в скрытом слое и линейной функцией активации в результирующем слое обучается по алгоритму Adam. Этот алгоритм является комбинацией алгоритмов Adagrad, RMSprop и стохастического градиентного спуска с инерцией. Указанные функции учатся наиболее быстро на всех объемах учебной выборки, меньше других поддаются переобучению, и достигают значения ошибки в 0,0024 на контрольной выборке и в 86 % определяют оптимальный путь. Научная новизна. Проведено исследование параметров нейронной сети на основе расчета среднего гармоничного при разных функциях активации (Linear, Sigmoid, Tanh, Softplus, ReLU, L-ReLU) на учебных выборках разного объема (140, 1 400, 14 000, 49 000 примеров) и за различными алгоритмами оптимизации обучения нейронной сети (BGD, MB SGD, Adam, Adamax, Nadam). Практическая значимость. Использование нейронной модели, на вход которой подают значения пропускных способностей каналов, позволит в реальном масштабе времени определить оптимальный маршрут в объединенной компьютерной сети.
Description
В. Пахомова: ORCID 0000-0002-0022-099X, І. Цикало: ORCID 0000-0002-1629-5873
Keywords
комп’ютерна мережа, оптимальний маршрут, нейронна мережа, вибірка, середнє гармонійне, функція активації, алгоритм оптимізації, computer network, optimal route, neural network, sampling, harmonic mean, activation function, optimization algorithm, компьютерная сеть, оптимальный маршрут, нейронная сеть, выборка, среднее гармоничное, функция активации, алгоритм оптимизации, КЕОМ
Citation
Пахомова, В. М. Визначення оптимального маршруту в комп’ютерній мережі засобами багатошарової нейронної моделі [Електронний ресурс] / В. М. Пахомова, І. Д. Цикало // Наука та прогрес транспорту. – 2018. – № 6 (78). – C. 126-142. – URL: http://stp.diit.edu.ua/article/view/154443/154944.