Розробка класифікатора на основі багатошарового персептрону з використанням генетичного алгоритму та дерева розв’язків CART
DOI:
https://doi.org/10.15587/1729-4061.2021.242795Ключові слова:
нейронна мережа, багатошаровий персептрон з використанням генетичного алгоритму, деревo розв’язків CARTАнотація
Проблема розробки універсальних класифікаторів біомедичних даних, зокрема тих, які характеризують наявність великої кількості параметрів, неточність та невизначеність, є актуальною. Багато досліджень спрямовано на розробку методів аналізу цих даних, серед них є методи на основі нейронної мережі (НМ) у вигляді багатошарового персептрону (БП) з використанням ГА.
Розглядається питання застосування еволюційних алгоритмів (ЕА) для налаштування і навчання НМ.
Теорії НМ, генетичних алгоритмів (ГА) та Дерев рішень перетинаються та проникають одна в одну, постійно з'являються нові розвинені НМ та їх застосунки.
Розглянуто приклад завдання, яке вирішується за допомогою ЕА. Його мета – розробити та дослідити класифікатор для діагностики захворювань на рак молочної залози, одержаний шляхом поєднання можливостей багатошарового персептрону з використанням генетичного алгоритму (ГА) та Дерева розв’язків CART.
Встановлено можливість вдосконалення класифікаторів біомедичних даних у вигляді НМ на основі ГА шляхом застосування процесу відповідної підготовки біомедичних даних із використанням Дерева розв’язків CART.
Отримані результати дослідження свідчать про те, що ці класифікатори показують найвищу ефективність на множині тестування та при мінімальному скороченні Дерева розв’язків; збільшення кількості скорочень зазвичай погіршує результат моделювання. На двох наборах даних на множині тестування точність моделювання склала »83–87 %.
Проведені експерименти підтвердили ефективність запропонованого методу синтезу НМ і дозволяють рекомендувати його для використання на практиці при обробці наборів даних для подальшої діагностики, прогнозування або розпізнавання образів.
Посилання
- Dobrovska, L., Dobrovska, I. (2015). Teoriia ta praktyka neironnykh merezh. Kyiv: NTUU «KPI», 395.
- Dobrovska, L., Dobrovska, I. (2017). Design of the universal classifier as a RBF network based on the CART solution tree. Eastern-European Journal of Enterprise Technologies, 4 (4 (88)), 63–71. doi: http://doi.org/10.15587/1729-4061.2017.108976
- Farizawani, A., Puteh, M., Marina, Y., Rivaie, A. (2020). A review of artificial neural network learning rule based on multiple variant of conjugate gradient approaches. Journal of Physics: Conference Series, 1529, 022040. doi: http://doi.org/10.1088/1742-6596/1529/2/022040
- Yao, X. (1993). A review of evolutionary artificial neural networks. International Journal of Intelligent Systems, 8 (4), 539–567. doi: http://doi.org/10.1002/int.4550080406
- Dutta, P., Kumar, A. (2018). Modeling and Optimization of a Liquid Flow Process using an Artificial Neural Network-Based Flower Pollination Algorithm. Journal of Intelligent Systems, 29 (1), 787–798. doi: http://doi.org/10.1515/jisys-2018-0206
- Venkatesan, D., Kannan, K., Saravanan, R. (2008). A genetic algorithm-based artificial neural network model for the optimization of machining processes. Neural Computing and Applications, 18 (2), 135–140. doi: http://doi.org/10.1007/s00521-007-0166-y
- Castillo, P., Arenas, M., Castillo-Valdivieso, J., Merelo, J., Prieto, A., Romero, G. (2003). Artificial Neural Networks Design using Evolutionary Algorithms. Advances In Soft Computing. London: Springer, 43–52. doi: http://doi.org/10.1007/978-1-4471-3744-3_5
- Ding, S., Xu, L., Su, C.,Zhu, H. (2010). Using Genetic Algorithms to Optimize Artificial Neural Networks. Journal Of Convergence Information Technology, 5 (8), 54–62. doi: http://doi.org/10.4156/jcit.vol5.issue8.6
- Jaafra, Y., Luc Laurent, J., Deruyver, A., Saber Naceur, M. (2019). Reinforcement learning for neural architecture search: A review. Image and Vision Computing, 89, 57–66. doi: http://doi.org/10.1016/j.imavis.2019.06.005
- Baker, B., Gupta, O., Naik, N., Raskar, R. (2021). Designing neural network architectures using reinforcement learning. Int. Conf. Learn. Represent. San Juan. Available at: https://arxiv.org/abs/1611.02167
- Miikkulainen, R., Liang, J., Meyerson, E., Rawal, A., Fink, D., Francon, O. et al. (2019). Evolving Deep Neural Networks. Artificial Intelligence In The Age Of Neural Networks And Brain Computing. Elsevier, 293–312. doi: http://doi.org/10.1016/b978-0-12-815480-9.00015-3
- Real, E., Aggarwal, A., Huang, Y., Le, Q. V. (2019). Regularized Evolution for Image Classifier Architecture Search. Proceedings of the AAAI Conference on Artificial Intelligence, 33, 4780–4789. doi: http://doi.org/10.1609/aaai.v33i01.33014780
- Matteucci, M. (2006). ELeaRNT: Evolutionary Learning of Rich Neural Network Topologies. Computer Science. doi: http://doi.org/10.21236/ada456062
- Luo, R., Tian, F., Qin, T., Chen, E., Liu, T. (2018). Neural Architecture Optimization. Conference And Workshop On Neural Information Processing Systems, 7827–7838.
- Sariev, E., Germano, G. (2019). Bayesian regularized artificial neural networks for the estimation of the probability of default. Quantitative Finance, 20 (2), 311–328. doi: http://doi.org/10.1080/14697688.2019.1633014
- Kim, H. B., Jung, S. H., Kim, T. G., Park, K. H. (1996). Fast learning method for back-propagation neural network by evolutionary adaptation of learning rates. Neurocomputing, 11 (1), 101–106. doi: http://doi.org/10.1016/0925-2312(96)00009-4
- Michel, D., Navarro, D. (2021). Genetic Operators and Their Impact on the Training of Deep Neural Networks. Metaheuristics In Machine Learning: Theory And Applications. Cham: Springer, 97–124. doi: http://doi.org/10.1007/978-3-030-70542-8_5
- UCI Machine Learning Repository: Data Sets. Available at: http://archive.ics.uci.edu/ml/datasets.php Last accessed: 22.09.2021
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Авторське право (c) 2021 Lyudmila Dobrovska, Olena Nosovets
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.
Закріплення та умови передачі авторських прав (ідентифікація авторства) здійснюється у Ліцензійному договорі. Зокрема, автори залишають за собою право на авторство свого рукопису та передають журналу право першої публікації цієї роботи на умовах ліцензії Creative Commons CC BY. При цьому вони мають право укладати самостійно додаткові угоди, що стосуються неексклюзивного поширення роботи у тому вигляді, в якому вона була опублікована цим журналом, але за умови збереження посилання на першу публікацію статті в цьому журналі.
Ліцензійний договір – це документ, в якому автор гарантує, що володіє усіма авторськими правами на твір (рукопис, статтю, тощо).
Автори, підписуючи Ліцензійний договір з ПП «ТЕХНОЛОГІЧНИЙ ЦЕНТР», мають усі права на подальше використання свого твору за умови посилання на наше видання, в якому твір опублікований. Відповідно до умов Ліцензійного договору, Видавець ПП «ТЕХНОЛОГІЧНИЙ ЦЕНТР» не забирає ваші авторські права та отримує від авторів дозвіл на використання та розповсюдження публікації через світові наукові ресурси (власні електронні ресурси, наукометричні бази даних, репозитарії, бібліотеки тощо).
За відсутності підписаного Ліцензійного договору або за відсутністю вказаних в цьому договорі ідентифікаторів, що дають змогу ідентифікувати особу автора, редакція не має права працювати з рукописом.
Важливо пам’ятати, що існує і інший тип угоди між авторами та видавцями – коли авторські права передаються від авторів до видавця. В такому разі автори втрачають права власності на свій твір та не можуть його використовувати в будь-який спосіб.
