Розробка методології попередньої обробки незбалансованих наборів даних у машинному навчанні

Автор(и)

  • Микола Миколайович Злобін Національний університет «Чернігівська політехніка», Україна https://orcid.org/0009-0000-7653-6109
  • Володимир Маркович Базилевич Національний університет «Чернігівська політехніка», Україна https://orcid.org/0000-0001-8935-446X

DOI:

https://doi.org/10.15587/2706-5448.2025.330639

Ключові слова:

незбалансована класифікація, конвеєр виявлення шахрайства, стратифікована вибірка, видалення викидів, класифікатор опорних векторів

Анотація

Об'єктом дослідження є незбалансований набір даних про операції з кредитними картками, де шахрайські випадки становлять лише 0,18% від загальної кількості. Одним з найбільш проблемних місць є нездатність стандартних моделей машинного навчання правильно виявляти рідкісні випадки шахрайства, що часто призводить до високого рівня хибнонегативних спрацьовувань. Це відбувається через те, що моделі фокусуються на класі більшості, що призводить до упереджених результатів і невиявленого шахрайства. У представленому аналізі для розв'язання цієї проблеми було використано структурований конвеєр попередньої обробки. Він включає масштабування числових значень для усунення упередженості, стратифіковану вибірку для збереження пропорцій класів, випадкову неповну вибірку для збалансування набору даних і видалення викидів для зменшення шуму. Ці кроки були застосовані до навчання трьох моделей класифікації: логістичної регресії (LR), K-найближчих сусідів (KNN) та класифікатора опорних векторів (SVC). Отримані результати показують, що всі моделі показали хороші результати як за точністю перехресної перевірки, так і за показниками ROC-AUC, причому SVC досягнув найкращого показника ROC-AUC – 0,9787. Це пояснюється тим, що запропонований конвеєр попередньої обробки має багато особливостей, пристосованих до характеристик незбалансованих даних, зокрема поєднання балансування даних з ретельною фільтрацією шуму та надлишковості. Це забезпечує можливість досягнення надійної продуктивності при виявленні подій міноритарного класу. Порівняно з аналогічними відомими робочими процесами попередньої обробки це дає такі переваги: краще розділення класів, зменшення зміщення моделі та покращене узагальнення на невидимих даних. Результати особливо актуальні для фінансових установ, де виявлення шахрайства має бути своєчасним і точним. Підхід пропонує практичний метод вдосконалення систем безпеки, який не потребує складної або дорогої інфраструктури. Він також може бути адаптований для використання в інших сферах, де потрібно виявляти рідкісні події з великих наборів даних. У майбутніх дослідженнях конвеєр може бути розширений шляхом інтеграції синтетичних методів вибірки, таких як SMOTE або GANs. Додаткові експерименти з потоковими даними в реальному часі ще більше підтвердять надійність запропонованої методології.

Біографії авторів

Микола Миколайович Злобін, Національний університет «Чернігівська політехніка»

Аспірант

Кафедра інформаційних та комп'ютерних систем

Володимир Маркович Базилевич, Національний університет «Чернігівська політехніка»

Кандидат економічних наук, доцент

Кафедра інформаційних та комп’ютерних систем

Посилання

  1. Tadvi, F., Shinde, S., Patil, D., Dmello, S. (2021). Real time credit card fraud detection. International Research Journal of Engineering and Technology, 8 (5), 2177–2180.
  2. Ounacer, S., Jihal, H., Bayoude, K., Daif, A., Azzouazi, M. (2022). Handling Imbalanced Datasets in the Case of Credit Card Fraud. Advanced Intelligent Systems for Sustainable Development (AI2SD’2020). Cham: Springer International Publishing, 666–678. https://doi.org/10.1007/978-3-030-90633-7_56
  3. Pozzolo, A. D., Caelen, O., Johnson, R. A., Bontempi, G. (2015). Calibrating Probability with Undersampling for Unbalanced Classification. 2015 IEEE Symposium Series on Computational Intelligence, 159–166. https://doi.org/10.1109/ssci.2015.33
  4. Dal Pozzolo, A., Caelen, O., Le Borgne, Y.-A., Waterschoot, S., Bontempi, G. (2014). Learned lessons in credit card fraud detection from a practitioner perspective. Expert Systems with Applications, 41 (10), 4915–4928. https://doi.org/10.1016/j.eswa.2014.02.026
  5. Yang, Y., Khorshidi, H. A., Aickelin, U. (2024). A review on over-sampling techniques in classification of multi-class imbalanced datasets: insights for medical problems. Frontiers in Digital Health, 6. https://doi.org/10.3389/fdgth.2024.1430245
  6. Ileberi, E., Sun, Y., Wang, Z. (2022). A machine learning based credit card fraud detection using the GA algorithm for feature selection. Journal of Big Data, 9 (1). https://doi.org/10.1186/s40537-022-00573-8
  7. Joloudari, J. H., Marefat, A., Nematollahi, M. A., Oyelere, S. S., Hussain, S. (2023). Effective Class-Imbalance Learning Based on SMOTE and Convolutional Neural Networks. Applied Sciences, 13 (6), 4006. https://doi.org/10.3390/app13064006
  8. Tian, L., Lu, Y. (2021). An Intrusion Detection Model Based on SMOTE and Convolutional Neural Network Ensemble. Journal of Physics: Conference Series, 1828 (1), 012024. https://doi.org/10.1088/1742-6596/1828/1/012024
  9. Park, J., Kwon, S., Jeong, S.-P. (2023). A study on improving turnover intention forecasting by solving imbalanced data problems: focusing on SMOTE and generative adversarial networks. Journal of Big Data, 10 (1). https://doi.org/10.1186/s40537-023-00715-6
  10. Liu, Y., Liu, Q. (2025). SMOTE oversampling algorithm based on generative adversarial network. Cluster Computing, 28 (4). https://doi.org/10.1007/s10586-024-04980-9
  11. Mahmoodi, N., Shirazi, H., Fakhredanesh, M., DadashtabarAhmadi, K. (2024). Automatically weighted focal loss for imbalance learning. Neural Computing and Applications, 37 (5), 4035–4052. https://doi.org/10.1007/s00521-024-10323-x
  12. Machine Learning Group. Machine Learning Group – ULB. Université Libre de Bruxelles. Available at: http://mlg.ulb.ac.be/
  13. Bolton, R. J., Hand, D. J. (2001). Unsupervised profiling methods for fraud detection. Credit scoring and credit control, VII, 235–255.
  14. Carcillo, F., Dal Pozzolo, A., Le Borgne, Y.-A., Caelen, O., Mazzer, Y., Bontempi, G. (2018). SCARFF : A scalable framework for streaming credit card fraud detection with spark. Information Fusion, 41, 182–194. https://doi.org/10.1016/j.inffus.2017.09.005
  15. Lebichot, B., Le Borgne, Y.-A., He-Guelton, L., Oblé, F., Bontempi, G. (2019). Deep-Learning Domain Adaptation Techniques for Credit Cards Fraud Detection. Recent Advances in Big Data and Deep Learning. Springer International Publishing, 78–88. https://doi.org/10.1007/978-3-030-16841-4_8
  16. Abdulhafedh, A. (2022). Comparison between Common Statistical Modeling Techniques Used in Research, Including: Discriminant Analysis vs Logistic Regression, Ridge Regression vs LASSO, and Decision Tree vs Random Forest. OALib, 9 (2), 1–19. https://doi.org/10.4236/oalib.1108414
  17. Itoo, F., Meenakshi, Singh, S. (2020). Comparison and analysis of logistic regression, Naive Bayes and KNN machine learning algorithms for credit card fraud detection. International Journal of Information Technology, 13 (4), 1503–1511. https://doi.org/10.1007/s41870-020-00430-y
  18. Wang, H., Bell, D. (2004). Extended k-Nearest Neighbours based on Evidence Theory. The Computer Journal, 47 (6), 662–672. https://doi.org/10.1093/comjnl/47.6.662
  19. Halder, R. K., Uddin, M. N., Uddin, Md. A., Aryal, S., Khraisat, A. (2024). Enhancing K-nearest neighbor algorithm: a comprehensive review and performance analysis of modifications. Journal of Big Data, 11 (1). https://doi.org/10.1186/s40537-024-00973-y
  20. Srisuradetchai, P., Suksrikran, K. (2024). Random kernel k-nearest neighbors regression. Frontiers in Big Data, 7. https://doi.org/10.3389/fdata.2024.1402384
  21. Hejazi, M., Singh, Y. P. (2013). One-class support vector machines approach to anomaly detection. Applied Artificial Intelligence, 27 (5), 351–366. https://doi.org/10.1080/08839514.2013.785791
  22. Sahin, Y., Duman, E. (2011). Detecting credit card fraud by decision trees and support vector machines. Proceedings of the International Multiconference of Engineers and Computer Scientists, 1.
  23. Kumar, S., Gunjan, V. K., Ansari, M. D., Pathak, R. (2022). Credit card fraud detection using support vector machine. Proceedings of the 2nd International Conference on Recent Trends in Machine Learning, IoT, Smart Cities and Applications: ICMISC 2021. Singapore: Springer, 27–37. https://doi.org/10.1007/978-981-16-6407-6_3
Development of a preprocessing methodology for imbalanced datasets in machine learning training

##submission.downloads##

Опубліковано

2025-05-27

Як цитувати

Злобін, М. М., & Базилевич, В. М. (2025). Розробка методології попередньої обробки незбалансованих наборів даних у машинному навчанні. Technology Audit and Production Reserves, 3(2(83), 55–61. https://doi.org/10.15587/2706-5448.2025.330639

Номер

Том 3 № 2(83) (2025): Інформаційно-керуючі системи

Розділ

Інформаційні технології

Ліцензія

Авторське право (c) 2025 Mykola Zlobin, Volodymyr Bazylevych

Creative Commons License

Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.

Закріплення та умови передачі авторських прав (ідентифікація авторства) здійснюється у Ліцензійному договорі. Зокрема, автори залишають за собою право на авторство свого рукопису та передають журналу право першої публікації цієї роботи на умовах ліцензії Creative Commons CC BY. При цьому вони мають право укладати самостійно додаткові угоди, що стосуються неексклюзивного поширення роботи у тому вигляді, в якому вона була опублікована цим журналом, але за умови збереження посилання на першу публікацію статті в цьому журналі.