emanagE-ManagementE-Management2658-34452686-8407State University of Management10.26425/2658-3445-2018-1-26-35emanag-5Research ArticleТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В МЕНЕДЖМЕНТЕArtificial intelligence technologies in managementОбзор некоторых современных тенденций в технологии машинного обученияReview of some contemporary trends in machine learning technologyКоротеевМ. В.KoroteevM.noemail@neicon.ruФинансовый университет при Правительстве Российской Федерации; «Институт проблем управления им. В.А. Трапезникова» Российской академии наук,Russian Federation201825022019012635Copyright © Коротеев М.В., 20192019Коротеев М.В.Koroteev M.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://e-management.guu.ru/jour/article/view/5

Построение систем машинного обучения является на сегодняшний день одной из самых популярных, актуальных и современных областей человеческой деятельности на стыке информационных технологий, математического анализа и статистики. Машинное обучение все глубже проникает в нашу жизнь посредством пользовательских продуктов, созданных с помощью методов искусственного интеллекта. Очевидно, что данные технологии будут развиваться и дальше, постепенно становясь частью повседневной рутины во многих областях человеческой профессиональной деятельности. Однако со времен своего появления, машинное обучение успело обзавестись многочисленными проблемами, главная из которых - достаточно высокая трудоемкость. Построение систем машинного обучения требует огромного количества времени высокопрофессиональных специалистов как в сфере искусственного интеллекта, так и в той предметной области, к которой эта технология применяется. В статье рассмотрены основные новации в области методологии машинного обучения, которые могут оказать значительное влияние на развитие данной отрасли. Выполнен анализ современной научной литературы, посвященной вопросам развития методологии и областей прикладного использования рассматриваемых тем. Сформулированы предположения о будущих тенденциях развития машинного обучения как сферы научно-прикладного знания и предложены наиболее перспективные направления исследований. Рассмотрены такие современные технологии в машинном обучении, как использование предобученных моделей, построение мультизадачных систем, нейроэволюция, проблема создания интерпретируемых моделей. Наиболее перспективной и актуальной в настоящее время технологией авторы полагают автоматизированное машинное обучение - комплекс инструментальных и методических средств, позволяющий значительно сократить долю человеческого участия в создании систем искусственного интеллекта, в том числе средствами автоматической валидации результатов моделирования.

The construction of machine learning systems constitutes today one of the most popular, relevant and modern areas of human activity at the interface of information technology, mathematical analysis and statistics. Machine learning penetrates deeper into our lives through custom products created with the assistance of artificial intelligence methods. Obviously, that these technologies will develop further, gradually becoming a part of everyday routine in many areas of human professional activity. However, since its occurence, machine learning has managed to acquire numerous problems, the main of which, according to authors, is a rather high labor intensity. The construction of machine learning systems requires a huge amount of time of highly professional specialists both in the field of artificial intelligence and in the subject area to which this technology is applied. In this article we reviewed the main innovations in the field of machine learning methodology, which, can influence significantly on the development of this industry. Also an analysis of modern scientific literature devoted to the development of methodology and areas of applied employment of the issues, we are considering, has been carried out. In addition, assumptions were formulated about future trends in the development of machine learning as a field of scientific and applied knowledge and suggested the most promising areas of research. Such modern technologies in machine learning as the use of pre-trained models, the construction of multitasking systems, neuroevolution, the problem of creating interpreted models were considered. The authors believe that the most promising and relevant technology at the moment is automated machine learning, a complex of instrumental and methodological tools that allows to significantly reduce the share of human participation in the creation of artificial intelligence systems, including the means for automatic validation of simulation results.

Машинное обучениеинтерпретируемостьмультизадачные моделиперенос обучениянейроэволюцияавтоматизированное обучениеMachine learninginterpretabilitymultitask models learningtransfer learningneuroevolutionautomated machine learningReferencesХохлова Д. (2016). Бум нейросетей: Кто делает нейронные сети, зачем они нужны и сколько денег могут приносить, 12.06.2016. Режим доступа: https://vc.ru/16843-neural-networks (дата обращения: 06.09.2018).Caruana R. (1998), Multitask learning springer, Boston, MA, P. 95–133. Dai J., He K, Sun J. (2014), “Instance-aware semantic segmentation via multi-task network cascades”, available at: https://www.cv-foundation.org/openaccess/content_cvpr_2016/app/S14-02.pdf (accessed September 6, 2018).Caruana R. (1998). Multitask learning springer, Boston, MA, P. 95-133.Dong D., Wu H., He W., Yu D. and Wang H. (2015), “Multi-task learning for multiple language translation”, Proceedings of the 53rd annual meeting of the association for computational linguistics and the 7th international joint conference on natural language processing, July 26–31, pp. 1723–1732.Dai J., He K, J. Sun. (2014). Instance-aware semantic segmentation via multi-task network cascades. Режим доступа: https://www.cv-foundation.org/openaccess/content_cvpr_2016/app/S14-02.pdf (дата обращения: 06.09.2018).Ghosn J. & Bengio Y. (1997), “Multi-task learning for stock selection”, available at: http://papers.nips.cc/paper/1221- multi-task-learning-for-stock-selection.pdf (accessed September 6, 2018).Dong D., Wu H., He W., Yu D. and Wang H. (2015). Multi-task learning for multiple language translation // Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing, July 26-31. P. 1723-1732.Kaiser L. et al. (2017), “One model to learn them all”, available at: https://arxiv.org/abs/1706.05137 (accessed September 6, 2018).Ghosn J., Bengio Y. (1997). Multi-task learning for stock selection. Режим доступа: http://papers.nips.cc/paper/1221-multi-task-learning-for-stock-selection.pdf (дата обращения: 06.09.2018).Khokhlova D. (2016), “Neural networks boom: Who makes neural networks, why they are needed and how much money can bring”, June 2, [“Bum nejrosetej: Kto delaet nejronnye seti, zachem oni nuzhny i skol'ko deneg mogut prinosit'”, 02.06.2016], available at: https://vc.ru/16843-neural-networks (accessed September 6, 2018) (accessed September 6, 2018).Kaiser L. [и др.]. (2017). One model to learn them all. ArXiv:1706.05137 [cs.LG]. Режим доступа: https://arxiv.org/abs/1706.05137 (дата обращения: 06.09.2018).Koh P.W. & Liang P. (2017), “Understanding black-box predictions via influence functions”, Proceedings of the 34th international conference on machine learning, PMLR, vol. 70, pp. 1885–1894.Koh P.W., Liang P. (2017). Understanding black-box predictions via influence functions // Proceedings of the 34th International Conference on Machine Learning, PMLR. Vol. 70. P. 1885-1894.Le Q. & Zoph B. (2017), “Google using machine learning to explore neural network architecture”, Research blog, Wednesday, May 17, available at: https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html (accessed September 6, 2018).Le Q. & Zoph B. (2017). Google using machine learning to explore neural network architecture // Research Blog, Wednesday, May 17, 2017. Режим доступа: https://research.googleblog.com/2017/05/using-machine-learning-toexplore. html (дата обращения: 06.09.2018).Li S., Liu Z.-Q. & Chan A. B. (2014), “Heterogeneous multi-task learning for human pose estimation with deep convolutional neural network”, available at: https://www.cv-foundation.org/openaccess/content_cvpr_workshops_2014/ W15/papers/LI_Heterogeneous_Multi-task_Learning_2014_CVPR_paper.pdf (accessed September 6, 2018).Li S., Liu Z.-Q., Chan A. B. (2014). Heterogeneous multi-task learning for human pose estimation with deep convolutional neural network. Режим доступа: https://www.cv-foundation.org/openaccess/content_cvpr_workshops_2014/W15/papers/LI_Heterogeneous_Multi-task_Learning_2014_CVPR_paper.pdf (дата обращения: 06.09.2018).Luong M.-T. et al. (2016), “Multi-task sequence to sequence learning”, ICLR, available at: https://arxiv.org/abs/1511.06114 (accessed September 6, 2018).Luong M.-T. [и др.]. (2015). Multi-task sequence to sequence learning. ICLR 2016. Режим доступа: https://arxiv.org/abs/1511.06114 (дата обращения: 06.09.2018).Misra I., Shrivastava A., Gupta A. & Hebert M. (2016), “Cross-stitch Networks for Multi-task Learning”, available at: https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Misra_Cross-Stitch_Networks_for_CVPR_2016_paper.pdf.(accessed September 6, 2018).Misra I., Shrivastava A., Gupta A., Hebert M. (2016). Cross-stitch networks for multi-task learning. Режим доступа: https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Misra_Cross-Stitch_Networks_for_CVPR_2016_paper.pdf (дата обращения: 06.09.2018).Molnar C. (2018), “Interpretable machine learning”, available at: https://christophm.github.io/interpretable-ml-book/ (accessed September 6, 2018).Molnar C. (2018). Interpretable machine learning. Режим доступа: https://christophm.github.io/interpretable-mlbook/(дата обращения: 06.09.2018).Olson R. (2016), “TPOT: A Python tool for automating data science”, available at: https://www.kdnuggets.com/2016/05/tpot-python-automating-data-science.html/2 (accessed September 6, 2018).Olson R. (2016). TPOT: A Python tool for automating data science. Режим доступа: https://www.kdnuggets.com/2016/05/tpot-python-automating-data-science.html/2 (дата обращения: 06.09.2018).Olson R.S. & Moore J.H. (2016), “TPOT: A tree-based pipeline optimization tool for automating machine learning”, pp. 66–74.Olson R.S., Moore J.H. (2016). TPOT: A tree-based pipeline optimization tool for automating machine learning. P. 66-74.Paredes B.R. et al. (2012), “Exploiting unrelated tasks in multi-task learning”, PMLR, vol. 22, pp. 951–959.Paredes B.R. [и др.]. (2012). Exploiting Unrelated tasks in multi-task learning // PMLR. Vol. 22. P. 951-959.Thornton C. et al. (2013), “Auto-WEKA: combined selection and hyperparameter optimization of classification algorithms ACM”, pp. 847–855.Thornton C. [и др.]. (2013). Auto-WEKA: combined selection and hyperparameter optimization of classification algorithms ACM, P. 847-855.Yao X. (1999). “Evolving artificial neural networks”, Proceedings of the IEEE, no 9 (87), pp. 1423–1447,Yao X. (1999). Evolving artificial neural networks // Proceedings of the IEEE. 1999. № 9 (87). C. 1423-1447.Zhang Y. & Yang Q. (2017), “A survey on multi-task learning”, available at: https://arxiv.org/abs/1707.08114 (accessed September 6, 2018).Zhang Y., Yang Q. (2017). A survey on multi-task learning. Режим доступа: https://arxiv.org/abs/1707.08114 (дата обращения: 06.09.2018).Zoph B. & Le Q.V. (2016), “Neural architecture search with reinforcement learning”, available at: https://arxiv.org/ abs/1611.01578 (accessed September 6, 2018).Zoph B. & Le Q.V. (2016). Neural architecture search with reinforcement learning. Режим доступа: https://arxiv.org/abs/1611.01578 (дата обращения: 06.09.2018).Zoph B. & Le Q.V. (2016). Neural architecture search with reinforcement learning. Режим доступа: https://arxiv.org/abs/1611.01578 (дата обращения: 06.09.2018).

The authors declare that there are no conflicts of interest present.