<?xml version="1.0" encoding="UTF-8"?>
<article xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:noNamespaceSchemaLocation="JATS-archive-oasis-article1-4.xsd" article-type="research-article" dtd-version="1.4" xml:lang="ru">
  <front>
    <journal-meta>
      <journal-title-group>
        <journal-title>Журнал Современные наукоемкие технологии</journal-title>
      </journal-title-group>
      <issn>1812-7320</issn>
      <publisher>
        <publisher-name>Общество с ограниченной ответственностью &amp;quot;Издательский Дом &amp;quot;Академия Естествознания&amp;quot;</publisher-name>
      </publisher>
    </journal-meta>
    <article-meta>
      <article-id pub-id-type="doi">10.17513/snt.38215</article-id>
      <article-id pub-id-type="publisher-id">ART-38215</article-id>
      <title-group>
        <article-title>ДЕРЕВЬЯ РЕШЕНИЙ В ЗАДАЧАХ КЛАССИФИКАЦИИ: ОСОБЕННОСТИ ПРИМЕНЕНИЯ И МЕТОДЫ ПОВЫШЕНИЯ КАЧЕСТВА КЛАССИФИКАЦИИ</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Полин</surname>
              <given-names>Я.А.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Polin</surname>
              <given-names>Y.A.</given-names>
            </name>
          </name-alternatives>
          <email>polin.ya@mail.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Зудилова</surname>
              <given-names>Т.В.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Zudilova</surname>
              <given-names>T.V.</given-names>
            </name>
          </name-alternatives>
          <email>zudilova@itmo.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Ананченко</surname>
              <given-names>И.В.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Ananchenko</surname>
              <given-names>I.V.</given-names>
            </name>
          </name-alternatives>
          <email>anantchenko@yandex.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Войтюк</surname>
              <given-names>Т.Е.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Voitiuk</surname>
              <given-names>T.E.</given-names>
            </name>
          </name-alternatives>
          <email>taire2006@yandex.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
      </contrib-group>
      <aff id="aff1">
        <institution xml:lang="ru">Национальный исследовательский университет информационных технологий</institution>
        <institution xml:lang="en">ITMO University</institution>
      </aff>
      <pub-date date-type="pub" iso-8601-date="2020-09-02">
        <day>02</day>
        <month>09</month>
        <year>2020</year>
      </pub-date>
      <issue>9</issue>
      <fpage>59</fpage>
      <lpage>63</lpage>
      <permissions>
        <license xlink:href="https://creativecommons.org/licenses/by/4.0/">
          <license-p>This is an open-access article distributed under the terms of the CC BY 4.0 license.</license-p>
        </license>
      </permissions>
      <self-uri content-type="url" hreflang="ru">https://top-technologies.ru/article/view?id=38215</self-uri>
      <abstract xml:lang="ru" lang-variant="original" lang-source="author">
        <p>В статье рассматриваются аспекты применения деревьев и леса решений для задач классификации. Большинство современных информационных систем, приложений, рекомендательных систем используют деревья решений в задачах, где необходимо определить принадлежность объекта к некоторому классу из непересекающегося множества классов. К таким задачам можно отнести системы распознавания текста, речи, когнитивного поиска, анализ изображений, жестов, выявление спама и другие нелинейные задачи. Рассмотрена математическая модель задачи классификации с использованием деревьев решений и леса решений. Приводится обзор особенностей деревьев решений, которые целесообразны для подобных задач, а также такие их достоинства и недостатки, как автоматический отбор признаков, интерпретируемость механизма принятия решений, управляемость и автономность вершин, зависимость от сбалансированности числа обучающих примеров разных классов, переобучение, экспоненциальное уменьшение обучающей выборки, разбалансировка. Описаны методы, которые можно использовать для устранения проблемы, возникающей при уменьшении тренировочной выборки, а именно случайное перемешивание и добавление схожих примеров в выборку. Затронут вопрос тестирования классификаций с помощью метода скользящего контроля. Уделяется внимание вопросам балансировки обучающей выборки и применения методов, позволяющих избежать переобучения.</p>
      </abstract>
      <abstract xml:lang="en" lang-variant="translation" lang-source="translator">
        <p>The article considers the aspects of applying tree and forest solutions to classification problems. Most modern information systems, applications, and recommendation systems use decision trees in tasks where it is necessary to determine whether an object belongs to a certain class from a disjoint set of classes. These tasks include text recognition, speech recognition, cognitive search, image analysis, gestures, spam detection, and other non-linear tasks. A mathematical model of the classification problem using decision trees and decision forests is considered. An overview of the features of decision trees that are convenient for such problems, as well as their advantages and disadvantages, such as automatic feature selection, interpretability of the decision-making mechanism, manageability and autonomy of vertices, dependence on the balance of the number of training examples of different classes, retraining, exponential reduction of the training sample, and unbalancing. We describe methods that can be used to solve the problem that occurs when reducing the training sample, namely, random mixing and adding similar examples to the sample. The question of testing classification using the sliding control method is raised. Attention is paid to balancing the training sample and applying methods that avoid overtraining.</p>
      </abstract>
      <kwd-group xml:lang="ru">
        <kwd>качество классификации</kwd>
        <kwd>деревья решений</kwd>
        <kwd>классификаторы</kwd>
        <kwd>алгоритмы</kwd>
        <kwd>машинное обучение</kwd>
      </kwd-group>
      <kwd-group xml:lang="en">
        <kwd>quality of classification</kwd>
        <kwd>decision trees</kwd>
        <kwd>classifiers</kwd>
        <kwd>algorithms</kwd>
        <kwd>machine learning</kwd>
      </kwd-group>
    </article-meta>
  </front>
  <back>
    <ref-list>
      <ref>
        <note>
          <p>1. Breiman L. Random Forests. Machine Learning. 2001. Vol. 45(1). Р. 5–32.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>2. Sedgewick R., Wayne K. Algorithms (4th Edition). Boston, Addison-Wesley Professional, 2011. 992 p.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>3. Чистяков C.П. Случайные леса: Обзор // Труды Карельского научного центра РАН. 2013. № 1. С. 117–136.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>4. Синяев И.Ф., Шестернева О.В. Исследование bagging подхода при построении ансамбля моделей для повышения точности классификации // Актуальные проблемы авиации и космонавтики. 2014. № 10. С. 300.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>5. Chen Tianqi, Guestrin Carlos. XGBoost: A Scalable Tree Boosting System. In Krishnapuram Balaji; Shah Mohak, Smola Alexander J., Aggarwal Charu C., Shen Dou, Rastogi, Rajeev (eds.). Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, San Francisco, CA, USA, August 13-17, 2016. ACM. Р. 785–794.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>6. Arlot Sylvain, Celisse Alain. A survey of cross-validation procedures for model selection. Statist. Surv. 2010. Vol. 4. P. 40–79.</p>
        </note>
      </ref>
    </ref-list>
  </back>
</article>
