<?xml version="1.0" encoding="UTF-8"?>
<article xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:noNamespaceSchemaLocation="JATS-archive-oasis-article1-4.xsd" article-type="research-article" dtd-version="1.4" xml:lang="ru">
  <front>
    <journal-meta>
      <journal-title-group>
        <journal-title>Журнал Современные наукоемкие технологии</journal-title>
      </journal-title-group>
      <issn>1812-7320</issn>
      <publisher>
        <publisher-name>Общество с ограниченной ответственностью &amp;quot;Издательский Дом &amp;quot;Академия Естествознания&amp;quot;</publisher-name>
      </publisher>
    </journal-meta>
    <article-meta>
      <article-id pub-id-type="doi">10.17513/snt.38780</article-id>
      <article-id pub-id-type="publisher-id">ART-38780</article-id>
      <title-group>
        <article-title>ИССЛЕДОВАНИЕ СТРУКТУРЫ И СОДЕРЖАНИЯ КОМПЕТЕНЦИЙ С ПОМОЩЬЮ ЯЗЫКОВОЙ МОДЕЛИ ELMO</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Гиниятуллин</surname>
              <given-names>В.М.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Giniyatullin</surname>
              <given-names>V.M.</given-names>
            </name>
          </name-alternatives>
          <email>fentazer@mail.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Ермолаев</surname>
              <given-names>Е.В.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Ermolaev</surname>
              <given-names>E.V.</given-names>
            </name>
          </name-alternatives>
          <email>evg.ermo2009@gmail.com</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Салихова</surname>
              <given-names>М.А.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Salikhova</surname>
              <given-names>M.A.</given-names>
            </name>
          </name-alternatives>
          <email>m.salikhova@mail.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Хлыбов</surname>
              <given-names>А.В.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Khlybov</surname>
              <given-names>A.V.</given-names>
            </name>
          </name-alternatives>
          <email>brinkinvision@gmail.com</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Чурилов</surname>
              <given-names>Д.А.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Churilov</surname>
              <given-names>D.A.</given-names>
            </name>
          </name-alternatives>
          <email>dimok83@mail.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name xml:lang="ru">
              <surname>Чурилова</surname>
              <given-names>Е.А.</given-names>
            </name>
          </name-alternatives>
          <name-alternatives>
            <name xml:lang="en">
              <surname>Churilova</surname>
              <given-names>E.A.</given-names>
            </name>
          </name-alternatives>
          <email>churilova52009@yandex.ru</email>
          <xref ref-type="aff" rid="aff1"/>
        </contrib>
      </contrib-group>
      <aff id="aff1">
        <institution xml:lang="ru">ФГБОУ ВО «Уфимский государственный нефтяной технический университет»</institution>
        <institution xml:lang="en">Ufa State Petroleum Technological University</institution>
      </aff>
      <pub-date date-type="pub" iso-8601-date="2021-08-01">
        <day>01</day>
        <month>08</month>
        <year>2021</year>
      </pub-date>
      <issue>8</issue>
      <fpage>58</fpage>
      <lpage>65</lpage>
      <permissions>
        <license xlink:href="https://creativecommons.org/licenses/by/4.0/">
          <license-p>This is an open-access article distributed under the terms of the CC BY 4.0 license.</license-p>
        </license>
      </permissions>
      <self-uri content-type="url" hreflang="ru">https://top-technologies.ru/article/view?id=38780</self-uri>
      <abstract xml:lang="ru" lang-variant="original" lang-source="author">
        <p>Появление нового образовательного стандарта (ФГОС), главным отличием которого от предыдущего стала ориентация на результаты обучения студентов, обеспечило диалог между образовательным учреждением и рынком труда, что позволило полученные студентами знания и навыки применять при построении карьеры. Однако переход на новый образовательный стандарт не обошелся без появления новых проблем. Одной из них является отсутствие конкретики и однозначного понимания состава формулировок компетенций и соответствующих им результатов обучения. В данной статье предложена методика оценки и анализа формулировок результатов обучения, основанная на предположении, что получаемые векторы этих формулировок являются ортогональными друг другу. Векторы были получены с помощью языковой модели ELMO и затем поданы на вход двум метрикам: евклидовому расстоянию и косинусной мере. Были отобраны как лучшие по расчету формулировки, так и худшие. По результатам анализа и сравнения было выявлено, что в лучших формулировках преимущественно используются разные слова, также они обладают малой длиной фраз. Худшие формулировки являются таковыми потому, что в них используются одинаковые слова и фразы. Была предложена рекомендация использовать в качестве порогового значения для евклидова расстояния 7, а для косинусной меры 0,6. Для получения представления о том, как работает модель ELMO, была предпринята попытка упрощения расчета за счет уменьшения размерности векторов. Упрощение позволило сделать следующий вывод: если векторы пересекаются в пиковых значениях, то они являются семантически близкими друг к другу, и наоборот.</p>
      </abstract>
      <abstract xml:lang="en" lang-variant="translation" lang-source="translator">
        <p>The emergence of a new educational standard (FSES), the main difference of which from the previous one was the focus on student learning outcomes, provided a dialogue between the educational institution and the labor market, which allowed the knowledge and skills acquired by students to be applied in building a career. However, the transition to a new educational standard was not without new problems. One of them is the lack of specificity and unambiguous understanding of the content of the formulations of competencies and the corresponding learning outcomes. This article proposes a methodology for assessment and analyzing the formulations of learning outcomes based on the assumption that the resulting vectors of these formulations are orthogonal to each other. These vectors were obtained using the ELMO language model and then fed into two metrics: Euclidean distance and cosine measure. Both the best formulations in terms of calculation and the worst were selected. According to the results of the analysis and comparison, it was revealed that in the best formulations, different words are mainly used, and they also have a short phrase length. The worst formulations are so because they use the same words and phrases. A recommendation was made to use 7 as the threshold value for the Euclidean distance and 0,6 for the cosine measure. To get an idea of how the ELMO model works an attempt was made to simplify the calculation by reducing the dimension of the vectors. Simplification made it possible to draw the following conclusion: if vectors intersect at peak values, then they are semantically close to each other, and vice versa.</p>
      </abstract>
      <kwd-group xml:lang="ru">
        <kwd>федеральный государственный образовательный стандарт</kwd>
        <kwd>компетенция</kwd>
        <kwd>языковая модель</kwd>
        <kwd>векторное представление</kwd>
        <kwd>нейронная сеть</kwd>
      </kwd-group>
      <kwd-group xml:lang="en">
        <kwd>federal state educational standard</kwd>
        <kwd>competencies</kwd>
        <kwd>language model</kwd>
        <kwd>vector representation</kwd>
        <kwd>neural network</kwd>
      </kwd-group>
    </article-meta>
  </front>
  <back>
    <ref-list>
      <ref>
        <note>
          <p>1. Приказ Министерства образования и науки РФ от 12.01.2016 № 5 «Об утверждении федерального государственного образовательного стандарта высшего образования по направлению подготовки 09.03.01 Информатика и вычислительная техника (уровень бакалавриата)». [Электронный ресурс]. URL: http://base.garant.ru/71328468/ (дата обращения: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>2. Положение об основных профессиональных образовательных программах высшего образования – программах бакалавриата, программах специалитета, программах магистратуры, реализуемых федеральным государственным бюджетным образовательным учреждением высшего образования «Уфимский государственный нефтяной технический университет» (УГНТУ), утв. Приказом по УГНТУ от 04.09.2017 № 570-4. [Электронный реурс]. URL: http://rusoil.net/files/2019-06/Polozhenie-ob-OPOP.pdf (дата обращения: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>3. Щербакова Е.А. Система оценки уровня сформированности компетенций и результатов обучения // Учебный центр подготовки руководителей Высшей школы экономики. Саратов: ФГБОУ ВПО «Саратовский государственный университет им. Н.Г. Чернышевского», 2014. 33 с.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>4. Чучалин А.И. Образовательные стандарты ведущих российских вузов // Высшее образование в России. 2018. № 4. С. 14–25.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>5. Мишин И.Н. Критическая оценка формирования перечня компетенций в ФГОС ВО 3++ // Высшее образование в России. 2018. № 4. С. 66–75.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>6. Гиниятуллин В.М., Салихова М.А., Хлыбов А.В., Чурилов Д.А., Чурилова Е.А. Оценка семантической близости между критериями оценивания в рабочих программах вуза // Современные наукоемкие технологии. 2021. № 1. С. 12–19.</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>7. Рабочие программы дисциплин (бакалавриат). Новосибирский государственный университет. [Электронный ресурс]. URL: https://www.nsu.ru/n/geology-geophysics-department/students/rabochie-programma-distsiplin/ (дата обращения: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>8. Информация по образовательным программам. Омский государственный педагогический университет. [Электронный ресурс]. URL: https://omgpu.ru/sveden/education3 (дата обращения: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>9. Peters M.E., Neumann M., Iyyer M., Gardner M., Clark C., Lee K., Zettlemoyer L. Deep contextualized word representations. [Electronic resource]. 2018. URL: https://arxiv.org/abs/1802.05365 (date of access: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>10. Pre-trained embeddings. ELMO on Russian WMT News. [Electronic resource]. URL: http://files.deeppavlov.ai/deeppavlov_data/elmo_ru-news_wmt11-16_1.5M_steps.tar.gz. (date of access: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>11. Meraldo A. Word Embedding, Character Embedding and Contextual Embedding in BIDAF – an Illustrated Guide. [Electronic resource]. 2019. URL: https://towardsdatascience.com/the-definitive-guide-to-bidaf-part-2-word-embedding-character-embedding-and-contextual-c151fc4f05bb (date of access: 21.07.2021).</p>
        </note>
      </ref>
      <ref>
        <note>
          <p>12. Prateek J. A Step-by-Step NLP Guide to Learn ELMO for Extracting Features from Text. [Electronic resource]. 2019. URL: https://www.analyticsvidhya.com/blog/2019/03/learn-to-use-elmo-to-extract-features-from-text/ (date of access: 21.07.2021).</p>
        </note>
      </ref>
    </ref-list>
  </back>
</article>
