Применение алгоритмов интеллектуального анализа текстовых данных

Тема выпускной квалификационной работы – «Применение алгоритмов интеллектуального анализа текстовых данных».

Как показывает практика текстовой аналитики, наиболее эффективными средствами повышения качества анализа текстов являются методы и алгоритмы интеллектуального анализа данных.

Применение алгоритмов интеллектуального анализа текстовых данных представляет актуальность и научно-практический интерес.

Введение.................................................................................................................. 5

Глава 1 Обзор и анализ методов и алгоритмов интеллектуального анализа текстовых данных..................................................................................................................... 7

1.1 Метод токенизации................................................................................. 9

1.2 Частота термина в документе (TF-IDF)................................................ 13

1.3 Методы стемминга и лемматизации..................................................... 15

1.4 Стоп-листинг........................................................................................ 19

Глава 2 Обзор и анализ алгоритмов интеллектуального анализа текстовых

данных................................................................................................................... 22

2.1 Алгоритмы токенизации...................................................................... 22

2.2 Алгоритм TF-IDF................................................................................. 26

2.3 Алгоритм лемматизации WordNet....................................................... 29

2.4 Алгоритмы стоп-листинга.................................................................... 31

Глава 3 Разработка программы интеллектуального анализа текстовых данных ... 35 3.1 Выбор среды разработки программы............................................................. 35

3.1.1 Интегрированная среда разработки Visual Studio + Python Tools for Visual Studio........................................................................................................... 35

3.1.2 Интегрированная среда разработки PyCharm..................................... 37

3.1.3 Интегрированная среда разработки Eclipse + PyDEv......................... 38

3.2 Реализация и тестирование программы............................................... 41

Заключение............................................................................................................ 44

Список используемой литературы........................................................................ 45

1. Библиотека NTLK [Электронный ресурс]. URL: http://www.nltk.org/ (дата обращения: 10.06.2021).

2. ВКонтакте опубликовали библиотеку для предобработки текстовых данных [Электронный ресурс]. URL: https://neurohive.io/ru/novosti/vkontakte- opublikovali-biblioteku-dlya-predobrabotki-tekstovyh-dannyh/ (дата обращения: 10.06.2021).

3. Кластеризация и классификация больших текстовых данных с помощью машинного обучения на Java [Электронный ресурс]. URL: https://itnan.ru/post.php?c=1&p=529548 (дата обращения: 10.06.2021).

4. Краткое руководство. Знакомство с интегрированной средой разработки Visual Studio [Электронный ресурс]. URL: https://docs.microsoft.com/ru-ru/visualstudio/ide/quickstart-ide-orientation?view=vs- 2019 (дата обращения: 10.06.2021).

5. Ле Мань Ха. Оптимизация алгоритма KNN для классификации // ТРУДЫ МФТИ. 2016. Том 8, № 1. С. 92-94.

6. Левенштейн В.И. Двоичные коды с исправлением выпадений, вставок и замещений символов // Докл. АН СССР. 1965. 163 (4). C. 845–848.

7. Метод TF-IDF [Электронный ресурс]. URL: https://ru.wikipedia.org/wiki/TF-IDF (дата обращения: 10.06.2021).

8. Отраднов К.К., Раев В.К. Экспериментальное исследование эффективности методик векторизации текстовых документов и алгоритмов их кластеризации. Вестник РГРТУ. 2018. № 64. С. 74-82.