Обнаружение поддельных новостей в машинном обучении [объяснено на примере кода]

Фейковые новости — одна из самых больших проблем в нынешнюю эпоху Интернета и социальных сетей. Хотя это благословение, что новости передаются из одного уголка мира в другой в течение нескольких часов, также неприятно видеть, как многие люди и группы распространяют фальшивые новости.

Методы машинного обучения с использованием обработки естественного языка и глубокого обучения могут в некоторой степени использоваться для решения этой проблемы. В этом руководстве мы создадим модель обнаружения поддельных новостей с использованием машинного обучения.

К концу этой статьи вы будете знать следующее:

• Обработка текстовых данных
• Методы обработки НЛП
• Векторизация счета и TF-IDF
• Делать прогнозы и классифицировать текст новостей

Присоединяйтесь к онлайн- курсу по искусственному интеллекту и машинному обучению в ведущих университетах мира — магистерским программам, программам последипломного образования для руководителей и продвинутой сертификационной программе по машинному обучению и искусственному интеллекту, чтобы ускорить свою карьеру.

Данные и проблема

Мы будем использовать данные вызова Kaggle Fake News для создания классификатора. Набор данных состоит из 4 функций и 1 бинарной цели. 4 особенности следующие:

1. id : уникальный идентификатор новостной статьи
2. title : название новостной статьи
3. автор : автор новостной статьи
4. text : текст статьи; может быть неполным

И целью является «метка», которая содержит двоичные значения 0 и 1. Где 0 означает, что это надежный источник новостей, или, другими словами, не подделка. 1 означает, что это потенциально фальшивая новость и ненадежная. Набор данных у нас состоял из 20800 экземпляров. Давайте погрузимся прямо в.

Предварительная обработка и очистка данных

Теперь нам нужно удалить экземпляры с отсутствующими данными.

Как мы видим, он отбросил все экземпляры с отсутствующими данными.

Давайте взглянем на данные один раз.

Как мы видим, необходимо выполнить следующие шаги:

• Удаление стоп-слов: есть много слов, которые не добавляют значения любому тексту, независимо от данных. Например, «я», «а», «есть» и т. д. Эти слова не имеют информационной ценности и, следовательно, могут быть удалены, чтобы уменьшить размер нашего корпуса, чтобы мы могли сосредоточиться только на словах/токенах, которые имеют реальную ценность. .
• Основополагающие слова: Стемминг и лемматизация — это методы сведения слов к их основам или корням. Основное преимущество этого шага заключается в уменьшении размера словарного запаса. Например, такие слова, как Play, Playing, Played, будут сокращены до «Play». Stemming просто обрезает слова до самого короткого слова и не принимает во внимание грамматический аспект текста. Лемматизация, с другой стороны, также учитывает грамматику и, следовательно, дает гораздо лучшие результаты. Однако лемматизация обычно выполняется медленнее, чем поиск корней, поскольку она требует обращения к словарю и учета грамматического аспекта.
• Удаление всего, кроме буквенных значений: неалфавитные значения здесь не очень полезны, поэтому их можно удалить. Однако вы можете продолжить исследование, чтобы увидеть, влияет ли наличие числовых или других типов данных на цель.

• Нижний регистр слов: Нижний регистр слов для сокращения словарного запаса.

• Токенизируйте предложения: Генерация токенов из предложений.

Давайте теперь посмотрим на наш корпус.

Как мы видим, слова теперь основаны на корневых словах.

Векторизатор TF-IDF

Теперь нам нужно векторизовать слова в числовые данные, что также называется векторизацией. Самый простой способ векторизации — использовать Bag of Words. Но Bag of Words создает разреженную матрицу и, следовательно, требуется много памяти для обработки. Кроме того, BoW не учитывает частоту слов, что делает его плохим алгоритмом.

TF-IDF (частота терминов — обратная частота документа) — это еще один способ векторизации слов, учитывающий частоты слов. Например, общие слова, такие как «мы», «наш», «тот», присутствуют в каждом документе/экземпляре, поэтому значение BoW будет слишком высоким и, следовательно, вводит в заблуждение. Это приведет к плохой модели. TF-IDF — это произведение частоты термина и обратной частоты документа.

Частота терминов учитывает частоту слов в документе, а обратная частота документов учитывает слова, присутствующие во всем корпусе. Слова, которые присутствуют во всем корпусе, имеют меньшее значение, так как значение IDF намного ниже. Слова, которые присутствуют конкретно в одном документе, имеют высокое значение IDF, что делает общее значение TF-IDF высоким.

В приведенном выше коде мы импортируем векторизатор TF-IDF из модуля извлечения признаков Sklearn. Мы создаем его объект, передавая max_features как 5000 и ngram_range как (1,3). Параметр max_features определяет максимальное количество векторов признаков, которые мы хотим создать, а параметр ngram_range определяет комбинации ngram, которые мы хотим включить. В нашем случае мы получим 3 комбинации из 1 слова, 2 слов и 3 слов. Давайте посмотрим на некоторые из созданных функций.

Как мы видим, образовалось несколько типов комбинаций. Есть имена функций с 1 токеном, 2 токенами, а также с 3 токенами.

Создание кадра данных

Мы разделяем набор данных на обучение и тестирование, чтобы мы могли проверить производительность модели на невидимых данных. Затем мы создаем новый кадр данных, который содержит в себе новые векторы признаков.

Моделирование и настройка

Полиномиальный алгоритм NB

Во-первых, мы используем мультиномиальную наивную теорему Байеса, которая является наиболее распространенным и простым алгоритмом, предпочитаемым для классификации текстовых данных. Мы подходим к обучающим данным и прогнозируем по тестовым данным. Позже мы вычисляем и строим матрицу путаницы и получаем точность 88,1%.

Полиномиальный классификатор с настройкой гиперпараметров

MultinomialNB имеет параметр альфа, который можно дополнительно настроить. Следовательно, мы запускаем цикл, чтобы опробовать несколько классификаторов MultinomialNB с разными значениями альфа и проверить их оценки точности. И мы проверяем, больше ли текущий счет, чем предыдущий счет. Если да, то устанавливаем классификатор текущим.

Следовательно, мы видим, что альфа-значение 0,9 или 0,8 дало наивысшую оценку точности.

Интерпретация результатов

Теперь посмотрим, что означают эти значения коэффициентов классификатора. Сначала мы сохраним все имена функций в другой переменной.

Теперь, когда мы сортируем значения в обратном порядке, мы получаем значения с минимальным значением -4. Они обозначают слова, которые являются наиболее реальными или наименее поддельными.

Когда мы сортируем значения в необратном порядке, мы получаем значения с минимальным значением -10. Они обозначают слова, которые являются наименее реальными или наиболее поддельными.

Заключение

В этом уроке мы использовали только алгоритмы ML, но вы также используете другие методы нейронных сетей. Более того, для векторизации текстовых данных мы использовали векторизатор TF-IDF. Есть больше векторизаторов, таких как Count Vectorizer, Hashing Vectorizer и т. Д., Которые могут лучше выполнять свою работу. Попробуйте и поэкспериментируйте с другими алгоритмами и методами, чтобы увидеть, сможете ли вы добиться лучших результатов или нет.

Если вам интересно узнать больше о машинном обучении, ознакомьтесь с программой Executive PG IIIT-B и upGrad по машинному обучению и искусственному интеллекту , которая предназначена для работающих профессионалов и предлагает более 450 часов интенсивного обучения, более 30 тематических исследований и заданий, IIIT -B статус выпускника, 5+ практических практических проектов и помощь в трудоустройстве в ведущих фирмах.