Detecção de notícias falsas no aprendizado de máquina [explicado com exemplo de codificação]

As notícias falsas são um dos maiores problemas da era atual da internet e das mídias sociais. Embora seja uma bênção que as notícias fluam de um canto do mundo para outro em questão de algumas horas, também é doloroso ver muitas pessoas e grupos espalhando notícias falsas.

Técnicas de aprendizado de máquina usando processamento de linguagem natural e aprendizado profundo podem ser usadas para resolver esse problema até certo ponto. Estaremos construindo um modelo de detecção de notícias falsas usando aprendizado de máquina neste tutorial.

Ao final deste artigo, você saberá o seguinte:

• Manipulando dados de texto
• Técnicas de processamento de PNL
• Contagem de vetorização e TF-IDF
• Fazendo previsões e classificando o texto das notícias

Participe do curso de IA e ML on-line das melhores universidades do mundo - mestrados, programas de pós-graduação executiva e programa de certificação avançada em ML e IA para acelerar sua carreira.

Dados e problema

Usaremos os dados do desafio Kaggle Fake News para fazer um classificador. O conjunto de dados consiste em 4 recursos e 1 destino binário. As 4 características são as seguintes:

1. id : id exclusivo para um artigo de notícias
2. title : o título de uma notícia
3. autor : autor da notícia
4. texto : o texto do artigo; pode estar incompleto

E o alvo é “label” que contém valores binários 0s e 1s. Onde 0 significa que é uma fonte confiável de notícias, ou em outras palavras, Not Fake. 1 significa que é uma notícia potencialmente falsa e não confiável. O conjunto de dados que temos consistiu em 20.800 instâncias. Vamos mergulhar direto.

Pré-processamento e limpeza de dados

Precisamos descartar instâncias com dados ausentes agora.

Como podemos ver, todas as instâncias com dados ausentes foram descartadas.

Vamos dar uma olhada nos dados uma vez.

Como podemos ver, é necessário seguir os seguintes passos:

• Remoção de palavras irrelevantes: Existem muitas palavras que não agregam valor a nenhum texto, independentemente dos dados. Por exemplo, "eu", "um", "sou", etc. Essas palavras não têm valor informativo e, portanto, podem ser removidas para reduzir o tamanho do nosso corpus para que possamos nos concentrar apenas nas palavras/tokens que são de valor real .
• Stemming as palavras: Stemming e Lematization são as técnicas para reduzir as palavras a seus radicais ou raízes. A principal vantagem desta etapa é reduzir o tamanho do vocabulário. Por exemplo, palavras como Play, Playing, Played serão reduzidas para “Play”. Stemming apenas trunca as palavras para a palavra mais curta e não leva em consideração o aspecto gramatical do texto. A lematização, por outro lado, também leva em consideração gramatical e, portanto, produz resultados muito melhores. No entanto, a Lematização geralmente é mais lenta do que a derivação, pois precisa consultar o dicionário e levar em consideração o aspecto gramatical.
• Removendo tudo além de valores alfabéticos: Os valores não alfabéticos não são muito úteis aqui, então eles podem ser removidos. No entanto, você pode explorar mais para ver se a presença de dados numéricos ou outros tipos de dados tem algum impacto no destino.

• Minúsculas as palavras: Minúsculas as palavras para reduzir o vocabulário.

• Tokenize as sentenças: Gerando tokens a partir de sentenças.

Vamos dar uma olhada no nosso corpus agora.

Como podemos ver, as palavras agora são derivadas de palavras-raiz.

Vetorizador TF-IDF

Agora precisamos vetorizar as palavras para dados numéricos, o que também é chamado de vetorização. A maneira mais fácil de vetorizar é usar o Saco de Palavras. Mas Bag of Words cria uma matriz esparsa e, portanto, é necessária muita memória de processamento. Além disso, o BoW não leva em consideração a frequência das palavras, o que o torna um algoritmo ruim.

TF-IDF (Term Frequency – Inverse Document Frequency) é outra forma de vetorizar palavras que leva em consideração as frequências das palavras. Por exemplo, palavras comuns como “nós”, “nosso”, “o” estão em todos os documentos/instâncias, portanto, o valor de BoW será muito alto e, portanto, enganoso. Isso levará a um modelo ruim. TF-IDF é a multiplicação da Frequência do Termo e da Frequência Inversa do Documento.

Term Frequency leva em conta a frequência de palavras em um documento e Inverse Document Frequency leva em conta as palavras que estão presentes em todo o corpus. As palavras que estão presentes em todo o corpus têm importância reduzida, pois o valor do IDF é muito menor. As palavras que estão presentes especificamente em um documento têm um valor IDF alto, o que torna o valor total de TF-IDF alto.

No código acima, importamos o TF-IDF Vectorizer do módulo de extração de recursos do Sklearn. Fazemos seu objeto passando max_features como 5000 e ngram_range como (1,3). O parâmetro max_features define o número máximo de vetores de recursos que queremos criar e o parâmetro ngram_range define as combinações de ngram que queremos incluir. No nosso caso, teremos 3 combinações de 1 palavra, 2 palavras e 3 palavras. Vamos dar uma olhada em alguns dos recursos criados.

Como podemos ver, existem vários tipos de combinações formadas. Existem nomes de recursos com 1 token, 2 tokens e também com 3 tokens.

Fazendo um Dataframe

Dividimos o conjunto de dados em treinar e testar para que possamos testar o desempenho do modelo em dados não vistos. Em seguida, criamos um novo Dataframe que contém os novos vetores de recursos.

Modelagem e Ajuste

Algoritmo MultinomialNB

Primeiro, usamos o teorema Multinomial Naive Bayes que é o algoritmo mais comum e mais fácil preferido para classificação de dados de texto. Nós nos encaixamos nos dados de treinamento e prevemos nos dados de teste. Mais tarde, calculamos e plotamos a matriz de confusão e obtemos uma precisão de 88,1%.

Classificador multinomial com ajuste de hiperparâmetro

MultinomialNB tem um parâmetro alfa que pode ser ajustado ainda mais. Portanto, executamos um loop para experimentar vários classificadores MultinomialNB com diferentes valores de alfa e verificar suas pontuações de precisão. E verificamos se a pontuação atual é maior que a pontuação anterior. Se for, então definimos o classificador como o atual.

Portanto, podemos ver que um valor alfa de 0,9 ou 0,8 deu a maior pontuação de precisão.

Interpretando os Resultados

Agora vamos ver o que esses valores de coeficiente do classificador significam. Primeiro, salvaremos todos os nomes de recursos em outra variável.

Agora, quando ordenamos os valores na ordem inversa, obtemos valores com um valor mínimo de -4. Estas denotam as palavras que são mais reais ou menos falsas.

Quando ordenamos os valores em ordem não inversa, obtemos valores com valor mínimo de -10. Estas denotam as palavras que são menos reais ou mais falsas.

Conclusão

Neste tutorial, usamos apenas algoritmos de ML, mas você também usa outros métodos de redes neurais. Além disso, para vetorizar os dados de texto, utilizou-se o vetorizador TF-IDF. Existem mais vetorizadores como Count Vectorizer, Hashing Vectorizer, etc., que podem ser melhores em fazer o trabalho. Experimente e experimente outros algoritmos e técnicas para ver se você pode produzir melhores resultados ou não.

Se você estiver interessado em aprender mais sobre aprendizado de máquina, confira o Programa PG Executivo do IIIT-B e do upGrad em Machine Learning e IA , projetado para profissionais que trabalham e oferece mais de 450 horas de treinamento rigoroso, mais de 30 estudos de caso e atribuições, IIIT -B Alumni status, mais de 5 projetos práticos práticos e assistência de trabalho com as principais empresas.