Deteksi Berita Palsu dalam Pembelajaran Mesin [Dijelaskan dengan Contoh Pengkodean]

Berita palsu adalah salah satu isu terbesar di era internet dan media sosial saat ini. Meskipun merupakan berkah bahwa berita mengalir dari satu sudut dunia ke sudut lain dalam hitungan beberapa jam, juga menyakitkan melihat banyak orang dan kelompok menyebarkan berita palsu.

Teknik Machine Learning menggunakan Natural Language Processing dan Deep Learning dapat digunakan untuk mengatasi masalah ini sampai batas tertentu. Kami akan membangun model Deteksi Berita Palsu menggunakan Machine Learning dalam tutorial ini.

Pada akhir artikel ini, Anda akan mengetahui hal-hal berikut:

• Menangani data teks
• Teknik pemrosesan NLP
• Hitung vektorisasi & TF-IDF
• Membuat prediksi dan mengklasifikasikan teks berita

Bergabunglah dengan kursus AI & ML online dari Universitas top dunia – Magister, Program Pascasarjana Eksekutif, dan Program Sertifikat Tingkat Lanjut di ML & AI untuk mempercepat karir Anda.

Data & Masalah

Kami akan menggunakan data tantangan Berita Palsu Kaggle untuk membuat pengklasifikasi. Dataset terdiri dari 4 fitur dan 1 target biner. 4 fitur tersebut adalah sebagai berikut:

1. id : id unik untuk artikel berita
2. title : judul artikel berita
3. penulis : penulis artikel berita
4. teks : teks artikel; bisa jadi tidak lengkap

Dan targetnya adalah "label" yang berisi nilai biner 0s dan 1s. Dimana 0 berarti sumber berita terpercaya, atau dengan kata lain Bukan Palsu. 1 berarti bahwa itu adalah berita yang berpotensi palsu dan tidak dapat diandalkan. Dataset yang kami miliki terdiri dari 20800 instance. Mari kita selami.

Pra-Pemrosesan & Pembersihan Data

Kita perlu menghapus instance dengan data yang hilang sekarang.

Seperti yang bisa kita lihat, itu menjatuhkan semua instance dengan data yang hilang.

Mari kita lihat datanya sekali.

Seperti yang kita lihat, ada kebutuhan untuk melakukan langkah-langkah berikut:

• Menghapus stopwords: Ada banyak kata yang tidak menambah nilai pada teks apa pun, apa pun datanya. Misalnya, “I”, “a”, “am”, dll. Kata-kata ini tidak memiliki nilai informasi dan karenanya dapat dihapus untuk mengurangi ukuran corpus kita sehingga kita hanya dapat fokus pada kata/token yang bernilai sebenarnya .
• Stemming kata-kata: Stemming dan Lemmatization adalah teknik untuk mengurangi kata-kata ke batang atau akarnya. Keuntungan utama dari langkah ini adalah untuk mengurangi ukuran kosakata. Misalnya, kata-kata seperti Play, Playing, Played akan dikurangi menjadi "Play". Stemming hanya memotong kata menjadi kata terpendek dan tidak mempertimbangkan aspek gramatikal teks. Lemmatisasi, di sisi lain, mempertimbangkan tata bahasa juga dan karenanya menghasilkan hasil yang jauh lebih baik. Namun, Lemmatization biasanya lebih lambat daripada stemming karena perlu mengacu pada kamus dan mempertimbangkan aspek tata bahasa.
• Menghapus semuanya selain nilai alfabet: Nilai non-abjad tidak banyak berguna di sini sehingga dapat dihapus. Namun, Anda dapat menjelajahi lebih jauh untuk melihat apakah kehadiran numerik atau jenis data lainnya berdampak pada target.

• Huruf kecil kata-kata: Huruf kecil kata-kata untuk mengurangi kosakata.

• Tokenize kalimat: Menghasilkan token dari kalimat.

Mari kita lihat corpus kita sekarang.

Seperti yang bisa kita lihat, kata-kata itu sekarang berasal dari kata dasar.

Vektorisasi TF-IDF

Sekarang kita perlu membuat vektorisasi kata-kata menjadi data numerik yang juga disebut vektorisasi. Cara termudah untuk membuat vektor adalah dengan menggunakan Bag of Words. Tetapi Bag of Words membuat matriks yang jarang dan karenanya ada banyak memori pemrosesan yang dibutuhkan. Selain itu, BoW tidak mempertimbangkan frekuensi kata yang menjadikannya algoritma yang buruk.

TF-IDF (Frekuensi Term – Frekuensi Dokumen Terbalik) adalah cara lain untuk membuat vektor kata yang mempertimbangkan frekuensi kata. Misalnya, kata-kata umum seperti “kami”, “milik kami”, “yang” ada di setiap dokumen/instance sehingga nilai BoW akan terlalu tinggi dan karenanya menyesatkan. Ini akan mengarah pada model yang buruk. TF-IDF adalah perkalian dari Term Frequency dan Inverse Document Frequency.

Term Frequency memperhitungkan frekuensi kata dalam dokumen dan Inverse Document Frequency memperhitungkan kata-kata yang ada di seluruh corpus. Kata-kata yang ada di seluruh korpus telah berkurang pentingnya karena nilai IDF jauh lebih rendah. Kata-kata yang ada secara khusus dalam satu dokumen memiliki nilai IDF yang tinggi yang membuat nilai TF-IDF total menjadi tinggi.

Pada kode di atas, kita mengimpor TF-IDF Vectorizer dari modul ekstraksi fitur Sklearn. Kami membuat objeknya dengan melewatkan max_features sebagai 5000 dan ngram_range sebagai (1,3). Parameter max_features menentukan jumlah maksimum vektor fitur yang ingin kita buat dan parameter ngram_range mendefinisikan kombinasi ngram yang ingin kita sertakan. Dalam kasus kami, kami akan mendapatkan 3 kombinasi dari 1 kata, 2 kata, dan 3 kata. Mari kita lihat beberapa fitur yang dibuat.

Seperti yang bisa kita lihat, ada beberapa jenis kombinasi yang terbentuk. Ada nama fitur dengan 1 token, 2 token, dan juga dengan 3 token.

Membuat Dataframe

Kami membagi kumpulan data menjadi pelatihan dan pengujian sehingga kami dapat menguji kinerja model pada data yang tidak terlihat. Kami kemudian membuat Dataframe baru yang berisi vektor fitur baru di dalamnya.

Pemodelan & Penyetelan

Algoritma NB Multinomial

Pertama, kami menggunakan teorema Multinomial Naive Bayes yang merupakan algoritma paling umum dan termudah yang disukai untuk klasifikasi data teks. Kami cocok pada data pelatihan dan memprediksi pada data uji. Kemudian kami menghitung & memplot matriks konfusi dan mendapatkan akurasi 88,1%.

Pengklasifikasi Multinomial dengan Penyetelan Hyperparameter

MultinomialNB memiliki parameter alpha yang dapat disetel lebih lanjut. Oleh karena itu kami menjalankan loop untuk mencoba beberapa pengklasifikasi MultinomialNB dengan nilai alfa yang berbeda dan memeriksa skor akurasinya. Dan kami memeriksa apakah skor saat ini lebih dari skor sebelumnya. Jika ya, maka kami menetapkan pengklasifikasi sebagai yang sekarang.

Oleh karena itu kita dapat melihat bahwa nilai alpha 0,9 atau 0,8 memberikan skor akurasi tertinggi.

Menafsirkan Hasil

Sekarang mari kita lihat apa arti dari nilai koefisien classifier ini. Pertama-tama kita akan menyimpan semua nama fitur di variabel lain.

Sekarang, ketika kami mengurutkan nilai dalam urutan terbalik, kami mendapatkan nilai dengan nilai minimum -4. Ini menunjukkan kata-kata yang paling nyata atau paling tidak palsu.

Saat kami mengurutkan nilai dalam urutan yang tidak terbalik, kami mendapatkan nilai dengan nilai minimum -10. Ini menunjukkan kata-kata yang paling tidak nyata atau paling palsu.

Kesimpulan

Dalam tutorial ini, kami hanya menggunakan algoritma ML tetapi Anda juga menggunakan metode jaringan saraf lainnya. Selain itu, untuk memvektorisasi data teks, kami menggunakan vektorizer TF-IDF. Ada lebih banyak vectorizer seperti Count Vectorizer, Hashing Vectorizer, dll. Juga yang bisa lebih baik dalam melakukan pekerjaan. Cobalah dan bereksperimen dengan algoritme dan teknik lain untuk melihat apakah Anda dapat menghasilkan hasil yang lebih baik atau tidak.

Jika Anda tertarik untuk mempelajari lebih lanjut tentang pembelajaran mesin, lihat Program PG Eksekutif IIIT-B & upGrad dalam Pembelajaran Mesin & AI yang dirancang untuk para profesional yang bekerja dan menawarkan 450+ jam pelatihan ketat, 30+ studi kasus & tugas, IIIT -B Status Alumni, 5+ proyek batu penjuru praktis & bantuan pekerjaan dengan perusahaan-perusahaan top.