Peran Bias dalam Neural Network

Diterbitkan: 2021-03-01

Bias adalah bobot yang tidak proporsional dalam mendukung atau menentang suatu hal atau ide biasanya dengan cara yang merugikan, tidak adil, dan berpikiran tertutup. Dalam kebanyakan kasus, bias dianggap sebagai hal yang negatif karena mengaburkan penilaian Anda dan membuat Anda mengambil keputusan yang tidak rasional.

Namun, peran bias dalam jaringan saraf dan pembelajaran mendalam jauh berbeda. Artikel ini akan menjelaskan sistem bias jaringan saraf dan bagaimana Anda harus menggunakannya.

Daftar isi

Konsep Data Bias

Untuk memahami sistem bias jaringan saraf, pertama-tama kita harus memahami konsep data bias. Setiap kali Anda memberi makan jaringan saraf Anda dengan data, itu memengaruhi perilaku model.

Jadi, jika Anda memberi makan jaringan saraf Anda dengan data bias, Anda seharusnya tidak mengharapkan hasil yang adil dari algoritme Anda. Menggunakan data yang bias dapat menyebabkan sistem Anda memberikan hasil yang sangat cacat dan tidak terduga.

Misalnya, pertimbangkan kasus Tay , chatbot yang diluncurkan oleh Microsoft. Tay adalah chatbot sederhana untuk berbicara dengan orang melalui tweet. Itu seharusnya belajar melalui konten yang diposkan orang di Twitter. Namun, kita semua tahu bagaimana Twitter bisa. Itu menghancurkan Tay.

Alih-alih menjadi chatbot yang sederhana dan manis, Tay berubah menjadi chatbot yang agresif dan sangat ofensif. Orang-orang memanjakannya dengan banyak posting kasar yang memberi data bias ke Tay dan itu hanya mempelajari ungkapan-ungkapan ofensif. Tay dimatikan segera setelah itu.

Pentingnya Bias dalam Neural Network

Meski kasus Tay sangat mengecewakan, bukan berarti semua bias buruk. Faktanya, neuron bias dalam jaringan saraf sangat penting. Dalam literatur jaringan saraf, kami menyebutnya neuron bias.

Jaringan saraf sederhana memiliki tiga jenis neuron:

  1. Neuron masukan
  2. Neuron bias
  3. Neuron Keluaran

Neuron Input hanya melewatkan fitur dari kumpulan data sementara neuron Bias meniru fitur tambahan. Kami menggabungkan neuron Input dengan neuron Bias untuk mendapatkan Neuron Output. Namun, perhatikan bahwa input tambahan selalu sama dengan 1. Output Neuron dapat mengambil input, memprosesnya, dan menghasilkan output seluruh jaringan.

Mari kita ambil contoh model regresi linier untuk memahami sistem bias jaringan saraf.

Dalam regresi linier, kami memiliki neuron Input yang melewati fitur (a1) dan neuron Bias meniru hal yang sama dengan (a0).

Kedua input kita (a1, a0) akan dikalikan dengan bobot masing-masing (w1, w0). Hasilnya, kita akan mendapatkan Output Neuron sebagai jumlah produknya:

i=0 n a i w i

Model regresi linier memiliki i=1 dan a0=1. Jadi representasi matematis dari model tersebut adalah:

y = a 1 w 1 + w 0

Sekarang, jika kita menghapus neuron bias, kita tidak akan memiliki input bias, menyebabkan model kita terlihat seperti ini:

y = a 1 w 1

Perhatikan perbedaannya? Tanpa masukan bias, model kita harus melalui titik asal (0,0) pada grafik. Kemiringan garis kita dapat berubah tetapi hanya akan berputar dari titik asal.

Untuk membuat model kita fleksibel, kita harus menambahkan input bias, yang tidak terkait dengan input apa pun. Ini memungkinkan model untuk bergerak ke atas dan ke bawah grafik tergantung pada persyaratan.

Alasan utama mengapa bias diperlukan dalam jaringan saraf adalah bahwa, tanpa bobot bias, model Anda akan memiliki pergerakan yang sangat terbatas saat mencari solusi.

Pelajari Lebih Lanjut Tentang Sistem Bias Jaringan Neural

Jaringan saraf bertujuan untuk meniru fungsi otak manusia sehingga memiliki banyak kompleksitas. Memahami mereka bisa sangat menantang.

Cara terbaik untuk mempelajari jaringan saraf dan belajar tentang pembelajaran mendalam adalah melalui pembelajaran mesin dan kursus pembelajaran mendalam. Ini akan mengajarkan Anda dasar-dasar dan konsep lanjutan dari bidang ini melalui kurikulum terstruktur.

Kami di upGrad menawarkan Sertifikasi PG dalam program Machine Learning dan Deep Learning dengan IIIT-B. Kursus ini hanya berlangsung selama enam bulan dan sepenuhnya online. Ini berarti Anda dapat belajar dari kenyamanan rumah Anda tanpa mengganggu kehidupan profesional Anda saat mengambil kursus ini.

Anda akan mendapatkan bimbingan pribadi 1:1 dari pakar industri dan lebih dari 240 jam pembelajaran. Anda harus memiliki gelar sarjana dengan nilai kelulusan 50% atau setara agar memenuhi syarat untuk program ini.

Setelah selesai, Anda juga akan mendapatkan bantuan penempatan termasuk pembuatan resume, portal peluang kerja, drive perekrutan dan banyak lagi. Pastikan untuk memeriksa kursus.

Baca Juga: Ide Proyek Pembelajaran Mesin

Pikiran Akhir

Sementara bias dianggap sebagai hal yang buruk dalam kehidupan kita sehari-hari, di dunia jaringan saraf, itu harus dimiliki. Tanpa bias, jaringan Anda tidak akan memberikan hasil yang baik, seperti yang kami bahas dalam artikel hari ini.

Jika Anda mengenal seseorang yang tertarik dengan jaringan saraf atau sedang mempelajari pembelajaran mendalam, bagikan artikel ini dengan mereka.

Bisakah bobot input negatif di jaringan saraf?

Bobot dapat disesuaikan dengan apa pun yang sesuai dengan algoritma pelatihan. Karena penambahan bobot adalah metode yang digunakan oleh generator untuk memperoleh kerapatan peristiwa yang tepat, menerapkannya dalam jaringan harus melatih jaringan yang juga mengasumsikan kerapatan peristiwa yang benar. Sebenarnya, bobot negatif hanya menandakan bahwa peningkatan input yang diberikan menyebabkan output menurun. Dengan demikian, bobot input dalam jaringan saraf bisa negatif.

Bagaimana kita bisa mengurangi bias dalam jaringan saraf dari organisasi mana pun?

Organisasi harus menetapkan standar, peraturan, dan prosedur untuk mengenali, mengungkapkan, dan mengurangi bias kumpulan data apa pun untuk menjaga agar bias tetap terkendali. Organisasi juga harus mempublikasikan teknik pemilihan dan pembersihan data mereka, yang memungkinkan orang lain untuk menganalisis kapan dan jika model mencerminkan semua jenis bias. Namun, hanya memastikan bahwa kumpulan data tidak bias tidak akan menghilangkannya sepenuhnya. Oleh karena itu, memiliki tim individu yang beragam yang bekerja pada pengembangan AI harus tetap menjadi tujuan penting bagi organisasi.

Ketika ada tren dalam data input, bandwagoning berkembang, yang merupakan jenis bias. Data yang mengkonfirmasi kecenderungan ini tumbuh sejalan dengan tren. Akibatnya, para ilmuwan data menghadapi bahaya melebih-lebihkan konsep dalam data yang mereka kumpulkan. Selain itu, relevansi apa pun dalam data mungkin bersifat sementara: efek kereta musik dapat menghilang secepat kemunculannya.