ニューラルネットワークにおけるバイアスの役割

公開: 2021-03-01

偏見は、物事やアイデアに賛成または反対する不釣り合いな重みであり、通常は不利で、不公平で、心を閉ざします。ほとんどの場合、バイアスはあなたの判断を曇らせ、あなたに不合理な決定をさせるので、否定的なものと見なされます。

ただし、ニューラルネットワークと深層学習におけるバイアスの役割は大きく異なります。この記事では、ニューラルネットワークバイアスシステムとその使用方法について説明します。

バイアスされたデータの概念

ニューラルネットワークのバイアスシステムを理解するには、まずバイアスデータの概念を理解する必要があります。ニューラルネットワークにデータを供給するときはいつでも、それはモデルの振る舞いに影響を与えます。

したがって、バイアスのかかったデータをニューラルネットワークに供給する場合、アルゴリズムから公正な結果を期待するべきではありません。偏ったデータを使用すると、システムに非常に欠陥のある予期しない結果が生じる可能性があります。

たとえば、 Microsoftが立ち上げたチャットボットであるTayの場合を考えてみましょう。 Tayは、ツイートを通じて人々と話すためのシンプルなチャットボットでした。人々がツイッターに投稿するコンテンツを通して学ぶことになっていた。しかし、私たちは皆、Twitterがどのようになり得るかを知っています。それはテイを破壊した。

Tayは、シンプルで甘いチャットボットではなく、攻撃的で非常に攻撃的なチャットボットになりました。人々は、偏ったデータをTayに提供する多数の虐待的な投稿でそれを台無しにしており、不快な言い回ししか学習していませんでした。その後すぐにテイはオフになりました。

ニューラルネットワークにおけるバイアスの重要性

テイの場合は非常に残念でしたが、それはすべての偏見が悪いという意味ではありません。実際、ニューラルネットワークのバイアスのニューロンは非常に重要です。ニューラルネットワークの文献では、それらをバイアスニューロンと呼んでいます。

単純なニューラルネットワークには、次の3種類のニューロンがあります。

入力ニューロン
バイアスニューロン
出力ニューロン

入力ニューロンはデータセットから機能を渡すだけですが、バイアスニューロンは追加の機能を模倣します。入力ニューロンとバイアスニューロンを組み合わせて、出力ニューロンを取得します。ただし、追加の入力は常に1に等しいことに注意してください。出力ニューロンは入力を受け取り、それらを処理して、ネットワーク全体の出力を生成できます。

ニューラルネットワークのバイアスシステムを理解するために、線形回帰モデルの例を見てみましょう。

線形回帰では、入力ニューロンが特徴（a1）を通過し、バイアスニューロンが（a0）と同じものを模倣します。

両方の入力（a1、a0）に、それぞれの重み（w1、w0）が掛けられます。その結果、出力ニューロンはそれらの積の合計として取得されます。

i = 0 n a i w i

線形回帰モデルには、i=1とa0=1があります。したがって、モデルの数学的表現は次のとおりです。

y = a 1 w 1 + w 0

ここで、バイアスニューロンを削除すると、バイアス入力がなくなり、モデルは次のようになります。

y = a 1 w 1

違いに気づきましたか？バイアス入力がない場合、モデルはグラフの原点（0,0）を通過する必要があります。線の傾きは変化する可能性がありますが、原点からのみ回転します。

モデルを柔軟にするには、どの入力にも関係のないバイアス入力を追加する必要があります。これにより、要件に応じてモデルをグラフの上下に移動できます。

ニューラルネットワークでバイアスが必要な主な理由は、バイアスの重みがないと、ソリューションを探すときにモデルの動きが非常に制限されるためです。

ニューラルネットワークバイアスシステムの詳細

ニューラルネットワークは、人間の脳の機能を模倣することを目的としているため、多くの複雑さがあります。それらを理解することは非常に難しい場合があります。

ニューラルネットワークを研究し、深層学習について学ぶための最良の方法は、機械学習と深層学習のコースを受講することです。構造化されたカリキュラムを通じて、これらの分野の基本と高度な概念を学びます。

upGradは、 IIIT-Bを使用した機械学習およびディープラーニングプログラムのPG認定を提供しています。コースは6か月間のみ続き、完全にオンラインです。これは、このコースを受講している間、職業生活を中断することなく、自宅の快適さから勉強できることを意味します。

業界の専門家から1対1の個別指導を受け、240時間以上の学習が可能です。このプログラムの資格を得るには、50％または同等の合格点の学士号を取得している必要があります。

完了後は、履歴書の作成、求人ポータル、採用ドライブなどの配置支援も受けられます。必ずコースをチェックしてください。

また読む：機械学習プロジェクトのアイデア

最終的な考え

バイアスは私たちの日常生活では悪いことだと考えられていますが、ニューラルネットワークの世界では必需品です。今日の記事で取り上げたように、バイアスがなければ、ネットワークは良い結果をもたらさないでしょう。

ニューラルネットワークに興味がある人やディープラーニングを勉強している人を知っている場合は、この記事を共有してください。

ニューラルネットワークで入力の重みを負にすることはできますか？

重みは、トレーニングアルゴリズムが適切であると判断したものに合わせて調整できます。重みの追加は、ジェネレータが適切なイベント密度を取得するために使用する方法であるため、重みをネットワークに適用すると、正しいイベント密度も想定するネットワークをトレーニングする必要があります。実際、負の重みは、与えられた入力を増やすと出力が減少することを単に意味します。したがって、ニューラルネットワークの入力の重みは負になる可能性があります。

組織のニューラルネットワークのバイアスをどのように減らすことができますか？

組織は、バイアスを制御下に保つために、データセットのバイアスを認識、開示、および軽減するための標準、規制、および手順を確立する必要があります。組織はまた、データの選択とクレンジングの手法を公開して、モデルが何らかの種類のバイアスを反映しているかどうかを他の人が分析できるようにする必要があります。ただし、データセットにバイアスがかかっていないことを確認するだけでは、データセットを完全に排除することはできません。したがって、AI開発に取り組む個人の多様なチームを持つことは、組織にとって重要な目標であり続ける必要があります。

入力データに傾向がある場合、バイアスの一種であるバンドワゴンが発生します。この傾向を確認するデータは、傾向と歩調を合わせて増加します。その結果、データサイエンティストは、収集したデータの概念を誇張する危険を冒しています。さらに、データの関連性は一時的なものである可能性があります。バンドワゴン効果は、見た目と同じ速さで消える可能性があります。