Le rôle du biais dans les réseaux de neurones

Publié: 2021-03-01

Le parti pris est un poids disproportionné en faveur ou contre une chose ou une idée, généralement de manière préjudiciable, injuste et étroite d'esprit. Dans la plupart des cas, les préjugés sont considérés comme une chose négative car ils obscurcissent votre jugement et vous font prendre des décisions irrationnelles.

Cependant, le rôle du biais dans le réseau de neurones et l'apprentissage en profondeur est très différent. Cet article explique le système de polarisation du réseau neuronal et comment vous devez l'utiliser.

Table des matières

Le concept de données biaisées

Pour comprendre un système de biais de réseau de neurones, nous devons d'abord comprendre le concept de données biaisées. Chaque fois que vous alimentez votre réseau de neurones avec des données, cela affecte le comportement du modèle.

Donc, si vous alimentez votre réseau de neurones avec des données biaisées, vous ne devriez pas vous attendre à des résultats équitables de vos algorithmes. L'utilisation de données biaisées peut amener votre système à donner des résultats très erronés et inattendus.

Prenons par exemple le cas de Tay , un chatbot lancé par Microsoft. Tay était un simple chatbot pour parler aux gens via des tweets. Il était censé apprendre à travers le contenu que les gens publient sur Twitter. Cependant, nous savons tous comment Twitter peut être. Il a détruit Tay.

Au lieu d'être un chatbot simple et doux, Tay s'est transformé en un chatbot agressif et très offensif. Les gens le gâchaient avec de nombreux messages abusifs qui fournissaient des données biaisées à Tay et il n'apprenait que des formulations offensantes. Tay a été éteint très peu de temps après.

Importance du biais dans le réseau de neurones

Même si le cas de Tay était très décevant, cela ne signifie pas que tous les préjugés sont mauvais. En fait, un neurone de biais dans un réseau de neurones est très crucial. Dans la littérature sur les réseaux de neurones, nous les appelons neurones de biais.

Un réseau de neurones simple comporte trois types de neurones :

  1. Neurone d'entrée
  2. Biais Neurone
  3. Neurone de sortie

Le neurone d'entrée transmet simplement la caractéristique de l'ensemble de données tandis que le neurone de biais imite la caractéristique supplémentaire. Nous combinons le neurone d'entrée avec le neurone de polarisation pour obtenir un neurone de sortie. Cependant, notez que l'entrée supplémentaire est toujours égale à 1. Le neurone de sortie peut prendre des entrées, les traiter et générer la sortie de l'ensemble du réseau.

Prenons l'exemple d'un modèle de régression linéaire pour comprendre un système de biais de réseau de neurones.

En régression linéaire, nous avons le neurone d'entrée passant la caractéristique (a1) et le neurone de biais imite la même chose avec (a0).

Nos deux entrées (a1, a0) seront multipliées par leurs poids respectifs (w1, w0). En conséquence, nous obtiendrons le neurone de sortie comme la somme de leurs produits :

je=0 n une je w je

Un modèle de régression linéaire a i=1 et a0=1. La représentation mathématique du modèle est donc :

y = une 1 w 1 + w 0

Maintenant, si nous supprimons le neurone de biais, nous n'aurions aucune entrée de biais, ce qui ferait ressembler notre modèle à ceci :

y = une 1 w 1

Remarquez la différence? Sans l'entrée de biais, notre modèle doit passer par le point d'origine (0,0) dans le graphique. La pente de notre ligne peut changer mais elle ne tournera qu'à partir de l'origine.

Pour rendre notre modèle flexible, nous devrons ajouter l'entrée de biais, qui n'est liée à aucune entrée. Il permet au modèle de se déplacer vers le haut et vers le bas du graphique en fonction des besoins.

La principale raison pour laquelle un biais est nécessaire dans les réseaux de neurones est que, sans poids de biais, votre modèle aurait un mouvement très limité lors de la recherche d'une solution.

En savoir plus sur le système de polarisation du réseau neuronal

Les réseaux de neurones visent à imiter le fonctionnement du cerveau humain et présentent donc de nombreuses complexités. Les comprendre peut être assez difficile.

La meilleure façon d'étudier les réseaux de neurones et d'en apprendre davantage sur l'apprentissage en profondeur consiste à suivre un cours d'apprentissage automatique et d'apprentissage en profondeur. Il vous apprendra les bases et les concepts avancés de ces domaines à travers un programme structuré.

Chez upGrad, nous proposons un programme de certification PG en apprentissage automatique et en apprentissage profond avec IIIT-B. Le cours ne dure que six mois et est entièrement en ligne. Cela signifie que vous pouvez étudier dans le confort de votre maison sans interrompre votre vie professionnelle pendant que vous suivez ce cours.

Vous bénéficierez d'un mentorat personnalisé 1: 1 d'experts de l'industrie et de plus de 240 heures d'apprentissage. Vous devez être titulaire d'un baccalauréat avec 50 % ou une note de passage équivalente pour être admissible à ce programme.

Une fois terminé, vous obtiendrez également une aide au placement, y compris la création de CV, un portail d'opportunités d'emploi, des campagnes d'embauche et bien plus encore. Assurez-vous de consulter le cours.

Lisez aussi : Idées de projets d'apprentissage automatique

Dernières pensées

Alors que les préjugés sont considérés comme une mauvaise chose dans notre vie quotidienne, dans le monde des réseaux de neurones, c'est un incontournable. Sans biais, votre réseau ne donnerait pas de bons résultats, comme nous l'avons vu dans l'article d'aujourd'hui.

Si vous connaissez quelqu'un qui s'intéresse aux réseaux de neurones ou qui étudie l'apprentissage en profondeur, partagez cet article avec lui.

Les poids d'entrée peuvent-ils être négatifs dans les réseaux de neurones ?

Les pondérations peuvent être ajustées selon ce que l'algorithme d'entraînement juge approprié. Étant donné que l'ajout de pondérations est une méthode utilisée par les générateurs pour acquérir la densité d'événements appropriée, leur application dans le réseau devrait former un réseau qui assume également la densité d'événements correcte. En fait, les poids négatifs signifient simplement que l'augmentation de l'entrée donnée entraîne une diminution de la sortie. Ainsi, les poids d'entrée dans les réseaux de neurones peuvent être négatifs.

Comment pouvons-nous réduire les biais dans les réseaux de neurones de toute organisation ?

Les organisations doivent établir des normes, des réglementations et des procédures pour reconnaître, divulguer et atténuer tout biais d'ensemble de données afin de garder le biais sous contrôle. Les organisations devraient également publier leurs techniques de sélection et de nettoyage des données, permettant à d'autres d'analyser quand et si les modèles reflètent tout type de biais. Cependant, le simple fait de s'assurer que les ensembles de données ne sont pas biaisés ne l'éliminera pas complètement. Par conséquent, avoir diverses équipes d'individus travaillant sur le développement de l'IA devrait rester un objectif crucial pour les organisations.

Lorsqu'il y a une tendance dans les données d'entrée, un mouvement de bande se développe, qui est un type de biais. Les données confirmant cette tendance croissent au même rythme que la tendance. En conséquence, les scientifiques des données courent le risque d'exagérer le concept dans les données qu'ils collectent. De plus, toute pertinence dans les données pourrait être transitoire : l'effet de train pourrait disparaître aussi vite qu'il est apparu.