신경망에서 편향의 역할
게시 됨: 2021-03-01편견은 일반적으로 편파적이고 불공정하고 폐쇄적인 방식으로 사물이나 아이디어에 찬성하거나 반대하는 불균형적인 무게입니다. 대부분의 경우 편견은 판단을 흐리게 하고 비합리적인 결정을 내리게 하기 때문에 부정적인 것으로 간주됩니다.
그러나 신경망과 딥 러닝에서 편향의 역할은 많이 다릅니다. 이 기사에서는 신경망 편향 시스템과 이를 어떻게 사용해야 하는지 설명합니다.
목차
편향된 데이터의 개념
신경망 편향 시스템을 이해하려면 먼저 편향된 데이터의 개념을 이해해야 합니다. 신경망에 데이터를 제공할 때마다 모델의 동작에 영향을 줍니다.
따라서 신경망에 편향된 데이터를 제공하면 알고리즘에서 공정한 결과를 기대해서는 안 됩니다. 편향된 데이터를 사용하면 시스템이 매우 결함이 있고 예상치 못한 결과를 초래할 수 있습니다.
예를 들어 Microsoft에서 시작한 챗봇 Tay의 경우를 생각해 보십시오. Tay는 트윗을 통해 사람들과 대화하기 위한 간단한 챗봇이었습니다. 사람들이 Twitter에 게시하는 콘텐츠를 통해 학습하기로 되어 있었습니다. 그러나 우리 모두는 트위터가 어떻게 될 수 있는지 알고 있습니다. 그것은 테이를 파괴했다.
Tay는 단순하고 달콤한 챗봇이 아니라 공격적이고 매우 공격적인 챗봇으로 변했습니다. 사람들은 Tay에게 편향된 데이터를 제공하는 수많은 모욕적인 게시물로 그것을 망치고 있었고 공격적인 표현만 배웠습니다. Tay는 그 직후에 꺼졌습니다.
신경망에서 편향의 중요성
비록 테이의 경우가 많이 실망스러웠지만 그렇다고 해서 모든 편견이 나쁘다는 것은 아니다. 사실, 신경망에서 편향의 뉴런은 매우 중요합니다. 신경망 문헌에서 우리는 그들을 편향 뉴런이라고 부릅니다.
간단한 신경망에는 세 가지 종류의 뉴런이 있습니다.
- 입력 뉴런
- 바이어스 뉴런
- 출력 뉴런
입력 뉴런은 단순히 데이터 세트의 기능을 전달하는 반면 바이어스 뉴런은 추가 기능을 모방합니다. 입력 뉴런과 바이어스 뉴런을 결합하여 출력 뉴런을 얻습니다. 그러나 추가 입력은 항상 1과 같습니다. 출력 뉴런은 입력을 받아 처리하고 전체 네트워크의 출력을 생성할 수 있습니다.
신경망 편향 시스템을 이해하기 위해 선형 회귀 모델의 예를 들어 보겠습니다.
선형 회귀에서 특징(a1)을 전달하는 입력 뉴런이 있고 바이어스 뉴런이 (a0)과 동일한 것을 모방합니다.
두 입력(a1,0)에 각각의 가중치(w1, w0)가 곱해집니다. 결과적으로 우리는 출력 뉴런을 제품의 합으로 얻습니다.
나는 = 0 n 나는 w 나는
선형 회귀 모델에는 i=1 및 a0=1이 있습니다. 따라서 모델의 수학적 표현은 다음과 같습니다.
y = a 1 w 1 + w 0
이제 편향 뉴런을 제거하면 편향 입력이 없으므로 모델이 다음과 같이 표시됩니다.
y = a 1 w 1
차이점을 알아차리셨나요? 바이어스 입력이 없으면 모델은 그래프의 원점(0,0)을 통과해야 합니다. 선의 기울기는 변경될 수 있지만 원점에서만 회전합니다.
모델을 유연하게 만들려면 입력과 관련이 없는 편향 입력을 추가해야 합니다. 모델이 요구 사항에 따라 그래프를 위아래로 이동할 수 있습니다.
신경망에서 편향이 필요한 주된 이유는 편향 가중치가 없으면 솔루션을 찾을 때 모델의 움직임이 매우 제한되기 때문입니다.
신경망 바이어스 시스템에 대해 자세히 알아보기
신경망은 인간 두뇌의 기능을 모방하는 것을 목표로 하기 때문에 많은 복잡성을 가지고 있습니다. 그것들을 이해하는 것은 꽤 어려울 수 있습니다.
신경망을 연구하고 딥 러닝에 대해 배우는 가장 좋은 방법은 머신 러닝과 딥 러닝 과정을 이용하는 것입니다. 체계적인 커리큘럼을 통해 이러한 분야의 기본 및 고급 개념을 가르칩니다.
upGrad에서는 IIIT-B를 통해 기계 학습 및 딥 러닝 프로그램의 PG 인증을 제공합니다. 과정은 6개월 동안만 지속되며 완전히 온라인입니다. 즉, 이 과정을 수강하는 동안 직장 생활을 방해하지 않고 집에서 편안하게 공부할 수 있습니다.
업계 전문가의 1:1 맞춤형 멘토링과 240시간 이상의 학습을 받을 수 있습니다. 이 프로그램의 자격을 얻으려면 50% 또는 이에 상응하는 합격 점수를 받은 학사 학위가 있어야 합니다.
완료 후에는 이력서 작성, 취업 기회 포털, 채용 드라이브 등을 포함한 배치 지원도 받게 됩니다. 코스를 꼭 확인하세요.
더 읽어보기: 기계 학습 프로젝트 아이디어
마지막 생각들
편향은 일상 생활에서 나쁜 것으로 간주되지만 신경망의 세계에서는 반드시 있어야 합니다. 오늘 기사에서 다루었듯이 편견이 없다면 네트워크는 좋은 결과를 내지 못할 것입니다.
신경망에 관심이 있거나 딥 러닝을 공부하는 사람을 알고 있다면 이 기사를 공유하십시오.
신경망에서 입력 가중치가 음수일 수 있습니까?
가중치는 훈련 알고리즘이 적합하다고 결정한 대로 조정할 수 있습니다. 가중치를 추가하는 것은 적절한 이벤트 밀도를 얻기 위해 생성자가 사용하는 방법이므로 네트워크에 가중치를 적용하면 올바른 이벤트 밀도를 가정하는 네트워크도 훈련해야 합니다. 실제로 음수 가중치는 주어진 입력을 늘리면 출력이 감소한다는 것을 의미합니다. 따라서 신경망의 입력 가중치는 음수일 수 있습니다.
조직의 신경망에서 편향을 어떻게 줄일 수 있습니까?
조직은 편견을 통제하기 위해 데이터 세트 편견을 인식, 공개 및 완화하기 위한 표준, 규정 및 절차를 수립해야 합니다. 조직은 또한 데이터 선택 및 정리 기술을 게시하여 다른 사람들이 모델이 어떤 유형의 편향을 반영하는지 분석할 수 있도록 해야 합니다. 그러나 단순히 데이터 세트가 편향되지 않았는지 확인한다고 해서 데이터 세트가 완전히 제거되는 것은 아닙니다. 따라서 AI 개발을 위해 다양한 개인 팀을 구성하는 것은 조직의 중요한 목표로 남아 있어야 합니다.
입력 데이터에 추세가 있으면 일종의 편향인 밴드왜건이 발생합니다. 이러한 경향을 확인하는 데이터는 추세와 함께 증가합니다. 결과적으로 데이터 과학자는 수집하는 데이터의 개념을 과장할 위험이 있습니다. 또한 데이터의 관련성은 일시적일 수 있습니다. 즉, 밴드왜건 효과가 나타나는 즉시 사라질 수 있습니다.