บทบาทของอคติในโครงข่ายประสาทเทียม
เผยแพร่แล้ว: 2021-03-01อคติเป็นน้ำหนักที่ไม่สมส่วนในความโปรดปรานหรือต่อต้านสิ่งของหรือความคิดซึ่งมักจะในทางที่มีอคติ ไม่ยุติธรรม และใกล้ชิด ในกรณีส่วนใหญ่ ความลำเอียงถือเป็นเรื่องลบ เพราะจะทำให้การตัดสินใจของคุณคลุมเครือและทำให้คุณตัดสินใจอย่างไม่สมเหตุสมผล
อย่างไรก็ตาม บทบาทของอคติในโครงข่ายประสาทเทียมและการเรียนรู้เชิงลึกนั้นแตกต่างกันมาก บทความนี้จะอธิบายเกี่ยวกับระบบอคติของโครงข่ายประสาทเทียม และคุณควรใช้อย่างไร
สารบัญ
แนวคิดของข้อมูลที่มีอคติ
เพื่อให้เข้าใจระบบอคติของโครงข่ายประสาทเทียม ก่อนอื่นเราต้องเข้าใจแนวคิดของข้อมูลที่มีอคติ เมื่อใดก็ตามที่คุณป้อนข้อมูลโครงข่ายประสาทเทียม มันจะส่งผลต่อพฤติกรรมของแบบจำลอง
ดังนั้น หากคุณป้อนเครือข่ายประสาทของคุณด้วยข้อมูลที่มีอคติ คุณไม่ควรคาดหวังผลลัพธ์ที่ยุติธรรมจากอัลกอริทึมของคุณ การใช้ข้อมูลที่มีอคติอาจทำให้ระบบของคุณให้ผลลัพธ์ที่มีข้อบกพร่องและคาดไม่ถึงอย่างมาก
ตัวอย่างเช่น พิจารณา กรณีของ Tay ซึ่งเป็นแชทบ็อตที่เปิดตัวโดย Microsoft Tay เป็นแชทบอทธรรมดาสำหรับพูดคุยกับผู้คนผ่านทวีต มันควรจะเรียนรู้ผ่านเนื้อหาที่ผู้คนโพสต์บน Twitter อย่างไรก็ตาม เราทุกคนรู้ดีว่า Twitter เป็นอย่างไร มันทำลายเทย์
แทนที่จะเป็นแชทบอทที่เรียบง่ายและน่ารัก Tay กลับกลายเป็นแชทบ็อตที่ก้าวร้าวและก้าวร้าวมาก ผู้คนต่างพากันสปอยล์ด้วยโพสต์ที่ดูถูกเหยียดหยามจำนวนมากซึ่งให้ข้อมูลที่มีอคติแก่เตย์ และมันเรียนรู้แค่การใช้ถ้อยคำที่ไม่เหมาะสมเท่านั้น หลังจากนั้นไม่นาน Tay ก็ปิดตัวลง
ความสำคัญของอคติในโครงข่ายประสาทเทียม
แม้ว่ากรณีของเตย์จะน่าผิดหวังมาก แต่ก็ไม่ได้หมายความว่าอคติทั้งหมดจะเลวร้าย อันที่จริง เซลล์ประสาทที่มีอคติในโครงข่ายประสาทเทียมมีความสำคัญมาก ในวรรณกรรมโครงข่ายประสาทเทียม เราเรียกพวกมันว่าเซลล์ประสาทอคติ
โครงข่ายประสาทธรรมดามีเซลล์ประสาทสามประเภท:
- อินพุตเซลล์ประสาท
- เซลล์ประสาทอคติ
- เซลล์ประสาทเอาท์พุท
เซลล์ประสาทอินพุตเพียงส่งผ่านคุณลักษณะจากชุดข้อมูลในขณะที่เซลล์ประสาทอคติเลียนแบบคุณลักษณะเพิ่มเติม เรารวมเซลล์ประสาทอินพุตกับเซลล์ประสาทอคติเพื่อให้ได้เซลล์ประสาทเอาต์พุต อย่างไรก็ตาม โปรดทราบว่าอินพุตเพิ่มเติมจะเท่ากับ 1 เสมอ เอาต์พุต Neuron สามารถรับอินพุต ประมวลผล และสร้างเอาต์พุตของเครือข่ายทั้งหมดได้
ลองมาดูตัวอย่างของแบบจำลองการถดถอยเชิงเส้นเพื่อทำความเข้าใจระบบอคติของโครงข่ายประสาทเทียม
ในการถดถอยเชิงเส้น เรามีเซลล์ประสาทอินพุตที่ส่งผ่านคุณสมบัติ (a1) และเซลล์ประสาทอคติเลียนแบบสิ่งเดียวกันกับ (a0)
อินพุตทั้งสองของเรา (a1, a0) จะถูกคูณด้วยน้ำหนักตามลำดับ (w1, w0) ด้วยเหตุนี้ เราจะได้ผลลัพธ์เซลล์ประสาทเป็นผลรวมของผลิตภัณฑ์ของพวกเขา:
i=0 n a i w i
ตัวแบบการถดถอยเชิงเส้นมี i=1 และ a0=1 ดังนั้นการแทนค่าทางคณิตศาสตร์ของแบบจำลองคือ:
y = a 1 w 1 + w 0
ทีนี้ ถ้าเราเอาเซลล์ประสาทอคติออก เราจะไม่มีอินพุตอคติ ทำให้โมเดลของเรามีลักษณะดังนี้:
y = a 1 w 1
สังเกตเห็นความแตกต่าง? หากไม่มีอคติ แบบจำลองของเราต้องผ่านจุดกำเนิด (0,0) ในกราฟ ความชันของเส้นของเราสามารถเปลี่ยนแปลงได้ แต่จะหมุนจากจุดกำเนิดเท่านั้น
เพื่อให้โมเดลของเรามีความยืดหยุ่น เราจะต้องเพิ่มอินพุตอคติ ซึ่งไม่เกี่ยวข้องกับอินพุตใดๆ ช่วยให้โมเดลสามารถเลื่อนขึ้นและลงกราฟได้ตามความต้องการ
สาเหตุหลักที่ต้องมีอคติในโครงข่ายประสาทเทียมก็คือ หากไม่มีน้ำหนักอคติ โมเดลของคุณจะมีการเคลื่อนไหวที่จำกัดมากเมื่อมองหาวิธีแก้ปัญหา
เรียนรู้เพิ่มเติมเกี่ยวกับ Neural Network Bias System
โครงข่ายประสาทเทียมมีจุดมุ่งหมายเพื่อเลียนแบบการทำงานของสมองมนุษย์ ดังนั้นจึงมีความซับซ้อนหลายอย่าง การทำความเข้าใจสิ่งเหล่านี้อาจเป็นเรื่องท้าทายทีเดียว
วิธีที่ดีที่สุดในการศึกษาโครงข่ายประสาทเทียมและเรียนรู้เกี่ยวกับการเรียนรู้เชิงลึกคือผ่านการเรียนรู้ด้วยเครื่องและหลักสูตรการเรียนรู้เชิงลึก โดยจะสอนพื้นฐานและแนวคิดขั้นสูงของสาขาวิชาเหล่านี้ผ่านหลักสูตรที่มีโครงสร้าง
พวกเราที่ upGrad เสนอการ รับรอง PG ในโปรแกรมการเรียนรู้ของเครื่องและการเรียนรู้เชิงลึก กับ IIIT-B หลักสูตรนี้ใช้เวลาเพียงหกเดือนและออนไลน์โดยสมบูรณ์ ซึ่งหมายความว่าคุณสามารถเรียนจากบ้านที่สะดวกสบายโดยไม่รบกวนชีวิตการทำงานของคุณในขณะที่เรียนหลักสูตรนี้
คุณจะได้รับการให้คำปรึกษาแบบตัวต่อตัวแบบ 1:1 จากผู้เชี่ยวชาญในอุตสาหกรรมและการเรียนรู้มากกว่า 240 ชั่วโมง คุณต้องสำเร็จการศึกษาระดับปริญญาตรีด้วยคะแนน 50% หรือคะแนนผ่านเทียบเท่าจึงจะมีสิทธิ์ได้รับโปรแกรมนี้
หลังจากเสร็จสิ้น คุณยังจะได้รับความช่วยเหลือด้านตำแหน่ง ซึ่งรวมถึงการสร้างประวัติย่อ พอร์ทัลโอกาสในการทำงาน การขับเคลื่อนการจ้างงาน และอื่นๆ อีกมากมาย อย่าลืมตรวจสอบหลักสูตร
อ่านเพิ่มเติม: แนวคิดโครงการการเรียนรู้ของเครื่อง
ความคิดสุดท้าย
ในขณะที่อคติถือเป็นสิ่งไม่ดีในชีวิตประจำวันของเรา แต่ในโลกของโครงข่ายประสาทเทียมเป็นสิ่งที่ต้องมี หากไม่มีอคติ เครือข่ายของคุณจะไม่ให้ผลลัพธ์ที่ดี ดังที่เรากล่าวถึงในบทความของวันนี้
หากคุณรู้จักใครที่สนใจโครงข่ายประสาทเทียมหรือกำลังศึกษาการเรียนรู้เชิงลึก ให้แบ่งปันบทความนี้กับพวกเขา
น้ำหนักอินพุตสามารถติดลบในโครงข่ายประสาทเทียมได้หรือไม่?
สามารถปรับตุ้มน้ำหนักได้ตามอัลกอริธึมการฝึกอบรมที่ตัดสินใจว่าเหมาะสม เนื่องจากการเพิ่มน้ำหนักเป็นวิธีที่เครื่องกำเนิดไฟฟ้าใช้เพื่อให้ได้ความหนาแน่นของเหตุการณ์ที่เหมาะสม การใช้น้ำหนักเหล่านี้ในเครือข่ายควรฝึกเครือข่ายที่ถือว่าความหนาแน่นของเหตุการณ์ถูกต้องด้วย ที่จริงแล้ว น้ำหนักติดลบหมายถึงการเพิ่มอินพุตที่กำหนดทำให้เอาต์พุตลดลง ดังนั้นน้ำหนักอินพุตในโครงข่ายประสาทเทียมสามารถเป็นค่าลบได้
เราจะลดความลำเอียงในโครงข่ายประสาทเทียมขององค์กรได้อย่างไร?
องค์กรควรกำหนดมาตรฐาน ระเบียบข้อบังคับ และขั้นตอนในการรับทราบ เปิดเผย และบรรเทาอคติของชุดข้อมูลเพื่อให้อคติอยู่ภายใต้การควบคุม องค์กรควรเผยแพร่การเลือกข้อมูลและเทคนิคการล้างข้อมูล เพื่อให้ผู้อื่นวิเคราะห์ได้ว่าแบบจำลองดังกล่าวสะท้อนอคติประเภทใดและเมื่อใดและหรือไม่ อย่างไรก็ตาม การตรวจสอบให้แน่ใจว่าชุดข้อมูลไม่มีอคติจะไม่ทำให้ชุดข้อมูลหมดไปโดยสิ้นเชิง ดังนั้นการมีทีมงานที่มีความหลากหลายในการทำงานด้านการพัฒนา AI จึงควรยังคงเป็นเป้าหมายที่สำคัญสำหรับองค์กร
เมื่อมีแนวโน้มในข้อมูลที่ป้อนเข้า bandwagoning พัฒนา ซึ่งเป็นประเภทของอคติ ข้อมูลที่ยืนยันแนวโน้มนี้เติบโตขึ้นพร้อมกับแนวโน้ม ด้วยเหตุนี้ นักวิทยาศาสตร์ด้านข้อมูลจึงตกอยู่ในอันตรายจากการใช้แนวคิดเกินจริงในข้อมูลที่รวบรวม นอกจากนี้ ความเกี่ยวข้องใดๆ ในข้อมูลอาจเป็นเพียงชั่วคราว: เอฟเฟกต์แบนด์วากอนอาจหายไปอย่างรวดเร็วเท่าที่ปรากฏ