أنواع مختلفة من نماذج الانحدار التي تحتاج إلى معرفتها

تعتبر مشاكل الانحدار شائعة في التعلم الآلي ، والطريقة الأكثر شيوعًا لحلها هي تحليل الانحدار. يعتمد على نمذجة البيانات ويتضمن العمل على أفضل خط ملائم ، والذي يمر عبر جميع نقاط البيانات بحيث تكون المسافة بين الخط وكل نقطة بيانات ضئيلة. في حين توجد العديد من تقنيات تحليل الانحدار المختلفة ، فإن الانحدار الخطي واللوجستي هما الأبرز. سيعتمد نوع نموذج تحليل الانحدار الذي نستخدمه في النهاية على طبيعة البيانات المعنية.

دعنا نتعرف أكثر على تحليل الانحدار والأنواع المختلفة لنماذج تحليل الانحدار.

ما هو تحليل الانحدار؟

تحليل الانحدار هو أسلوب نمذجة تنبؤية لتحديد العلاقة بين المتغيرات التابعة (الهدف) والمتغيرات المستقلة في مجموعة البيانات. يتم استخدامه عادةً عندما يحتوي المتغير الهدف على قيم مستمرة وتتشارك المتغيرات التابعة والمستقلة في علاقة خطية أو غير خطية. وبالتالي ، فإن تقنيات تحليل الانحدار تجد استخدامها في تحديد علاقة التأثير السببي بين المتغيرات ونمذجة السلاسل الزمنية والتنبؤ. على سبيل المثال ، يمكن دراسة العلاقة بين نفقات المبيعات والإعلان لشركة ما بشكل أفضل باستخدام تحليل الانحدار.

أنواع تحليل الانحدار

هناك العديد من الأنواع المختلفة لتقنيات تحليل الانحدار التي يمكننا استخدامها لعمل تنبؤات. علاوة على ذلك ، فإن استخدام كل أسلوب مدفوع بعوامل مثل عدد المتغيرات المستقلة وشكل خط الانحدار ونوع المتغير التابع.

دعونا نفهم بعضًا من أكثر طرق تحليل الانحدار شيوعًا:

1. الانحدار الخطي

الانحدار الخطي هو أكثر تقنيات النمذجة شهرة ويفترض وجود علاقة خطية بين متغير تابع (Y) ومتغير مستقل (X). يؤسس هذه العلاقة الخطية باستخدام خط الانحدار ، المعروف أيضًا باسم الخط الأكثر ملاءمة. يتم تمثيل العلاقة الخطية بالمعادلة Y = c + m * X + e ، حيث 'c' هو التقاطع ، و 'm' هو ميل الخط ، و 'e' هو مصطلح الخطأ.

يمكن أن يكون نموذج الانحدار الخطي بسيطًا (مع متغير تابع واحد ومتغير مستقل واحد) أو متعدد (مع متغير تابع واحد وأكثر من متغير مستقل واحد).

مصدر

2. الانحدار اللوجستي

تجد تقنية تحليل الانحدار اللوجستي الاستخدام عندما يكون المتغير التابع منفصلًا. بمعنى آخر ، تُستخدم هذه التقنية لتقدير احتمالية الأحداث المتنافية مثل النجاح / الفشل ، والصواب / الخطأ ، 0/1 ، وما إلى ذلك. ومن ثم ، يمكن أن يكون للمتغير الهدف قيمة واحدة فقط من قيمتين ، ويمثل المنحنى السيني علاقتها بالمتغير المستقل. تتراوح قيمة الاحتمال بين 0 و 1.

مصدر

3. الانحدار متعدد الحدود

تصمم تقنية تحليل الانحدار متعدد الحدود علاقة غير خطية بين المتغيرات التابعة والمستقلة. إنه شكل معدل لنموذج الانحدار الخطي المتعدد ، لكن أفضل خط ملائم يمر عبر جميع نقاط البيانات يكون منحنيًا وليس مستقيمًا.

مصدر

4. ريدج الانحدار

يتم استخدام تقنية تحليل انحدار التلال عندما تظهر البيانات علاقة خطية متعددة ؛ أي أن المتغيرات المستقلة مترابطة بشكل كبير. على الرغم من أن تقديرات المربعات الصغرى في العلاقات الخطية المتعددة غير متحيزة ، إلا أن تبايناتها كبيرة بما يكفي لتحريف القيمة المرصودة عن القيمة الحقيقية. يقلل انحدار ريدج من الأخطاء المعيارية عن طريق إدخال درجة من التحيز في تقديرات الانحدار.

تحل لامدا (λ) في معادلة انحدار التلال مشكلة الخطية المتعددة.

مصدر

مصدر

5. انحدار اللاسو

مثل انحدار التلال ، فإن تقنية الانحدار lasso (الأقل الانكماش المطلق وعامل التحديد) تعاقب الحجم المطلق لمعامل الانحدار. بالإضافة إلى ذلك ، تستخدم تقنية انحدار lasso اختيارًا متغيرًا ، مما يؤدي إلى تقلص قيم المعامل نحو الصفر المطلق.

مصدر

6. الانحدار الكمي

تقنية تحليل الانحدار الكمي هي امتداد لتحليل الانحدار الخطي. يتم استخدامه عندما لا يتم استيفاء شروط الانحدار الخطي ، أو عندما تحتوي البيانات على قيم متطرفة. يجد الانحدار الكمي تطبيقات في الإحصاء والاقتصاد القياسي.

مصدر

7. الانحدار الخطي بايزي

يعد الانحدار الخطي Bayesian أحد أنواع تقنيات تحليل الانحدار في التعلم الآلي التي تستخدم نظرية بايز لتحديد قيمة معاملات الانحدار. بدلاً من اكتشاف المربعات الصغرى ، تحدد هذه التقنية التوزيع اللاحق للسمات. نتيجة لذلك ، تتمتع التقنية بثبات أكبر من الانحدار الخطي البسيط.

مصدر

8. المكونات الرئيسية انحدار

عادةً ما تُستخدم تقنية انحدار المكونات الرئيسية لتحليل بيانات الانحدار المتعددة بخطوات خطية متعددة. مثل تقنية انحدار التلال ، تقلل طريقة انحدار المكونات الرئيسية الأخطاء المعيارية من خلال نقل درجة من التحيز إلى تقديرات الانحدار. تتكون هذه التقنية من خطوتين - أولاً ، يتم تطبيق تحليل المكون الرئيسي على بيانات التدريب ، ثم يتم استخدام العينات المحولة لتدريب عامل الارتداد.

9. انحدار المربعات الصغرى الجزئي

تعد تقنية انحدار المربعات الصغرى الجزئية أحد الأنواع السريعة والفعالة لتقنيات تحليل الانحدار القائمة على التغاير. إنه مفيد لمشاكل الانحدار حيث يكون عدد المتغيرات المستقلة مرتفعًا مع وجود علاقة خطية متعددة محتملة بين المتغيرات. تقلل هذه التقنية المتغيرات إلى مجموعة أصغر من المتنبئين ، والتي تُستخدم بعد ذلك لتنفيذ الانحدار.

10. صافي الانحدار المرن

تقنية الانحدار الشبكي المرن هي مزيج من نماذج انحدار التلال واللاسو وهي مفيدة عند التعامل مع متغيرات شديدة الارتباط. ويستخدم عقوبات من أساليب الانحدار ريدج ولاسو لتنظيم نماذج الانحدار.

مصدر

ملخص

بصرف النظر عن تقنيات تحليل الانحدار التي ناقشناها هنا ، يتم استخدام عدة أنواع أخرى من نماذج الانحدار في التعلم الآلي ، مثل الانحدار البيئي ، والانحدار التدريجي ، وانحدار الرافعة ، والانحدار القوي. تعتمد حالة الاستخدام المحددة لجميع هذه الأنواع المختلفة من تقنيات الانحدار على طبيعة البيانات المتاحة ومستوى الدقة التي يمكن تحقيقها. بشكل عام ، تحليل الانحدار له فائدتان أساسيتان. هذه كالتالي:

• يشير إلى العلاقة بين المتغير التابع والمتغير المستقل.

• يظهر قوة تأثير المتغيرات المستقلة على المتغير التابع.

المضي قدمًا: احصل على درجة الماجستير في العلوم في التعلم الآلي والذكاء الاصطناعي

هل تبحث عن برنامج شامل عبر الإنترنت للاستعداد لمهنة التعلم الآلي والذكاء الاصطناعي؟

تقدم upGrad درجة الماجستير في العلوم في التعلم الآلي والذكاء الاصطناعي بالتعاون مع جامعة ليفربول جون مورس و IIIT بنغالور لإنتاج متخصصين في مجال الذكاء الاصطناعي وعلماء بيانات.

تم تصميم البرنامج الشامل عبر الإنترنت لمدة 20 شهرًا خصيصًا للمهنيين العاملين الذين يرغبون في إتقان المفاهيم والمهارات المتقدمة مثل التعلم العميق و البرمجة اللغوية العصبية والنماذج الرسومية والتعلم المعزز وما شابه. إلى جانب ذلك ، يعتزم البرنامج نقل أساس متين في الإحصائيات إلى جانب لغات وأدوات البرمجة الرئيسية مثل Python و Keras و TensorFlow و Kubernetes و MySQL والمزيد.

يسلط الضوء على البرنامج:

• درجة الماجستير من جامعة ليفربول جون مورس
• تنفيذي PGP من IIIT بنغالور
• أكثر من 40 جلسة مباشرة ، وأكثر من 12 دراسة حالة ومشروعًا ، و 11 مهمة ترميز ، وستة مشاريع تتويجا
• أكثر من 25 جلسة إرشادية مع خبراء الصناعة
• 360 درجة المساعدة المهنية ودعم التعلم
• فرص التواصل من نظير إلى نظير

من خلال هيئة تدريس عالمية المستوى وعلم أصول التدريس والتكنولوجيا وخبراء في الصناعة ، برزت upGrad كأكبر منصة لتكنولوجيا التعليم العالي في جنوب آسيا وأثرت على أكثر من 500000 من المتخصصين العاملين في جميع أنحاء العالم. سجل اليوم لتصبح جزءًا من 40.000+ قاعدة المتعلمين العالمية التابعة لـ upGrad في أكثر من 80 دولة!