ضرایب رگرسیونی

ضرایب رگرسیونی

جاییکه
علاوه بر این، داریم :
برای توضیحات بیشتر به وانگ و همکاران 2007 مراجعه نمایید.
چون از بقیه چهار عبارت دیگر رابطه (2-28) و همچنین در رابطه (2-27 ) بزرگتر میباشد. از اینرو برای هر یک مقدار ثابت بزرگ مثل وجود دارد بطوریکه :
این نشان میدهد که با احتمالی حداقل ، در گوی مینیمم کننده موضعی وجود دارد (فن و لی 2001). در نتیجه یک مینیمم کننده موضعی وجود دارد بهطوریکه وجود دارد. و اثبات کامل میشود.
لم2-1 نتیجه میدهدکه اگر پارامترهای تنظیم کننده مرتبط با متغیرهای رگرسیونی و خودبازگشتی معنیدار با سرعتی بیشتر از به صفر میل‌کنند، آنگاه یک مینیمم کننده موضعی از که دارای سازگاری با نرخ میباشد، وجود دارد.
در قضیه بعد نشان داده میشود که اگر پارامترهای تنظیم کننده مرتبط با متغیرهای رگرسیونی و خودبازگشتی بی معنی کندتر از به سمت صفر انقباض پیدا کنند، آنگاه ضرایب رگرسیونی و خودبازگشتی آنها با احتمال متمایل به یک، دقیقا صفر برآورد می‌شوند.
قضیه 2-2 : فرض کنید که و ، آنگاه :
و
اثبات :
اثبات این قضیه با توجه به این نکته بدست میآید که، مینیمم کننده موضعی باید در معادله زیر صدق کند:
(2-29)
وقتیکه، نشان دهنده امین سطر از و میباشد. با استفاده از قضیه حد مرکزی، اولین جمله معادله (2-29)، از مرتبه میباشد. بهعلاوه شرط موجود در قضیه 2-2 نتیجه میدهد که دومین جمله از مرتبه میباشد. چون ، هردو جمله توسط غالب شدهاند. بنابراین علامت معادله (2-29) توسط علامت مشخص شده است و در نتیجه داریم . به طور مشابه میتوان نشان داد که . در نتیجه اثبات قضیه کامل میشود.
قضیه 2-2 نشان می‌دهد که لاسو اصلاح شده می‌تواند یک جواب تنک برای ضرایب بی معنی رگرسیونی و خودبازگشتی، تولید کند. بعلاوه این قضیه، بههمراه لم 2-1 نشان میدهد که برآوردگرآ
با نرخ سازگاری ، زمانی‌که پارامترهای تنظیم کننده در شرایط مناسبی صدق کنند، در رابطه صدق میکند.
درپایان این بخش، توزیع مجانبی برآوردگر لاسو اصلاح شده را بدست می آوریم:
قضیه2-3 :فرض کنید که و . آنگاه تحت شرایط الف-د بخش2-6، مولفه از مینیمم کننده موضعی که از لم (2-1) بدست میآید، در رابطه زیر صدق می کند:
وقتیکه زیرماتریس از ماتریس مطابق با می‌باشد.
اثبات :
با برقرار بودن لم 2-1و قضیه 2-2 ، داریم که . بنابراین مینیمم کننده با احتمال متمایل به یک، همان است. این نتیجه میدهد که برآوردگر در معادله زیر صدق میکند:
(2-30)
براساس لم 2-1 ، برآوردگری با نرخ سازگاری میباشد. بنابراین بسط سری تیلور معادله (2-30) این نتیجه را میدهد که :
جاییکه مشتق مرتبه اول از تابع تاوان زیر میباشد :
و برای به اندازه کافی بزرگ. بهعلاوه به آسانی نشان داده میشود که ، که در نتیجه :

Share