روش اعتبارسنجی

روش اعتبارسنجی

برای بدست آوردن برآوردگر سازگار در فرایند تکراری، برآوردگر کمترین مربعات معمولی را بعنوان یک برآوردگر شروع ضریب رگرسیونی پیشنهاد می کنیم:
با استفاده از این حقیقت که از مستقل است(شرط الف)، می‌توان نشان داد که تحت شرایط نظم کلاسیک برآوردگر سازگار می‌باشد. حال باقی‌مانده‌های معمولی را از محاسبه کرده و با بکارگیری روش کمترین مربعات توسط برازش در مقابل ، می‌توان برآوردگر شروع زیر را برای ضریب خودبازگشتی بدست آورد :
به‌طوریکه و یک ماتریس که -امین سطر آن می‌باشد. می‌توان نشان داد که تحت شرایط نظم کلاسیک، برآوردگر سازگار می‌باشد.
3-4-پارامترهای تنظیم کننده
برای کامل کردن الگوریتم در فرایند تکراری، بعد از بدست آوردن برآوردگر شروع، به انتخاب پارامترهای تنظیم کننده نیازمند هستیم.
برآوردگر لاسو سنتی فقط شامل دو پارامتر تنظیم کننده می باشد. ازاین‌رو ما می‌توانیم مستقیما روش اعتبارسنجی متقابل () را برای انتخاب پارامترهای تنظیم کننده بهینه بکار ببریم . بدلیل ساختار سری زمانی، نیمه اول داده‌ها را به منظور مدل آموزشی و باقیمانده دادهها را برای مدل آزمایشی به‌کار می‌بریم. اگرچه در رگرسیون خطی معمولی، شائو(1997) نشان داد که اگر مدل واقعی دارای بعد متناهی باشد، روش عملکرد بهتری نسبت به داراست. این انگیزه خوبی بود که از انتخاب کننده پارامتر تنظیم کننده نوع زو و همکاران(2004) اقتباس کنیم :
(3-1)
بطوریکه

و تعداد ضرایب غیر صفر می‌باشد.
از آنجاییکه برای برآوردگر لاسو اصلاح شده، پارامتر تنظیم کننده وجود دارد که باید برآورد شوند، این موضوع کار چالش برانگیزی می‌باشد. بنابراین برآوردگرهای زیر را معرفی میکنیم :
,
(3-2)
جاییکه برآوردگر کمترین مربعات غیر تاوانیده با فرض در(2-20) می‌باشد.
به‌علاوه و ثابت‌های مثبتی می‌باشند که به وسیله داده ها برآورد می‌شوند . برتری عبارت (3-2) این است که این رابطه مسئله اصلی پارامتر تنظیم کننده –بعدی برای پیداکردن و را به یک مساله دو بعدی جهت پیدا کردن و تبدیل می‌کند، که می‌توان به راحتی با استفاده از روش‌های یا بدست آورد.
براساس قضیه (2-1)، برآوردگری با نرخ سازگاری برای می‌باشد. از اینرو برای هر و داریم:
و
در نتیجه هم و هم در شرط ، جاییکه در بخش 2-6-2 از فصل دوم تعریف شده است، صدق می کند. در مقابل برای هر و ، قضیه (2-1) نتیجه می دهد که : و . بنابراین :
و
وقتیکه ، مخرج معادله‌های بالا میباشد و صورت آنها، به سمت بی‌نهایت میل میکنند. به عنوان یک نتیجه، و ، که نتیجه می‌دهد هر دو عبارت در شرط صدق میکنند ( در بخش 2-6-2 معرفی شد ). در مجموع پارامترهای تنظیم کننده معرفی شده و ، میتواند برآوردگر لاسو اصلاح شده را تولید ‌کنند که به طور مجانبی همانند برآوردگر پیشگو کارا می‌باشد.
در ادامه در فصل چهارم، با استفاده از الگوریتم ارائه شده در این فصل، برآوردگرهای لاسو سنتی و لاسو اصلاح شده را در دو مثال بدست آورده و عملکرد ایندو برآوردگر را مقایسه میکنیم.
فصل چهارم
مثالهای کاربردی و شبیهسازی
مقدمه:

Share