برآورد پارامترها

برآورد پارامترها

ب) از مستقل می‌باشند و همچنین دارای توزیع نرمال با میانگین و ماتریس واریانس-کواریانس زیر میباشد:
(2-14)

که در آن
(2-15)
بعلاوه و خودکوواریانس تاخیر -ام فرآیندهای خودبازگشتی زیر می‌باشد:
(2-16)
و کواریانس متقابل در تاخیر ام بین دو فرایند بالا می‌باشد.
ج) دارای توزیع نرمال با میانگین و واریانس میباشد. این برآوردگر از مستقل و همچنین درصورتیکه صفر باشد، از نیز مستقل می‌باشد. ( و چولگی و کشیدگی میباشند)
تا اینجا سعی شد مدل رگرسیونی با خطاهای سری زمانی را شرح داده و به کمک روش‌ ارائه شده توسط پیرس (1971) برآورد کمترین مربعات پارامترهای این مدل را بدست آوریم. اما بحث اصلی پایاننامه، استنباط آماری مدل رگرسیونی با خطاهای خودبازگشتی به روش لاسو می باشد که براساس مقاله وانگ و همکاران(2007) میباشد. در ابتدا این روش برآوردیابی را برای اینگونه مدلها معرفی کرده و سپس خواص نظری برآوردگرهای حاصل از این روش را مورد بررسی قرار میدهیم.
2-5-برآوردیابی به روش لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی
همانطور که در فصل اول گفته شد، روش حداقل انقباض مطلق و عملگر انتخاب که به اختصار لاسو خوانده می شود، اولین بار توسط تیب شیرانی در سال 1996 معرفی گردید. این روش برآوردیابی، انتخاب متغیر و برآورد پارامترها را همزمان انجام میدهدکه این انگیزهای شد تا وانگ و همکاران (2007) در مدلهای رگرسیون خطی با خطاهای خودبازگشتی به برآورد پارامترها با این روش پرداخته و برای این منظور تاوان نوع لاسو را نه تنها برای ضرایب رگرسیونی بلکه برای ضرایب خودبازگشتی هم در نظر گرفتند.
همانند(2-2) مدل رگرسیون خطی با خطاهای خودبازگشتی زیر را در نظر بگیرید:
(2-17)
که یک بردار بعدی از متغیرهای رگرسیونی و بردار پارامترها میباشد.
علاوه بر این، فرض کنید متغیر از فرایند خودبازگشتی زیر پیروی می کند:
(2-18)
که در آن ضرایب خودبازگشتی و ها متغیرهای تصادفی مستقل و هم توزیع با میانگین صفر و واریانس می باشد .
پارامترهای رگرسیونی و خودبازگشتی را بصورت تعریف می کنیم. فرض کنید در مدل (2-18)، از توزیع نرمال پیروی کند و مشاهده اول ثابت باشد. تابع درستنمایی شرطی مشاهده باقیمانده به صورت زیر می باشد :
جاییکه اندازه نمونه موثر میباشد.
با ماکزیمم کردن تابع درستنمایی شرطی فوق، برآوردگر ماکزیمم درستنمایی شرطی به دست می آید. این برآوردگر میتواند با مینیمم کردن تابع هدف زیر نیز بدست آید:
(2-19)

برای انقباض دادن ضرایب کم اهمیت به صفر، از روش تیبشیرانی استفاده کرده به طوریکه رابطه بالا را تحت شرایط و مینیمم میکنیم و برآوردگرهای لاسو سنتی را برای بدست میآوریم، یعنی عبارت

Share