خانواده نمایی
در آمار و احتمال، خانواده نمایی گروه مهمی از توزیعهای احتمالی است که دارای ویژگیهای مشترکی هستند و در قالب خاصی قرار میگیرند. این قالب مشترک برای سهولت در اعمال ریاضی، درک بهتر و کلیت بخشیدن به مسائل مفید است. ایدهٔ خانواده نمایی اولین بار توسط پیتمن،[1] دارمویس[2] و کوپمن[3] در ۱۹۳۵ میلادی ارائه شد.
گاهی به جای خانواده نمایی عبارت رسته نمایی یا کلاس نمایی نیز استفاده میشود. بسیاری از توزیعهای معروف در گروه خانواده نمایی قرار میگیرند. توزیعهای نرمال، نمایی، گاما، مربع-کای، بتا، دریخله، برنولی، دوجملهای، چندجملهای، پواسون و بسیاری دیگر از این گروهند. از معروفترین توزیعهایی که در این خانواده قرار نمیگیرند میتوان از توزیع یکنواخت، کوشی و تی-استودنت نام برد. با توجه به این گستردگی، میتوان چهارچوبی برای انتخاب گونهای دیگر از پارامترسازی برای توزیعها در نظر گرفت که به عنوان پارامتر طبیعی مطرح میشود و در ادامه شرح داده میشود.
تعریف
حالت پارامتر عددی
خانواده نمایی یک متغیره، دستهای از توزیعهای احتمال هستند که تابع چگالی احتمال آنها (یا تابع جرم احتمال آنها در حالت گسسته) دارای قالبی به صورت زیر باشد:
که ، ، ، و توابع شناخته شدهای هستند.
عبارت هم ارز به صورت زیر نیز گاهی متداول است:
مقدار پارامتر خانواده نامیده میشود.
باید توجه نمود که معمولاً برداری از مقادیر مشاهدات است، در این حالت ، یک آماره یعنی تابعی از از فضای نمونه به مقادیر ممکن در اعداد حقیقی است به این معنی که تناسبهای درست نمایی دو داده و نسبت به دو پارامتر و یکسان است اگر تابع برای هر دو داده یکسان باشد یعنی اگر .
حالت پارامتر برداری
تعریف ارائه شده برای حالت یک متغیره را میتوان به حالتی که با برداری از پارامتر مواجه هستیم نیز گسترش داد. یک خانواده از توزیعها در خانواده نمایی چند متغیره قرار میگیرد اگر بتوان تابع چگالی (یا جرم) احتمال آن را در قالب زیر قرار داد:
با استفاده از ضرب برداری میتوان رابطهٔ بالا را به صورت زیر نیز نوشت:
حالت هم ارز و متداول نیز به صورت زیر است:
حالت پارامتر و متغیر برداری
متغیر میتواند برداری باشد . توجه کنید که در این حالت لزومی ندارد که بعد بردار متغیر با بعد بردار پارامتر یکسان باشد. در این حالت شکل کلی خانواده نمایی به صورت زیر است:
که به صورت زیر ساده میشود:
و با عبارت زیر هم ارز است:
مثال: توزیع نرمال با واریانس معلوم
توزیع نرمال با واریانس معلوم به صورت است که میتوان توابع زیر را در قالب خانواده نمایی قرار داد:
بنابراین توزیع نرمال با واریانس معلوم به خانواده نمایی با پارامتر تعلق دارد.
مثال: توزیع دو جملهای
تابع چگالی احتمال برای آزمایش برنولی برابر است با:
این تابع را میتوان به شکل پایین نوشت که نشان میدهد توزیع دوجملهای به خانواده نمایی تعلق دارد، در این معادله :
جدول توزیعهای معروف خانواده نمایی
توزیع | تابع پارامتر معکوس | ||||||
---|---|---|---|---|---|---|---|
Bernoulli distribution | p | ||||||
binomial distribution with known number of trials n | p | ||||||
Poisson distribution | λ | ||||||
negative binomial distribution with known number of failures r | p | ||||||
exponential distribution | λ | ||||||
Pareto distribution with known minimum value xm | α | ||||||
Weibull distribution with known shape k | λ | ||||||
Laplace distribution with known mean μ | b | ||||||
chi-squared distribution | ν | ||||||
normal distribution known variance | μ | ||||||
normal distribution | μ,σ2 | ||||||
lognormal distribution | μ,σ2 | ||||||
inverse Gaussian distribution | μ,λ | ||||||
gamma distribution | α,β | ||||||
k, θ | |||||||
inverse gamma distribution | α,β | ||||||
scaled inverse chi-squared distribution | ν,σ2 | ||||||
beta distribution | α,β | ||||||
multivariate normal distribution | μ,Σ | ||||||
categorical distribution | p1,...,pk where |
where |
|
||||
categorical distribution | p1,...,pk where |
where |
|
||||
categorical distribution | p1,...,pk where |
|
|||||
multinomial distribution with known number of trials n | p1,...,pk where |
where |
|||||
multinomial distribution with known number of trials n | p1,...,pk where |
where |
|||||
multinomial distribution with known number of trials n |
p1,...,pk where |
||||||
Dirichlet distribution | α1,...,αk | ||||||
Wishart distribution | V,n | |
|||||
inverse Wishart distribution | Ψ,m | ||||||
normal-gamma distribution | α,β,μ,λ |
|
منابع
- Pitman, E.; Wishart, J. (1936). "Sufficient statistics and intrinsic accuracy". Mathematical Proceedings of the Cambridge Philosophical Society. 32 (4): 567–579. Bibcode:1936PCPS...32..567P. doi:10.1017/S0305004100019307.
- Darmois, G. (1935). "Sur les lois de probabilites a estimation exhaustive". C. R. Acad. Sci. Paris (به French). 200: 1265–1266.
- Koopman, B (1936). "On distribution admitting a sufficient statistic". Transactions of the American Mathematical Society. Transactions of the American Mathematical Society, Vol. 39, No. 3. 39 (3): 399–409. doi:10.2307/1989758. JSTOR 1989758. MR 1501854.
- Lehmann, E. L. (1998). Theory of Point Estimation. pp. 2nd ed., sec. 1.5. Unknown parameter
|coauthors=
ignored (|author=
suggested) (help) - Keener, Robert W. (2006). Statistical Theory: Notes for a Course in Theoretical Statistics. Springer. pp. 27–28, 32–33.