Wiązanie Craméra-Rao (CCR) to minimalna wariancja, jaką przy warunkach regularności może osiągnąć estymator jednego parametru.
Innymi słowy, szukamy wariancji, która jest najbliższa tej dolnej granicy, aby znaleźć najlepszy estymator zgodnie z właściwościami bezstronności i efektywności.
Zaleca się zapoznanie się z właściwościami estymatorów
Własności te są wykorzystywane, gdy musimy wybrać estymator w celu wykonania analizy ekonometrycznej. Jeśli chcemy, aby nasze wyniki były rozstrzygające, będziemy musieli co najmniej wymagać, aby estymator był nieobciążony i miał najmniejszą możliwą wariancję wszystkich nieobciążonych estymatorów (wydajność).
Chociaż bierzemy pod uwagę wszystkie nieobciążone estymatory, kiedy szukamy estymatora minimalnej wariancji, może się zdarzyć, że istnieje inny nieobciążony estymator, który ma mniejszą wariancję.
Aby nie umknął nam żaden nieobciążony estymator z minimalną wariancją, ustalamy minimalną lub dolną granicę, której wariancja nieobciążonego estymatora parametru nie może przekroczyć.
Patrzymy tylko na nieobciążone estymatory, ponieważ obciążone estymatory mogą mieć wariancje mniejsze niż CCR.
Sformułowanie
Definiujemy:
f (X; Θ): Funkcja gęstości prawdopodobieństwa.
E (·): matematyczna nadzieja.
Ja (Θ): Informacja Fishera o parametrze.
Reprezentuje „ilość informacji” o wartości parametru zawartej w obserwacji zmiennej losowej X.
Formuła:
Nie panikować! Co widać na pierwszy rzut oka z tej formuły?
- Widzimy, że jest to nieścisła nierówność (≥) zamiast równości (=). Dzieje się tak, ponieważ w niektórych przypadkach nie znajdujemy (nie istnieje) bezstronnego estymatora, który osiąga granicę CCR. Dlatego mówimy, że szukamy wariancji bezstronnego estymatora, która jest jak najbliżej tej dolnej granicy. Dodatkowo CCR mówi nam, jaka będzie minimalna wariancja estymatora, poniżej tej wartości nie można jej znaleźć.
- Część po prawej (var (Θ ’) to wariancja oszacowania naszego parametru.
- Część po lewej (1 / J (Θ)) to nie do pokonania minimum wariancji.
- Jeśli szukamy (absolutnego) minimum dla wariancji estymatora Θ, logiczne jest, że pojawiają się pochodne cząstkowe (pochodna względem Θ).
- W ekonomii pochodne cząstkowe stosuje się w warunkach pierwszego i drugiego rzędu w celu optymalizacji funkcji użyteczności: znajdź odpowiednio względne i absolutne maksima i minima.
- CCR wykorzystuje pierwszą cząstkową pochodną parametru Θ na funkcji gęstości prawdopodobieństwa f (X; Θ)
- Dla ułatwienia obliczeń, w niektórych przypadkach do uzyskania CCR używana jest druga pochodna i alternatywna informacja Fishera.
Estymatory, które są bezstronne, mają wariancję równą CCR, będą wówczas uważane za najbardziej efektywne. Podobnie, te bezstronne, których wariancja jest bliższa, będą uważane za stosunkowo bardziej wydajne niż inne estymatory (dalej).