Schätzer Varianz < math. Statistik < Stochastik < Hochschule < Mathe < Vorhilfe
|
Status: |
(Frage) reagiert/warte auf Reaktion | Datum: | 13:17 Mo 28.11.2011 | Autor: | mikexx |
Aufgabe | Seien [mm] $X_1,...,X_n$ [/mm] i.i.d. mit [mm] $E(X_i)=\mu$, $\text{Var}(X_i)=\sigma^2<\infty$.
[/mm]
Dann gilt für
[mm] $\hat\sigma^2(X_1,...,X_n)=\frac{1}{n-1}\sum_{i=1}^{n}(X_i-\overline{X})^2$:
[/mm]
[mm] $\hat\sigma^{2 (n)}\to\sigma^2$ [/mm] f.s. für [mm] $n\to\infty$ [/mm] |
Moin!
Ich soll also die starke Konsistenz des Schätzers [mm] $\hat\sigma^2$ [/mm] zeigen.
Dazu habe ich mich dran erinnert, daß wir schon auf einem alten Übungsblatt mal gezeigt hatten, daß
[mm] $\hat\sigma_{\mu}^{2 (n)}\to\sigma^2$ [/mm] f.s. für [mm] $n\to\infty$, [/mm] wobei
[mm] $\hat\sigma_{\mu}^{2 (n)}=\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2$.
[/mm]
(Da konnte man sehr schnell mit dem starken Gesetz der großen Zahlen argumentieren.)
Ich habe mir jetzt überlegt, daß man das, was ich jetzt zeigen soll, vielleicht darauf zurückführen kann, weil ja das arithmetische Mittel ein Schätzer für den Erwartungswert ist und fast sicher gegen den Erwartungswert konvergiert!
Also in etwa so ist meine Idee:
Schreibe [mm] $\hat\sigma^2$ [/mm] als [mm] $\frac{n}{n-1}\cdot\frac{1}{n}\sum_{i=1}^{n}(X_i-\overline{X})^2$. [/mm] Weil [mm] $\frac{n}{n-1}\to [/mm] 1$ für [mm] $n\to\infty$, [/mm] müsste das doch eigentlich gegen
[mm] $\hat\sigma_{\mu}^2=\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2$ [/mm] kovergieren?
(Und dafür weiß man ja, wie gesagt, daß es fast sicher gegen [mm] $\sigma^2$ [/mm] konvergiert.)
Das ist meine Idee, ich habe wirklich keine genaue Ahnung, ob da irgendwas dran richtig ist!
Ich bitte um ein Feedback von Euch. :D
Liebe Grüße von
mikexx
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 15:36 Di 29.11.2011 | Autor: | mikexx |
Echt niemand eine Idee??
Das ist schade, ich dachte, so abwegig wäre meine Idee gar nicht.
Ist der Weg nicht okay?
[Oder wieso so ein Schweigen im Walde?]
Wer kann mir denn dann einen anderen Ansatz geben?
|
|
|
|
|
> Echt niemand eine Idee??
>
> Das ist schade, ich dachte, so abwegig wäre meine Idee gar
> nicht.
>
>
> Ist der Weg nicht okay?
>
> [Oder wieso so ein Schweigen im Walde?]
>
> Wer kann mir denn dann einen anderen Ansatz geben?
doch, dein Ansatz ist ok. Wenn du Kovergenz mit [mm] \frac{1}{n}... [/mm] voraussetzen kannst, ist die Konvergenz für [mm] \frac{1}{n-1}... [/mm] eie einfache Folgerung.
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 15:47 Di 29.11.2011 | Autor: | mikexx |
Ja, also wir hatten das auf einem Übungsblatt vorher und da habe ich mit dem starken Gesetz der großen Zahlen das gezeigt.
Und dann kann ich es voraussetzen, nehme ich an.
Ich würde also Folgendes aufschreiben.
Für [mm] $n\to\infty$ [/mm] gilt:
a) [mm] $\frac{n}{n-1}\to [/mm] 1$
b) [mm] $\overline{X}\to\mu$ [/mm] f.s.
Und aus a) und b) folgt dann, daß
[mm] $\frac{1}{n-1}\sum_{i=1}^{n}(X_i-\overline{X})^2\to\sigma^2$ [/mm] f.s., da bekannt ist, daß [mm] $\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\to\sigma^2$.
[/mm]
Wäre das so formal/ inhaltlich korrekt?
|
|
|
|
|
> Ja, also wir hatten das auf einem Übungsblatt vorher und
> da habe ich mit dem starken Gesetz der großen Zahlen das
> gezeigt.
>
> Und dann kann ich es voraussetzen, nehme ich an.
>
>
> Ich würde also Folgendes aufschreiben.
>
> Für [mm]n\to\infty[/mm] gilt:
>
> a) [mm]\frac{n}{n-1}\to 1[/mm]
>
> b) [mm]\overline{X}\to\mu[/mm] f.s.
>
> Und aus a) und b) folgt dann, daß
>
> [mm]\frac{1}{n-1}\sum_{i=1}^{n}(X_i-\overline{X})^2\to\sigma^2[/mm]
> f.s., da bekannt ist, daß
> [mm]\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\to\sigma^2[/mm].
>
>
> Wäre das so formal/ inhaltlich korrekt?
>
>
>
sollte man noch etwas genauer begründen, da das [mm] \bar{X} [/mm] in der Klammer steht. Etwa so:
[mm] \hat{\sigma}^2=\frac{1}{n-1}(\sum X_i^2-2\bar{X}\sum X_i+n*\bar{X}^2)=\frac{n}{n-1}*\frac{1}{n}\sum X_i^2-2\bar{X}*\frac{1}{n-1}\sum X_i+\frac{n}{n-1}\bar{X}^2
[/mm]
Der erste Teil konvergiert gegen [mm] EX^2, [/mm] der zweite gegen [mm] -2\mu^2 [/mm] und der dritte gegen [mm] \mu^2
[/mm]
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 16:31 Di 29.11.2011 | Autor: | mikexx |
Dann brauche ich hier doch gar nicht, daß
[mm] $\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\to\sigma^2$ [/mm] f.s., sondern doch eigentlich nur, daß das arithmetische Mittel f.s. gegen den Erwartungswert konvergiert (bei jedem der drei Summanden, also auch im Ganzen)?
|
|
|
|
|
> Dann brauche ich hier doch gar nicht, daß
>
> [mm]\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\to\sigma^2[/mm] f.s.,
> sondern doch eigentlich nur, daß das arithmetische Mittel
> f.s. gegen den Erwartungswert konvergiert (bei jedem der
> drei Summanden, also auch im Ganzen)?
ja, dass stimmt. bei meiner ersten antwort hatte ich übersehen, dass einmal [mm] \bar{X} [/mm] und einmal [mm] \mu [/mm] drinsteht. daher lässt sich [mm] \frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\to\sigma^2 [/mm] nicht direkt anwenden und man kann so argumentieren, wie ich es in der zweiten antwort geschrieben habe.
|
|
|
|
|
Status: |
(Frage) reagiert/warte auf Reaktion | Datum: | 17:10 Di 29.11.2011 | Autor: | mikexx |
Okay, danke.
Wie könnte ich nun noch zeigen, daß
[mm] $\sqrt{n}(\hat\sigma^{2 (n)}-\sigma^2)\to \mathcal{N}(0,(\mu_4-\sigma^4))$ [/mm] für [mm] $n\to\infty$?
[/mm]
Also daß es irgendwie mit dem Zentralen Grenzwertsatz zu tun hat, sehe ich.
|
|
|
|
|
> Okay, danke.
>
> Wie könnte ich nun noch zeigen, daß
>
> [mm]\sqrt{n}(\hat\sigma^{2 (n)}-\sigma^2)\to \mathcal{N}(0,(\mu_4-\sigma^4))[/mm]
> für [mm]n\to\infty[/mm]?
>
>
> Also daß es irgendwie mit dem Zentralen Grenzwertsatz zu
> tun hat, sehe ich.
Wenn [mm] $\mu$ [/mm] statt$ [mm] \bar{X}$ [/mm] in [mm] $\hat{\sigma}^2$ [/mm] stehen würde, könnte man den zentralen Grenzwertsatz quasi direkt anwenden (der Vorfaktor [mm] $\frac{1}{n-1}$ [/mm] statt [mm] $\frac{1}{n}$ [/mm] spielt für den Grenzwert wieder keine Rolle).
So denke ich musst du wieder die Klammer in der Definition von [mm] $\hat{\sigma}^2$ [/mm] auflösen und die einzelnen Terme getrennt betrachten. Ich habe das aber jetzt nicht durchgerechnet und kann nicht garantieren, dass dann das richtige rauskommt.
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 17:36 Di 29.11.2011 | Autor: | mikexx |
Warum könnte man ihn dann direkt anwenden?
Also wenn da [mm] $\mu$ [/mm] statt [mm] $\overline{X}$ [/mm] stünde, würde ich [mm] $Y_i=(X_i-\mu)^2$ [/mm] definieren und dann könnte ich für [mm] $Y_i$ [/mm] den Erwartungswert (der wäre [mm] $\sigma^2$) [/mm] und die Varianz berechnen (die wäre [mm] $\mu_4-\sigma^4$) [/mm] und dann damit den zentralen GW anwenden, weil man dann das arithmetische Mittel hätte und für dieses weiß man, daß es geeignet standardisiert gegen N(0,1) konvergiert. Meinst Du das so?
Könnte man dann nicht hier auch
[mm] $Y_i=(X_i-\overline{X})^2$ [/mm] definieren, dann hätte man
[mm] $\hat\sigma^2=\frac{n}{n-1}\frac{1}{n}\sum_{i=1}^{n}Y_i$, [/mm] also quasi wieder ein arithmetisches Mittel.
Dann könnte man jetzt [mm] $E(Y_i)$ [/mm] und [mm] Var(Y_i)$ [/mm] berechnen und den zentralen GW anwenden?
|
|
|
|
|
> Warum könnte man ihn dann direkt anwenden?
>
> Also wenn da [mm]\mu[/mm] statt [mm]\overline{X}[/mm] stünde, würde ich
> [mm]Y_i=(X_i-\mu)^2[/mm] definieren und dann könnte ich für [mm]Y_i[/mm]
> den Erwartungswert (der wäre [mm]\sigma^2[/mm]) und die Varianz
> berechnen (die wäre [mm]\mu_4-\sigma^4[/mm]) und dann damit den
> zentralen GW anwenden, weil man dann das arithmetische
> Mittel hätte und für dieses weiß man, daß es geeignet
> standardisiert gegen N(0,1) konvergiert. Meinst Du das so?
>
ja
>
>
> Könnte man dann nicht hier auch
>
> [mm]Y_i=(X_i-\overline{X})^2[/mm] definieren, dann hätte man
>
> [mm]\hat\sigma^2=\frac{n}{n-1}\frac{1}{n}\sum_{i=1}^{n}Y_i[/mm],
> also quasi wieder ein arithmetisches Mittel.
>
> Dann könnte man jetzt [mm]$E(Y_i)$[/mm] und [mm]Var(Y_i)$[/mm] berechnen und
> den zentralen GW anwenden?
>
Das Problem hier ist, dass diese [mm] Y_i [/mm] nicht mehr unabhängig sind.
>
>
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 17:46 Di 29.11.2011 | Autor: | mikexx |
Wieso sind sie nicht mehr unabhängig?
---------------------------------------
Hm, wie kann man denn dann hier vorgehen?
Deine Idee oben habe ich noch nicht verstanden.
|
|
|
|
|
> Wieso sind sie nicht mehr unabhängig?
weil [mm] $\bar{X}$ [/mm] jeweils von [mm] X_1,...,X_n [/mm] abhängt.
>
> ---------------------------------------
>
> Hm, wie kann man denn dann hier vorgehen?
>
> Deine Idee oben habe ich noch nicht verstanden.
Ist auch nicht ganz zu Ende gedacht. Aber es sollte eigentlich gehen, wenn du die Differenz aus
[mm] $(X_i-\mu)^2$ [/mm] und [mm] $(X_i-\bar{X})^2$ [/mm] ausrechnest und schaust, wie sich das für [mm] n\to\infty [/mm] verhält
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 18:02 Di 29.11.2011 | Autor: | mikexx |
Sei [mm] $V_i:=(X_i-\overline{X})^2$ [/mm] und sei [mm] $Y_i=(X_i-\mu)^2$.
[/mm]
[mm] $\vert V_i-Y_i\vert=\vert -2X_i\overline{X}+\overline{X}^2+2X_i\mu-\mu\vert\to [/mm] 0$ für [mm] $n\to\infty$, [/mm]
da das arithmetische Mittel sowohl stark als auch schwach konsistent ist?
|
|
|
|
|
> Sei [mm]V_i:=(X_i-\overline{X})^2[/mm] und sei [mm]Y_i=(X_i-\mu)^2[/mm].
>
>
> [mm]\vert V_i-Y_i\vert=\vert -2X_i\overline{X}+\overline{X}^2+2X_i\mu-\mu\vert\to 0[/mm]
> für [mm]n\to\infty[/mm],
>
> da das arithmetische Mittel sowohl stark als auch schwach
> konsistent ist?
Für mich ist das noch nicht offensichtlich, da über i aufsummiert und durch [mm] \sqrt{n} [/mm] geteilt wird. Aber vielleicht übersehe ich auch ein einfaches Argument. Nach Definition von [mm] \overline{X} [/mm] hebt sich ein Teil weg, übrig bleibt nach meiner Rechnung
[mm] $\frac{1}{\sqrt{n}}\sum(2\overline{X}\mu-\overline{X}^2-\mu^2)=\sqrt{n}(\overline{X}-\mu)*(\mu-\overline{X})$,
[/mm]
wobei der erste Faktor gegen eine Normalverteilung und der zweite fast sicher gegen 0 konvergiert.
|
|
|
|