Mat3 Notizen von Hannah

Lernzettel (reduziert)

ℹ️ Ich übernehme keine Verantwortung für die Korrektheit dieser Inhalte. Wer mit an dem Dokument schreiben will einfach Bescheid geben, dann passe ich die Berechtigung an. Jede Person kann aber Kommentare verfassen, falls irgendwo Fehler auffallen.

ℹ️ und wäre cool, wenn die Sachen in ähnlichem Schema aufgeschrieben werden damit es einigermaßen einheitlich aussieht :). LaTeX kann mit $$text$$ geschrieben werden, zwischen den Dollarzeichen und Text darf nur kein Leerzeichen stehen.

Grundbegriffe Stochastik

Wahrscheinlichkeitsraum

• $(\Omega ,\mathcal{A},\mathbb{P})$ mit
  • Ergebnisraum (Grundraum): $\Omega$
  • Festlegung der Menge ($\sigma$-Algebra) der interessierenden Ereignisse: $\mathcal{A}\subseteq 2^{\Omega }$, Ereignis: $A\subseteq \Omega$
  • Wahrscheinlichkeitsbewertung der Ereignisse: $\mathbb{P}(A),A\in \mathcal{A}(\mathbb{P}:\text{ “probability”})$
• Ist $\Omega$ höchstens abzählbar: diskreter Wahrscheinlichkeitsraum
• Ist $\Omega$ überabzählbar: stetiger Wahrscheinlichkeitsraum

Satz von der totalen Wahrscheinlichkeit, Zerlegungsformel

• Sei

  • $(\Omega ,\mathcal{A},\mathbb{P})$ ein W’keitsraum
  • $(B_i{)}_{i\in I}$ eine disjunkte Zerlegung von $\Omega$ wobei
    • $I$ eine höchstens abzählbare Indexmenge bezeichnet
    • es gelte $\mathbb{P}(B_i)>0\forall i\in I$
  • Es sei also ${\bigcup }_{i\in I}{B}_i=\Omega$ und $B_i\cap B_j=\varnothing$, $i\ne j$.
  • Dann gilt für alle $A\in \mathcal{A}$, dass $\mathbb{P}(A)={\sum }_{i\in I}\mathbb{P}(A|B_i)\cdot \mathbb{P}(B_i)={\sum }_{i\in I}\mathbb{P}(A\cap B_i)$.
  • Beispiel:

  

Satz von Bayes

• Sei $(\Omega ,\mathcal{A},\mathbb{P})$ ein W’keitsraum und $A,B\in \mathcal{A}$ Ereignisse mit $\mathbb{P}(A)>0$ und $\mathbb{P}(B)>0$ dann gilt:
  • $\mathbb{P}(B|A)=\frac{\mathbb{P}(B)\cdot \mathbb{P}(A|B)}{\mathbb{P}(A)}$ bzw. $\mathbb{P}(B|A)\cdot \mathbb{P}(A)=\mathbb{P}(B)\cdot (A|B)$
    • $\mathbb{P}(B)$ heißt a priori-Wahrscheinlichkeit von $B$ und $\mathbb{P}(B|A)$ heißt a posteriori-Wahrscheinlichkeit von B.

Kovarianz und Korellationskoeffizient

• Seien $X,Y:(\Omega ,\mathcal{A},\mathbb{P})\to \mathbb{R}$ zwei Zufallsvariablen mit jeweils endlichen Varianzen.
  • Kovarianz von $X$ und $Y$:
    • $Cov(X,Y)=\mathbb{E}[(X-\mathbb{E}[X])\cdot (Y-\mathbb{E}[Y])]=\mathbb{E}[X\cdot Y]-\mathbb{E}[X]\cdot \mathbb{E}[Y]$
  • Korellationskoeffizient von $X$ und $Y$:
    • $\rho (X,Y)=\frac{Cov(X,Y)}{\sqrt{Var(X)Var(Y)}}\in [-1,1]$

Eigenschaften der Kovarianz

• $Cov(X,X)=Var(X)$
• $Cov(X,Y)=Cov(Y,X)$ (Symmetrie)
• $Cov(a+X,b+Y)=Cov(X,Y)$ für alle reellen Konstanten $a,b$ (Translationsinvarianz)

Bilinearität der Kovarianz

• Seien $X,Y,Z:(\Omega ,\mathcal{A},\mathbb{P})\to \mathbb{R}$ drei Zufallsvariablen mit endlichen Varianzen.
• Dann gelten:
  • $Cov(aX,bY)=a\cdot b\cdot Cov(X,Y)$ für alle reellen Konstanten $a,b$.
  • $Cov(X,Y+Z)=Cov(X,Y)+Cov(X,Z)$
    $Cov(X+Z,Y)=Cov(X,Y)+Cov(Z,Y)$

Unkorreliertheit und stochastische Unabhängigkeit

• Seien $X,Y:(\Omega ,\mathcal{A},\mathbb{P})\to \mathbb{R}$ zwei Zufallsvariablen mit endlichen Varianzen.
• Dann:
  • $\mathbb{E}[X\cdot Y]=\mathbb{E}[X]\cdot \mathbb{E}[Y]+Cov(X,Y)$
  • $Var(X\pm Y)=Var(X)+Var(Y)\pm 2\cdot Cov(X,Y)$
  • $X\text{ und }Y\text{ stochastisch unabha¨ngig }\Rightarrow Cov(X,Y)=0$
• Aus der Unkorreliertheit von $X$ und $Y$ kann im Allgemein nicht auf $X$ und $Y$ sind stochastisch unabhängig geschlossen werden.

Die Quantilsfunktion

• Sei $F$ eine Verteilungsfunktion auf $\mathbb{R}$.
• Dann nennen wir die Funktion $F^{\leftarrow }:[0,1]\to \overline{\mathbb{R}}$
  $q\mapsto F^{\leftarrow }(q):=inf\{x\in \mathbb{R}:F(x)\ge q\}$
  die verallgemeinerte Inverse von $F$ bzw. die Quantilsfunktion zu $F$ . Dabei ist $q$ das Quartil.
• Falls $F$ stetig und streng monoton wachsend ist, so stimmt $F^{\leftarrow }$ mit der Umkehrfunktion $F^{-1}$ überein.

Interquartilsabstand

• Sei $F^{\leftarrow }(0.75)$ das obere und $F^{\leftarrow }(0.25)$ das untere Quartil.
• Dann nennen wir
  $IQR(F)=F^{\leftarrow }(0.75)-F^{\leftarrow }(0.25)$
  den Interquartilsabstand von $F$ .
• Der Interquartilsabstand von $F$ ist eine Alternative zur Standardabweichung von $F$ , um die Streuungsbreite der zu $F$ gehörigen W’keitsverteilung zu quantifizieren

Chebyshev-Ungleichung

• Setzt man in der Markov-Ungleichung voraus, dass $\mathbb{E}[X^2]<\infty$ ist und betrachtet man statt $X$ selbst die Zufallsvariable $Y=|X-\mathbb{E}[X]|$ so erhält man für $a>0$:
  • $\mathbb{P}(|X-\mathbb{E}[X]|\ge a)\le \frac{\mathbb{E}[(X-\mathbb{E}[X]{)}^2]}{a^2}=\frac{Var(X)}{a^2}$
• Oftmals benutzt man für $a$ ein Vielfaches von $SD(X)$.

---

Verteilungen

Verteilung einer diskreten Zufallsvariable

Diskrete Gleichverteilung (La Place)

• $\forall A\in 2^{\Omega }\mathbb{P}(A)=\frac{|A|}{|\Omega |}$
• Alle Ereignisse gleiche Wahrscheinlichkeit
• Bsp.: Fairer Würfelwurf, zufällige Auswahlen, Lotto

Bernoulli-Verteilung

• $f(w)=\{\begin{array}{ll}p& f\ddot{u}rw=1\\ (1-p)& f\ddot{u}rw=0\end{array}$
• $Erfolg:1Misserfolg:0$
• Zwei mögliche Ausgänge mit Erfolgswahrscheinlichkeit $p$ und Misserfolgswahrscheinlichkeit $1-p$

Binomialverteilung

• $f(k|p,n)=(\genfrac{}{}{0ex}{}{n}{k})\cdot p^k\cdot (1-p{)}^{n-k}$
• Unabhängige Bernoulliverteilung mit $p=const$
• Zählen der Anzahl der Erfolge $n$ unabhängiger Bernoulli-Experimente
• Bsp.: $k$-mal “Kopf” bei $n$ Würfen

Normalverteilung

• $f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{-\frac{1}{2}(\frac{x-\mu }{\sigma }{)}^2}$, $x\in \mathbb{R}$

• mit:

  • Erwartungswert $\mu =\frac{1}{\sqrt{2\pi {\sigma }^2}}{\int }_{-\infty }^{\infty }x{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}dx$
  • Standartabweichung $\sigma =\frac{1}{\sqrt{2\pi {\sigma }^2}}{\int }_{-\infty }^{\infty }(x-\mu {)}^2{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}dx$
  • Für Standardnormalverteilung: $\mu =0$ und $\sigma =1$

  

Poisson-Verteilung

• $f_{\lambda }=\frac{{\lambda }^k}{k!}\cdot e^{-\lambda },\lambda =MittlereEreignisrate,k\in {\mathbb{N}}_0$
• Anzahl der Ereignisse im festen Zeit- oder Raumbereich, Ereignisse sind unabhängig und mit konstanter Rate $\lambda =n\cdot p$
• Bsp.: Anrufe in Telefonzentrale pro Zeitintervall (Stunde), Epidemologie
• Beziehung zur Binomialverteilung: $n⟶\infty ,p⟶0$ und $n\cdot p=\lambda$
• Normalverteilung: Ab $\lambda =30\sim N(\mu =\lambda ,{\sigma }^2=\lambda )$

Verallgemeinerte Geometrische Verteilung

• $f(r,j)=(1-p{)}^{j-r}\cdot p^r\cdot (\genfrac{}{}{0ex}{}{j-1}{r-1}),r\in \mathbb{N},j\ge r$
• Der $r$-te Treffer in $j$-Versuchen, Bernoullisches Versuchsschema

🚨 In Klausur auch: Statistischer Test aus Code auslesen

Median einer Verteilungsfunktion

• Sei $F$ eine Verteilungsfunktion auf $\mathbb{R}$. Dann heißt jeder Wert $x_{med}$ mit der Eigenschaft $F(x_{med})\ge 1/2$, $\underset{x\uparrow x_{med}}{\lim }F(x)\le 1/2$
  ein Median von $F$ bzw. der zu $F$ gehörigen W’keitsverteilung.
• Falls $F$ stetig ist, so gilt $F(x_{med})=1/2$.
  Falls $F$ stetig und streng monoton wachsend mit Umkehrfunktion $F^{-1}$ ist, so gilt
  $x_{med}=F^{-1}(1/2)$.

Umkehrfunktion

• Sei $f(x)$ eine Funktion, die nach $y$ abbildet.
  • Löse nach $x$ auf und der neue Term steht in Abhängigkeit von $y$
  • Es gilt also: $f^{-1}(x)\widehat{=}f(y)$

---

Tests

p-Wert

• Bei Normalverteilung:
  • $\overline{x}=n\cdot p$
  • $s=\sqrt{n\cdot p\cdot (1-p)}$
  • $TeststatistikT=\frac{x_i-{\mu }_0}{s}$
  • Nachschlagen in z-Wertetabelle und $p-Wert$ ablesen
• Bei Binomialverteilung:
  • Sei Stichprobe der Größe $k$:
    • $\text{p-Wert}={\sum }_{i=0}^k\left(\genfrac{}{}{0ex}{}{n}{i}\right)\cdot p^i\cdot (1-p{)}^{n-i}$
• Wenn $\text{p-Wert}<\text{Signifikanzniveau }\alpha$ wird $H_0$ verworfen

Hypothesentest

Hypothesentest: Einseitiger und beidseitiger Test

• Binomialverteilt: Tabelle aufstellen und kritischen Wert suchen, wenn $Stichprobenwert\le kritischerWert$ verwerfe $H_0$

Signifikanztest

• Nachschlagen in der Tabelle anhand von Anzahl Fälle $N$, Wahrscheinlichkeit $p$ und Signifikanzniveau $\alpha$. Der kritische Wert ist der $x$-Wert, für den $\mathbb{P}(X=x)$ gerade noch unter $\alpha$ liegt. Wenn die Anzahl Treffer $k$ größer gleich dem Kritischen Wert sind, wird $H_0$ verworfen. Es gilt:
  • $H_0$ wird verworfen, wenn $k_{beob}\ge k_{krit}$
  • $H_1$ wird verworfen, wenn $k_{beob}<k_{krit}$

Chi Quadrat Test

• Voraussetzungen:
  • nominales oder ordinales Skalenniveau
  • zufallsverteilt
• $x^2=\sum \frac{(\text{beobachtete Ha¨ufigkeit }-\text{ erwartete Ha¨ufigkeit}{)}^2}{\text{erwartete Ha¨ufigkeit}}$
• Häufigkeit $f_e=\frac{\text{Zeilensumme }\cdot \text{ Spaltensumme}}{\text{Stichprobengro¨ße}}$

• Kritischen Wert in Tabelle ablesen mit Hilfe von $(1-\alpha )$ und Freiheitsgrad $df=(\text{Anzahl der Spalten }-1)\cdot (\text{Anzahl der Zeilen}-1)$
• Wenn $x^2>\text{ Kritischer Wert}$ dann gibt es einen statistisch signifikanten Zusammenhang.
• $H_0$: $X$ und $Y$ sind stochastisch unabhängig
• $H_1$: Zwischen $X$ und $Y$ gibt es einen statistisch signifikanten Zusammenhang

Chi Quadrat Test • Erklärung, Berechnung & Beispiele

T-Test

• $X\sim N({\mu }_x,{\sigma }_x^2),Y\sim N({\mu }_y,{\sigma }_y^2)$
• $$\begin{gathered} {\sigma }_x^2={\sigma }_y^2,H_0:{\mu }_1={\mu }_2 \\ {H}_1:{\mu }_1\ne {\mu }_2 \end{gathered}$$
• Einstichproben t-Test:
  • linksseitig: $H_0:\mu \ge {\mu }_0$, $H_1:\mu <{\mu }_0$
  • rechtsseitig: $H_0:\mu \le {\mu }_0$, $H_1:\mu >{\mu }_0$
  • zweiseitig: $H_0:\mu =x$, $H_1:\mu \ne x$
  • Teststatistik: $T=\frac{\overline{x}-{\mu }_0}{\frac{s}{\sqrt{n}}}$
  • Nachschlagen in der t-Verteilungstabelle, wobei $Freiheitsgrad=n-1$.
    • Ablesen des kritischen Wertes:
      • rechtsseitig: direkt ablesbar
      • linksseitig: Kehrwert bilden (einfach ein “$-$” davor)
      • beidseitig: Signifikanzniveau halbieren (z.B. bei $5\%$ zu $\alpha =0,025$) und zwei Kritische Werte bilden, einmal normal ablesen und dann für den anderen Kehrwert bilden
    • Verwerfen wenn:
      • links: $\text{t-Wert}<\text{Kritischer Wert}$
      • rechts: $\text{t-Wert}>\text{Kritischer Wert}$
      • beidseitig: $\text{t-Wert}\notin ({\text{Kritischer Wert }}_1,{\text{ Kritischer Wert}}_2)$

Welch-Test

• $X\sim N({\mu }_x,{\sigma }_x^2),Y\sim N({\mu }_y,{\sigma }_y^2)$
• $$\begin{gathered} {\sigma }_x^2\ne {\sigma }_y^2,H_0:{\mu }_1={\mu }_2 \\ {H}_1:{\mu }_1\ne {\mu }_2 \end{gathered}$$

Fisher-Test

• Wie Chi-Quadrat, aber für kleine Stichproben

Wilcoxon(-Mann-Whitney)-Test

• $X\sim F_x\wedge Y\sim F_y,F_y(c)=F_x(c+a)\Rightarrow Var(x)=Var(y),H_0:F_x=F_y,H_1:F_X\ne F_Y$
• $p$-Wert entspricht kleinstem Signifikanzniveau $\alpha$, bei dem $H_0$ gerade noch zu gunsten von $H_1$ verworfen wird
  • $p\le \alpha \Rightarrow H_1$
  • $p>\alpha \Rightarrow H_0$
• unabhängige Variable:
  • Unterschiedlich bei beiden Teilen der Stichprobe (z.B. Geschlecht)
• abhängige Variable:
  • das gleiche wird überprüft bei beiden Stichprobenteilen (z.B. Dauer der Internetnutzung)
• Aufstellen einer Tabelle und verteilen von Rangplätzen abhängig vom Wert (z.B. Platz 1 für kürzeste Dauer)
  • bei mehreren gleichen Werten: Mittelwert aus den betroffenen Rangplätzen bilden und diesen neuen Rangwert an alle betroffenen Werte verteilen
• Aufaddieren der Rangplätze für die unabhängigen Variablen (z.B. für alle Frauen und alle Männer)
  • Für jede Gruppe berechne Teststatistik $U=n_1\cdot n_2+\frac{n_1\cdot (n_1+1)}{2}-R$
    • $n_1$ Größe Stichprobe für erste unabhängige Variable (z.B. Anzahl Männer)
    • $n_2$ Größe Stichprobe für zweite unabhängige Variable (z.B. Anzahl Frauen)
    • $R$: Rangsumme für die unabhängige Variable

• anschließend mit Hilfe von $n_1$ und $n_2$ den kritischen Wert aus der Tabelle ablesen
• $H_0$ wird verworfen, wenn: $min\{U_1,U_2\}\le U_{krit}$
• Bei Stichprobengröße ÜBER 30:
  • kleine Stichprobe: U-Wert oder z-Wert
  • U-Wert z-standardisieren mit Erwartungswert und Standardfehler von $U$
    • ${\mu }_U=\frac{n_1\cdot n_2}{2}$
    • ${\sigma }_U=\sqrt{\frac{n_1\cdot n_2\cdot (n_1+n_2+1)}{{\mu }_U}}$
    • $z=\frac{min(U)-{\mu }_U}{{\sigma }_U}$
    • wenn $|z|>krit$, wird $H_0$ verworfen

---

Kombinatorik

Schema zur Kombinatorik

		Wiederholung
		ja	nein
Reihenfolge	berücksichtigt	$P{e}^{\ast }(n,k)=n^k$	$Pe(n,k)=\frac{n!}{(n-k)!}$
	unberücksichtigt	$C^{\ast }(n,k)=\left(\genfrac{}{}{0ex}{}{n+k-1}{k}\right)$	$C(n,k)=\frac{n!}{k!\cdot (n-k)!}=\left(\genfrac{}{}{0ex}{}{n}{k}\right)$

Erwartungswert

• Diskrete Zufallsvariable: (mit Zähldichte $f_X$ bzw. hier $f_I$)
  • $\mathbb{E}[x]={\sum }_{i\in I}{x}_i\cdot \mathbb{P}(X=x_i)={\sum }_{i\in I}{x}_i\cdot f_I(x_i)$
• Stetige Zufallsvariable:
  • $\mathbb{E}(X):={\int }_{-\infty }^{\infty }x\cdot f_X(x)dx$

Rechenregeln Erwartungswert

• Monotonie: Ist $X\le Y$, so ist $\mathbb{E}[X]\le \mathbb{E}[Y]$.
• Linearität: $\mathbb{E}[aX+bY]=a\mathbb{E}[X]+b\mathbb{E}[Y]$ für beliebige $a,b\in \mathbb{R}$.
• $\sigma$-Additivität: Sind alle $X_n\ge 0$ und ist $X={\sum }_{n\ge 1}{X}_n$, so gilt $\mathbb{E}[X]={\sum }_{n\ge 1}\mathbb{E}[X_n]$.
• Produktregel bei stochastischer Unabhängigkeit: Sind $X$ und $Y$ stochastisch unabhängig, so existiert der Erwartungswert von $X\cdot Y$ und es gilt: $\mathbb{E}[X\cdot Y]=\mathbb{E}[X]\cdot \mathbb{E}[Y]$

Varianz

• $Var(x)=\mathbb{E}[(X-\mathbb{E}[X]{)}^2]=\mathbb{E}[x^2]-\mathbb{E}[x{]}^2$
• empirisch: $\frac{1}{n}{\sum }_{i=1}^n(x_i-\overline{x}{)}^2$

Standardabweichung

• $SD(X):=\sqrt{Var(X)}$

Varianzzerlegung

Die Varianzzerlegung, auch als Varianzzerlegung der linearen Regression oder als Varianzkomponentenanalyse bekannt, ist ein Konzept aus der Statistik, das die Gesamtvarianz einer abhängigen Variable in verschiedene Komponenten zerlegt. Hier ist die grundlegende Formel der Varianzzerlegung:

$\text{Gesamtvarianz}=\text{Erkla¨rte Varianz}+\text{Unerkla¨rte Varianz}$

Die Gesamtvarianz (Varianz der abhängigen Variable $Y$) kann in die erklärte Varianz (durch das Modell erklärt) und die unerklärte Varianz (Fehlerterm) zerlegt werden:

$\text{Var}(Y)=\text{Var}(\hat{Y})+\text{Var}(ϵ)$

Dabei sind:

• $\text{Var}(Y)$: Gesamtvarianz der abhängigen Variable $Y$.
• $\text{Var}(\hat{Y})$: Erklärte Varianz, also die Varianz der vorhergesagten Werte $\hat{Y}$.
• $\text{Var}(ϵ)$: Unerklärte Varianz, also die Varianz des Fehlerterms $ϵ$.

Diese Komponenten können weiter erläutert werden:

1. Gesamtvarianz ($\text{Var}(Y)$): Dies ist die Varianz der Zielvariable $Y$, die wir modellieren möchten.
2. Erklärte Varianz ($\text{Var}(\hat{Y})$): Dies ist der Anteil der Varianz in $Y$, der durch die unabhängigen Variablen im Modell erklärt wird. $\hat{Y}$ sind die vorhergesagten Werte von $Y$.
3. Unerklärte Varianz ($\text{Var}(ϵ)$): Dies ist der Anteil der Varianz in $Y$, der durch die unabhängigen Variablen nicht erklärt wird und auf Zufallsfehler oder nicht erfasste Faktoren zurückzuführen ist. $ϵ$ ist der Fehlerterm des Modells.

In der Praxis wird die Varianzzerlegung oft in der Analyse von linearen Modellen verwendet, um zu verstehen, wie gut das Modell die Varianz der Zielvariablen erklärt. Ein höherer Anteil der erklärten Varianz bedeutet, dass das Modell eine bessere Passung hat.

Bei Erwatungswert

Die Varianzzerlegung kann in Verbindung mit dem Berechnen von Erwartungswerten (Erwartungswertzerlegung) genutzt werden, um die Gesamtvarianz einer Zufallsvariablen zu verstehen und in verschiedene Komponenten zu zerlegen. Dabei wird oft die Bedingte Erwartungswertzerlegung verwendet. Diese Methode ist besonders nützlich in der Regressionsanalyse und bei der Analyse von Zufallsvariablen.

Hier sind die Schritte und die mathematischen Ausdrücke zur Anwendung der Varianzzerlegung auf Erwartungswerte:

1. Gesamtvarianz einer Zufallsvariablen $Y$:

   $\text{Var}(Y)=\mathbb{E}[(Y-\mathbb{E}[Y]{)}^2]$

2. Erwartungswertzerlegung:

   Man teilt die Gesamtvarianz von $Y$ in zwei Komponenten: die Varianz des bedingten Erwartungswertes von $Y$ gegeben $X$ (erklärte Varianz) und die Erwartung der bedingten Varianz von $Y$ gegeben $X$ (unerklärte Varianz):

   $\text{Var}(Y)=\text{Var}(\mathbb{E}[Y|X])+\mathbb{E}[\text{Var}(Y|X)]$

   Hierbei sind:

   • $\text{Var}(\mathbb{E}[Y|X])$: Varianz des bedingten Erwartungswertes von $Y$ gegeben $X$. Dies ist die erklärte Varianz durch $X$.
   • $\mathbb{E}[\text{Var}(Y|X)]$: Erwartungswert der bedingten Varianz von $Y$ gegeben $X$. Dies ist die unerklärte Varianz, die verbleibt, nachdem man den Einfluss von $X$ berücksichtigt hat.

Anwendung in der Praxis

Angenommen, wir haben eine Zufallsvariable $Y$ (z.B. das Einkommen einer Person) und eine erklärende Variable $X$ (z.B. die Anzahl der Ausbildungsjahre):

1. Berechnung der bedingten Erwartungswerte:

   Bestimmen Sie den bedingten Erwartungswert von $Y$ gegeben $X$, das heißt $\mathbb{E}[Y|X]$. Dieser Wert gibt an, wie sich das Einkommen $Y$ im Durchschnitt ändert, wenn sich $X$ (die Ausbildungsjahre) ändert.

2. Berechnung der Varianzen:

   • Erklärte Varianz: Berechnen Sie die Varianz der bedingten Erwartungswerte $\text{Var}(\mathbb{E}[Y|X])$. Dies misst, wie stark der bedingte Erwartungswert $\mathbb{E}[Y|X]$ um seinen Gesamtmittelwert streut.
   • Unerklärte Varianz: Berechnen Sie den Erwartungswert der bedingten Varianz $\mathbb{E}[\text{Var}(Y|X)]$. Dies misst, wie stark $Y$ um den bedingten Erwartungswert $\mathbb{E}[Y|X]$ streut.

Beispiel

Angenommen, wir haben Daten zu Einkommen und Ausbildungsjahren für eine Stichprobe von Personen. Wir können ein Regressionsmodell verwenden, um den bedingten Erwartungswert $\mathbb{E}[Y|X]$ zu schätzen und dann die oben beschriebenen Varianzen berechnen.

1. Regressionsmodell: $\hat{Y}={\hat{\beta }}_0+{\hat{\beta }}_{1}X$
2. Erklärte Varianz: Varianz der vorhergesagten Werte $\hat{Y}$.
3. Unerklärte Varianz: Varianz der Residuen (Fehler) $Y-\hat{Y}$.

Durch diese Zerlegung können wir verstehen, wie viel der Gesamtvarianz des Einkommens durch die Anzahl der Ausbildungsjahre erklärt wird und wie viel der Varianz auf andere Faktoren oder Zufall zurückzuführen ist.

Normiertheit

• ${\sum }_{i\in I}\mathbb{P}(X=x_i)=1$

Nicht neg. distat (Nicht negativ distributiv)

• $\mathbb{P}(X=w)\ge 0$

Lebesgue-Dichte

• Jede Lebesguedichte auf einem Grundraum $\Omega \subseteq \mathbb{R}$ hat die folgenden Eigenschaften:
  • $\forall \omega \in \Omega :f(\omega )\ge 0$
  • ${\int }_{\Omega }f(x)dx=1$

Integrationsregeln

Partielle Integration

• $\int f(x)\cdot g’(x)dx=f(x)\cdot g(x)-\int f’(x)\cdot g(x)dx$

Integration durch Substitution

Statistik

Skalierungen

• Nominalskaliert: Merkmale wie Postleitzahl, Automarke, Haarfarbe, …,die zwar durch einen Zahlenwert codiert werden können, bei denen die Zuordnung zu den einzelnen Ausprägungen aber willkürlich ist
• Ordinalskaliert: Merkmale wie Schulnote, Platz in einer Tabelle, bei denen der Zahlenwert nur eine Reihung darstellt
• Intervallskaliert: Merkmale wie Temperatur, bei denen Differenzbildung sinnvoll ist
• Verhältnisskaliert: Merkmale wie Größe, Alter, Temperatur in Kelvin, die einen absoluten Nullpunkt haben. Bei diesen ist dann zudem das Bilden von Quotienten sinnvoll

Konfidenzintervall

• Untere Grenze: $x_u=\overline{x}+z_u\cdot \frac{s_x}{\sqrt{n}}$
• Obere Grenze: $x_o=\overline{x}+z_o\cdot \frac{s_x}{\sqrt{n}}$
  • mit Mittelwert $\overline{x}$
  • Standardfehler $s_x$
  • Wurzel aus der Stichprobe ($\sqrt{n}$)
  • untere Intervallgrenze $z_u$, obere Intervallgrenze $z_o$
    • bei Konfidenzniveau $95\%$: $100\%-95\%=5\%$
      • da Grenze für oben und unten gilt: $x_u=\frac{5\%}{2}$ und $x_o=100\%-\frac{5\%}{2}=97,5\%$
      • Wert liegt also mit $95\%$ Wahrscheinlichkeit in diesem Intervall

Mittelwert

• $\overline{x}=(x_1+\cdots +x_N)/N=\frac{1}{N}{\sum }_{i=1}^N{x}_i$

Standardabweichung (empirisch)

• $SD=\sqrt{\frac{1}{N-1}{\sum }_{i=1}^N(x_i-\overline{x}{)}^2}$

Stichprobenquartile

• 1. Quartil:
  • wenn $N\cdot 0,25$ gebrochen: $x_{(\lceil N\cdot 0,25\rceil )}$
  • wenn $N\cdot 0,25$ eine ganze Zahl ist: $(x_{(\lceil N\cdot 0,25\rceil )}+x_{(\lceil N\cdot 0,25+1\rceil )})/2$
• Ersetzt man $0,25$ durch $0,75$

Maße für Lage und Streuung

Skalenniveau	Lagemaß	Streuungsmaß
Verhältnisskala	Mittelwert, Median	Varianz, Standardabw., IQR, Spannweite
Intervallskala	Mittelwert, Median	Varianz, Standardabw., IQR, Spannweite
Ordinalskala	Median	IQR, Spannweite
Nominalskala

Fehlertypen

• Eine fälschliche Verwerfung der Nullhypothese (in unserem Beispiel: Behaupten, dass die Ernährung das Gewicht beeinflusst) nennen wir Fehler 1.Art
• Eine fälschliche nicht-Verwerfung der Nullhypothese (in unserem Beispiel: Annehmen, dass die Ernährung das Gewicht nicht beeinflusst, obwohl es so ist) nennen wir Fehler 2.Art
• Die Entscheidung für oder gegen eine Hypothese basiert auf einer Zufallsstichprobe und ist damit selbst wieder zufällig
• Wir können also theoretisch Wahrscheinlichkeiten dafür angeben einen Fehler 1.Art bzw. einen Fehler 2.Art zu begehen

Fehlerwahrscheinlichkeiten

• Die Wahrscheinlichkeit für einen Fehler 1.Art bezeichnen wir mit $\alpha$, die Wahrscheinlichkeit für einen Fehler 2.Art mit $\beta$
• Man möchte natürlich beide Fehlerwahrscheinlichkeiten möglichst klein halten
• Dies ist in der Praxis jedoch nicht gleichzeitig möglich
• In der Regel wird ein Fehler 1.Art als schwerwiegender betrachtet, als ein Fehler 2.Art (im medizinischen Umfeld bedeutet ein Fehler 1.Art in der Regel die potentielle Zulassung einer nicht wirksamen Therapie)
• Man versucht daher Entscheidungsregeln für die Entscheidung zwischen $H_0$ und $H_1$ zu
  finden, bei denen die Wahrscheinlichkeit α für einen Fehler 1.Art gering ist
• In der Regel versucht man Entscheidungsregeln zu finden, für die sichergestellt ist, dass $\alpha \le 0.05$ ist
• Das heißt, wenn die Nullhypothese gilt, möchte man sie nur mit $5\%$ Wahrscheinlichkeit
  (fälschlicherweise) ablehnen
• In Fällen, in denen eine fälschliche Verwerfung der Nullhypothese besonders schwerwiegend ist, werden auch kleinere $\alpha$ gewählt
• Man nennt $\alpha$ auch das Signifikanzniveau des Tests
• Wichtig: Das Signifikanzniveau muss vor der Durchführung des Tests festgelegt werden!

Power

• Wie gesehen bezeichnen wir mit $\beta$ die Wahrscheinlichkeit für einen Fehler 2.Art, also der
  fälschlichen nicht-Verwerfung der Nullhypothese