Formelsammlung

Kapitel Einstieg

Formelsammlung

Axiome von Kolmogorov

Die Grundlagen der Wahrscheinlichkeitstheorie basieren auf den Axiomen von Kolmogorov, die besagen, dass für ein Ereignis (A):

1. $0\le P(A)\le 1$
2. $P(\Omega )=1$
3. Für disjunkte Ereignisse (A) und (B): $P(A\cup B)=P(A)+P(B)$

Laplace-Wahrscheinlichkeit

Die Laplace-Wahrscheinlichkeit für ein Ereignis (A) in einem diskreten Ergebnisraum (\Omega) ist:

$$P(A)=\frac{\text{Anzahl der gu¨nstigen Ergebnisse}}{\text{Anzahl der mo¨glichen Ergebnisse}}$$

Odds oder Chance

Die Odds eines Ereignisses (A) sind:

$$\text{Odds}(A)=\frac{P(A)}{P(\bar{A})}$$

Wahrscheinlichkeiten und Unabhängigkeit

Für stochastisch unabhängige Ereignisse (A) und (B) gilt:

$$P(A\cap B)=P(A)\cdot P(B)$$

Für unabhängige Zufallsvariablen (X) und (Y):

$$P(X=x,Y=y)=P(X=x)\cdot P(Y=y)$$

Bedingte Wahrscheinlichkeit

Die bedingte Wahrscheinlichkeit von (A) gegeben (B) ist:

$$P(A|B)=\frac{P(A\cap B)}{P(B)}$$

Satz von Bayes

Der Satz von Bayes ermöglicht das Umkehren der bedingten Wahrscheinlichkeit:

$$P(A|B)=\frac{P(B|A)\cdot P(A)}{P(B)}$$

Satz von der totalen Wahrscheinlichkeit

Die marginale Wahrscheinlichkeit von (B) kann mittels des Satzes von der totalen Wahrscheinlichkeit berechnet werden:

$$P(B)=P(B|A)P(A)+P(B|\bar{A})P(\bar{A})$$

Posteriori-Wahrscheinlichkeit

Die Posteriori-Wahrscheinlichkeit (P(A|B)) nach Beobachtung (B) ist:

$$P(A|B)=\frac{P(B|A)\cdot P(A)}{P(B|A)P(A)+P(B|\bar{A})P(\bar{A})}$$

Binomialverteilung

Die Wahrscheinlichkeit für (y) Erfolge in (n) Bernoulli-Versuchen mit Erfolgswahrscheinlichkeit (p) ist:

$$P(Y=y)=\left(\genfrac{}{}{0ex}{}{n}{y}\right)p^y(1-p{)}^{n-y}$$

Relative Häufigkeit

Die relative Häufigkeit eines Ereignisses (A) bei (n) Versuchen ist:

$$P_n(A)=\frac{h_n}{n}$$

wo (h_n) die Anzahl der Versuche ist, in denen (A) eingetreten ist.

Interpretation von Wahrscheinlichkeiten

Wahrscheinlichkeiten können interpretiert werden als:

• Laplace-Wahrscheinlichkeit (klassische Interpretation)
• Relative Häufigkeit (frequentistische Interpretation)
• Grad der Überzeugung (Bayessche Interpretation)
• Eigenschaft eines physikalischen Systems (Propensität)

Diese Formelsammlung bietet einen Überblick über die grundlegenden Konzepte und Formeln der Wahrscheinlichkeitstheorie und des Satzes von Bayes. Sie stellt die mathematischen Werkzeuge dar, die für das Verständnis von Wahrscheinlichkeiten, ihrer Berechnung und Anwendung erforderlich sind.

Kapitel Grundlagen

Formelsammlung

Allgemeine Bayes-Formel

Die allgemeine Bayes-Formel verbindet unsere Daten (Likelihood) mit unserem Vorwissen (Priori) zur Aktualisierung unserer Annahmen (Posteriori). Sie ist grundlegend für die Bayes-Statistik und wird verwendet, um die Wahrscheinlichkeit einer Hypothese zu berechnen, nachdem neue Daten beobachtet wurden.

$$p(\pi |x)=\frac{f(x|\pi )p(\pi )}{f(x)}$$

Datendichte und Likelihood

Die Likelihood-Funktion zeigt, wie plausibel eine bestimmte Hypothese angesichts der beobachteten Daten ist. Sie ist ein Schlüsselelement beim Lernen aus Daten und beim Aktualisieren von Glaubensgraden.

$$f(x|\pi )=(\genfrac{}{}{0ex}{}{n}{x}){\pi }^x(1-\pi {)}^{n-x}$$

Verteilungsfunktion und stetige Dichte

Die Verteilungsfunktion gibt die Wahrscheinlichkeit an, dass eine stetige Zufallsvariable einen Wert kleiner oder gleich einem bestimmten Wert annimmt. Die Dichte ist ihre Ableitung und gibt uns die Wahrscheinlichkeit einer genauen Realisation in einem stetigen Raum.

$$F(y)=P(Y\le y)$$ $$f(y)=\frac{d}{dy}F(y)$$

Beta-Verteilung und ihre Dichte

Die Beta-Verteilung ist eine Familie von Wahrscheinlichkeitsverteilungen auf dem Intervall [0,1] und ist besonders nützlich als Priori in Bayes-Statistik wegen ihrer Flexibilität und Konjugiertheit.

$$Y\sim Beta(a,b)$$ $$f(y)=\frac{1}{B(a,b)}{y}^{a-1}(1-y{)}^{b-1}$$

Normalisierungskonstante

Die Normalisierungskonstante sorgt dafür, dass die Summe (oder das Integral) aller Wahrscheinlichkeiten gleich 1 ist. Sie ist entscheidend, um aus der Likelihood eine Wahrscheinlichkeitsverteilung zu machen.

• Für diskrete Verteilungen: ${\sum }_{\pi }f(x|\pi )P(\Pi =\pi )$
• Für stetige Verteilungen: $\int f(x|\pi )p(\pi )d\pi$

Priori-Verteilung

Die Priori-Verteilung drückt aus, was wir vor der Betrachtung neuer Daten über eine Hypothese wissen. In diesem Fall nehmen wir an, dass alle Werte gleich wahrscheinlich sind, eine sogenannte Gleichverteilung.

$$p(\pi )=1\text{fu¨r}0\le \pi \le 1$$

Posteriori-Verteilung und -Dichte

Die Posteriori-Verteilung kombiniert das Vorwissen (Priori) mit den neuen Daten (Likelihood), um unsere Glaubensgrade zu aktualisieren. Sie gibt die aktualisierte Wahrscheinlichkeit der Hypothese nach Beobachtung der Daten an.

$$p(\pi |x)\propto {\pi }^x(1-\pi {)}^{n-x}$$

Erwartungswert der Posteriori-Verteilung

Der Erwartungswert der Posteriori-Verteilung wird als Punktschätzung für den unbekannten Parameter nach der Aktualisierung durch neue Daten verwendet.

$$\mathbb{E}[\Pi |x]=\frac{x+1}{n+2}$$

Diese Formelsammlung fasst die wichtigsten Gleichungen und Konzepte aus der Bayes-Statistik zusammen, die in den Kapiteln zu Bayes’ Billardkugeln besprochen wurden. Sie bietet eine schnelle Referenz für die Kernkonzepte und mathematischen Werkzeuge, die für das Verständnis und die Anwendung der Bayes’schen Inferenz erforderlich sind.

---