From Torben's Wiki

Hallo Torben, wir machen wieder eine Formelsammlung.

Haha, hab ich gerade auch ganz überrascht festgestellt ;-) Nur zu!

1 Anleitung
2 Begriffe
3 Annahmen
- 3.1 Lineares Regressionsmodell
- 3.2 Multiples Regressionsmodell
4 Interpretation der Schätzer
- 4.1 Lineares Modell
- 4.2 Logarithmiertes Modell
5 Allgemeines Vorgehen (5 Schritte)
6 Wann welche Teststatistik?
- 6.1 Beim einfachen, linearen Regressionsmodell
- 6.2 Bei multiplem Regressionsmodell
7 Tests
8 Restriktionen
9 Konfidenzintervalle
10 Multiples lineares Regressionsmodell bei Vorinformation in Gestalt linearer Parameterrestriktion
11 Tests auf Strukturbrüche
12 Multikollininearität (Kap. 14.3.)
- 12.1 Was ist das?
13 Rechnen mit Erwartungswert und Varianz
- 13.1 Streuungszerlegung
14 Sonstiges
15 Weblinks

Anleitung

Chat / Diskussion

--Björn 14:02, 1 June 2010 (CEST): Hier könnt ihr was reinschreiben, wenn ihr was besprechen wollt. Oder Probleme oder so habt. Bitte klickt, wenn ihr was schreibt, immer oben auf das 2. Icon von rechts (im Bearbeitungsmodus). Da steht "Deine Signatur mit Zeitstempel", wenn man die Maus darüber hält.

Hinweise

Kurz vorweg: Am Anfang ist das Arbeiten an einer gemeinsamen Formelsammlung auf Wikipedia-Ebene verwirrend. Wir sollten uns aber trotzdem die Zeit nehmen, um uns einzuarbeiten, da wir so z.B. auch in späteren Semestern effizient gemeinsam an Texten arbeiten können.

Nun aber zur Funktionsweise:

Um die einzelnen Abschnitte mit Inhalt zu füllen, klickt einfach auf [Bearbeiten] hinter der Überschrift für den jeweiligen Abschnitt. Da es, wie oben genannt, am Anfang etwas verwirrend ist gebe ich (Björn) euch gerne eine persönliche Anleitung, z.B. in der Stabi. Bitte sprecht mich einfach an! Falls ihr Fragen oder Probleme habt: Fragt!

Sehr nützlich sind auch die Eingabe-Beispiele, mit deren Hilfe kommt man auch recht schnell dahinter, wie man hier Formeln eintickert.

Falls ihr noch weitere Hilfe benötigt:

Grundlegende Formatierungen

Erstellen von mathematischen Formeln und Übersicht der möglichen Symbole

Erstellen von Tabellen

Eingabe-Beispiele

Speziell für Ökonometrie

Eingabe	Ergebnis	Kommentar
<u>Unterstreichen</u>	Unterstreichen	Unterstreichen
<math>\sigma\,\! ^2</math>	$\sigma\,\! ^2$	Bitte bei den griechischen Buchstaben die Sonderzeichen aus dem Beispiel übernehmen (also: \sigma\,\! ), anonsten sieht der Buchstabe komisch aus.
<math>\beta\,\!</math>	$\beta\,\!$
<math>\beta\,\! _1</math>	$\beta\,\! _1$	Beta mit Index
<math>\hat \beta\,\!</math>	$\hat \beta\,\!$
<math>\tilde{\beta\,\!}</math>	$\tilde{\beta\,\!}$	Tilde bzw. "Schlange"
<math>\hat \tilde{\beta\,\!}</math>	$\hat \tilde{\beta\,\!}$	"Dach" + "Schlange"
<math>\bar x</math>	$\bar x$
<math>\widehat{Cov} (R \tilde {\beta\,\!})</math>	$\widehat{Cov} (R \tilde {\beta\,\!})$	Dach über mehreren Buchstaben (hier Cov).
<math>\ (X'X)^{-1} X'y</math>	$\ (X'X)^{-1} X'y$	Transponierte Matrizen und Schreibweise für eine Inverse
<math>\ X \in \mathbb{R} ^{k \times n}</math>	$\ X \in \mathbb{R} ^{k \times n}$	(k x n)-Matrix X
<math>\not \in</math>	$\not \in$
<math>\begin{bmatrix} 1 & \cdots & 0 \\ \vdots & \ddots & \vdots \\ 0 & \cdots & 1 \end{bmatrix}</math>	$\begin{bmatrix} 1 & \cdots & 0 \\ \vdots & \ddots & \vdots \\ 0 & \cdots & 1 \end{bmatrix}$
<math>\begin{pmatrix} x & y \\ z & v \end{pmatrix} </math>	$\begin{pmatrix} x & y \\ z & v \end{pmatrix}$
<math>\begin{pmatrix} x & y \\ z & v \\ u & i \end{pmatrix} </math>	$\begin{pmatrix} x & y \\ z & v \\ u & i \end{pmatrix}$	Neue Spalte: Einfach mit einem & und dem jeweiligen Wert hinter die jetzige 2. Spalte.
<math>\begin{pmatrix} x \\ z \\ u \end{pmatrix} </math>	$\begin{pmatrix} x \\ z \\ u \end{pmatrix}$	Vektor (ohne &!)
<math>\ H_0 </math>	$\ H_0$
<math>\ne</math>	$\ne$	Größer gleich und co. siehe die Auflistung hier drunter.
<math>\and</math>	$\and$	Mathematisches "und"
<math>\or</math>	$\or$	Mathematisches "oder"
<math>\kappa\,\! _{ \alpha }	$\kappa\,\! _{ \alpha }$
<math>\chi\,\!^2</math>	$\chi\,\!^2$	Chi-Quadrat
<math>\ x \sim N(\mu ; \sigma)</math>	$\ x \sim N(\mu ; \sigma)$

--Björn 13:58, 1 June 2010 (CEST): Habt ihr noch andere Wünsche, die ergänzt werden müssen?

Allgemein

Eingabe	Ergebnis	Kommentar
<math>\ 1 + 2 - 1 = 2</math>	$\ 1 + 2 - 1 = 2$	Es ist wichtig, dass man ein Backslash ("\") vor die Formel schreibt, damit man die Formel richtig angezeigt wird. Ohne Backslash wird die Schrift nicht richtig dargestellt. Beispiel: $1 + 2 - 1 = 2$
<math>\ 4 \div 2 = 2</math>	$\ 4 \div 2 = 2$
<math>\ \ln (a)</math>	$\ \ln (a)$	Geht auch mit \log
<math>\ \sin (a)</math>	$\ \sin (a)$	Geht auch mit \tan und \cos statt \sin
<math>\ x_1 \cdot x_2</math>	$\ x_1 \cdot x_2$
<math>\ a^2+3b</math>	$\ a^2+3b$
<math>\ a^{2+3b} </math>	$\ a^{2+3b}$
<math>\ a^{x^y} </math>	$\ a^{x^y}$	Die geschweiften Klammern sind hier notwendig, <math>\ a^x^y </math> würde nicht funktionieren.
<math>\sqrt{2}</math>	$\sqrt{2}$
<math>\sqrt[3]{81}</math>	$\sqrt[3]{81}$
<math>\sqrt[3]{x^5}</math>	$\sqrt[3]{x^5}$
<math>\ (X'X)^{-1}</math>	$\ (X'X)^{-1}$	Transponiert und hoch minus 1
<math>\frac{1}{x}</math>	$\frac{1}{x}$
<math>\ (x + 2)^2</math>	$\ (x + 2)^2$
<math>\left( \frac{1}{x} \right)^2</math>	$\left( \frac{1}{x} \right)^2$	Bei Brüchen bitte diese Klammervariante benutzen.
<math>\left( \frac{1+3x}{x} \right)^2</math>	$\left( \frac{1+3x}{x} \right)^2$
<math>\ f'(x)</math>	$\ f'(x)$
<math>\ f''(x)</math>	$\ f''(x)$
<math>\partial x \,</math>	$\partial x \,$	Warum bei dieser und der folgenden Funktion " \," hinter der Funktion steht, kann ich leider nicht sagen.
<math> dx \,</math>	$dx \,$
<math>\frac{dy}{dx}\,</math>	$\frac{dy}{dx}\,$
<math>\frac{\partial^2 y}{\partial x_1\,\partial x_2},</math>	$\frac{\partial^2 y}{\partial x_1\,\partial x_2},$
<math>\to</math>	$\to$
<math>\in</math>	$\in$
\approx	$\approx$
\ne	$\ne$
<math>\ < </math>	$\ <$
<math>\le</math>	$\le$
<math>\ge</math>	$\ge$
<math>\ > </math>	$\ >$
<math>\infty</math>	$\infty$
<math>\hat x</math>	$\hat x$
<math>\sum_{i=1}^n x^i</math>	$\sum_{i=1}^n 5^i$
<math>\prod_{i=1}^n x_i</math>	$\prod_{i=1}^n x_i$
<math>\lim_{x \to \infty} \frac{1}{x}</math>	$\lim_{x \to \infty} \frac{1}{x}$
<math>\left [ x^3 + 5 \right ]_1^3</math>	$\left [ x^3 + 5 \right ]_1^3$
<math>f(n) = \begin{cases} x/2, & \mbox{fuer alle }x\mbox{ groesser 3} \\ 3x+1, & \mbox{fuer alle }x\mbox{ kleiner, gleich 3} \end{cases} </math>	$f(n) = \begin{cases} x/2, & \mbox{fuer alle }x\mbox{ groesser 3} \\ 3x+1, & \mbox{fuer alle }x\mbox{ kleiner, gleich 3} \end{cases}$	In dieser Formel mag er keine deutschen Sonderzeichen, also z.B. Umlaute.
<math>\sigma\,\! ^2</math>	$\sigma\,\! ^2$	Bitte bei den griechischen Buchstaben die Sonderzeichen aus dem Beispiel übernehmen, anonsten sieht der Buchstabe komisch aus. Beispiel: $α$
<math>\alpha\,\!</math>	$\alpha\,\!$
<math>\Delta\,\!</math>	$\Delta\,\!$	Wie ihr vielleicht bemerkt habt, funktioniert das mit den griechischen Buchstaben immer nach dem gleichen Schema. In dieses Schema (wie z.B. links in dieser Zeile) braucht ihr nur den jeweiligen Namen des griechischen Buchstabens einzusetzen. Hier spielt es eine Rolle ob ihr den Anfangsbuchstaben groß oder klein schreibt. Ein "Delta" für zu einem großen Delta ( $\Delta\,\!$ ) - ein "delta" zu einem kleinen Delta ( $\delta\,\!$ ).
<math>\ a = b \quad b = a</math>	$\ a = b \quad b = a$	Nutzen für kleine Abstände, anstelle der Leertaste auf der Tastatur.
<math>\ \frac{\text{Eingang}}{\text{Ausgang}}</math>	$\ \frac{\text{Eingang}}{\text{Ausgang}}$	Text in Formel
<math>\ 1 + \, \, 1</math>	$\ 1 + \, \, 1$	Abstand zwischen Zeichen "\," kann mehrmals hintereinander benutzt werden.

Begriffe

--Philipp 13:09, 1 June 2010 (CEST): Ich hab jetzt ziemlich viel in Begriffe reingeknallt. Vlt. ist es auch sinnvoller daraus nochmal einzelne Unterpunkte zu machen.

Definit

RSS, TSS, MSE

$\ TSS=ESS+RSS$

$\ TSS= \sum_{i=1}^n (y_i- \bar y)^2$ = Total Sum of Squares

$\ ESS= \sum_{i=1}^n ( \hat y_i- \bar y)^2$ = Explained Sum of Squares

$\ RSS= \sum_{i=1}^n \hat u_i^2$ = Residual Sum of Squares

Näheres im Skript auf Seite 25

--Philipp 14:11, 8 June 2010 (CEST)Was war mit $\ ESS_*$ ?

--Björn 13:46, 15 June 2010 (CEST): @Phil, gucke ich mir gleich an. Was war noch der MSE?

Mit Sternchen

Beim Sternchen ist es die gleiche Formel, nur der Teil mit $\ - \bar y$ fällt weg.

--Björn 14:02, 15 June 2010 (CEST): Weiß jemand in welchem Fall man das benutzt?

$\ TSS_* = ESS_* + RSS_*$

$\ TSS_* = y ' y$ -> Man sieht, es steht hier quasi $\ y^2$ , statt wie beim TSS (ohne Sternchen) $(y_i - \bar y)^2$ . Das $- \bar y$ ist also weggefallen. Bei den beiden folgenden ist das genauso.

$\ ESS_* = \hat y ' \hat y$

$\ RSS_* = \hat u ' \hat u$

Näheres im Skript auf Seite 131

Gütefunktion

$\ R^2= \frac {ESS}{TSS}=1- \frac{RSS}{TSS}$

$\ \bar R^2=1- \frac{RSS \cdot (n-1)}{TSS \cdot (n-k)}=1- \frac{n-1}{n-k} \cdot (1-R^2)$

Trace/Spur (oder woanders erklären?)

Die Spur $\ tr (A)$ einer quadratischen Matrix ist gleich der Summe ihrer Diagonalelemente.

Regeln:

1) $\ tr (\alpha\,\!)=\alpha\,\!$ für $\ \alpha\,\! \in \mathbb{R}$

2) $\ tr (A+B)=tr(A)+tr(B)$

3) $\ tr (\alpha\,\!A)=\alpha\,\!\,tr(A)$

4)Für passend dimensionierte Matrizen A und B gilt:

$\ tr (AB)=tr(BA)$

$\ tr (ABC)=tr(BCA)=tr(CAB)$ aber $\ tr (ABC)\ne tr(BAC)$ (zyklische Vertauschung)

Gauß-Markov-Theorem

Unter den 4 Annahmen des einfachen linearen Regressionsmodells sind die KQ-Schätzer $\hat \beta_i\,\,i=1,2$ effiziente Schätzer für $\beta_i\,\,i=1,2$ .

Fehler 1. und 2. Art

(i) Fehler 1. Art:

Ist die Wahrscheinlichkeit, bei der $\ H_0$ abgelehnt wird, obwohl $\ H_0$ richtig ist.(= $\alpha\,\!$ )

(ii)Fehler 2. Art:

Ist die Wahrscheinlichkeit, bei der $\ H_0$ angenommen wird, obwohl $\ H_0$ falsch ist.

BLUE und BLUP

P-Wert

-Er ist mit Überschreitungswahrscheinlichkeit gleichzusetzen

-er ist die Wahrscheinlichkeit, bei Gültigkeit der Nullhypothese den errechneten oder einen extremeren Wert der Teststatistik zu erhalten

-je kleiner, desto eher sollte die Nullhypothese veworfen werden

$\alpha\,\!$ > p-Wert Test wird abgelehnt

$\alpha\,\!$ < p-Wert Test wird nicht abgelehnt

Erwartungstreue und Bias

Erwartungstreue: $\ E(\hat \beta\,\!) = \beta\,\!$

Bias(Verzerrung): Wenn der Schätzer $\hat b$ nicht erwartungstreu ist, ist er verzerrt.

Sein Bias berechnet sich dann: $\ bias(b)=E( \hat b) - \beta\,\!$

Der Bias ist also nichts anderes als die Abweichung des Erwartungswertes des Schätzers vom wahren $\beta\,\!$ .

Effizienz

-Ist ein Kriterium für die Qualität eines Schätzers

Ein linearer und unverzerrter Schätzer $\ b$ für $\beta\,\! _i$ ist effizient, wenn er in der Klasse aller linearen unverzerrten Schätzer für $\beta\,\! _i$ die kleinste Varianz / einen minimalen mittleren quadratischen Fehler besitzt.

Bei Vorinformationen:

Bei einer korrekten Vorinformation ist der restringierte Schätzer $\ b_R$ in der Klasse der in y und r linearen und unverzerrten Schätzer effizient.

Bedingung: $\ S=(X'X)^{-1}$

Darstellung von $\ b_R$ :

$\ C=(S-SR'(RSR)^{-1}RS)X'$

$\ D=(SR'(RSR)^{-1}$

$\ Cov(b_R)=\sigma\,\! ^2(S-SR'(RSR')^{-1}RS)$

$\ Cov(\hat \beta\,\!)-Cov(b_R)= \sigma\,\! ^2(SR'(RSR')^{-1}RS) \ne 0_{kxk}$

Die Formel nach dem Gleichheitszeichen war nicht relevant und unter ihr steht ein p.s.d. (positiv semidefinit)(s,170)? Das Ergebnis ist also zwingend positiv (Erklärung für die Effizienz).

Das Gauß-Markov-Theorem für $\hat \beta\,\!$ gilt also nur unter der Bedingung, dass keine Vorinformationen bekannt sind.

Bei falscher Vorinformation: schreib ich noch. muss aber erst noch was klären.

Heterogen und Homogen und Grad der Homogenität

--Philipp 13:09, 1 June 2010 (CEST): Ist das wichtig mit dem Grad der Homogenität?

--Björn 09:59, 2 June 2010 (CEST): Noch nie gehört. :-) Habe mal zu heterogen noch inhomogen geschrieben.

inhomogen/heterogen = mit $\beta_1\,\!$ als Konstante

homogen = $\beta_1\,\!$ ist nicht als Konstante da, sondern alle Regressoren sind variabel

Heteroskedastizität

-bedeutet unterschiedliche Streuung innerhalb einer Datenmessung

Frequentistische Betrachtung

Konsistenz

-drückt die Minimalanforderung an Schätzfunktionen aus

-Schätzer sind konsistent, wenn eine Vergrößerung des Stichprobenumfangs dazu führt, dass der Schätzer näher am wahren Wert liegt

--Norma 15:26, 1 June 2010 (CEST)könnt gerne überall ergänzen

Tschebyschev Ungleichung

Regressor und Regressand

Regressor = Unabhängige Variable (meist x)

Regressand= abhängige Variable (meist y)

Annahmen

Lineares Regressionsmodell

(i) Der Erwartungswert der Störgrößen: $\ u_i = 0$

(ii) Die Störgrößen $\ u_i$ haben die gleiche Varianz $\sigma^2\,\! > 0$ und sind paarweise unkorreliert

(iii)Die Beobachtungen $\ X_i$ sind nichtstochastische Größen

(iv) Über die unbekannten Parameter gibt es keine Vorinformation

(v) $\ u_i$ ist unabhängig identisch normalverteilt

Multiples Regressionsmodell

--> die oberen Annahmen gelten hier ebenso!

ABER: zu (iii) X ist stochastisch unabhängig und hat vollen Spaltenrang( ansonsten wäre die Matrix X'X nicht invertierbar) - diese Annahme ist elementar für die Existenz der KQ-Schätzer

Interpretation der Schätzer

Lineares Modell

Logarithmiertes Modell

Bsp.: SS 10 Aufg. 3.3:

$\ lnY_t=\beta_1+\beta_2*lnX_{2,t}+\beta_3*lnX_{3,t}+u_t$

$\hat \beta\,\!_1$ : Meist keine Interpretation

$\hat \beta\,\!_2$ : Eine Erhöhung von $x 2$ um 1% bewirkt einen Rückgang von Y um $\hat \beta\, \!_2$ %.

Bsp.: Bei konstantem Nelkenpreis bewirkt die Erhöhung des Nelkenpreises um 1% einen Rückgang der Rosennachfrage um 1,76%.

Allgemeines Vorgehen (5 Schritte)

1. Schritt: Formulierung der Hypothesen

2. Schritt: Wahl der Teststatistik Wichtig ist hierbei, ob die gesamte Varianz bekannt ist oder nicht.

3. Schritt: Berechnung der Teststatistik

4. Schritt: Vergleich der Teststatistik mit dem kritischen Wert

5. Schritt: Entscheidung über Ablehnung der $\ H_0$ -Hypothese

Wann welche Teststatistik?

Hier eine Tabelle machen, mit Varianz bekannt und Varianz unbekannt und co.

Annahmen:

- lineare Hypothese $H_0: R\beta\,\! = r$

- lineares Regressionsmodell mit normalverteilten Störterm -> $\ u \sim N(0,\sigma^2\,\! I_n)$

- voller Zeilenrang ( $R a n g [R] = q$ ) (Seite 146)

Beim einfachen, linearen Regressionsmodell

--Philipp 15:03, 2 June 2010 (CEST) Hab das mal geändert, weil linear ist ja auch das multiple Modell.

Bei multiplem Regressionsmodell

Bei bekannter Varianz:

$\chi^2\,\! - Test$ verwenden

Bei unbekannter Varianz:

$\ F - Test$ verwenden

Da die Formal jedoch recht kompliziert ist, gibt es verschiedene Testmöglichkeiten, die man bei bestimmten Hypothesen benutzen kann, deren Teststatistik einfacher zu berechnen ist.

1. Möglichkeit der Hypothese:

$H_0 : \beta\,\!_i = 0\,\,\,\,\,und\,\,\, H_1 : \beta\,\!_i \ne 0$

-> Signifikanztest

2. Möglichkeit der Hypothese:

$H_0 : \sum_{i=2}^k \beta\,\!_i = 0$ $\, \,$ (bspw. $\beta\,\!_2 + \beta\,\!_2 = 0$ ) $und\,\,H_1 : \sum_{i=2}^k \beta\,\!_i \ne 0$ wobei diese Hypothese nicht für $\beta\,\!_1$ gilt!!!

-> Nullhomogenität der Faktornachfragefunktion

3. Möglichkeit der Hypothese:

$H_0 : \beta\,\!_i = \beta\,\!_j \,\,\,umformen\,zu\,\, \beta\,\!_i - \beta\,\!_j = 0\,\,\,mit\,\,H_1 : \beta\,\!_i \ne \beta\,\!_j$

-> Gleichheit zweier Regressionsparameter

4. Möglichkeit der Hypothese:

$H_0 : \beta\,\!_i = \beta\,\!_j = ... = 0\,\,\,\,\,und\,\,\, H_1 : \beta\,\!_j \ne 0$ wobei diese Hypothese nicht für $\beta\,\!_1$ gilt!!!

-> Omnibustest (wobei hier eine zwingende Voraussetzung ein inhomogenes Regressionsmodell ist)

Tests

$\chi^2\,\!$ - Test

Es seien die Annahmen (iii), (iv), (v) des multiplen Regressionsmodells erfüllt. Außerdem muss die Matrix R einen vollen Zeilenrang besitzen und es sei $\sigma\,\! ^2 > 0$ bekannt.

Teststatistik:

$\ z=(R\hat \beta\,\!-r)'( \sigma\,\!^2R(X'X)^{-1}R')^{-1}(R\hat \beta\,\!-r)$

Ablehnbereich:

$\ z> \chi^2_{1-\alpha\,\!,q}$

Wobei q in diesem Fall die Freiheitsgrade meint!

--Norma 13:31, 2 June 2010 (CEST)weiß nicht, wie das mit dem krit. Wert ist:( --Philipp 15:00, 2 June 2010 (CEST) Hey Norma! In dem Fall muss man in der Chi-Quadrat Tabelle nachgucken. Ich hab das mal ergänzt :)

F- Test

Teststatistik:

(i) $\ z=\frac{1}{qs^2}(R\hat \beta\,\!-r)'(R(X'X)^{-1}R')^{-1}(R\hat \beta\,\!-r)$

-->q-ist der Rang von R

-->R und r-sind Matrizen/ Vektoren um die Bedingung: $\ R\beta\ = r$ zu erfüllen

(ii) $\ z=\frac{n-k}{k-1}*\frac{R^2}{1-R^2}$

(iii) $z=\frac{n-k}{q}*\frac{\hat \tilde u'\hat \tilde u- \hat u'\hat u}{\hat u'\hat u}$

Kritischer Wert:

$\ F_{1-\alpha\,\!;q;n-k}$

Ablehnbereich:

$\ H_0$ ablehnen, wenn $\ F_{1-\alpha\,\!;q;n-k}< z$

Signifikanz-Test

Test auf nur einen einzigen Parameter!

1. Schritt:

Teststatistik mit Hilfe des "normalen" t-Tests:

$T = \frac{(\hat \beta\,\!_i)}{\sqrt{\widehat {var} (\hat \beta\,\!_i)}}\,$

2. Schritt:

Auswertung des Tests, indem wir:

a) den t-Wert (beim zweiseitigen Test) raussuchen und mit der Teststatistik vergleichen

b) wenn wir statt der t-Tabelle nur die F- Tabelle angegeben haben, können wir die Teststatistik einfach quadrieren:

$z = \frac{(\hat \beta\,\!_i)^2}{\widehat{Var} (\hat \beta\,\!_i)}\, = T^2$

und den Wert in der F-Tabelle ablesen mit $\ T^2 \sim F(1,n-k)$ (Wert muss nicht mehr quadriert werden!!)

Ablehnbereich:

$\ H_0$ ablehnen, wenn $t < z\,\,\, bzw.\,\,\,F(1,n-k) < z$

Nullhomogenität der Faktornachfragefunktion

1. Schritt:

$\ s^{2}$ und $\ (X'X)^{-1}$ berechnen!

2. Schritt:

Kovarianzmatrix berechnen

$\widehat{Cov} (R \tilde {\beta\,\!}) = s^2 R (X'X)^{-1} R'$

$= s^2 \begin{pmatrix} 0 1 .. 1 \end{pmatrix} (X'X)^{-1} \begin{pmatrix} 0 \\1 \\.. \\1 \end{pmatrix}$

$= \sum_{i=2}^k \sum_{i=2}^k \widehat{Cov} (\hat\beta\,\!_i \hat\beta\,\!_j)$

3. Schritt:

Teststatistik berechnen!

$z = \left( \frac{(\sum_{i=2}^k \hat \beta\,\!_i)^2}{\sum_{i=2}^k \sum_{i=2}^k \widehat{Cov} (\hat\beta\,\!_i \hat\beta\,\!_j)} \right)$

4. Schritt:

Teststatistik mit Wert aus der Tabelle vergleichen

$\ H_0$ ablehnen, wenn $\ F_{1-\alpha\,\!;q;n-k}< z$

Gleichheit zweier Regressionsparameter

$H_0:\beta\,\! _i=\beta\,\! _j$

$H_1:\beta\,\! _i\ne\beta\,\! _j$

Teststatistik:

1. Möglichkeit:

$z=\frac{1}{q}*(R\hat \beta\,\!-r)'*\widehat{Cov} (R \hat {\beta\,\!})^{-1}*(R\hat \beta\,\!-r)$ Dabei ist $\hat \beta\,\!$ unser Schätzvektor.

2. Möglichkeit:

$z=\frac{( \hat \beta\,\! _i- \hat \beta\,\! _j)^2} { \widehat{Var} ( \hat {\beta\,\! _i})+ { \widehat{Var} ( \hat {\beta\,\!_j})}-2*\widehat{Cov} ( \hat {\beta\,\!}_i,\hat {\beta\,\!}_j) }$

$\ z \sim F_{(q,n-k)}$

Ablehnbereich: $\ z>F_{(q,n-k)}$

Omnibus-Test

Voraussetzung: Inhomogenes Regressionsmodell (mit $\beta\,\! _1$ als Konstante)

$H_0 : \beta\,\!_i = \beta\,\!_j = ... = 0\,\,\,\,\,und\,\,\, H_1 : \beta\,\!_j \ne 0$

Teststatistik berechnen:

$z = \frac{n-k}{q}\frac{ESS}{RSS}$

$z = \frac{n-k}{k-1}\frac{R^2}{1-R^2}$

Wichtig: $q = k - 1$

Ablehnbereich:

$\ H_0$ ablehnen, wenn $\ F_{1-\alpha\,\!;q;n-k}< z$

Omnibustest (ohne Vorinformationen etc.) ist auf S. 154 im Skript.

t-Test im Rahmen des multiplen Regressionsmodells

--Björn 13:05, 1 June 2010 (CEST): Habe da eine Notiz von der Nachhilfe: Diesen Test benutzt man nur, wenn eine Gleichung vorhanden ist (als Hypothese), also nicht bei einem Omnisbus-Test.

Skript S. 158

t-Test vs. F-Test (Wenn nur auf einen Parameter getestet wird!)

Falls der Rang von R q=1 ist, gilt für die Teststatistiken des F- und t-Tests folgender Zusammenhang:

$z = T 2$

und für die Quantile der Verteilungen gilt:

$F_{1,n,1- \alpha\,\!}=t^2_{n,1- \frac{ \alpha\,\!}{2}}$ .

--Felix 19:00, 4 June 2010 (CEST)Frage: Gilt das nicht ausschließlich nur für den Signifikanztest?

--Philipp 14:06, 13 June 2010 (CEST)Mohamed meinte, dass das gilt, wenn man auf nur einen Parameter testet. Ich glaube aber der Eintrag ist dennoch korrekt, denn wir haben ja noch die Bedingung q=1. Das impliziert meiner Meinung nach, dass wir nur auf einen Parameter testen, oder??

--Stechmann 15:18, 14 June 2010 (CEST)joa, ich denke, dass gilt schon noch, aber man kann ja noch dazu schreiben, dass von den bisher behandelten tests, dass nur für den signifikanztest gilt (oder kann man den t-test auch beim strukturbruch verwenden?? hab das nicht im skript gefunden oder ist davon im abschnitt der simultanen tests die rede?)

Restriktionen

Restriktion berechnen

$br = \hat \beta\,\!- \ (X'X)^{-1} R'[R\ (X'X)^{-1}R']^{-1} (R\hat \beta\,\!-r)$

Restringiertes Modell aufstellen

Konfidenzintervalle

Voraussetzungen:

- die Annahmen (i) bis (iv) sind erfüllt

- $\hat u = a'\hat \beta\,\!$ ist bekannt und $a \ne 0$

Kostruktion von Konfidenzintervall für $\ u = \alpha\,\!'\hat \beta\,\!$ :

Für $\sigma\,\! ^2$ bekannt:

1. Schritt:

Bestimmen von $\hat u = a' \hat \beta\,\!$ und

$\sigma\,\!_{\hat u} = \sigma\,\!_{a' \hat \beta\,\!} = \sqrt{Var[a'\hat \beta\,\!]} = \sqrt{\sigma\,\!^2 a' \ (X'X)^{-1} a}$

2. Schritt: Konfidenzintervall zur Vertrauenswahrscheinlichkeit von $1- \alpha\,\!$

$a'\hat \beta\,\!- \kappa_{\alpha\,\!} \sigma\,\!_{a' \hat \beta\,\!}\le a' \beta\,\! \le a'\hat \beta\,\! + \kappa_{\alpha\,\!} \sigma\,\!_{a' \hat \beta\,\!}$

Für $\sigma\,\! ^2$ unbekannt:

1. Schritt:

Bestimmen von $\hat u = a' \hat \beta\,\!$ und

$s^2 = \frac{1}{n-k}\,\hat u'\hat u$

mit $\hat u'= y- \hat y = y- x \hat \beta\,\!$

2. Schritt:

$\sigma\,\!_{\hat u} = \sigma\,\!_{a' \hat \beta\,\!} = \sqrt{s^2 a' \ (X'X)^{-1} a}$

3. Schritt: Konfidenzintervall bestimmen

$a'\hat \beta\,\!- \kappa_{\alpha\,\!} \sigma\,\!_{a' \hat \beta\,\!}\le a' \beta\,\! \le a'\hat \beta\,\! + \kappa_{\alpha\,\!} \sigma\,\!_{a' \hat \beta\,\!}$

wobei: $F_{t(n-k;0)}(\kappa_{\alpha\,\!}) = 1- \frac{\alpha\,\!}{2}\,$

Hinweis aus dem Skript: Bei großem Beobachtungsumfang n darf man $\sigma\,\! ^2$ durch s^2 ersetzen und das $\kappa_{\alpha\,\!}$ wie bei bekannten $\sigma\,\! ^2$ mit $\mathcal{N}(0,1)$ berechnen.

Multiples lineares Regressionsmodell bei Vorinformation in Gestalt linearer Parameterrestriktion

Tests auf Strukturbrüche

Omnibus-Test

Unser Datensatz besteht aus zwei Teilmodellen:

$\ i=1,...,l$ und $\ i=1,...,m$

$H_0:\beta=\tilde\beta$ Es liegt kein Strukturbruch vor (parameterstabil)

$H_1:\beta\ne\tilde\beta$ Strukturbruch (parameterinstabil)

$\beta\,\!$ und $\tilde\beta$ werden einfach einzeln für beide Teilmodelle geschätzt.

Testgröße berechnen:

$z=\frac{l+m-2k}{k}\,*\frac{RSS_{H0}-RSS_{H1}}{RSS_{H1}}\,$

Wobei $\ RSS_{H0}= \hat u_{g}'\hat u_{g}$ die Residuenquadratsumme des gesamten Datensatzes ist und $\ RSS_{H1}= \hat u'\hat u+\hat \tilde u'\hat \tilde u$ die Summe der Residuenquadratsummen der beiden Teilmodelle ist.

$\ z \sim F_{1-\alpha;k;l+m-2k}$

Ablehnbereich: $\ z>F$

Spezielle Tests auf strukturelle Veränderungen (Tests auf Konstanz einzelner Regressionsparamter)

Prognose-Test (Chow-Test)

Teststatistik:

$\ z=\frac{1}{ms^2}(\hat \tilde y- \tilde y)'(I_m+ \tilde X (X'X) \tilde X')^{-1}(\hat \tilde y- \tilde y)$

Kritischer Wert:

$\ H_0$ ablehnen, wenn $\ F_{1-\alpha\,\!;m;l-k}< z$ in diesem Fall sind die Teilintervalle nicht identisch, es liegt ein Strukturbruch vor.

Multikollininearität (Kap. 14.3.)

Was ist das?

Geht ab Seite 233 im Skript los.

Rechnen mit Erwartungswert und Varianz

Streuungszerlegung

Sonstiges

Umformungen

Brüche und Exponenten

$\sqrt{x} = x^\frac{1}{2}$

$\sqrt{x^3} = x^\frac{3}{2}$

$\sqrt[3]{x} = x^\frac{1}{3}$

$\frac{1}{x} = x^{-1}$

$\sqrt{\frac{1}{x}} = \sqrt {x^{-1}} = x^{-\frac{1}{2}}$

$\sqrt[4]{\frac{1}{x^7}} = x^{-\frac{7}{4}}$

$x^5 \cdot x^3 = x^{5+3} = x^8$

$\frac{x^a}{x^b} = x^a \cdot x^{-b} = x^{a-b}$

$(a^n)^m = a^{n \cdot m} = a^{m \cdot n} = (a^m)^n$

Logarithmus

$\ \ln (a \cdot b) = \ln (a) + \ln (b)$

$\ \ln \left( \frac{a}{b} \right) = \ln (a) - \ln (b)$

$\ \ln \left( a^b \right) = b \cdot \ln (a)$

Beispiele:

$\begin{align} f(x) & = \ln \left( \sqrt{x^2 \cdot \sqrt{x + 1}} \right) \\ & = \ln (x^2 \cdot (x + 1)^\frac{1}{2})^\frac{1}{2} \\ & = \frac{1}{2} \cdot \ln (x^2 \cdot (x + 1)^\frac{1}{2}) \\ & = \frac{1}{2} \cdot \ln (x^2) + \frac{1}{2} \cdot \ln (x + 1)^\frac{1}{2} \\ & = \frac{1}{2} \cdot 2 \cdot \ln (x) + \frac{1}{2} \cdot \frac{1}{2} \cdot \ln (x + 1) \\ & = \ln (x) + \frac{1}{4} \cdot \ln (x + 1) \\ \end{align}$

$\begin{align} f(x) & = 10^x \\ & = e^{\ln (10^x)} \\ & = e^{x \cdot \ln (10)} \\ \end{align}$

Finanzmathematik

Zinseszins Formel

$\ Eingesetztes \ Kapital \cdot (1 + \frac{r}{100})^t = \ Kapital \ am \ Ende \ der \ Laufzeit$

$\frac{r}{100}$ = Verzinsung

$\ t$ = Zeit

Tipp:

Die Zeiteinheit der Verzinsung ( $\ r$ ) muss mit der Zeiteinheit von ( $\ t$ ) übereinstimmen. Bekommt man bei einem Angebot einer Bank beispielsweise 3 % Zinsen pro Jahr und möchte das Geld allerdings nur für fünf Monate anlegen ergibt sich folgende Formel: