Linear Regression Rechner

Wählen Sie a und b so, dass Σ(yᵢ − a − bxᵢ)² minimiert wird. Geschlossene Lösungen: b = Σ(xᵢ − x̄)(yᵢ − ȳ) / Σ(xᵢ − x̄)², a = ȳ − b·x̄.

Interpretation: Eine Zunahme von x um 1 Einheit ist mit einer Änderung des Mittelwerts von y um b Einheiten verbunden. Der Achsenabschnitt a ist das vorhergesagte y, wenn x = 0 ist — dies ist nur sinnvoll, wenn x = 0 innerhalb oder nahe Ihrer Daten liegt.

R² = 1 − SS_res / SS_tot ist der Anteil der Varianz von y, der durch x erklärt wird. Bei der einfachen Regression entspricht dies r².

Standardfehler der Residuen s = √(SS_res / (n − 2)). Dies ist der typische vertikale Abstand von der Geraden — y wird für neue Beobachtungen mit einer Genauigkeit von etwa ±2s vorhergesagt.

Standardfehler (SE) der Steigung: s / √Σ(xᵢ − x̄)². Er bestimmt, wie präzise wir b kennen.

t = b / SE(b), df = n − 2. Testet H₀: wahre Steigung = 0 (d. h. x hat keinen linearen Effekt auf y).

95 %-Konfidenzintervall der Steigung: b ± t* · SE(b). Wenn dieses Intervall die 0 ausschließt, ist die Steigung signifikant bei α = 0.05.

Linearität — die wahre Beziehung zwischen dem Mittelwert von y und x ist eine gerade Linie.

Unabhängigkeit — Residuen bilden keine Muster über die Zeit oder durch Gruppierungen.

Normalverteilung — Residuen sind annähernd normalverteilt (relevant für p-Werte bei kleinen Stichproben; bei großem n hilft der zentrale Grenzwertsatz).

Varianzhomogenität (Homoskedastizität) — die Streuung der Residuen ist über x hinweg annähernd konstant.

Diagnose: Residuen-Fitted-Plots und QQ-Plots decken Verletzungen weitaus besser auf als R² allein.

Gleiche Daten wie beim Korrelationsrechner: x = 1..10, y = (2,4,5,4,5,7,8,8,10,12).

b = 73.5 / 82.5 ≈ 0.891. a = 6.5 − 0.891·5.5 ≈ 1.6.

Residuen: yᵢ − (1.6 + 0.891·xᵢ). SS_res ≈ 9.45. s ≈ √(9.45/8) ≈ 1.087.

SE(Steigung) ≈ 1.087/√82.5 ≈ 0.120. t = 0.891/0.120 ≈ 7.44, df = 8, p < 0.001. Die Steigung ist hochsignifikant.

Vorhersage bei x = 11: ŷ = 1.6 + 0.891·11 ≈ 11.4 (mit einem breiteren Prognoseintervall als dem Konfidenzintervall, da die individuelle Variabilität zusätzlich hinzukommt).

Extrapolation: Vorhersagen für x-Werte weit außerhalb des beobachteten Bereichs, in dem die angenommene lineare Form möglicherweise nicht mehr gilt.

Einflussreiche Datenpunkte: Ein einzelner Ausreißer mit hoher Hebelwirkung (Leverage) kann die Steigung massiv verändern. Prüfen Sie Hebelwerte und Cook-Distanz, nicht nur R².

Omitted Variable Bias: Eine starke Beziehung zwischen x und y könnte in Wahrheit durch eine dritte Variable z getrieben sein. Die einfache Regression kann dies nicht erkennen.

Berichtsfehler: R² angeben, ohne die Residuenmuster zu prüfen. Eine gekrümmte Beziehung kann ein R² = 0.95 liefern, obwohl die Gerade das falsche Modell ist.

Verwechslung von Prognoseintervall (für ein einzelnes neues y) und Konfidenzintervall (für das mittlere y bei diesem x). Prognoseintervalle sind immer breiter.