Statsvetenskapliga metoder

Regressionsanalys

Sirus Dehdari

Statsvetenskapliga institutionen, Stockholms universitet

Varför regressionsanalys?

  • Vi är ofta intresserade av att undersöka samband mellan olika variabler
  • Är arbetslösa medborgare mer benägna att stödja högerradikala partier?
  • Är det mindre korruption i demokratiska länder?
  • Finns det ett samband mellan inkomst och valdeltagande?
  • I generisk form: finns det ett samband mellan variabeln \(X\) och variabeln \(Y\)?

Denna vecka ska vi lära oss följande

  • Förstå hur regressionsanalys kan hjälpa oss undersöka dessa typer av samband
  • I synnerhet:
    • Är sambandet positivt eller negativt (eller finns det inget samband)?
    • Hur starkt är sambandet?
    • Är det verkligen ett statistiskt signifikant samband?
    • Hur mycket av variationen i \(Y\) kan förklaras av \(X\)?
  • Kapitel 5.1 i Österman och Folke
  • Nästa vecka: vad händer när vi “kontrollerar” för fler variabler (multipel regressionsanalys)

Dagens föreläsning

  • Linjära samband
  • Regressionslinje
  • Passning
  • Statistisk signifikans (inferens)
  • Tolka regressionsresultat

Inomhustemperatur (igen!)

  • Vi är tillbaka på Landsbygds- och infrastrukturdepartementet
  • Nu är vi intresserade av att förstå varför vissa hushåll har lägre inomhustemperatur jämfört med andra hushåll
  • Någon på departementet föreslår att det finns ett samband mellan inkomst och inomhustemperatur
  • Antag att det finns ett linjärt samband mellan dessa två variabler
  • Vanligtvis är det enklast att beskriva ett samband mellan två variabler som ett linjärt samband

Konvertera från en enhet till en annan

  • Vad är ett linjärt samband?
  • Antag att vi hittar ett recept där måtten återges i cups men vi är vana vid att använda ml och dl
  • Det finns ett samband mellan cups och t.ex. dl:

\[deciliter = 2{,}366 \times cups\]

  • Enligt receptet ska ugnen upp i en viss temperatur, angett i Celsius men du är van vid Fahrenheit:

\[Fahrenheit = 32 + 1{,}8 \times Celsius\]

Exempel: Cups till deciliter

Exempel: Cups till deciliter

Exempel: Cups till deciliter

Linjärt samband

  • För varje värde på \(x\)-axeln (cups) får vi ett värde på \(y\)-axeln
  • Exempel: När \(cups = 1\) är \(deciliter = 2{,}36588\); när \(cups = 2\) är \(deciliter = 4{,}73176\)
  • När \(cups = 0\) är \(deciliter = 0\) (så klart)
  • Dock behöver inte \(x = 0\) ge \(y = 0\) hos andra samband

Celsius till Fahrenheit

Celsius till Fahrenheit

Linjär ekvation

  • Ett linjärt samband kan beskrivas med en linjär ekvation:

\[y = kx + m\]

  • Riktningskoefficienten för linjen ges av \(k\) medan \(m\) är konstanten
  • Cups till deciliter: \(m = 0\) och \(k= 2{,}36588\)
  • Celsius till Fahrenheit, \(m=32\) och \(k= 1{,}8\)

Linjär ekvation

  • Inom statistik använder man en modifierad version

\[y = a + bx\]

  • Riktningskoefficienten, även kallat lutningskoefficienten, för linjen ges av \(b\) medan \(a\) är konstanten
  • Vi kallar \(y\) för den beroende variabeln medan \(x\) kallas för den oberoende variabeln
  • Om \(b\) är större än noll är sambandet positivt
  • Om \(b\) är mindre än noll är sambandet negativt
  • Om \(b\) är lika med noll finns inget samband

Positivt, negativt, eller inget samband

Linjär ekvation

  • Hittills har vi sett exempel på ett exakt linjärt samband
  • Prickarna representerar våra data: alla prickar ligger på linjen
  • Samband är dock sällan exakta; oftast är de inexakta
  • Det kan bero på att vi inte alltid kan göra exakta mätningar
  • Dock mer troligt att vi studerar komplexa samband

Inkomst och inomhustemperatur

  • Tillbaka till vårt scenario: vi vill förstå vad som avgör vilken inomhustemperatur hushållen väljer att ha
  • De med högre inkomst är mer benägna att ha råd med högre elkostnader
  • Rimligt att anta ett positivt samband mellan inkomst och inomhustemperatur
  • Men vi ska inte anta att sambandet är exakt eftersom hushållens inomhustemperatur också påverkas av andra faktorer

Exempel: uppgifter om temperatur

  • Antag att vi har ett slumpmässigt urval av 15 hushåll
Hushålls-ID Inomhustemperatur Månadsinkomst (i tusentals SEK)
1 18,3 13,4
2 19,5 13,6
3 20,5 26,9
4 20,8 33,5
5 18,5 14,4
6 20,4 44,0
7 17,2 20,3
8 15,9 16,6
9 22,3 28,8
10 16,6 35,0
11 21,6 28,9
12 25,4 42,3
13 19,7 27,8
14 23,5 24,7
15 18,0 29,2

Finns det ett linjärt samband?

  • Det verkar som att de med högre inkomst också har en högre inomhustemperatur
  • Dock är det troligen inte ett exakt linjärt samband
  • Vi behöver en modifierad ekvation för att ta hänsyn till att sambandet inte är exakt:

\[Y_i = a + b X_i + e_i\]

  • Parametrarna \(a\) och \(b\) representerar konstanten (intercept) och lutningskoefficienten,förra ekvationen
  • Feltermen \(e_i\) kompenserar för det faktum att observationerna avviker från den räta linjen

Utforska data: temperatur och inkomst

Regressionslinjen

  • Regressionslinjen är tänkt att passa våra data och ges av ekvationen:

\[\hat{Y_i} = 16{,}43+0{,}13 \times X_i\]

  • “Hatten” på \(Y_i\) indikerar att detta är modellens skattning (eller prediktion) av \(Y_i\)
  • Lutningskoefficienten (\(b\)) mäter lutningen på regressionslinjen, och är i det här fallet lika med 0,13
  • Tolkning av lutningskoefficienten: En enhetsökning i \(X\) förväntas öka \(Y\) med 0,13 enheter
  • I vårt exempel: En ökning med 1000 SEK (varför?) förväntas öka inomhustemperaturen med 0,13 grader Celsius

Predicera inomhustemperaturen

  • Konstanten (intercept) är lika med 16,43
  • Tolkning av konstanten: När inkomst är lika med 0 förväntas rumstemperaturen vara lika med 16,43
  • Det finns inte alltid en rimlig tolkning av konstanten (vad innebär 0 i inkomst?)
  • Exempel: Förväntad inomhustemperatur hos ett hushålll som har en månadsinkomst på 30 000 SEK: 16,43 \(+\) 0,13 \(\times\) 30 \(=\) 20,33
  • Men vänta nu: hur väljer man regressionslinjen?
  • Finns det ingen annan linje som passar data bättre?

Andra möjliga linjer

  • Dessa linjer då?

Minstakvadratmetoden

  • Minstakvadratmetoden ger oss den linje som minimerar summan av kvadrerade avvikelser
  • Varje observation kommer avvika från modellens prediktion (regressionslinjen)
  • Minstakvadrarmetoden hittar den linjen som gör att summan av avvikelserna, i kvadrat, är så liten som möjligt
  • Dessa avvikelser kallas för residualer och är lika med det faktiska värdet minus det predicerade värdet:

\[\hat{e}_i = Y_i - \hat{Y_i}\]

Avvikelser från regressionslinjen

Residualer

  • Som vi såg i grafen passar inte regressionslinjen exakt med data
  • Exempel: hushåll 12 har inkomst på 42 300 SEK
  • Enligt modellen ska det hushållets temperatur vara lika med 16,43 \(+\) 0,13 \(\times\) 42,3 \(=\) 21,9
  • Dock är deras faktiska temperatur lika med 25,4, därmed är \(\hat{e}_i =\) 3,5

Modellpassning

  • För den specifika observationen var inte modellen särskilt bra på att prediktera temperaturen
  • Men den är bättre på att prediktera andra observationer
  • Modellpassning mäter hur väl regressionslinjen passar data överlag
  • Måtten bygger på residualerna, det vill säga observationernas avvikelser från modellens prediktioner
  • Det vanligaste passningsmåttet är \(R^2\) och Root-MSE

\(R\)-kvadrat: \(R^2\)

  • \(R^2\) mäter hur mycket av variationen i den beroende variabeln \(Y\) som kan förklaras av modellen (i detta fall den oberoende variabeln \(X\))
  • \(R^2\) antar ett värde mellan 0 och 1 där \(R^2\) = 0 innebär att modellen inte förklarar något av variationen i den beroende variabeln
  • Medan \(R^2\) = 1 innebär att modellen förklarar variationen i den beroende variabeln fullt ut
  • I exemplet med temperatur och inkomst är \(R^2\) = 0,173, vilket innebär att inkomst förklarar 17,3% av variationen i temperatur

Att beräkna \(R^2\)

  • I denna kurs behöver ni inte lära er beräkna \(R^2\)
  • Men ni måste veta hur man tolkar det
  • Här är formeln:

\[R^2 = 1 - \frac{RSS}{TSS} = 1 - \frac{\sum_{i = 1}^n(Y_i-\hat{Y_i})^2}{\sum_{i = 1}^n(Y_i-\bar{Y_i})^2}\]

  • \(RSS\) (Residual Sum of Squares på engelska) är summan av de kvadrerade residualerna
  • \(TSS\) (Total Sum of Squares på engelska) är summan av de kvadrerade avvikelserna till urvalsmedelvärdet för \(Y\)

Root-MSE

  • Root-MSE mäter den genomsnittliga avvikelsen från regressionslinjen
  • Ett högt värde indikerar att modellen inte passar data så väl
  • Måttet anges i samma enhet som den beroende variabeln
  • I rumstemperaturexemplet: Root-MSE är lika med 2,21
  • Det betyder att, i våra data, avviker hushållstemperaturen, i genomsnitt, med 2,21 grader Celsius från regressionslinjen

Att beräkna Root-MSE

  • I denna kurs behöver ni inte lära er beräkna Root-MSE
  • Men ni måste veta hur man tolkar det
  • Här är formeln:

\[\textit{Root-MSE} = \sqrt{\frac{RSS}{n-k}} = \sqrt{\frac{\sum_{i = 1}^n(Y_i-\hat{Y_i})^2}{n-k}}\]

  • Där \(k\) är antalet parametrar vi skattar i modellen (i en bivariat regressionsmodell skattar vi parametrarna \(a\) och \(b\))

Antaganden bakom minstakvadratmetoden

  • Minstakvadratmetoden bygger på ett antal antaganden (Gauss-Markov-antagandena)
  • Är antagandena uppfyllda är skattningen BLUE (Best Linear Unbiased Estimator)
  • Vi hinner inte gå igenom dem i detalj i denna kurs, men värt att känna till:
    1. Linjäritet i parametrarna
    2. Slumpmässigt urval
    3. Nollvillkorat medelvärde (exogenitet)
    4. Homoskedasticitet
  • Mer om varje antagande (överkurs): Läs mer

Modellstyrka och -passning

  • Viktigt: styrkan i ett samband (ges av \(b\)) är inte samma sak som modellpassning (ges av \(R^2\) eller Root-MSE)
Svag passning, stark lutning Stark passning, svag lutning

Kort sammanfattning

  • Än så länge har vi diskuterar exakta och inexakta samband
  • Vi specificerar en regressionsmodell som betecknas av en linjär ekvation
  • Vi såg ett exempel med en regressionslinje som representerar sambandet mellan inomhustemperatur (beroende variabeln) och inkomst (oberoende variabeln)
  • Datapunkterna ligger inte på regressionslinjen: passningsmåttet mäter hur väl linjen passar våra data

Statistisk inferens

  • Hur säkra är vi på att det skattade sambandet inte uppkommit på grund av slumpen?
  • Jämför med förra veckan: kunde vi med säkerhet säga att populationsmedelvärdet \(\mu_X\) inte är lika med, säg, 17 när vi skattar \(\bar{X} = 20\)?
  • Om \(b = 0\) finns det inget samband mellan den beroende och den oberoende variabeln; om \(b \neq 0\) finns det ett positivt eller negativt samband
  • Vi kan “testa” om det sanna värdet på \(b\) är skilt från noll
  • Eftersom vi skattar \(b\) med ett slumpmässigt urval är även \(b\) en slumpsvariabel, och ni vet vad det innebär…

Konfidensintervall

  • Alla slumpvariabler följer en sannolikhetsfördelning, detta gäller även för vår skattning av \(b\)
  • Den fördelningen är approximativt en normalfördelning (centrala gränsvärdessatsen)
  • Därmed vet vi att i 95 av 100 urval kommer vår skattning av \(b\) ligga inom ett visst intervall kring det sanna populationsvärdet
  • Och i dessa 95 urval kommer ett liknande intervall runt vår skattning av \(b\) täcka det sanna populationsvärdet
  • Vi skapar därmed ett (90, 95, eller 99-procentigt) konfidensintervall runt vår skattning av \(b\) och jämför det med värdet noll

Skapa konfidensintervallet

  • Formeln för konfidensintervall för skattningen av \(b\) är

\[b \pm t \times se(b)\]

  • Där standardfelet för \(b\) vanligtvis betecknas som \(se(b)\)
  • I denna kurs behöver ni inte lära er beräkna \(se(b)\) utan det ges nästan alltid av t.ex. Stata eller andra statistikprogram
  • Värdet på \(t\) avgörs av den konfidensnivå man valt (kritiska värdet)
  • I denna kurs kan ni använda \(t\) = 1,65 för 90 %, \(t\) = 1,96 för 95 %, \(t\) = 2,58 för 99 %

Exempel: temperatur och inkomst

  • Betrakta än en gång vårt exempel med inomhustemperatur och inkomst
  • Den skattade lutningskoefficienten för \(b\) är 0,13, och från Stata får vi även \(se(b) = 0{,}065\)
  • Antag att vi bestämmer oss för en konfidensnivå på 95%: vi använder då $t = $ 1,96
  • Enligt formeln får vi

\[0{,}13 \pm 1{,}96 \times 0{,}065 = 0{,}13 \pm 0{,}1274\]

  • Ett 95 % konfidensintervall går från 0,0026 till 0,2574

Statistiskt skilt från 0

  • 95 % av de konfidensintervall vi skapar runt vår skattning av \(b\) kommer täcka det sanna värdet på \(b\)
  • Eftersom det konfidensintervall vi skapat (på 95 % nivå) inte täcker 0 kan vi utesluta att 0 är det sanna populationsvärdet
  • Vi kan så klart enbart utesluta 0 med 95% säkerhet; vad händer om vi vill kunna utesluta 0 med 99 % säkerhet?
  • Om vi istället tar \(t =\) 2,58 får vi

\[0{,}13 \pm 2{,}58 \times 0{,}065 = 0{,}13 \pm 0{,}1677\]

  • Ett 99% konfidensintervall går från -0,0377 till 0,2977, det vill säga, det täcker 0

Statistiskt skilt från 0

  • Vi säger därmed att det skattade sambandet är statistiskt signifikant på 95 % konfidensnivå men inte på 99 %
  • Det kan hända att man kan skattar ett icke-statistiskt signifikant samband även när det sanna sambandet faktiskt existerar
    • Urvalet är för litet (påverkar standardfelet \(se(b)\))
    • Det är för lite variation i den oberoende variabeln (även detta påverkar standardfelet)
    • Vi väljer en (för) hög konfidensnivå när vi beräknar konfidensintervallet (jämför med första föreläsningen)
  • Därmed finns det risk att man drar slutsatsen att inget samband finns när det i själva verket finns ett samband

Regressionstabeller

  • I vetenskapliga studier presenterar man ofta sina resultat i så kallade regressionstabeller
  • I tabellen nedan visas skattade koefficienter för modellen där temperatur är den beroende variabeln och inkomst är den oberoende variabeln
  • Standardfelen visas inom parentes
(1)
Konstant 16,43
(1,858)
Inkomst 0,13
(0,065)
Observationer 15
\(R^2\) 0,173

Regressionstabeller, flera modeller

  • I vetenskapliga studier presenterar man ofta sina resultat i så kallade regressionstabeller
  • I tabellen nedan visas skattade koefficienter för modellen där temperatur är den beroende variabeln och inkomst är den oberoende variabeln
  • Standardfelen visas inom parentes
(1) (2)
Konstant 16,43
(1,858) (…)
Inkomst 0,13
(0,065)
Utbildningsår
(…)
Observationer 15
\(R^2\) 0,173

Antaganden bakom minstakvadratmetoden (överkurs)

← Tillbaka

1. Linjäritet i parametrarna

  • Modellen \(Y_i = a + bX_i + e_i\) måste vara linjär i parametrarna \(a\) och \(b\) — inte nödvändigtvis i variablerna själva
  • Exempelvis är \(Y_i = a + bX_i^2 + e_i\) fortfarande linjär i parametrarna, trots att \(X^2\) inte är en linjär variabel
  • Är antagandet brutet (t.ex. ett verkligt icke-linjärt samband som tvingas in i en rak linje) blir skattningarna missvisande

2. Slumpmässigt urval

  • Observationerna ska komma från ett slumpmässigt urval av populationen
  • Varje par \((Y_i, X_i)\) ska vara draget oberoende från samma underliggande fördelning
  • Ett icke-slumpmässigt urval (t.ex. självselektion) kan göra att urvalet inte representerar populationen, vilket ger missvisande skattningar

3. Nollvillkorat medelvärde (exogenitet)

  • Feltermens väntevärde ska vara noll oavsett värdet på \(X\): \(E(e_i \mid X_i) = 0\)
  • Innebär att \(X\) inte får vara korrelerad med sådant som påverkar \(Y\) men som inte finns med i modellen (utelämnad variabel-bias)
  • Detta är ofta det svåraste antagandet att uppfylla i praktiken, och det mest diskuterade inom empirisk forskning

4. Homoskedasticitet

  • Feltermens varians ska vara konstant oavsett värdet på \(X\): \(Var(e_i \mid X_i) = \sigma^2\)
  • Motsatsen kallas heteroskedasticitet (variansen skiljer sig åt beroende på \(X\))
  • Är antagandet brutet blir standardfelen missvisande (koefficienterna kan dock fortfarande vara korrekta i genomsnitt)