ANALISIS REGRESI LINIER BERGANDA

LOGO
ANALISIS REGRESI LINIER
BERGANDA
Hazmira Yozza – Izzati Rahmi HG
Jur. Matematika FMIPA Univ. Andalas
Struktur data dalam analisis linier berganda
DATA
• Terdiri dari n pengematan (observasi)
• Masing-masing observasi, terdiri dari 1 variabel tak
bebas/respons(Y) dan k variabel bebas X1, X2,…, Xk
Y
X1
X2
…
Xk
y1
x11
x21
…
xk1
y2
x12
x22
…
xk2
y3
x13
x23
…
xk3
:
:
:
:
:
yn
x1n
x2n
…
xkn
yi = Nilai variabel
tak bebas untuk
observasi ke i
xji = Nilai variabel
bebas ke-j untuk
observasi ke-i
i=1,2…, n
J=1,2,…, k
Hazmira Yozza-Izzati Rahmi HG -Jur. Matematika FMIPA Univ. Andalas
MODEL REGRESI LINIER BERGANDA
MODEL
𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑘 𝑥𝑘 + 𝜀
𝑦𝑖 = 𝛽0 + 𝛽1 𝑥1𝑖 + 𝛽2 𝑥2𝑖 + ⋯ + 𝛽𝑘 𝑥𝑘𝑖 + 𝜀𝑖
dengan
𝑦𝑖 : Nilai variabel respon y untuk observasi ke-i
𝑥𝑗𝑖 : Nilai variabel bebas ke-j y untuk observasi ke-i
𝜀𝑖
: Nilai variabel respon y untuk observasi ke-i
𝛽0 , 𝛽1 , … , 𝛽𝑘 : parameter regresi
MODEL DUGAAN  dari data sampel
𝑦𝑖 = 𝑏0 + 𝑏1 𝑥1𝑖 + 𝑏2 𝑥2𝑖 + ⋯ + 𝑏𝑘 𝑥𝑘𝑖 + 𝑒𝑖
Dengan : 𝑏0 , 𝑏1 , … , 𝑏𝑘 adalah penduga parameter regresi
MKT
Meminimumkan JKS
Hazmira Yozza-Izzati Rahmi HG -Jur. Matematika FMIPA Univ. Andalas
MODEL REGRESI LINIER BERGANDA
yi   0  1x1i  ...   k xki   i
i 1
y1   0  1 x11  ...   k xk1  1
i2
y2   0  1 x12  ...   k xk 2   2
:
in
:
y2   0:  1 x1n  ...   k xkn   n
 y1  1 x11
 y  1 x
12
 2  
 :  : :
  
 yn  1 x1n
... xk1    0   1 
... xk 2   1   2 
   
... :   :   : 
   
... xkn    k   n 
YX   
Model Populasi
Hazmira Yozza-Izzati Rahmi HG -Jur. Matematika FMIPA Univ. Andalas
MODEL REGRESI LINIER BERGANDA
𝑦𝑖 = 𝛽0 + 𝛽1 𝑥1𝑖 + 𝛽2 𝑥2𝑖 + ⋯ + 𝛽𝑘 𝑥𝑘𝑖 + 𝜀𝑖
MODEL :
MODEL DUGAAN  dari data sampel
𝑦𝑖 = 𝑏0 + 𝑏1 𝑥1𝑖 + 𝑏2 𝑥2𝑖 + ⋯ + 𝑏𝑘 𝑥𝑖𝑘 + 𝑒𝑖
REPRESENTASI MATRIKS
𝒚 = 𝐗𝒃 + 𝒆
𝒚 = 𝐗𝜷 + 𝜺
Diduga dari
𝒚 : vektor var respons
𝐗 : matriks data/rancangan
𝒃 = 𝐗′𝐗
−1 𝐗′𝒚
MKT
𝒃 : vektor koefisien
𝒆 : vektor sisaan
Hazmira Yozza-Izzati Rahmi HG -Jur. Matematika FMIPA Univ. Andalas
PENDUGAAN PARAMETER MODEL REGRESI
LINIER BERGANDA
1
𝑦1
𝑦2
1
𝑦3 = 1
⋮
⋮
𝑦𝑛
1
𝒚 = 𝐗𝒃 + 𝒆
𝑥11
𝑥12
𝑥13
⋮
𝑥1𝑛
𝑥21
𝑥22
𝑥23
⋮
𝑥2𝑛
⋯ 𝑥𝑘1
⋯ 𝑥𝑘2
⋯ 𝑥𝑘3
⋱
⋮
⋯ 𝑥𝑘𝑛
𝑏0
𝑒1
𝑒2
𝑏1
𝑏2 + 𝑒3
⋮
⋮
𝑒𝑛
𝑏𝑘
Penduga MKT
𝒃 = 𝐗′𝐗
n



= 



−1 𝐗 ′ 𝒚
x
x
1i
2
1i
x
x x
x
2i
1i
2i
2
2i
simetris




x
x x
x x
 −𝟏

1i ki 

2 i ki



2 
x
 ki 
ki
  yi 


x
y
  1i i 
 : 


 x pi yi 
Hazmira Hazmira
Yozza-Izzati
Yozza-Jur.
Rahmi Matematika
HG -Jur. Matematika
FMIPA Univ.
FMIPA
Andalas
Univ. Andalas
PENYEKATAN KERAGAMAN DAN KOEFISIEN DETERMINASI
JKT
= JKR
2


y

y
 i
+ JKS
   yˆ i  y 
   yi  yˆ i 
2
2
Y 'Y  nY   b' X 'Y  nY   Y 'Y  b' X 'Y 
2
2
KOEFISIEN DETERMINASI
JKR
100 %
JKT
b ' X ' Y  nY 2

Y ' Y  nY 2
R2 




100 %
Yozza-Jur.
FMIPA Univ.
Andalas
Hazmira Hazmira
Yozza-Izzati
Rahmi Matematika
HG -Jur. Matematika
FMIPA
Univ. Andalas
Pengujian Hipotesis Keberartian Model Regresi
Hipotesis
H0 : β1=β2=…= βk=0 (Semua Peubah bebas tidak berpengaruh
terhadap Y)
H1 : Ada βi ≠ 0
Sumber
Der. bebas
(db)
Regresi
dbr = k
Sisaan
Total
(Ada peubah yang berpengaruh terhadap Y)
Jumlah Kuadrat
Kuadrat Tengah
Fhitung
(JK)
(KT)

JKR= b' X 'Y  nY 2

dbs = n-k-1 JKS = Y 'Y  b' X 'Y 
dbt = n-1

JKT = Y 'Y  nY 2
Fhitung > F
KTR = JKR/dbr
KTR / KTS
KTS = JKS/dbs

,k,n-k-1
→ Tolak H0 →
Ada peubah yang berpengaruh terhadap Y
Yozza-Jur.
FMIPA Univ.
Andalas
Hazmira Hazmira
Yozza-Izzati
Rahmi Matematika
HG -Jur. Matematika
FMIPA
Univ. Andalas
Fhitung > F ,k,n-k-1
Tolak H0 : β1=β2=…= βk=0
Ada βi≠0
βi yang mana???
Lakukan pengujian masingmasing peubah (masing-masing
parameter regresi)
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
Pengujian Hipotesis Satu Parameter Regresi
Hipotesis
H0 : βi = 0
H1 : βi ≠ 0
(Peubah ke i tidak berpengaruh terhadap Y)
(Peubah ke i berpengaruh terhadap Y)
Statistik Uji
 c00 c01 c02  c0 k 
c

c
c

c
Bila dinyatakan :
11
12
1k 
 10
Var(b)   2 ( X ' X ) 1 dan ( X ' X ) 1  c20 c21 c22  c2k 









Maka statistik uji adalah :
ck 0 ck1 ck 2  ckk 
bi
bi
t hit 

JKS Y 'Y  b' X 'Y 
2
Vaˆr (bi ) s cii
s  KTS 

dbs
Tolak H0 jika thit > t
(n  k  1)
/2,n-k-1
Hazmira Yozza-Izzati Rahmi HG -Jur. Matematika FMIPA Univ. Andalas
LOGO
SELAMAT BELAJAR