BAB III ESTIMASI BLUP, ML, DAN REML UNTUK MODEL

BAB III
ESTIMASI BLUP, ML, DAN REML
UNTUK MODEL CAMPURAN LINEAR
3.L Estimasi BLUP
Misalkan /, merupakan fungsi log-likelihood dari vector y pada
persamaan (2.1) dengan mengambil u seperti syarat yang telah ditetapkan pada
keterangannya, maka diperoleh
-1/2
/, =log
= log
= -^\og(2^<T^)
+ log\D\^^(r~Hy-X/3
- ZuyD-\y-X/3
- Zu)loge
-1,
«log(2;ro-^) + log D ^ a''^ {y - Xp - Zu)'D~\y
- Xp - Zu)
(3.1.1)
dan misalkan/2 menyatakan logaritma dari fungsi densitas peluang u, maka
analog dengan diatas diperoleh
1 ^r
^2 =--Y)^\og2na]
dengan
merupakan dimensi dari
1
+log|/i/^)| + ( T 7 \ ; ^ / ( ^ ) M j
(3.1.2)
.
Estimasi BLUP dari masing-masing parameter, yaitu parameter P, u,
cr^ dan
diperoleh dengan memaksimumkan
(3.1.3)
Untuk lebih memudahkan, bentuk matriks diagonal blok A berikut
A=
d^A
Selanjutnya turunkan / pada persamaan (3.1.3) terhadap masing-masing
parameter , u, Oj, dan (j)^, secara berturut-turut diperoleh
di _ 5/, _ a
dp dp dp\
2
n log 27ta^ + \og\D\ + c7-\y -Xp- Zu)'D-'
- — c r -2
- y'D-'xp - P'X'D-'y+p'X'D-'Xp
2
dp
=
{y-Xp-Zu)
+ p'X'D-'Zu + u'Z'D-'Xp
X'D-'y - X'D-'y + 2X'D-'Xp + X'D-'Zu + X'D-'Zu)
= - | c r - ' (- 2X'D-'y + 2X'D-'Xp + 2X'D-'Zu)
=
a-^X'D-'{y-Xp-Zu)
dp
Analog dengan penunman di atas diperoleh
di
du -a
-2
Z'D-\y-Xp-Zu)-A-'u
1
«cr-' - o--' {y-XpdcT^
2
dl ^ 1
da]~
2
dl ^
dl ^
(3.1.5)
ZuyO-' (y-Xp-Zu)]
dengan vj^^ = ?r
9
(3.1.6)
(3.1.7)
^dA ^
1^
(3.1.4)
(3.1.8)
Kemudian dari masing-masing persamaan (3.1.4) sampai (3.1.8)
disamakan dengan nol, yaitu sebagai berikut
Dari persamaan (3.1.4) diperoleh
a-^X'D-\y-Xp-Zu)
= f)
X'D-'y-X'D-'xp-X'D~'Zu
=Q
X'D-'Xp + X'D-'Zu = X'D~'y
Dari persamaan (3.1.5) diperoleh
cr-' [Z'D-' {y-XP-
(3.1.9)
Zu) -A-'u = 0
Z'D-'y - Z'D-'XP - Z'D-'Zu - A~'u = 0
Z'D-'XP + Z'D-'Zu + A''u = Z'D-'y
(3.1.10)
Dari persamaan (3.1.9) dan (3.1.10) dapat dibentuk matriks BLUP untuk
mengestimasi P dan u, yaitu
X'D' 'X
X'D-'Z
Z'D- 'X Z'D-'Z + A-\ it
'X'DZ'D-
Misalkan X ^D + ZAZ' dan K - Z)"' -D-'X{X'D-'Xy
X'D'', dengan K
simetris dan X'KX = 0 yang berarti KX = 0, maka dari persamaan matriks
BLUP di atas diperoleh estimator untuk p dan u sebagai berikut
p=
(x'Z''xyx"z-\v
u=(Z'KZ +
A-')-ZKy
Dari persamaan (3.1.6) diperoleh
- ^[na-^ - cT-\y ~Xp- Zu)'D-' {y-Xpna'-iy-Xp-
Zu)'D'' {y-Xp-
10
Zu)] = 0
Zu) = 0
Denganmengganti p = P dan u=u diperoleh estimasi BLUP untuk cr', yaitu
no'^iy-Xp-
Zu)'D-' {y -Xp-
5^ ^n-\y-Xp-Zu)'D-'(y-Xp-Zu)
Zu) = 0
=0
Dengan cara yang sama dengan di atas, dari persamaan (3.1.7) diperoleh estimasi
BLUP untukCT', yaitu
Sedangkan dari persamaan (3.1.8) diperoleh
I vf^-a-^u'A-
f8A,
= 0 ;* = 1,2,
dan dalam hal ini estimasi BLUP untuk (p^ tidak dapat diselesaikan secara
eksplisit.
3.2. Estimasi ML
Perhatikan kembali y pada persamaan (2.1). Analog dengan proses pada
estimasi BLUP, fungsi log-likelihood untuk y yang merupakan gabungan dari
distribusi u adalah
hiL =-^[«log2;ro-2 +\og\Y\ + { y - Xp)'Y.-\y
- Xp)]
(3.2.1)
Kemudian turunkan persamaan (3.2.1) terhadap masing-masing parameter
P,a ,9, dan (p, secara berturut-turut diperoleh (penunman fimgsi ini jugea
analog dengan penurunan pada estimasi BLUP)
dh'ML
=
dp
a'^X'J.-\y-Xp)
11
1. - 2 - . 7
-^(>.-zA)'E= --[«o_i 5E
dlML
d9j
5/ML
51ML
d9j
-){y-
= -i[?rE_i as
as
= -l[/rE-_i a<^.
-){y-
xp)]
){y-
xp)]
Selanjutnya dari masing-masing persamaan turunan di atas disamakan
dengan nol sehingga diperoleh estimasi ML untuk P dan sebagai berikut
P^^ =P = H-X"L-'^y
a^ML
dengan / / - X ' E " * X
=n^\y-Xp^JI.-\y-Xp^^)
Sedangkan estimasi untuk (p umumnya tidak dapat diselesaikan secara
eksplisit kecuali untuk E tertentu. Dari persamaan-persamaan di atas setelah
disamakan dengan nol dapat dibentuk matriks informasi ML, yaitu l^i sebagai
berikut
'a~^H
0
0
1<T^
la'
2
59J
d9i
39 J
la'
d9t
1
d9i
89/
l..[E--^E-^]
2
d<P, d<P/
Pada model terakhir matriks variansi berbentuk
E = D + Z ^ Z ' = D + £ 9jZjAj {^)Z'j
7=1
sehingga — = ZjAjim'j dan
=^^.z^(—^)z;.
99J
^
^
d<p, p ^ ^'84>,
dengan ketentuan jika parameter ^ tidak termuat dalam Aj maka turunannya nol.
12
Dengan menggunakan hasil-hasil matriks berikut
ii).Qy = E - ' C J - # A / i ) - D-\l - Z(Z'D-'Z + A-'y'Z'D-']iy
=
(ii) . Z'Qy = Z'i:-\y-Xfij^)
(iv) . (y - Xpy^iy
D-\y-Xp^^-Zu)
= Z'D-'{y-Xfi^L-Zu)
(iii) . Z'jQy = Z'jI.-'(y-Xfij^)
- Xfi^^ )
= Z'jD-\y-X^j^-ZS)
- Xp) ^ -{y - xp)'!.-'^i:-\y
oa j
= A-'u
=
ef'A-'uj
- Xp)
ot>J
=-ej^u]A-'u^
(V). y'Q^^Qy
=
d-'u]Ar'iij
(vi) . {y-xpy^{y-xp)
=
j^0j'''uj-^uj
d<Ps
y=i
dip,
5E
^
> 9-^7*
(vii) . y'Q—Qy = -y0y^u'
—^u.
dan hasil-hasil matriks pada Bab II, diperoleh
=n-^y'Yr\y-XPj,,j^)
= n-^y'D-\y-XPj,ii^-Zu)
= n''y'Qy
81ML
36 j
dl'ML
dcPs
Sedangkan untuk <p dapat diselesaikan secara iterasi. Jika matriks
informasi untuk Ij^i dikalikan dengan 2, maka matriks informasinya menjadi
13
2a-^H
0
.-2
7=1
y=i
7=1
7=1
3.3. Estimasi REML
Misalkan
adalah fimgsi log-likelihood untuk teknik likelihood
IREMI
maksimum residu. Ambil matriks K seperti yang didefinisikan pada bagian 3.1
yang memenuhi KX= 0, maka diperoleh fimgsi log-likelihoodnya sebagai berikut
(«-v)log ITTCT"- ^logKLK
/REML
+a-^y'K{KIXyKy
dengan \KLK\ diinterprestasikan sebagai determinan dari baris dan kolom yang
bebas linear dari KLK .
Analog dengan penurun yang dilakukan pada bagian 3.1, diperoleh
turunan pertama dari
I^EML
terhadap parameter-parameter
, 6j, dan
berturut-turut adalah
dl REML
91REML^_}_
86 J
1
2 tr
{K^KYK — K - <j~^y'K{KlKy
86^
14
K 81 K(KlKyKy
86j
•3y
tr
9<t>s
2[
d</>,
-a~^y'K(KLKy
81
K^^K{KLKy
Ky
d(j).
Analog dengan proses penunman estimasi BLUP, yaitu masing-masing
persamaan turunan di atas disamakan dengan nol dan kemudian diselesaikan
persamaannya, diperoleh
^lEM,=in-vYy'Qy
dan matriks informasi REML, yaitu
2a
ill2a-)trQ^Q^
adalah sebagai berikut
89
j
89^ ^ 89,
{\l2a^)trQ^
ill 2a^)tr
8h
Q ^ Q ^
a9j
otpi
80s 84>f
Dengan menggunakan
= Z^^ (<?))Z', ^ = y]0,Z,(^)Z'
89j
' 8(1)^ % ' ' d(j)^
hasil matriks yang telah dikemukakan didepan diperoleh
dan hasil-
89
81
SO,
REML
=0
Persamaan terakhir dapat diselesaikan secara iterative. Bila matriks
informasi REML dikalikan dengan 2, maka persamaan matriks informasinya
menjadi
15
7=1
j=\
m=l
Dari pembahasan didepan dapat diringkas hasil penurunan metoda BLUP,
ML, dan REML untuk y0, <T' , cr', dan
pada model campuran linear pada
tabel di bawah ini.
Tabel Estimasi BLUP, ML, dan REML untuk Model Campuran Linear
a'
BLUP
(X"L-'XyX'l-'y
ML
(x'l-'xyx'i-'y
(y-Xp-
n-\y-XP^jD-\y-Xp^,)
REML (x"z-'xyx"z-'y
BLUP
ZuyO'' {y-Xfi-
{n-vy'y'Qy
<f>s
k
I
vfUafu'j
(dAf^
7=1
ML
k
z
r
fdA-'^
REML
k
z
^J
V
7=1
J
J
^j(REML)^j
(dAf^
7=1
16
"7
"7
=0
=0
Zu)
{v^-r]y'u]Ap,
3.4. Estimasi BLUP, ML, dan REML
untuk Generalisasi Model Campuran Linear
Seperti telah dikemukan dalam Bab 11, jika model campuran linear umum
pada persamaan (2,1) tidak diharuskan berdistribusi normal tetapi berdistribusi
tergantung pada //, maka model persamaan (2.1) selanjutnya dikatakan
generahsasi model campuran linear (model campuran linear diperumum)
Jika fiy; 0\ u) adalah fungsi densitas peluang dari y dengan syarat yang
telah ditetapkan pada M, maka /] ==ln/(>'; p\u) adalah log-likelihood dari y
dengan syarat yang telah ditetapkan pada u. Misalkan u berdistribusi normal
sebagaimana telah diasumsikan sebelumnya dan logaritma densitas peluangnya
adalah I2 seperti pada persamaan (3.1.3), maka I = l\ + I2 adalah bentuk fimgsi
likelihood tujuan dan membawa BLUP kedalam kerangka non-normal. Dalam
kasus ini, k adalah fungsi tujuan untuk syarat log-likelihood l\. Estimator
likelihood tujuan untuk P dan u ekivalen dengan BLUP, yaitu diperoleh dengan
menentukan turunan likelihood
dl
X'dl^
dj8 dr}
dl
dUj
'
Z'jdl^ _-2
-Oj Aj Uj, j = l,2,---,k
drj
dan turunan kedua dari / sama dengan turunan kedua dari li kecuali untuk
_J1^ = ^
dujdu)
dujdu'j
dengan B =
^-2^-1
^
^
d\
drjdri
17
BZ,-afA-'
=_z'
J
J
J J
Metode iteratif Newton-Raphson untuk mengestimasi P dan u adalah
+ V 'X'~ "h.y
WJ
dri
X''
dengan V = Z' BX Z
+
a
"0
0
0
(4.1.1)
0
a-^A-'
Argumen yang dikemukakan dalam McGilchrist (1994) analog dengan
persoalan model campuran linear dan pengembangan variabel respon normal
dengan B = D~^ dan a'^ =1 sekaligus berarti Oj -crj. Prosedur estimasinya
adalah sebagai berikut.
Nyatakan log-likelihood sebagai fimgsi dari fj = xp + Zu, ambil u dengan
syarat yang telah ditetapkan. Kemudian gunakan estimasi awal dari 0,0 dan
misalkan P = PQ, U = UQ estimasi awal dari p dan u. Selesaikan persamaan
(4.1.1) untuk P dan u . Nilai-nilai awal diganti dengan estimasi dalam iterasi
baru dan seterusnya hingga konvergen.
0j(ML)=
k
I
E
k
Sedangkan estimasi dari cry dan 0 diperoleh dari
u'Aj^u
.
u'A^ti0,,f/mj,^
= - ' ^ — - dan
^3 ^ atau Oj^REML)
(v,-r,)
(v,-0)
SA;
= 0 untuk 0s(ML)^ s =
= 0 untuk 0s(REML) . s =
\,2,--,p
\,2,--,p
Sedangkan matriks informasinya sama dengan matriks informasi untuk
ML dan REML.
18