Vol 2 no 1 januari juni 2010

Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
33
SISTEM KOMPUTASI JARINGAN SYARAF TIRUAN
BACKPROPAGATION
Subiyanto
Abstrak
Tulisan ini menyajikan model JST arsitektur umpan-maju (feedforward) dengan konsep
belajar algoritma belajar perambatan-balik (backpropagation). Kaidah backpropagation dapat
diterapkan pada jaringan lapis banyak, karena backpropagation mempunyai kemampuan
mengajar sel-sel syaraf pada lapisan dalam. Kesalahan lokal setiap sel dilihat (diasumsikan)
sebagai bagian yang terkontribusi dalam menghasilkan kesalahan total pada lapisan keluaran.
Apabila kesalahan pada lapis keluaran dapat dipropagasikan kembali masuk ke lapisan dalam,
maka kesalahan lokal sel-sel syaraf pada lapis tersebut dapat dihitung. Pelatihan jaringan
backpropagation meliputi tiga tahap yaitu memasukan secara umpan maju (feedforward) polapola masukan, menghitung dan propagasi balikan
kesalahan yang bersangkutan dan
mengatur bobot-bobot koneksi. Setelah selesai pelatihan JST diterapkan untuk penyelesaian
masalah (mode pengujian).
Kata kunci : Jaringan syaraf tiruan, backpropagation, pelatihan, pengujian.
Pada dasarnya jaringan syaraf terdiri dari
1. PENDAHULUAN
banyak
elemen
pemroses
sederhana
yang
Tubuh manusia merupakan aspirasi dalam
disebut neuron, sel, unit atau simpul. Sebagai
pengembangan teknologi. Dalam tubuh manusia,
bahan perbandingan, jumlah sel syaraf otak
sistem syaraf yang berpusat di otak memegang
seekor cacing diperkirakan ada 1000 buah dan
peranan yang sangat penting. Sistem syaraf
pada otak manusia kurang lebih 100 tiryun
merupakan komponen pengolah sinyal, dalam
buah[Utama
menentukan tanggapan yang harus diberikan
dengan sel syaraf lainnya memakai saluran
, 1995].
Setiap sel syaraf berhubungan
apabila ditemui suatu permasalahan tertentu.
komunikasi
Sampai saat ini sistem sayaf pusat yang diyakini
dengan suatu bobot penghubung. Bobot-bobot
sebagai
tersebut
elemen
pokok
yang
menyebabkan
manusia mampu belajar.
Jaringan Syaraf Tiruan (JST) adalah model
biologis pada saat berhubungan
merupakan terjemahan dari “Artificial Neural
[Utama
,
1995].
[Arwin, 1995]
•
•
teratur
jaringan
JST
untuk
mempunyai
:
Kemampuan
untuk
belajar
dari
Kemampuan
melakukan
perumuman
(generalization) terhadap input baru dari
pengalaman yang dimilikinya.
buatan seperti
dalam menterjemahkan Artificial Inteligent (AI).
oleh
masalah.
yang
pengalaman.
Terjemahan yang
diambil bukan jaringan syaraf
link)
beberapa sifat yang dimiliki otak manusia, yaitu
dengan ‘dunia luar’, nama jaringan syaraf tiruan
Network”
digunakan
menyelesaikan
sistem komputasi yang dapat bekerja seperti
sistem syaraf
(comincation
•
Kemampuan
memisahkan
(abstraction)
Penggunaan kata buatan dapat memberikan
karakteristik penting dari input yang
konotasi, bahwa manusia berusaha membuat
mengandung data yang tidak penting.
jaringan syaraf aslinya. Padahal maksud dari JST
JST merupakan bidang teknologi yang
adalah membuat model sistem komputasi yang
berkembang sangat pesat. Perkembangan terjadi
dapat menirukan cara kerja jaringan syaraf
antara lain dalam pemodelan sel dan
biologis.
konsep belajar dan aplikasi jaringan.
jaringan,
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
34
Adapun model JST yang digunakan dalam
paper
ini
adalah
arsitektur
• Tidak
umpan-maju
naik
atau
turun
secara
monoton
(monotonically nondecreasing).
(feedforward). Sedangkan konsep belajar yaitu
Selanjutnya untuk mendapatkan efisiensi
algoritma belajar momentum perambatan-balik
perhitungan, turunannya mudah dihitung. Pada
(backpropagation)
yang
perkembangan
dari
merupakan
umumnya nilai turunan fungsi activation dapat
belajar
diperoleh dari rentang nilai tertentu. Fungsi
algoritma
perambatan-balik standar[Fausett, 1994].
diharapkan
jenuh,
yaitu
mendekati
batas
minimum dan maksimum (dari asimtotnya) atau
2.
PEMODELAN JST
Jaringan
sebuah
Syaraf
sistem
fungsi pemampat (squashing function) [Sandi S, 1993].
Tiruan
pemroses
(JST)
adalah
informasi
yang
mempunyai karakteristik prestasi tertentu yang
sama dengan jaringan syaraf biologis. JST secara
umum
dikembangkan
pada
Suatu
fungsi
activation
tipikal
adalah
fungsi sigmoid biner yang mempunyai rentang (0,
1) dan didefinisikan sebagai
f1 (x) =
model-model
1
1+ e−x
(1)
matematis dari cara berpikir manusia atau syaraf
biologis tersebut, yang berdasar pada asumsi
berikut[Fausett, 1994] .
1.
Pemrosesan informasi terjadi pada beberapa
turunannya adalah,
f1’ (x) =
elemen sederhana yang disebut sel atau sel
syaraf (neuron).
2.
e -x
(1 + e - x ) 2
atau,
Sinyal-sinyal dilewatkan diantara sel dengan
f1’ (x) = f1 (x) {1 – f1 (x)}
(2)
conection links.
3.
Setiap conection links mempunyai sebuah
bobot (weight), yang mengalikan sinyal yang
Fungsi ini digambarkan dalam gambar 1.
disalurkan dalam suatu JST tipikal.
4.
Masing-masing
sel
menerapkan
sebuah
fungsi activation terhadap jumlah dari sinyalsinyal
masukan
jaringannya
untuk
terbobot
(weighted)
menentukan
sinyal
keluaran.
Sebuah Jaringan Syaraf Tiruan mempunyai tiga
karakteristik sebagai berikut[Fausett, 1994] :
1.
Pola
hubungan
antar
sel
(disebut
Gambar 1 Kurva Fungsi Sigmoid Biner,
arsitektur).
2.
Metode
(disebut
3.
Rentang (0, 1)
penetuan bobot-bobot koneksi
belajar
atau
pelatihan
[Fausett, 1994].
dan
algoritma).
Model Matematis Jaringan Syaraf Tiruan[Fausett,
Fungsi activation-nya.
1994]
Sebagai contoh, sebuah sel syaraf Y dalam
gambar 2 yang menerima masukan dari sel-sel
Fungsi Activation [Fausett, 1994]
X1, X2, X3, …, Xn. Activation (sinyal keluaran)
Suatu fungsi activation untuk setiap sel
masing-masing sel adalah x1, x2, x3, …, xn. Bobot-
sebuah Jaringan Syaraf Tiruan perambatan-balik
bobot koneksi dari X1, X2, X3, …, Xn ke sel syaraf
mempunyai
beberapa
karakteristik
sebagai berikut :
• Harus kontinyu, dapat diturunkan.
penting
Y adalah w1, w2, w3, …, wn. Masukan jaringan,
y_in pada sel syaraf Y adalah jumlah dari sinyalsinyal terbobot dari sel-sel X1, X2, X3, …, Xn yaitu
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
y_in = w1x1 + w2x2 + w3x3 + … + wnxn
35
(3)
Meskipun jaringan dalam gambar 3 sangat
sederhana, jaringan ini menghadirkan sebuah
Activation sel Y yaitu y diberikan pada jumlah
“unit dalam” bersama dengan sebuah activation
masukan terbobot, misalnya
nonlinier,
y = f(y_in) adalah
memberikan
kemampuan
untuk
fungsi logistic sigmoid (sebuah kurva berbentuk
menyelesaikan masalah lebih banyak daripada
huruf S)
sebuah jaringan tanpa unit dalam.
f(y_in) =
1
1 + exp - (y_in)
(4)
Konsep Belajar JST[Syahirul, 1991]
Ciri utama yang dipunyai oleh sistem JST
adalah
kemampuan
untuk
belajar.
Agar
berfungsi seperti yang diinginkan, jaringan tidak
diprogram seperti yang dilakukan
pada sistem
komputer masa lalu (program ad hoc), tetapi
harus diajari.
Berdasarkan fungsi masukan keluarannya,
dapat dilihat bahwa fungsi JST ditentukan oleh
parameternya
(bobot-bobot
koneksi).
Untuk
kasus yang diketahui fungsi pemetaannya, bobotGambar 2 Sel Syaraf (Neuron) Tiruan
Sederhana[Fausett, 1994] .
bobot
tersebut
dapat
berharga
tetap
ditentukan pada waktu perancangan.
dan
Tetapi
pada kebanyakan kasus, parameter jaringan
Selanjutnya dimisalkan bahwa sel syaraf Y
dihubungkan dengan sel-sel syaraf Z1 dan Z2
yang cocok belum diketahui, dan jaringan harus
mencari sendiri besarnya bobot tersebut.
masing-masing dengan bobot v1 dan v2 seperti
Suatu
proses
penyesuaian
parameter
dalam gambar 3. Sel Y mengirimkan sinyal y-nya
secara
ke setiap unit ini. Tetapi pada umumnya nilai-
mendekati
nilai yang diterima oleh sel-sel syaraf Z1 dan Z2
penyesuaian
adalah berbeda, karena tiap-tiap sinyal diskala
dengan proses belajar dalam sistem JST.
dengan bobot-bobot
v1 dan v2. Dalam sebuah
berurutan
fungsi
dilakukan,
yang
parameter
dengan
tujuan
diinginkan.
Proses
inilah
yang
disebut
Poses belajar dapat dikategorikan dalam
jaringan tipikal activation z1 dan z2 dari sel-sel
dua jenis :
Z1 dan Z2 akan tergantung pada masukan dari
1.
Dengan pengawasan (supervised learning)
beberapa sel syaraf
2.
Tanpa Pengawasan (unsupervised learning).
tidak hanya satu seperti
dalam kasus sederhana ini.
Proses
belajar
dengan
pengawasan
memerlukan keluaran/jawaban yang diinginkan,
sebagai
dasar
pengubahan
bobot.
Pasangan
masukan (soal) - keluaran target (jawaban benar)
yang diperlukan
dalam
proses
belajar.
Jaringan diajar untuk menyelesaikan persoalanpersoalan yang terdapat dalam paket belajarnya.
Diagramatik dari konsep belajar dengan
pengawasan ditunjukan pada gambar 4. Selama
belajar apabila jaringan mengeluarkan jawaban
Gambar 3 Sebuah Jaringan Syaraf Tiruan
Sederhana[Fausett, 1994].
yang salah, maka besar kesalahan dapat dicari,
yaitu beda keluaran aktual dan acuannya.
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
36
Sedangkan
dalam
belajar
tanpa
e=
pengawasan, jaringan akan mengubah bobot-
p
∑
(tj – yj)
(7)
j =1
bobotnya, sebagai tanggapan terhadap masukan,
error kuadratnya adalah E.
tanpa memerlukan keluaran acuan.
E=
Dalam
paper ini proses belajar yang digunakan adalah
p
∑
(tj – yj)2
j =1
proses belajar dengan pengawasan.
Maka E merupakan fungsi dari bobot wij, i
= 1, 2,…, n dan j = 1,2,…, p. Gradien E terdiri
dari vektor turunan parsial dari E terhadap
bobot-bobot (wi). Gradien dalam arah positif
(naik) akan menambah E, gradien dalam arah
negatif (turun) akan memperkecil E. Error dapat
dikurangi dengan pengaturan bobot wij sebanding
- ∂E (seperti pada gambar 5).
dengan
∂wij
Gambar 4 Diagram Blok Proses Belajar Dengan
Pengawasan[Syahirul, 1991].
Aturan Delta (Delta Rule)
Aturan delta
[Syahirul, 1991] [Fausett, 1994]
adalah
proses belajar yang diperkenalkan oleh Widrow
dan Hoff (1960) digunakan untuk pemetaan pola.
Dasar aturan ini adalah merubah bobot koneksi
antar
sel
sedemikian
hingga
meminimasi
perbedaan keluaran aktual dan acuan (target).
Gambar 5 Kurva Penurunan Gradien Aturan
Delta.
Notasi Untuk Aturan Delta
xi vektor keluaran sel X ke-i, masukan sel Y ke-j.
∂E
∂wij
∂E
∆ wij = - β
∂wij
wij bobot koneksi antara sel i ke sel j.
Sebelumnya diketahui
y_inj
∆ wij
jumlah masukan sel Y ke-j.
yj keluaran sel Y ke-j.
β
laju belajar.
tj
keluaran target dari sel Y ke-j.
δκ
porsi koreksi kesalahan untuk
≈
-
n
y_inj =
∑
xi wi j dan yj = f (y_inj)
i =1
pengaturan bobot wij.
p
∂E =
∂wij
∂ ∑ (tj − yj) 2
j =1
∂wij
Persamaan aturan delta
Dari gambar 2 dan 3 diperoleh :
bila bobot wij hanya dipengaruhi oleh error
n
y_inj = (
∑
xi wi j)
(5)
i =1
yj
=
f (y_inj)
Misalkan error untuk sebuah pola pelatihan e.
(6)
keluaran unit Yj maka :
∂E = ∂ (tj − yj) 2
∂wij
∂wij
(8)
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
37
∂E = - 2 (t – y ) ⋅ ∂ y
∂ wij
j
j
j
∂wij
∂E = - 2 (t – y ) x ⋅ f′ (y_in )
j
j
i
j
∂wij
-
∂E
∂wi
yang bersangkutan
• Mengatur bobot-bobot koneksi.
Setelah
pelatihan
selesai
komputasi
jaringan hanya pada fase umpan maju yaitu
= 2 (tj – yj) xi ⋅ f′ (y_inj)
memasukan
pola-pola
masukan.
Sekalipun
pelatihan lambat cara kerja jaringan terlatih
Sehingga error lokal sel dapat dikurangi secara
dapat menghasilkan keluaran sangat cepat.
cepat dengan pengaturan bobot menurut aturan
delta (didiberikan parameter belajar β)
Arsitektur JST PB
∆ wi = β (tj – yj) xi ⋅ f′ (y_inj)
atau
Sebuah jaringan banyak lapis dengan satu
∆ wi = β δj ⋅ xi
(9)
lapisan dalam (unit-unit Z) ditunjukan dalam
gambar 6. Unit-unit keluaran (Y) dan unit-unit
dimana,
dalam (Z) mempunyai bias. Bias pada unit
δj = (tj – yj) ⋅ f′ (y_inj)
keluaran tipikal Yk dinotasikan dengan wok, bias
pada unit keluaran tipikal Zj dinotasikan dengan
3. JST PERAMBATAN-BALIK
[Syahirul, 1991] [Fausett,
1994]
voj. Tindakan bias ini seperti pada bobot-bobot
koneksi,
Jaringan Syaraf Tiruan Perambatan-Balik
pertama kali diperkenalkan
oleh
Rumelhart,
Hinton dan William pada tahun 1986, kemudian
dimana
mengeluarkan
optional
unit-unit
nilai
pada
1.
bias
Unit-unit
penyajian
lain
ini
selalu
bersifat
mungkin
dihilangkan.
Rumelhart dan Mc Clelland mengembangkannya
pada tahun 1988.
Jaringan Syaraf Tiruan perambatan-balik
(PB) adalah jaringan yang biasanya jaringan
umpan maju, yang menggunakan PB sebagai
kaidah belajar. Jaringan ini merupakan salah
satu
jenis
yang
belajarnya relatif
mudah
dipahami.
Konsep
sederhana, yaitu belajar dari
kesalahan.
Kaidah PB dapat diterapkan pada jaringan
lapis banyak, karena PB mempunyai kemampuan
mengajar sel-sel syaraf pada lapisan dalam.
Kesalahan lokal setiap sel dilihat (diasumsikan)
sebagai bagian yang terkontribusi dalam
Gambar 6. JST PB Dengan Satu Lapisan Dalam.
menghasilkan kesalahan total pada lapisan
keluaran. Apabila kesalahan pada lapis keluaran
dapat dipropagasikan kembali masuk ke lapisan
dalam, maka kesalahan lokal sel-sel syaraf pada
lapis tersebut dapat dihitung. Secara matematis
masalah tersebut adalah turunan parsial.
secara
umpan
fase pelatihan perambatan-balik, sinyal-sinyal
error dikirim dengan arah yang sebaliknya.
Pelatihan jaringan PB meliputi tiga tahap :
• Memasukan
Gambar 6 tersebut menunjukan arah
sinyal pada fase umpan maju. Selama operasi
maju
(feedforward) pola-pola masukan
• Menghitung dan propagasi balikan kesalahan
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
38
Notasi Algoritma PB
Penentuan
notasi
digunakan dalam
sinyal keluaran (activation) dari Yk dinotasikan
(tata
nama)
yang
pelatihan dengan algoritma
belajar perambatan-balik adalah sebagai berikut.
x
porsi koreksi kesalahan untuk pengaturan
bobot wjk, juga merupakan informasi
kesalahan pada unit Yk.
δj
Algoritma PB
vektor keluaran target :
t = (t1,...., tk,...., tm).
δκ
yk = f (y_ink)
vektor masukan pelatihan :
x = (x1,....., xi,......,xn).
t
dengan yk :
Seperti telah ditunjukan dimuka, pelatihan
sebuah jaringan (Perambatan-Balik) PB meliputi
tiga tahap : pelatihan umpan maju pola-pola
masukan,
kesalahan dari lapisan keluaran ke unit
dalam Zj.
kesalahan
yang
bersangkutan dan pengaturan bobot. Pengaturan
bobot berdasar aturan delta.
porsi koreksi kesalahan untuk pengaturan
bobot vij yaitu perambatan-balik informasi
mempropagasikan
Selama umpan maju setiap unit masukan
(Xi) menerima sebuah sinyal
dan memancarkan
sinyal ini ke unit-unit dalam Z1,...., Zp. Kemudian
setiap
unit
dalam
melakukan
perhitungan
β
laju belajar.
dengan
Xi
unit masukan ke-i.
sinyal-sinyalnya (zj) ke setiap unit keluaran.
fungsi
activation
dan
mengirimkan
Selanjutnya setiap unit keluaran (Yk) melakukan
sinyal-sinyal masukan yang bersangkutan
perhitungan
diberi nama xi.
memberikan sinyal keluaran (yk) yang merupakan
voj bias pada unit dalam ke-j.
Zj
unit dalam ke-j.
masukan jaringan pada Zj dinotasikan dengan
z_inj :
respon
dengan
jaringan
fungsi
tersebut
activation
untuk
pola-pola
masukan yang diberikan.
Selama
pelatihan
membandingkan
setiap
activation
unit
keluaran
keluaran
yang
dihasilkan yk dengan nilai targetnya tk untuk
n
z_inj = v0j + ∑ xi vij
i=1
sinyal keluaran (activation) dari Zj dinotasikan zj :
menentukan
zj = f (z_inj)
kesalahan
yang
berhubungan
dengan pola-pola pada unit tersebut. Berdasar
pada
kesalahan
dihitung.
balikan
keluaran
ini,
besaran
δκ (κ = 1,2,....m)
untuk
mendistribusi-
δκ digunakan
kesalahan
yang
Yk ke semua
terdapat
pada
unit
unit pada lapisan
sebelumnya (unit-unit dalam yang berhubungan
dengan
unit keluaran Yk). δκ juga digunakan
untuk memperbaiki bobot-bobot
wok bias pada unit keluaran ke-k.
Yk
dan
unit keluaran ke-k :
masukan pada unit keluaran Yk dinotasikan y_ink
:
antara lapisan
keluaran dan lapisan dalam. Dengan cara yang
sama, besaran δj (j = 1,...., p) dihitung pada setiap
unit Zj.
Tetapi δj tidak dipergunakan untuk
mempropagasi-balikkan
kesalahan,
δj dipergunakan untuk memperbaiki bobot-bobot
antara lapisan hiden dan masukan.
p
y_ink = wok + ∑ zj wjk
j=1
Setelah
semua
besaran
δj ditentukan,
secara serentak bobot-bobot pada semua lapis
diatur. Pada pengaturan bobot wjk (dari unit
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
39
dalam Zj ke unit keluaran Yk) berdasarkan pada
dan terapkan fungsi aktivasi untuk
besaran δj dan activation zj dari unit dalam Zj.
menghitung sinyal keluarannya,
Pengaturan bobot-bobot vij (dari unit masukan Xi
yk = f (y_ink)
ke unit dalam Zj) berdasar pada besaran δj dan
(13)
activation xi dari unit masukan Xi.
Fungsi
activation
yang
didefinisikan
didepan digunakan untuk pelatihan JST dengan
Perambatan-balik kesalahan:
Langkah 6. Pada setiap unit keluaran (Yk, k = 1,
algoritma perambatan-balik standar. Algoritma
....,
belajar Jaringan Syaraf Tiruan Perambatan-Balik
keluaran target yang berhubungan
adalah sebagai berikut :
dengan pola masukan
Langkah 0.
Tentukan bobot-bobot awal (acak).
untuk
Langkah 1.
Sementara
(bobot
dalam
tidak
menerima
sebuah
menghitung
pola
pelatihan,
informasi
kesalahannya,
kondisi salah
sesuai)
m)
δk = (tk – yk) f ‘(y_ink)
kerjakan
(14)
langkah 2-9.
Langkah 2. Untuk setiap pasangan pelatihan,
hitung besar koreksi bobotnnya
kerjakan langkah 3-8.
(untuk memperbaiki wjk)
Umpan maju (feedforward) :
Langkah 3.
∆wjk = βδkzj
Setiap unit masukan (Xi, i = 1, ...,
n)
menerima
masukan
xi
sinyal-sinyal
sinyal-sinyal
dan
ini
hitung besar koreksi biasnya (yang
menyalurkan
ke
nantinya untuk memperbaiki w0k)
unit-unit
diatasnya (unit-unit dalam).
Langkah 4.
(15)
∆wok = βδk
(16)
Pada setiap unit dalam (Zj, j = 1,
....., p) menjumlahkan sinyal-sinyal
dan
masukan terbobotnya,
kirimkan
δk
ke
unit-unit
lapisan dibawahnya.
n
z_inj = v oj + ∑ xi vij
(10)
i =1
Langkah 7.
Pada setiap unit dalam (Zj, j = 1, ...,
p) jumlahkan masukan deltanya
(dari
terapkan fungsi activation unuk
menghitung sinyal keluaran,
zj = f (z_inj)
unit-unit
lapisan
diatasnya/lapisan keluaran),
δ_inj=
wok +
(11)
m
∑δ
k =1
k
w jk
(17)
dan kirimkan sinyal ini pada
semua unit pada lapisan diatasnya
kalikan
(lapisan keluaran).
activation untuk menghitung besar
Langkah 5. Pada setiap unit keluaran (Yk, k = 1,
dengan
turunan
informasi kesalahannya,
δj = δ_inj f ‘(y_inj)
...., m) jumlahkan sinyal-sinyal
fungsi
(18)
masukan terbobotnya,
p
y_ink = w ok + ∑ z j w jk
j =1
(12)
hitung besar koreksi bobotnnya
(untuk memperbaiki vij)
∆ vij = βδjxi
(19)
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
40
Langkah 2. Untuk
dan hitung koreksi biasnya (untuk
(20)
unit
masukan
masukan xi ke setiap
unit diatasnya (unit dalam).
memperbaiki v0j)
∆ voj = βδj
setap
distribusikan
Langkah 3
Untuk
j =
1,
...,
p
; terapkan
persamaaan (10 dan 3.11) :
n
z (in p ) = v0 p + ∑ xi vip
Perbaikan bobot-bobot dan bias :
i =1
Langkah 8. Masing-masing unit keluaran (Yk, k =
1,
...,
m)
diperbaiki
bias
dan
dan
zp = f {z(inp)}
bobotnya,
wjk (baru) = wjk (lama) + ∆ wjk
(21)
Langkah 4. Untuk k = 1, .., m ; terapkan persaan
(12 dan 3.13) :
p
y (inm ) = w0 m + ∑ z j w jm
dimana (j = 1, ..., p),
j =1
dan pada setiap unit dalam (Zj, j =
1,
...,
p)
diperbaiki
bias
dan
dan
bobotnya,
ym = f {y(inm)}.
vij (baru) = vij (lama) + ∆ vij
(22)
4. PERBAIKAN BOBOT MOMENTUM
[Fausett, 1994]
Salah satu pengembangan dalam Jaringan
Syaraf Tiruan Perambatan-Balik (JST PB) untuk
dimana (i = 1, ..., n).
memperbaiki
Langkah 9. Berhenti.
momentum
bobot
(α).
JST
digunakan
PB
dengan
parameter
momentum
tersebut mempunyai sifat konvergensi lebih cepat
Suatu jangka waktu (disebut epoch) adalah
satu
set
Beberapa
putaran
epoch
vektor-vektor
diperlukan
pelatihan.
untuk
sebuah JST PB. Dalam algoritma
pelatihan
ini dilakukan
perbaikan bobot setelah masing-masing
pola
pelatihan disajikan. Setelah pelatihan selesai
dari JST PB standar. Rumus untuk pengubahan
bobot
algoritma
Momentum
adalah :
wjk (t+1) = wjk(t) + β δkzj +α{ wjk (t) – wjk (t-1)},
∆wjk (t+1) = β δkzj +α ∆wjk (t),
Prosedur Pengujian (Aplikasi JST)
dan
menggunakan
fase
(feedforward).
Prosedur
umpan
majunya
aplikasinya
adalah
sebagai berikut :
(23)
atau
bobot-bobot yang telah diperbaiki disimpan.
Setelah pelatihan, sebuah JST PB hanya
Perambatan-Balik
vij (t+1) = vij(t) + β δjxi +α{vij (t) – vij (t-1)},
(24)
atau
∆vij (t+1) = β δjxi + α ∆vij (t),
Langkah 0. Penentuan bobot awal (hasil dari
pelatihan).
Langkah 1. Untuk
setiap
Dalam proses belajar diatas ada satu hal
vektor
kerjakan langkah 2-4.
masukan,
yang perlu diperhatikan. Berapakah nilai yang
optimal untuk laju belajar β dan momentum α ?
Sebagian besar JST PB menggunakan β dan
Jurnal Teknik Elektro Vol. 2 No.1
Januari - Juni 2010
41
α tetap. Rumelhart merekomendasikan sebuah
Application, Prentice Hal, Englewood Cliffs,
kombinasi β=0,25 dan α=0,9 dapat memberikan
New Jersey.
hasil yang terbaik pada banyak masalah. Tetapi
Sandi Setiawan, 1993, Artificial Intellegence,
besar nilai β dan α yang
belum ada konsensus
harus digunakan dalam proses belajar.
Sebab
Andi offset, Yogyakarta.
Syahirul Hakim AD Dairi, 1991, Karakteristik
dalam kenyataannya nilai β dan α tergantung
Jaringan
pada permasalahan yang dihadapi.
Arsitektur
Syaraf
Tiruan
dengan
Feed-Forward, Tugas Akhir,
ITB.
Utama,
5. KESIMPULAN
W.,
1995,
Menuju
Era
Teknologi
Jaringan Syaraf Tiruan, Mikrodata 9 seri
Dari ulasan diatas dapat diambil beberapa
10, PT Gramedia, Jakarta.
kesimpulan sebagai berikut :
1.
Kelebihan JST terletak pada kemampuan
terutama
D. Biografi
Subiyanto lahir di Klaten, 23 Nopember
dalam bidang yang berhubungan dengan
1974. Lulus Sarjana Teknik Elektro UNDIP pada
pola-pola.
Bidang
masalah
tahun 1998 dengan mempunyai rangking I, lulus
pemetaan.
Untuk
pemetaan
Pascasarjana S2 Teknik Elektro UGM 2003. Sejak
tersebut pengguna tidak perlu merumuskan
desember 2004 menjadi staf pengajar di Teknik
kaidah atau fungsinya. JST akan belajar
Elektro Universitas Negeri Semarang. Bidang
mencari sendiri kaidah atau fungsi tersebut.
yang
Dengan demikian JST mampu digunakan
Sistem Tenaga Listrik.
belajar yang dimilikinya. Dengan kemampuan
tersebut
JST
dapat
digunakan
yang
intinya
menyatakan
untuk menyelesaikan masalah yang rumit
dan atau masalah yang terdapat kaidah atau
fungsi yang tidak diketahui.
2.
Jaringan Syaraf Tiruan Perambatan-Balik ini
termasuk
jenis
hetero-associative,
dimana
vektor masukan dipetakan ke vektor keluaran
target.
Merupakan jaringan yang sederhana dengan
banyak lapis dan banyak sel. Meskipun
jaringan ini tidak mempunyai umpan balik
tetapi error dibalikan untuk memperbaiki
bobot (proses belajar). Dari hasil belajarnya
Jaringan
mampu
menyelesaikan
masalah
yang diberikannya dengan error yang kecil.
3.
Jaringan
Syaraf
Tiruan
Perambatan-Balik
dalam proses belajarnya memiliki parameter
konstanta belajar α dan β untuk mempercepat
proses
belajar.
Selama
ini
belum
ada
konsensus mengenai nilai α dan β yang tepat.
DAFTAR PUSTAKA
Arwin, D. , Wahyudi, S., 1995, JST Dalam
Komputer Cerdas, Bagian I, II dan III,
Mokrodata 9 seri 10, PT Gramedia, Jakarta.
Fausett,
L.,
1994,
Fundamental
Of
Neural
Network Architectures, Algorithms And
diminati
Penggunaan
Komputer
dalam