BAB 2 LANDASAN TEORI 2.1. Text Mining Text mining - USU-IR

BAB 2
LANDASAN TEORI
2.1. Text Mining
Text mining merupakan teknik yang digunakan untuk menangani masalah klasifikasi,
clustering, information extraction, dan information retrieval (Berry & Kogan, 2010).
Text mining sebenarnya tidak jauh berbeda dengan data mining, yang membedakan
hanyalah sumber data yang digunakan. Pada data mining data yang digunakan adalah
data yang terstruktur, sedangkan pada text mining data yang digunakan adalah data yang
tidak terstruktur berupa teks. Tujuan dari text mining secara keseluruhan adalah pada
dasarnya untuk mengubah suatu teks menjadi data yang dapat dianalisis.
2.2. Text Pre-Processing
Text pre-processing adalah proses pengubahan bentuk data yang belum terstruktur
menjadi data yang terstruktur sesuai dengan kebutuhan, yang dilakukan untuk proses
mining yang lebih lanjut. Tahap-tahap pada text pre-processing secara umum adalah
tokenizing, case-folding, filtering, phrase detection, dan stemming. Dimana penjelasan
dari tahap-tahap tersebut adalah sebagai berikut:
2.2.1. Tokenizing
Tokenizing adalah tahap pemotongan teks input menjadi kata, istilah, symbol, tanda
baca, atau elemen lain yang memiliki arti yang disebut token (Vijayarani & Janani,
2016). Pada proses, token yang merupakan tanda baca yang dianggap tidak perlu seperti
titik (.), koma (,), tanda seru (!), dan lain-lain akan dihapus. Contoh dari proses
tokenizing dapat dilihat pada Gambar 2.1.
Universitas Sumatera Utara
7
Gambar 2.1. Proses Tokenizing
2.2.2. Case-folding
Case-folding adalah proses penyamaan case dalam artikel, Hal ini disebabkan karena
tidak semua artikel teks konsisten dalam penggunaan huruf kapital. Oleh karena itu
dilakukan case-folding untuk mengkonversi semua teks kedalam suatu bentuk standar
(lowercase). Contoh dari proses case-folding dapat dilihat pada Gambar 2.2.
Gambar 2.2. Proses Case Folding
2.2.3. Filtering
Proses yang dilakukan pada tahap ini yaitu menghapus stop-word. Stop-word adalah
kata yang bukan merupakan kata unik dalam suatu artikel atau kata-kata umum yang
biasanya selalu ada dalam suatu artikel. Contoh kata yang termasuk stop-word adalah
Universitas Sumatera Utara
8
“yang”, “dan”, “di”, “dari”, dan lain-lain (Tala, 2003). Contoh proses filtering stopword dapat dilihat pada Gambar 2.3.
Gambar 2.3. Proses Filtering Stop-Word
2.2.4. Phrase Detection
Tahap ini bertujuan untuk menemukan 2 kata atau lebih yang merupakan frase kata.
Pada bahasa Indonesia frase kata berbeda dengan kata majemuk. Dalam bahasa
Indonesia frasa adalah kumpulan kata nonpredikatif, sedangkan kata majemuk adalah
gabungan morfem dasar yang seluruhnya berstatus sebagai kata yang mempunyai pola
yang khusus menurut kaidah bahasa yang bersangkutan. Contoh dari phrase detection
untuk mendeteksi kata majemuk dapat dilihat pada Gambar 2.4.
Gambar 2.4. Proses Phrase Detection
Universitas Sumatera Utara
9
2.2.5. Stemming
Tahap ini bertujuan untuk menemukan kata dasar dari kata-kata yang bukan merupakan
frase yang didapatkan setelah proses phrase detection. Contoh dari proses stemming
dapat dilihat pada Gambar 2.5.
Gambar 2.5. Proses Stemming
2.3. Algoritma Stemming Nazief Andriani
Algoritma nazief andriani merupakan algoritma stemming khusus untuk bahasa
Indonesia.
Algoritma
ini
menggunakan
beberapa
aturan
morfologi
untuk
menghilangkan affiks (awalan, imbuhan, dll) dari sebuah kata dan kemudian
mencocokannya dalam kamus akar kata (kata dasar). Jadi dasar utama algoritma ini
adalah daftar kata dasar. Langkah pertama yang dilakukan adalah mengumpulkan daftar
kata dasar dalam bahasa Indonesia. Semakin lengkap daftarnya, semakin tinggi akurasi
algoritma ini.
Algoritma ini memiliki tahap-tahap sebagai berikut (Nazief & Adriani, 1996):
1.
Cari kata yang akan di-stem di dalam kamus, jika kata tersebut ditemukan maka
kata tersebut adalah kata dasar dan algoritma berhenti. Jika tidak ada maka
lanjutkan ke langkah-2.
2.
Hilangkan inflectional suffix (imbuhan infleksional) yaitu (“-lah”, “-kah”, “-tah”,
“-ku”, “-mu”, “-nya”).
3.
Hapus derivation suffix (imbuhan turunan) yaitu (“-i”, “-an”, atau “-kan”). Jika kata
ditemukan di kamus, maka algoritma berhenti. Jika tidak maka ke langkah-3a.
a. Jika “-an” telah dihapus dan huruf terakhir dari kata tersebut adalah “-k” maka
“-k” juga ikut dihapus. Jika kata tersebut ditemukan dalam kamus maka
algoritma berhenti. Jika tidak ditemukan maka lakukan langkah-3b.
b. Akhiran yang dihapus (“-i”, “-an”, atau “-kan”) dikembalikan dan lanjut ke
langkah-4.
Universitas Sumatera Utara
10
4.
Hapus derivation prefix (awalan turunan) yaitu (“be-“, “di-“, “ke-“, “me-“, “pe-“,
“se-“, “te-“). Jika pada langkah 3 ada suffix yang dihapus maka pergi ke langkah4a, jika tidak maka pergi ke langkah-4b.
a. Periksa tabel kombinasi awalan-akhiran yang tidak diizinkan. Jika ditemukan
maka algoritma berhenti, jika tidak pergi ke langkah-4b.
b. Untuk i=1 sampai 3, tentukan tipe awalan kemudian hapus awalan. Jika kata
dasar belum ditemukan juga lakukan langkah-5, jika sudah maka algoritma
berhenti.
Catatan: Jika awalan kedua sama dengan awalan pertama maka algoritma
berhenti.
5.
Lakukan recording.
6.
Jika semua langkah telah selesai tetapi tidak juga berhasil maka kata awal
diasumsikan sebagai kata dasar. Proses selesai.
Tabel 2.1. Tabel Kombinasi Awalan dan Akhiran yang Tidak Diijinkan
(Nazief & Adriani, 1996)
Awalan
Akhiran yang tidak diijinkan
be-
-i
di-
-an
ke-
-i, -kan
me-
-an
se-
-i, -kan
Tabel 2.2. Tabel Aturan Peluruhan Kata Dasar (Nazief & Adriani, 1996)
Aturan
Awalan
Peluruhan
1
berV…
ber-V..| be-rV..
2
belajar
bel-ajar
3
berClerC2
be-ClerC2.. dimana Cl!= {‘r’|’l’}
4
terV…
ter-V.. | te-rV..
5
terCer…
ter-Cer… dimana C!=’r’
6
teClerC2
te-CleC2… dimana Cl!=’r’
Universitas Sumatera Utara
11
Tabel 2.2. Tabel Aturan Peluruhan Kata Dasar (Lanjutan)
7
me{I|r|w|y}V…
me-{I|r|w|y}V…
8
mem{b|f|v}…
mem-{b|f|v}…
9
mempe…
m-pe..
10
mem{r|V|V}…
me-m{r|V|V}…| me-p{r|V|V}…
11
men{c|d|j|z}…
men-{c|d|j|z}…
12
menV…
me-nV…| me-tV…
13
meng{g|h|q|k}…
meng-{g|h|q|k}…
14
mengV…
meng-V…| meng-kV…
15
mengeC…
meng-C…
16
menyV…
me-ny…| men-sV…
17
memV…
mem-pV…
18
pe{w|y}V…
pe-{w|y}V…
19
perV…
per-V…| pe-rV…
20
pem{b|f|v}…
pem-{b|f|v}…
21
pem{rV|V}…
pe-m{rV|V}…| pe-p{rV|V}…
22
pen{c|d|j|z}…
pen-{c|d|j|z}…
23
penV…
pe-nV…| pe-tV…
24
peng{g|h|q}…
peng-{g|h|q}
25
pengV…
peng-V| peng-kV
26
penyV…
pe-nya| peny-sV
27
pelV…
pe-IV...; kecuali untuk kata “pelajar”
28
peCP…
pe-CP...dimana C!={r|w|y|I|m|n} dan
P!=’er’
29
perCerV…
per-CerV... dimana C!={r|w|y|I|m|n}
Tipe awalan ditentukan melalui langkah-langkah sebagai berikut:
1.
Jika awalannya adalah: “di-“, “ke-“, atau “se-“, maka tipe awalannya secara
berturut-turut adalah “di-“, “ke-“, atau “se-“.
2.
Jika awalannya adalah: “te-“, “me-“, “be-“, atau “pe-“ maka dibutuhkan sebuah
proses tambahan untuk menentukan tipe awalannya.
Universitas Sumatera Utara
12
3.
Jika dua karakter pertama bukan “di-“, “ke-“, “se-“, “te-“, “be-“, “me-“, atau “pe-“
maka berhenti.
4.
Jika tipe awalan adalah “none” maka berhenti. Hapus awalan jika ditemukan.
Untuk mengatasi keterbatasan yang ada, maka ditambahkan aturan-aturan dibawah ini:
(Adriani et al, 2007)
1.
Aturan untuk reduplikasi.
a.
Jika kedua kata yang dihubungkan penghubung adalah kata yang sama maka
root word adalah bentuk tunggalnya, contoh: “buku-buku” root wood-nya
adalah “buku”.
b.
Kata lain misalnya “bolak-balik”, “berbalas-balasan”, dan “seolah-olah”.
Untuk mendapatkan root word-nya, kedua kata diartikan secara terpisah. Jika
keduanya memiliki root word-nya yang sama maka diubah menjadi bentuk
tunggal, contoh: kata “berbalas-balasan”, “berbalas” dan “balasan” memiliki
root word yang sama yaitu “balas”, maka root wood “berbalas-balasan” adalah
“balas”. Sebaliknya, pada kata “bolak-balik”, “bolak” dan “balik” memiliki
root word yang berbeda, maka root word-nya adalah “bolak-balik”.
2.
Tambahan bentuk awalan dan akhiran serta aturannya.
a.
Tipe awalan “mem-“, kata yang diawali dengan awalan “ memp-“ memiliki
tipe awalan “mem-“.
b.
Tipe awalan “meng-“, kata yang diawali dengan awalan “mengk-“ memiliki
tipe awalan “meng-“.
2.4. Automatic Keyphrase Extraction
Dewasa ini, jurnal yang dibuat sudah menyediakan daftar kata-kata kunci dari
artikelnya. Kata-kata kunci tersebut disebut keyphrases karna kata-kata kunci tersebut
kadang tidak hanya dalam satu kata tapi bisa dalam dua kata ataupun lebih (Turney,
1999). Artikel dapat dengan mudah disaring lebih mudah ketika keyphrases-nya ada
(Turney, 1999). Keyphrases juga dapat digunakan sebagai indeks kata-kata untuk
mencari di dalam kumpulan koleksi artikel (Turney, 1999). Automatic keyphrase
extraction adalah sebuah proses untuk menghasilkan daftar keyphrase yang dapat
mewakili poin-poin penting dari sebuah teks. Keyphrase dari artikel ini dapat digunakan
untuk pencarian artikel dari koleksi artikel yang besar secara akurat dan cepat, dan telah
Universitas Sumatera Utara
13
menunjukan potensinya dalam meningkatkan hasil pekerjaan dari natural language
processing (NLP) dan information retrieval (IR), seperti text categorization (Hulth &
Megyesi, 2006) dan document indexing (Gutwin et al, 1999).
2.5. Term Frequency-Inverse Document Frequency (TF-IDF)
Metode TF-IDF merupakan metode untuk menghitung bobot dari kata yang digunakan
pada information retrieval. Metode ini juga terkenal efisien, mudah dan memiliki hasil
yang akurat. Metode ini akan menghitung nilai Term Frequency (TF) dan Inverse
Document Frequency (IDF) pada setiap token (kata) di setiap dokumen dalam korpus.
Bobot token (kata) semakin besar jika sering muncul dalam suatu dokumen dan semakin
kecil jika muncul dalam banyak dokumen (Robertson, 2004). Metode ini akan
menghitung bobot setiap token t di artikel d dengan persamaan 2.1.
Wdt = TFdt * IDFt
Dimana:
(2.1)
d
= dokumen ke-d
t
= token (kata) ke-t
W
= bobot dokumen ke-d terhadap token (kata) ke-t
TF
= Frekuensi kata yang dicari pada sebuah dokumen
IDF = Inversed Document Frequency
Nilai TF didapatkan dari persamaan 2.2
TF = Ntd / Nd
Dimana:
N
(2.2)
= jumlah token (kata)
Nilai IDF didapatkan dari persamaan 2.3
IDF = log2 (D/Df)
Dimana:
(2.3)
D
= total dokumen
Df
= banyaknya dokumen yang mengandung kata yang dicari
Universitas Sumatera Utara
14
2.6. Self Organizing Maps (SOM)
Self organizing maps merupakan salah satu model jaringan saraf tiruan yang
menggunakan metode pembelajaran tanpa supervise (unsupervised learning). Salah
satu keunggulan dari algoritma ini adalah mampu memetakan data berdimensi tinggi ke
dalam bentuk peta berdimensi rendah. Pada algoritma SOM, suatu lapisan yang berisi
neuron-neuron akan menyusun dirinya sendiri berdasarkan input nilai tertentu dalam
suatu cluster bobotnya (Prasetyo, 2012). Selama proses penyusunan tesebut, cluster
yang memiliki jarak paling dekat akan terpilih menjadi pemenang bobotnya (Prasetyo,
2012). Neuron yang menjadi pemenang akan memperbaiki nilai bobotnya beserta
neuron-neuron tetangganya (Prasetyo, 2012).
Arsitektur SOM terdiri atas satu lapisan input (x) dan satu lapisan output (y) dimana
setiap unit pada lapisan input akan dihubungkan dengan semua unit di lapisan output
dengan suatu bobot wij (Prasetyo, 2012). Setiap neuron dalam SOM akan mewakili
suatu kelompok. Dalam SOM ada K neuron yang disusun dalam larik satu atau dua
dimensi (Prasetyo, 2012).
Berikut adalah algoritma Self Organizing Maps: (Kohonen, 1995)
1.
Inisialisasi jumlah cluster (width x height), jumlah iterasi, learning rate, radius
ketetanggaan, dan bobot pada setiap neuron.
2.
Memilih salah satu vektor input dan disajikan ke jaringan.
3.
Setiap neuron pada jaringan diuji untuk menghitung bobot neuron mana yang
paling mirip dengan vektor input. Neuron pemenang sering disebut dengan Best
Matching Unit (BMU). Untuk mendapatkan BMU dihitung dengan persamaan 2.4.
𝑖=𝑛
𝐷𝑖𝑠𝑡𝐹𝑟𝑜𝑚𝐼𝑛𝑝𝑢𝑡 2 = ∑𝑖=0 (𝐼𝑖 − 𝑊𝑖 )2
Dimana: I
4.
(2.4)
= vektor input
W
= bobot dari vector node
n
= jumlah bobot
Menghitung radius ketetanggan dari BMU. Dimulai dengan nilai yang besar
kemudian berkurang setiap kali iterasi. Menghitung radius ketetanggan dilakukan
dengan persamaan 2.5.
Universitas Sumatera Utara
15
𝑡
𝜎𝑡 = 𝜎0 𝑒 (−𝜆)
Dimana: t
(2.5)
= iterasi yang sedang berlangsung
𝜎0
= radius dari map
λ
= konstanta waktu
Nilai dari konstanta waktu dapat dihitung dari persamaan 2.6.
λ = 𝑛𝑢𝑚𝐼𝑡𝑒𝑟𝑎𝑡𝑖𝑜𝑛𝑠/𝑚𝑎𝑝𝑅𝑎𝑑𝑖𝑢𝑠
5.
(2.6)
Setiap neuron yang berada pada radius BMU disesuaikan agar mereka lebih mirip
dengan vektor input. Untuk menyesuaikan neuron yang berada pada radius BMU
dihitung dengan persamaan 2.7.
𝑊(𝑡+1) = 𝑊𝑡 + 𝛩𝑡 𝐿𝑡 (𝐼𝑡 − 𝑊𝑡 )
(2.7)
Untuk menghitung nilai dari Lt digunakan persamaan 2.8.
𝑡
𝐿𝑡 = 𝐿0 𝑒 (−λ)
(2.8)
Semakin dekat neuron dengan BMU, maka bobot pada neuron tersebut akan
mengalami perubahan yang lebih besar. Jarak dari BMU digunakan dalam
persamaan 2.9.
𝛩𝑡 = 𝑒
6.
(
−𝑑𝑖𝑠𝑡𝐹𝑟𝑜𝑚𝐵𝑀𝑈2
)
2𝜎2 𝑡
(2.9)
Kemudian ulangi langkah 2 sampai N iterasi.
Universitas Sumatera Utara
16
2.7. Penelitian Terdahulu
Lee & Yang (2003) menggunakan algoritma SOM untuk clustering terhadap corpus
paralel yang berisi bahasa campuran yaitu bahasa Cina dan bahasa Inggris. Jaringan self
organizing maps yang dibangun memiliki 16 neuron dalam format 4x4 untuk
melakukan eksperimen pada 18 artikel berbahasa Cina dan 18 artikel berbahasa Inggris.
Kemudian clustering dilakukan terhadap corpus hybrid, pada percobaan ini mereka
menggunakan jaringan self organizing maps yang berisi 36 neuron dalam forma 6x6
untuk melakukan eksperimen pada 58 artikel berbahasa Cina dan 58 artikel berbahasa
Inggris.
Yusuf & Priambadha
(2013) menggunakan algoritma
K-means
untuk
mengelompokan artikel yang kemudian diklasifikasikan menggunakan multi-class
Support Vector Machines (SVM). Hasil dari penelitian ini menunjukkan bahwa metode
yang diusulkan mampu meningkatkan akurasi dengan menghasilkan akurasi sebesar
88,1% presisi sebesar 96,7% dan recall sebesar 94,4% dengan parameter jumlah
kelompok sebesar 5 dibandingkan dengan tanpa menggunakan algoritma K-means
untuk mengelompokkan artikel sebelum klasifikasi.
Husni et al (2015) menggunakan algortima K-Means untuk clustering berita web
berbahasa Indonesia. Proses text pre-processing pada penelitian ini tidak menggunakan
stemming. Artikel berita berhasil dikelompokan secara otomatis sesuai dengan derajat
kesamaan berita sehingga menjadi kelompok artikel berita yang terstruktur dengan
diperoleh nilai rata-rata F-Measure 0.6129. Jumlah cluster dengan nilai puritas terbaik
0.75475 adalah 2 cluster.
Suryaningsih (2015) menggunakan algoritma SOM untuk clustering abstrak pada
sebuah penelitian. Namun dalam penelitian ini Suryaningsih menggunakan metode TFIDF untuk menghitung bobot kata kunci dalam setiap artikel. Pada penelitian ini
ditetapkan jumlah iterasi sebesar 1000, learning rate 0.1, serta jumlah cluster yang
dibuat memiliki ukuran 9x9 grid. Proses clustering akan mengelompokkan artikel yang
memiliki banyak kemiripan term menjadi satu.
Universitas Sumatera Utara
17
Tabel 2.3. Penelitian Terdahulu
No
Peneliti
Tahun
Metode
1
Lee & Yang
2003
Self
Organizing
Maps
Keterangan



2
Yusuf &
Priambadha
2013
K-Means
Clustering


3
Husni et al
2015
K-Means
Clustering



4
Suryaningsih
2015
Self
Organizing
Maps





Clustering artikel berbahasa
cina dan inggris
Melakukan 3 percobaan pada
artikel bahasa Cina, bahasa
Inggris dan campuran antara
bahasa Cina dan bahasa Inggris
Hasil
pengelompokan
menunjukkan
bahwa
pengelompokan
didasarkan
atas
kesamaan
penulisan
dibandingkan kesamaan makna
K-Means pada penelitian ini
melakukan inisialisasi centroid
dengan
menggunakan
pengukuran Jaccard Distance
Pengelompokan artikel dengan
K-Means Clustering sebelum
melakukan klasifikasi dapat
meningkatkan akurasi sebesar
0.5% dan recall sebesar 0.4%
Menggunakan TF-IDF untuk
pembobotan
Tidak menggunakan stemming
pada proses text pre-processing
Jumlah cluster dengan nilai
puritas terbaik 0.75475 adalah
2 cluster.
Artikel input berupa abstrak
dari skripsi
Nilai TF-IDF yang didapatkan
dilakukan normalisasi dengan
algoritma
Min
Max
Normalization
Algoritma
SOM
yang
digunakan membentuk 81
cluster
9 dari 81 cluster yang
terbentuk memiliki tema yang
tidak dapat didefinisikan
4 dari 81 cluster yang
terbentuk tidak terisi oleh
artikel
Universitas Sumatera Utara
18
Perbedaan penelitian yang dilakukan dengan penelitian terdahulu adalah penelitian
ini berfokus kepada clustering artikel web kesehatan dan pengelompokkan yang lebih
khusus dengan berusaha untuk mendapatkan multi-word expression dari kata-kata yang
berkaitan dengan kesehatan. Adapun metode yang diimplementasikan dalam penelitian
ini adalah sebagai berikut:
 Melakukan text pre-processing untuk mendapatkan data teks yang sesuai dimana
hal ini bertujuan untuk mempercepat proses dan meningkatkan akurasi pada saat
proses automatic keyphrase extraction dan proses clustering. Pada tahap stemming
di proses text pre-processing ini menggunakan algoritma stemmer NaziefAndriani.
 Menghitung nilai bobot kata dengan metode TF-IDF untuk proses automatic
keyphrase extraction dan sebagai data masukkan pada proses clustering.
 Menggunakan algoritma Self Organizing Maps untuk melakukan clustering artikel
web kesehatan hasil dari crawler.
Universitas Sumatera Utara