Data Mining Ari Eko Wardoyo, ST. ,M.Kom. 1 Data Mining Pencarian trend atau pola dalam database besar Sub area statistik (Eksploratory Data Analysis) DATA MINING Sub area Artificial Intelligence Mendukung tercapainya Decision Support System dalam dunia nyata 2 Hubungan dengan Berbagai Bidang Computing Algorithms Statistics Pattern Recognition Machine Learning Database Technology Data Mining 3 High Performance Computing Setiap lembaga mempunyai sistem operasional yang setiap transaksi kegiatan selalu dicatat dan didokumentasikan. Perusahaan Pendidikan Kesehatan Bidang Lainnya 4 Perusahaan Data yang disimpan dalam basis data dapat dimanfaatkan untuk: • Laporan penjualan • Kontrol Inventaris • Personalia dan Karyawan • Distribusi • Dan sebagainya… 5 Pendidikan Data yang disimpan dalam basis data dapat dimanfaatkan untuk: • Proses penentuan bidang minat • Penyeleksian dalam penentuan beasiswa • Penentuan kriteria kemiskinan dalam berbagai kriteria • Memetakan hasil belajar siswa 6 Kesehatan Data yang disimpan dalam basis data dapat dimanfaatkan untuk: • Diagnosis penyakit setiap keadaan • Gejala-gejala penyakit dalam rekam medik • Membantu dokter muda dalam mendiagnosa penyakit pasien • Memprediksi penyakit yang akan muncul untuk periode tertentu 7 Bidang Lainnya Munculnya trend dan teknologi baru seperti: • Web Mining dan Big Data • Spatial Data Mining • Cloud Computing • Text Mining dan Sentimen Analisis • Ekstraksi Citra • Temporal Data • Open Data 8 Data Mining pada Business Intelligence Semakin mendukung pengambilan keputusan End User Pengambilan Keputusan Presentasi Data Teknik Visualiasi Data Mining Penemuan Informasi Business Analyst Data Analyst Eksplorasi Data Statistical Summary, Querying, and Reporting Data Preprocessing/Integrasi, Data Warehouses Sumber Data Database, Web, Paper, Files, Web, eksperimen 9 DBA Posisi Data Mining pada Disiplin Ilmu Artificial Intelligence, Statistik Data Mining Learning, Pattern Recognition Teknologi Database, Paralel Computing, Distributed Computing 10 Permasalahan Pada Data Mining Permasalahan Mendasar Data Mining: Basis Data yang cenderung Dinamis Tidak Lengkap Ber-Noise Besar 11 Permasalahan Pada Data Mining Permasalahan Data Mining yang sering muncul: DB sering didesain untuk tujuan yang berbeda dengan Data Mining Tidak ada properti atribut untuk pembelajaran pada DB DB sering dicemari error sehingga mengasumsikan data bernilai benar semua Error dan mis-klasifikasi 12 Permasalahan Pada Data Mining Data yang hilang dapat dibenahi dengan system penemuan berbagai cara: Mengabaikan Nilai yang hilang Menghilangkan Record yang berhubungan Menebak nilai yang hilang dari nilai yang diketahui Menghitung rata-rata data yang hilang dengan teknik Bayesian 13 1.2 Peran Utama Data Mining 14 Data 15 Dataset (Himpunan Data) Attribute/Feature Class/Label/Target Record/ Object/ Sample/ Tuple Nominal Numerik 16 Jenis Atribut Pengukuran Perhitungan 17 Jenis Atribut Deskripsi Contoh Operasi Ratio (Mutlak) • Data yang diperoleh dengan cara pengukuran, dimana jarak dua titik pada skala sudah diketahui • Mempunyai titik nol yang absolut (*, /) • • • • geometric mean, harmonic mean, percent variation Interval (Jarak) • Data yang diperoleh dengan cara • Suhu 0°c-100°c, pengukuran, dimana jarak dua titik • Umur 20-30 tahun pada skala sudah diketahui • Tidak mempunyai titik nol yang absolut (+, - ) mean, standard deviation, Pearson's correlation, t and F tests Ordinal (Peringkat) • Data yang diperoleh dengan cara • Tingkat kepuasan kategorisasi atau klasifikasi pelanggan (puas, • Tetapi diantara data tersebut sedang, tidak puas) terdapat hubungan atau berurutan (<, >) median, percentiles, rank correlation, run tests, sign tests Nominal (Label) • Data yang diperoleh dengan cara kategorisasi atau klasifikasi • Menunjukkan beberapa object yang berbeda 18 (=, ) mode, entropy, contingency correlation, 2 test Tipe Data • • • • Umur Berat badan Tinggi badan Jumlah uang Kode pos Jenis kelamin Nomer id karyawan Nama kota Peran Utama Data Mining 1. Estimasi 5. Asosiasi 2. Prediksi 4. Klastering 3. Klasifikasi 19 1. Estimasi Waktu Pengiriman Pizza Customer Jumlah Pesanan (P) Jumlah Traffic Light (TL) Jarak (J) Waktu Tempuh (T) 1 3 3 3 16 2 1 7 4 20 3 2 4 6 18 4 4 6 8 36 2 4 2 12 ... 1000 Pembelajaran dengan Metode Estimasi (Regresi Linier) Waktu Tempuh (T) = 0.48P + 0.23TL + 0.5J Pengetahuan 20 Label 2. Prediksi Harga Saham Label Dataset harga saham dalam bentuk time series (rentet waktu) Pembelajaran dengan Metode Prediksi (Neural Network) 21 Pengetahuan berupa Rumus Neural Network Prediction Plot 22 3. Klasifikasi Kelulusan Mahasiswa Label NIM Gender Nilai UN Asal Sekolah IPS1 IPS2 IPS3 IPS 4 ... Lulus Tepat Waktu 10001 L 28 SMAN 2 3.3 3.6 2.89 2.9 Ya 10002 P 27 SMA DK 4.0 3.2 3.8 3.7 Tidak 10003 P 24 SMAN 1 2.7 3.4 4.0 3.5 Tidak 10004 L 26.4 SMAN 3 3.2 2.7 3.6 3.4 Ya L 23.4 SMAN 5 3.3 2.8 3.1 3.2 Ya ... ... 11000 Pembelajaran dengan Metode Klasifikasi (C4.5) 23 Pengetahuan Berupa Pohon Keputusan 24 4. Klastering Bunga Iris Dataset Tanpa Label Pembelajaran dengan Metode Klastering (K-Means) 25 Pengetahuan Berupa Klaster 26 5. Aturan Asosiasi Pembelian Barang Pembelajaran dengan Metode Asosiasi (FP-Growth) 27 Pengetahuan Berupa Aturan Asosiasi 28 Contoh Aturan Asosiasi • Algoritma association rule (aturan asosiasi) adalah algoritma yang menemukan atribut yang “muncul bersamaan” • Contoh, pada hari kamis malam, 1000 pelanggan telah melakukan belanja di supermaket ABC, dimana: • 200 orang membeli Sabun Mandi • dari 200 orang yang membeli sabun mandi, 50 orangnya membeli Fanta • Jadi, association rule menjadi, “Jika membeli sabun mandi, maka membeli Fanta”, dengan nilai support = 200/1000 = 20% dan nilai confidence = 50/200 = 25% • Algoritma association rule diantaranya adalah: A priori algorithm, FP-Growth algorithm, GRI algorithm 29 Data Mining - Pengetahuan Midwest grocery chain menggunakan DM untuk menganalisisi pola pembelian: saat pria membeli roti di hari Kamis dan Sabtu, mereka juga membeli minuman. Analisis lebih lanjut: pembeli ini belanja di hari kamis dan sabtu, tapi di hari kamis jumlah item lebih sedikit. Kesimpulan yang diambil: pembeli membeli minuman untuk dihabiskan saat weekend. Tindak lanjut: menjual minuman dengan harga full di hari Kamis dan Sabtu. Mendekatkan posisi roti dan minuman. 30 Metode Learning Pada Algoritma DM Supervised Learning SemiSupervised Learning 31 Unsupervised Learning 1. Supervised Learning • Pembelajaran dengan guru, data set memiliki target/label/class • Sebagian besar algoritma data mining (estimation, prediction/forecasting, classification) adalah supervised learning • Algoritma melakukan proses belajar berdasarkan nilai dari variabel target yang terasosiasi dengan nilai dari variable prediktor 32 Dataset dengan Class Attribute/Feature Class/Label/Target Nominal Numerik 33 2. Unsupervised Learning • Algoritma data mining mencari pola dari semua variable (atribut) • Variable (atribut) yang menjadi target/label/class tidak ditentukan (tidak ada) • Algoritma clustering adalah algoritma unsupervised learning 34 Dataset tanpa Class Attribute/Feature 35 3. Semi - Supervised Learning • Semi-supervised learning adalah metode data mining yang menggunakan data dengan label dan tidak berlabel sekaligus dalam proses pembelajarannya • Data yang memiliki kelas digunakan untuk membentuk model (pengetahuan), data tanpa label digunakan untuk membuat batasan antara kelas 36 Algoritma Data Mining (DM) 1. Estimation (Estimasi): • Linear Regression, Neural Network, Support Vector Machine, etc 2. Prediction/Forecasting (Prediksi/Peramalan): • Linear Regression, Neural Network, Support Vector Machine, etc 3. Classification (Klasifikasi): • Naive Bayes, K-Nearest Neighbor, C4.5, ID3, CART, Linear Discriminant Analysis, Logistic Regression, etc 4. Clustering (Klastering): • K-Means, K-Medoids, Self-Organizing Map (SOM), Fuzzy C-Means, etc 5. Association (Asosiasi): • FP-Growth, A Priori, Coefficient of Correlation, Chi Square, etc 37 Output/Pola/Model/Knowledge 1. Formula/Function (Rumus atau Fungsi Regresi) • WAKTU TEMPUH = 0.48 + 0.6 JARAK + 0.34 LAMPU + 0.2 PESANAN 2. Decision Tree (Pohon Keputusan) 3. Tingkat Korelasi 4. Rule (Aturan) • IF ips3=2.8 THEN lulustepatwaktu 5. Cluster (Klaster) 38 1.3 Sejarah dan Penerapan Data Mining 39 Evolution of Sciences • Before 1600: Empirical science (Pengetahuan berdasarkan pengalaman) • 1600-1950s: Theoretical science (Pengetahuan berdasarkan Teori) • 1950s-1990s: Computational science (Pengetahuan berdasarkan Komputasi) • 1990-now: Data science (Pengetahuan berdasarkan Data) Jim Gray and Alex Szalay, The World Wide Telescope: An Archetype for Online Science, Comm. ACM, 45(11): 50-54, Nov. 2002 40 Contoh Penerapan Data Mining • • • • • • • • Penentuan kelayakan aplikasi peminjaman uang di bank Penentuan pasokan listrik PLN untuk wilayah Jakarta Prediksi profile tersangka koruptor dari data pengadilan Perkiraan harga saham dan tingkat inflasi Analisis pola belanja pelanggan Memisahkan minyak mentah dan gas alam Menentukan kelayakan seseorang dalam kredit KPR Penentuan pola pelanggan yang loyal pada perusahaan operator telepon • Deteksi pencucian uang dari transaksi perbankan • Deteksi serangan (intrusion) pada suatu jaringan 41 42 Referensi 1. Jiawei Han and Micheline Kamber, Data Mining: Concepts and Techniques Third Edition, Elsevier, 2012 2. Ian H. Witten, Frank Eibe, Mark A. Hall, Data mining: Practical Machine Learning Tools and Techniques 3rd Edition, Elsevier, 2011 3. Markus Hofmann and Ralf Klinkenberg, RapidMiner: Data Mining Use Cases and Business Analytics Applications, CRC Press Taylor & Francis Group, 2014 4. Daniel T. Larose, Discovering Knowledge in Data: an Introduction to Data Mining, John Wiley & Sons, 2005 5. Ethem Alpaydin, Introduction to Machine Learning, 3rd ed., MIT Press, 2014 6. Florin Gorunescu, Data Mining: Concepts, Models and Techniques, Springer, 2011 7. Oded Maimon and Lior Rokach, Data Mining and Knowledge Discovery Handbook Second Edition, Springer, 2010 8. Warren Liao and Evangelos Triantaphyllou (eds.), Recent Advances in Data Mining of Enterprise Data: Algorithms and Applications, World Scientific, 2007 43 Terimakasih 44 Tugas 45 Latihan 1. Jelaskan dengan kalimat sendiri apa yang dimaksud dengan data mining? 2. Sebutkan sudut pandang multidimensi dari data mining! 46 Pre-Test 1. 2. 3. 4. 5. Jelaskan perbedaan antara data, informasi dan pengetahuan! Jelaskan apa yang anda ketahui tentang data mining! Sebutkan peran utama data mining! Sebutkan pemanfaatan dari data mining di berbagai bidang! Pengetahuan atau pola apa yang bisa kita dapatkan dari data di bawah? NIM Gender Nilai UN Asal Sekolah IPS1 IPS2 IPS3 IPS 4 ... Lulus Tepat Waktu 10001 L 28 SMAN 2 3.3 3.6 2.89 2.9 Ya 10002 P 27 SMAN 7 4.0 3.2 3.8 3.7 Tidak 10003 P 24 SMAN 1 2.7 3.4 4.0 3.5 Tidak 10004 L 26.4 SMAN 3 3.2 2.7 3.6 3.4 Ya L 23.4 SMAN 5 3.3 2.8 3.1 3.2 Ya ... 11000 47 Latihan 1. 2. 3. 4. 5. 6. 7. 8. Sebutkan 5 peran utama data mining! Jelaskan perbedaan estimasi dan prediksi! Jelaskan perbedaan prediksi dan klasifikasi! Jelaskan perbedaan klasifikasi dan klastering! Jelaskan perbedaan klastering dan association! Jelaskan perbedaan estimasi dan klasifikasi! Jelaskan perbedaan estimasi dan klastering! Jelaskan perbedaan supervised dan unsupervised learning! 9. Sebutkan tahapan utama proses data mining! 48
