TUGAS GEOFISIKA MATEMATIKA 3 NAMA : NURZAKIYAH MEGA LESTARI NIM : H061191037 Neural network adalah model yang terinspirasi oleh bagaimana neuron dalam otak manusia bekerja. Neural network dibangun dari banyak node/unit yang dihubungkan oleh link secara langsung. Neural network adalah model pemrograman yang mensimulasikan otak manusia. Model, sebenarnya model itu tidak lebih dari apa yang ingin kita capai sebagai produk akhir. Misalnya, jika kami mengembangkan sistem pemfilteran otomatis untuk menghapus email spam, filter email spam adalah model yang sedang kita bicarakan. Dalam pengertian ini, kita dapat mengatakan model adalah apa yang sebenarnya kita gunakan. Beberapa orang menyebut model sebagai hipotesis Machine learning adalah teknik yang menggambarkan "model" dari "data". Di sini, data secara harfiah berarti informasi seperti dokumen, audio, gambar, dll. "Model" adalah produk akhir dari Machine learning. Learning rule adalah Metode yang digunakan untuk mengatur bobot sesuai dengan training data. Ini membantu neural network untuk belajar dari kondisi yang ada dan meningkatkan kinerjanya. Dalam konteks neural network, proses penentuan model (neural network) disebut dengan learning rule. Input signal hanya bertindak sebagai bagian yang mentransmisikan ke simpul berikutnya. Hidden layer adalah layer di antara layer masukan dan keluaran. Mereka diberi nama ini karena tidak dapat diakses dari luar neural network. Output layer adalah hasil akhir dari neural network. Activation function befungsi untuk menentukan apakah neuron tersebut harus “aktif” atau tidak berdasarkan dari weighted sum dari input Single layer neural network adalah neural network yang memiliki arsitektur yang sangat sederhana dengan hanya layer masukan dan keluaran. Single layer neural network hanya berlaku untuk masalah yang dapat dipisahkan secara linier, dan sebagian besar masalah praktis tidak dapat dipisahkan secara linier. Multi layer neural network adalah neural network yang terdiri dari lapisan masukan (input layer), lapisan tersembunyi (Hidden layer), dan lapisan keluaran (Output layer). •Jaringan neural multi-layer mampu memodelkan masalah yang tidak dapat dipisahkan secara linier. Shallow neural network or Vanilla neural network adalah Jaringan saraf yang memiliki satu lapisan tersembunyi (Hidden layer). Deep neural network adalah Multi layer neural network (Jaringan neural multi-lapisan) yang berisi dua atau lebih lapisan tersembunyi (Hidden layer). Supervised learning adalah proses dimana data terbimbing. Supervised learning adalah proses yang memodifikasi model untuk mengurangi perbedaan antara keluaran yang benar dan keluaran model. Delta rule adalah metode berulang yang secara bertahap mencapai solusi. Oleh karena itu, jaringan harus dilatih berulang kali dengan training data sampai kesalahan berkurang ke tingkat yang memuaskan Training adalah satu-satunya cara neural network untuk menyimpan informasi secara sistematis, Sigmoid function digunakan untuk fungsi aktivasi node keluaran. SGD method (Stochastic Gradient Descent) menghitung kesalahan untuk setiap traning data dan menyesuaikan bobot dengan segera. Jika kami memiliki 100 poin training data, SGD menyesuaikan bobot 100 kali. Batch method, setiap pembaruan bobot dihitung untuk semua kesalahan training data, dan rata-rata pembaruan bobot digunakan untuk menyesuaikan bobot. Metode ini menggunakan semua data pelatihan dan pembaruan hanya sekali. Mini batch adalah metode campuran dari metode SGD dan metode batch. Metode mini batch, ketika memilih jumlah poin data yang sesuai, memperoleh keuntungan dari kedua metode: kecepatan dari SGD dan stabilitas dari batch. Untuk alasan ini, mini batch sering digunakan dalam Deep learning yang memanipulasi sejumlah besar data. Deep learning secara sederhana dapat didefinisikan sebagai teknik Machine Learning yang menggunakan deep neural network. ReLU function melatih deep neural network yang diberikan menggunakan algoritme propagasi balik. Ini mengambil bobot jaringan dan data pelatihan dan mengembalikan bobot yang dilatih. Overfitting terjadi jika model telah disesuaikan secara berlebihan dengan data pelatihan sehingga menghasilkan performa yang buruk untuk data input yang sebenarnya, sementara performanya untuk data pelatihan sangat baik. Overfitting adalah salah satu faktor utama yang mengurangi kinerja generalisasi. Regularization adalah metode numerik yang menghasilkan struktur model sesederhana mungkin. Model yang disederhanakan dapat menghindari efek overfitting dengan biaya kinerja yang kecil.