Deep Learning

Pengertian Deep Learning

Deep Learning (Pembelajaran Dalam) atau sering dikenal dengan istilah Pembelajaran Struktural Mendalam (Deep Structured Learning) atau Pembelajaran Hierarki (Hierarchical learning) adalah salah satu cabang dari ilmu pembelajaran mesin (Machine Learning) yang terdiri algoritma pemodelan abstraksi tingkat tinggi pada data menggunakan sekumpulan fungsi transformasi non-linear yang ditata berlapis-lapis dan mendalam. Teknik dan algoritma dalam Pembelaran dalam dapat digunakan baik untuk kebutuhan pembelajaran terarah (supervised learning), pembelajaran tak terarah (unsupervised learning) dan semi-terarah (semi-supervised learning) dalam berbagai aplikasi seperti pengenalan citra, pengenalan suara, klasifikasi teks, dan sebagainya^[4]. Deep Learning disebut sebagai Deep (dalam) karena struktur dan jumlah jaringan saraf pada algoritmanya sangat banyak bisa mencapai hingga ratusan lapisan.

Deep Learning adalah salah satu jenis algoritma jaringan saraf tiruan yang menggunakan metadata sebagai input dan mengolahnya menggunakan sejumlah lapisan tersembunyi (hidden layer) transformasi non linier dari data masukan untuk menghitung nilai output. Algortima pada Deep Learning memiliki fitur yang unik yaitu sebuah fitur yang mampu mengekstraksi secara otomatis. Hal ini berarti algoritma yang dimilikinya secara otomatis dapat menangkap fitur yang relevan sebagai keperluan dalam pemecahan suatu masalah. Algortima semacam ini sangat penting dalam sebuah kecerdasan buatan karena mampu mengurangi beban pemrograman dalam memilih fitur yang eksplisit. Dan, algortima ini dapat digunakan untuk memecahkan permasalahan yang perlu pengawasan (supervised), tanpa pengawasan (unsupervised), dan semi terawasi (semi supervised).

Dalam jaringan saraf tiruan tipe Deep Learning setiap lapisan tersembunyi bertanggung jawab untuk melatih serangkaian fitur unik berdasarkan output dari jaringan sebelumnya. Algortima ini akan menjadi semakin komplek dan bersifat abstrak ketika jumlah lapisan tersembunyi (hidden layer) semakin bertambah banyak. Jaringan saraf yang dimiliki oleh Deep Learning terbentuk dari hirarki sederhana dengan beberapa lapisan hingga tingkat tinggi atau banyak lapisan (multi layer). Berdasarkan hal itulah Deep Learning dapat digunakan untuk memecahkan masalah kompleks yang lebih rumit dan terdiri dari sejumlah besar lapisan transformasi non linier.

Metode/Pemodelan deep learning

1.       Back Propagation

Back-prop hanyalah sebuah metode untuk menghitung turunan parsial (atau gradien) dari suatu fungsi, yang memiliki bentuk sebagai komposisi fungsi (seperti dalam Neural Nets). Ketika Anda menyelesaikan masalah optimasi menggunakan metode berbasis gradient (gradien keturunan hanya salah satu dari mereka), Anda ingin menghitung gradien fungsi pada setiap iterasi.

2.      Stochastic Gradient Descent

Cara intuitif untuk memikirkan Gradient Descent adalah membayangkan jalur sungai yang berasal dari puncak gunung. Tujuan dari gradient descent adalah apa yang ingin dicapai oleh sungai - yaitu, mencapai titik paling bawah (di kaki bukit) yang turun dari gunung.

3.      Learning Rate Decay

Mengadaptasi tingkat pembelajaran untuk prosedur optimasi penurunan gradien stokastik Anda dapat meningkatkan kinerja dan mengurangi waktu pelatihan. Kadang-kadang ini disebut learning rate annealing atau tingkat pembelajaran adaptif. Adaptasi tingkat pembelajaran paling sederhana dan mungkin paling sering digunakan selama pelatihan adalah teknik yang mengurangi tingkat pembelajaran dari waktu ke waktu. Ini memiliki manfaat membuat perubahan besar pada awal prosedur pelatihan ketika nilai tingkat pembelajaran yang lebih besar digunakan, dan mengurangi tingkat pembelajaran seperti tingkat yang lebih kecil dan karena itu pembaruan pelatihan yang lebih kecil dibuat untuk bobot kemudian dalam prosedur pelatihan.

Contoh Studi Kasus

Klasifikasi Citra Menggunakan Convolutional Neural Network (Cnn) pada Caltech 101

Praproses dan pengolahan data input

Citra masukan akan diolah ke dalam pra proses yaitu proses wrapping dan cropping. Pada wrapping, citra masukan dilakukan pengecekan terhadap edge dari objek utama pada citra tersebut. Dari edge pada citra tersebut ditentukan edge maksimalnya sehingga saat hasil cropping objek pada citra tersebut tetap utuh. Tahap training dimulai dengan merubah citra menjadi bentuk vektor. Sehingga alur proses pertama berbentuk.Proses pengolahan data citra dimulai dengan citra ukuran sembarang yang kemudian dirubah ukurannya menjadi 140 x 140. Citra tersebut dijadikan grey scale agar bisa diproses dengan mudah pada tahap Training.

gambar praproses citra output

Proses Training

Proses training merupakan tahapan dimana CNN dilatih untuk memperoleh akurasi yang tinggi dari klasifikasi yang dilakukan. Tahapan ini terdiri dari proses feed forward dan proses backpropagation. Untuk memulai proses feedforward diperlukan jumlah dan ukuran layer yang akan dibentuk, ukuran subsampling, citra vektor yang diperoleh pada subbab III.A. Proses feedforward bekerja seperti pada subbab II.C dimana citra vektor akan melalui proses konvolusi dan Max pooling untuk mereduksi ukuran citranya dan memperbanyak neuronnya. Sehingga terbentuk banyak jaringan yang mana menambah variant data untuk dipelajari. Hasil dari proses feedforward berupa bobot yang akan digunakan untuk mengevaluasi proses neural network tadi.

Proses Testing

Proses testing merupakan proses klasifikasi menggunakan bobot dan bias dari hasil proses training. Proses ini tidak jauh berbeda dengan proses training yang membedakannya tidak terdapat proses backpropagation setelah proses feedforward. Sehingga hasil akhir dari proses ini menghasilkan akurasi dari klasifikasi yang dilakukan, data yang gagal diklasifikasi, nomor citra yang gagal diklasifikasi, dan bentuk network yang terbentuk dari proses feedforward.Dengan bobot dan bias yang baru proses feedforward diterapkan yang kemudian menghasilkan lapisan output. Lapisan output sudah fully connected dengan label yang disediakan. Hasil fully connected tersebut diperoleh data yang gagal dan berhasil diklasifikasi