Peran neuron di hidden layer Multilayer Perceptron

Minggu yang lalu saat mengajar Pattern Recognition di BIT-5 SGU (semester 5, IT, SGU) saya membahas penurunan formula backpropagation (pls see here), agar siswa memahami sisi matematis-nya, tidak sekedar bisa memakai tool box secara membuta. Pada Multilayer Perceptron, penambahan  hidden layer pada perceptron, membuatnya mampu menyelesaikan non linear problem seperti XOR, misalnya. Contoh model yang saya pakai adalah sebagaimana gambar di bawah, dengan Sigmoid sebagai  fungsi aktivasi.

Screen Shot 2017-09-29 at 6.38.13 AM
Seorang siswa bertanya ke saya :  “Pak, apa yang terjadi pada neuron di hidden layer, sehingga neuron di output layer dapat menyelesaikan XOR ?”
Saya jawab, kalau sebuah neuron itu kemampuannya menarik satu garis lurus di input space. Peran neuron di output layer adalah mengkombinasikan garis lurus yang ditemukan oleh neuron di hidden layer. Saya coba masukkan input dengan rentang [0,1] ke masing-masing neuron di input layer. Visualisasi nilai output pada hidden layer dan output layer adalah sebagaimana gambar berikut
Screen Shot 2017-09-29 at 6.49.30 AM
Hyperplane yang diperoleh dan pembagian input space ditampilkan pada gambar berikut. Putih : 1, hitam : 0.
Screen Shot 2017-09-29 at 6.51.43 AM
Source code untuk visualisasi output neuron pada Hidden layer ditampilkan di bawah.
Screen Shot 2017-09-29 at 8.07.08 AM
Program di atas adalah program sederhana untuk sekedar memvisualisasikan nilai output neuron pada multilayer perceptron. Simulasi yang menarik dapat dilihat dari

Tentang Anto Satriyo Nugroho

My name is Anto Satriyo Nugroho. I am working as research scientist at Center for Information & Communication Technology, Agency for the Assessment & Application of Technology (PTIK-BPPT : Pusat Teknologi Informasi & Komunikasi, Badan Pengkajian dan Penerapan Teknologi). I obtained my doctoral degree (Dr.Eng) from Nagoya Institute of Technology, Japan in 2003. My office is located in Serpong, Tangerang Selatan City. My research is on pattern recognition and image processing with applied field of interests on biometrics identification & development of computer aided diagnosis for Malaria. Should you want to know further information on my academic works, please visit my professional site at http://asnugroho.net
Pos ini dipublikasikan di kuliah, research. Tandai permalink.

Tinggalkan Balasan

Isikan data di bawah atau klik salah satu ikon untuk log in:

Logo WordPress.com

You are commenting using your WordPress.com account. Logout /  Ubah )

Foto Google

You are commenting using your Google account. Logout /  Ubah )

Gambar Twitter

You are commenting using your Twitter account. Logout /  Ubah )

Foto Facebook

You are commenting using your Facebook account. Logout /  Ubah )

Connecting to %s