Belajar Artificial Neural Network (ANN) salah satu cabang dari AI

Definisi Artificial Neural Network

Artificial Neural Network atau ANN adalah sistem pemrosesan informasi yang memiliki karakteristik kinerja tertentu yang sama dengan jaringan saraf biologis. ANN adalah model komputasi paralel, terdiri dari unit pemrosesan adaptif yang saling berhubungan secara padat. Fitur yang sangat penting dari jaringan ini adalah sifat adaptifnya dimana "belajar dengan contoh" menggantikan "pemrograman" dalam memecahkan masalah. 

Sejarah Artificial Neural Network

Sejarah ANN dimulai pada 1940-an. Pada tahun 1943 Warren McCullon dan Walter Pitts merancang apa yang umumnya dianggap sebagai jaringan saraf pertama. Para peneliti ini menyadari bahwa menggabungkan banyak neuron sederhana ke dalam sistem saraf adalah sumber daya komputasi yang meningkat. Pada tahun 1949 Donald Hebb merancang hukum pembelajaran pertama untuk jaringan saraf tiruan. Premisnya adalah jika dua neuron aktif secara bersamaan, maka kekuatan hubungan di antara keduanya harus ditingkatkan.

Tahun 1950-an dan 1960-an dikenal sebagai masa keemasan pertama ANN. Frank Rosenblatt pada tahun 1959 memperkenalkan dan mengembangkan kelas besar ANN yang disebut perceptrons. Pada tahun 1960 Bernard Widrow dan muridnya Marcian mengembangkan aturan belajar (aturan delta) yang erat kaitannya dengan aturan belajar perceptron. 

Tahun 1970-an dikenal sebagai tahun-tahun tenang. Pada tahun 1972 Teuvo Kohonen memulai pekerjaan pertamanya yang berhubungan dengan jaringan saraf memori asosiatif. Karyanya yang lebih baru (pada tahun 1982) adalah pengembangan peta fitur yang mengatur dirinya sendiri yang menggunakan struktur topologi untuk unit cluster. 

Antusiasme baru dari ANN dimulai lagi pada 1980-an. Beberapa metode yang menarik diterbitkan dan dikembangkan seperti propagasi mundur (oleh Rumehart, 1988), jaring Hopfield, mesin Botlzmann, dan lain-lain.

Model Artificial Neural Network

• Single layer Feedforward network
• Terdiri dari 2 layer yaitu layer input dan layer output
• Layer input berperan dalam menerima sinyal data input
• Layer output berfungsi sebagai media dalam memberikan hasil output
• Dikatakan sebagai single layer karena layer output melakukan proses komputasi tanpa melibatkan layer lain diantara layer input dan output.
• Layer input disusun oleh beberapa neuran yang dihubungkan oleh bobot menuju layer output dalam satu alur maju dan tidak sebaliknya. Itulah sebabnya model ini disebut sebagai model umpan maju (Feed forward). 
  
  
  
• Multilayer Percepton (MLP)
  
  Sebuah model jaringan saraf tiruan feedforward yang memetakan set data input ke satu set output yang sesuai. Bertipe feedforward dan terdiri dari banyak lapisan node dalam grafik berarah, dengan setiap lapisan terhubung ke lapisan berikutnya. MLP ini cocok untuk penemuan model nonlinier yang kompleks, tentang kemungkinan mendekati fungsi reguler apa pun denga jumlah signoid berdasarkan kekuatannnya. MLP menggunakan teknik pembelajaran yang disebut propagasi mundur untuk melatih jaringan.

  

  
  
• Self Organizing Map (SOM)
  
  SOM biasa digunakan dalam kasus unsupervised algorithm,  dimana data yang digunakan dalam proses train tidak memiliki label. Merupakan network yang dapat mengorganisisr dirinya sendiri. SOM mengadaptasi konsep competitive learning. Dimana output neuron berkompetisi satu sama lain untuk menjadi pemenang. Neuron pemenang akan menjadi neuron yang aktif pada waktu tersebut, untuk setiap iterasi atau setiap waktu hanya akan ada satu output neuron yang menjadi pemenang. SOM memiliki struktur feed-forward dengan perhitungan tunggallapis diatur dalam baris dan kolom. Setiap neuron terhubung sepenuhnya ke semuatitik sumber di lapis masukan. 

  

Neural Network Architechture

Biasanya, nerural network diumpamakan dengan neuron yang disusun dalam beberapa lapis. Susunanan dari neuron pada lapisan tersebut disebut dengan net architecture/neural network architecture. Berdasarkan jumlah layernya, dibagi menjadi 2 yaitu single dan multi layer. 

Single layer memiliki satu layer koneksi saja atau hanya terdapat unit input dan unit output saja. 

Multi layer memiliki lebih dari satu layer node diantara unit input dan output, dan dapat digunakan untuk menyelesaikan masalah yang lebih komplek dibanding single layer.

Metode Pelatihan Artificial Neural Network

Metode pelatihan merupakan karakteristik penting dalam neural network. Secara umum, terdapat dua jenis pelatihan untuk neural network :

• Supervised Training : menyajikan urutan vektor pelatihan, ataupun pola masing-masing dengan vektor output target terkait. The single layer nets menggunakan supervised learning seperti aturan Hebb atau aturan Delta. Back propagation (aturan delta umum) digunakan untuk melatih nets
• Unsupervised Training : urutan inputnya disediakan, namun tidak ada vektor target yang ditentukan. Net/jaring memodifikasi bobot sehingga vektor input yang paling menyerupai ditempatkan ke unit output yang sama. Neural net menghasilkan sebuah exemplar vector untuk setiap cluster terbentuk. Contoh : Peta Self-organizing kohonen dan Adaptive Resonance Theory (ART).
  Dalam beberapa kasus ketika jaring/jaringan dirancang, bobot diatur untuk mewakili batasan dan kuantitas yang akan di maksimalkan atau di minimalkan.

Sistem ANN Single Layer

1. Fungsi Aktivasi : Jaringan saraf terbuat dari neuron yang saling berhubungan, setiap neuron dicirikan oleh barat, bias, dan fungsi aktivasi. 
   
   

   Fungsi aktivasi diterapkan pada hasil diatas, 

   
   

   Keluaran keluaran dari fungsi aktivasi berpindah ke lapisan tersembunyi berikutnya dan proses yang sama diulangi. Pergerakan informasi ke depan ini dikenal sebagai propagasi maju. Bagaimana jika keluaran yang dihasilkan jauh dari nilai sebenarnya? Menggunakan output dari propagasi maju, kesalahan dihitung. Berdasarkan nilai kesalahan ini, bobot dan bias neuron diperbarui. Proses ini dikenal sebagai propagasi balik.
   
   Contoh Fungsi aktivasi yang populer : binary step, linear, sigmoid, tanh, ReLu, Leaky ReLu, Parameterised ReLu, Exponential Linear Unit, Swish, Softmax
   
   
2. Perception : Prosedur berulang yang menyesuaikan bobot, untuk setiap berat, nilai baru dihitung dengan menambahkan koreksi ke nilai lama. Ambang diperbarui dengan cara yang sama : 
   
   

   Masalah pembelarajan sekarang dapat dirumuskan sebagai: bagaimana kita menghitung (delta)wi(t) dan +(delta)0t untuk mengklasifikasikan pola pembelajaran correction
   Misalkan kita memiliki satu set sampel pembelajaran yang terdiri dari vektor input x dan output yang diinginkan d(x). Untuk tugas klasifikasi d(x) biasanya +1 atau -1. Aturan pembelajaran perceptron sangat sederhana dan dapat dinyatakan sebagai berikut: (1)Mulailah dengan bobot acak untuk koneksi. (2)Pilih vektor input x dari set sampel latihan. (3)Jika y ≠ d (x) (perceptron memberikan respon yang salah), memodifikasi semua koneksi wi menurut: ∆ֺwi = d(x) xi. (4)Kembali ke 2. Selain memodifikasi bobot, kita juga harus memodifikasi ambang batas. Ini dianggap sebagai koneksi w0 antara neuron keluaran dan unit predikat 'dummy' yang selalu aktif: x0 = 1. Mengingat pembelajaran perceptron: 
   
   
   
3. Adaptive Linear Element (Adaline)
   
   Aturan pembelajaran diterapkan pada 'elemen linier adaptif' yang juga dinamai Adaline. Dalam implementasi fisik sederhana, seperti yang diilustrasikan pada Gambar. Perangkat ini terdiri dari sekumpulan resistor yang dapat dikontrol yang terhubung ke rangkaian yang dapat menjumlahkan arus yang disebabkan oleh sinyal tegangan input. 

   

   
   
4. Exclusive OR problem
   
   Salah satu hasil Minsky dan Papert yang paling mengecewakan menunjukkan bahwa satu lapisan perceptron tidak dapat mewakili fungsi atau eksklusif yang sederhana. Perceptron tidak dapat menemukan bobot untuk masalah klasifikasi yang tidak dapat dipisahkan secara linier. Untuk masalah XOR tertentu dengan memperkenalkan unit tersembunyi, sehingga memperluas jaringan ke perceptron multilayer, masalah tersebut dapat diselesaikan.
5. Aplikasi ANN dalam Sistem Kontrol
   - Penerapan di bidang robotika : dirancang untuk menangkap objek berdasarkan data sensor
   
   - Penerapan pada kemudi dan perencanaan jalur kendaraan robot otonom. Kombinasikan dengan PID, ANN dapat digunakan sebagai sistem kontrol untuk motor magnet permanen.
   - ANN memungkinkan untuk diimplementasikan dalam kontrol penerbangan dan sistem manajemen penerbangan.