Tiga pelopor Deep Learning, yaitu Yoshua Bengio, Yann LeCun, Geoffrey Hinton, menulis bersama sebuah makalah penting berjudul Deep Learning for AI.
Mereka bertiga memenangkan Turing Award tahun 2018 atas jasanya mempelopori kajian deep learning.
Isi makalahnya berangkat dari pembahasan tentang penelitian jaringan saraf tiruan (artificial neural network) yang dimotivasi oleh pengamatan bahwa kecerdasan manusia muncul dari network berbagai neurons yang bekerja secara non-linier. Network ini mampu menjalani proses belajar (learning) melalui langkah penyesuaian kekuatan koneksi network-nya.
Pengamatan ini menggiring ke pertanyaan komputasi utama: Bagaimana mungkin network ini mampu mempelajari cara kerja neurons untuk menjalankan berbagai tugas rumit seperti mengenali objek atau memahami bahasa?
Deep learning berusaha menjawab pertanyaan ini dengan membangun berbagai layers untuk vektor aktivasi neurons sebagai representasi cara kerja neurons dan mempelajari kekuatan koneksi network melalui gradien stokastik dari fungsi obyektif yang berperan mengukur seberapa baik kinerjanya.
Sangat mengejutkan bahwa pendekatan yang sederhana ini telah terbukti sangat efektif ketika diterapkan pada berbagai proses learning untuk data besar.
Kunci utamanya terletak pada seberapa dalam (deep) network-nya, karena network yang dangkal (shallow) tidak akan mampu berfungsi dengan baik.
Network yang dalam lebih unggul karena mereka akan mengeksploitasi bentuk komposisi tertentu pada fitur di dalam suatu layer untuk digabungkan melalui berbagai cara sehingga dihasilkan lebih banyak fitur abstrak di layer berikutnya.
Misalnya, untuk tugas neurons yang akan membangun persepsi, komposisi semacam ini bekerja dengan sangat baik dan ada bukti kuat bahwa ini digunakan pula oleh sistem persepsi biologis.
Apa kaitan antara deep learning dengan Artificial Intelligence (AI)?
Ada dua paradigma yang sangat berbeda untuk AI: the logic-inspired paradigm dan the brain-inspired paradigm.
The logic-inspired paradigm akan memandang penalaran berurutan sebagai esensi kecerdasan. Ini akan disebut paradigma kecerdasan analitik.
Paradigma ini bertujuan untuk menerapkan penalaran di komputer menggunakan aturan inferensi yang dirancang untuk beroperasi pada ekspresi simbolik sebagai ungkapan formal pengetahuan.
Kedua, the brain-inspired paradigm yang memandang representasi pembelajaran dari data sebagai esensi kecerdasan. Ini akan disebut paradigma kecerdasan empirik.
Paradigma ini akan menerapkan pembelajaran dengan merancang aturan untuk memodifikasi kekuatan koneksi di dalam network yang menghasilkan simulasi neuron buatan.
Pada the logic-inspired paradigm, atau paradigma kecerdasan analitik, sebuah simbol tidak memiliki struktur internal yang bermakna. Maknanya akan terletak pada hubungannya dengan simbol-simbol lainnya.
Sebaliknya, pada the brain-inspired paradigm, atau paradigma kecerdasan empirik, simbol-simbol eksternal yang digunakan untuk komunikasi akan diubah dulu menjadi vektor aktivasi neuron.
Vektor aktivasi neuron dapat digunakan untuk memodelkan struktur sekumpulan simbol serta mempelajari transformasi non-linier yang memungkinkan vektor aktivasi neuron akan berperanan menggantikan simbol yang belum lengkap.
Deep learning akan bekerja di bawah the brain-inspired paradigm untuk membangun AI. Paradigma ini memandang representasi pembelajaran dari data sebagai esensi kecerdasan.
Makalahnya diterbitkan di Communications Of The Acm, July 2021, Vol. 64.
Referensi:
https://m-cacm.acm.org/magazines/2021/7/253464-deep-learning-for-ai/fulltext
A Simple Notebook 