Posisi deep learning sekarang mirip dengan mesin uap di abad ke-18. Saat itu teknologi lebih dulu maju dibandingkan sains yang mendasari-nya.
Begini penjelasannya.
Tatkala mesin uap tercipta oleh James Watt pada tahun 1776 di awal Revolusi Industri, ia menggunakan prinsip dasar bahwa uap air akan menghasilkan energi panas yang bisa diubah menjadi energi mekanik.
Penemuan mesin uap telah mendahului penemuan ilmu Termodinamika dan Mekanika Statistik di dalam ilmu Fisika. Ilmu-ilmu itu baru muncul di abad berikutnya. Dengan ilmu-ilmu ini dapat sepenuhnya dijelaskan pada tingkat teoretis bagaimana dan mengapa mesin uap itu bekerja.
Artinya sekalipun tanpa ilmu Fisika yang mampu menjelaskan tentang panas, pembuatan mesin uap masih bisa tercipta dan bisa langsung bermanfaat untuk digunakan di perindustrian.
Kurangnya pemahaman tentang panas tidak menghalangi mesin uap untuk dikembangkan, sekalipun banyak pengembangan yang dilakukannya melalui upaya coba-coba.
Mulai abad ke-19, begitu prinsip-prinsip tentang panas ditemukan oleh para ilmuwan melalui ilmu Termodinamika dan ditambah dengan ilmu Mekanika Statistik maka kecepatan perkembangan dunia permesinan bisa maju lebih pesat lagi.
Posisi deep learning sekarang mirip dengan mesin uap di abad ke-18.
Deep learning sekarang tercipta oleh prinsip dasar dari universal approximation theorem (UAT) dan eksperimen coba-coba (trial-and-error).
Namun belum ada teori yang akan menjelaskan mekanisme kerja dari deep artificial neural network (DNN) yang ada di dalam pembahasan deep learning.
DNN merupakan salah satu bahan utama di dalam penelitian AI modern. Tetapi bagi banyak orang, termasuk sebagian besar peneliti AI sendiri, DNN dianggap terlalu rumit untuk dipahami langsung dari prinsip utamanya, yaitu dari UAT.
Itu menimbulkan masalah karena meskipun banyak kemajuan dalam AI telah dibuat melalui eksperimen coba-coba, namun para peneliti tidak mengetahui banyak hal tentang DNN yang akan sangat bermanfaat.
Jika para peneliti lebih mengetahui hal ini, kemungkinan akan mengarah pada kemajuan dramatis dan pengembangan model AI yang jauh lebih mumpuni.
Para peneliti AI saat ini memperlakukan DNN sebagai kotak hitam (black box) yang terlalu rumit untuk dipahami dari prinsip pertama. Hasilnya, model AI disempurnakan melalui upaya coba-coba (trial and error), mirip dengan bagaimana orang mengembangkan mesin uap di abad ke-18.
Upaya coba-coba belum tentu hal yang buruk dan itu bisa dilakukan dengan cerdas, dibentuk oleh pengalaman bertahun-tahun. Tapi coba-coba hanyalah pengganti bahasa teoretis terpadu yang menggambarkan DNN dan bagaimana fungsinya sebenarnya.
Sebuah tim peneliti Artificial Intelligence (AI) dari Facebook Inc., Princeton University dan Massachusetts Institute of Technology telah bekerja sama melakukan penelitian yang akan menawarkan kerangka teori yang bisa menjelaskan untuk pertama kalinya bagaimana DNN sebenarnya bekerja.
Naskah yang ditulis mereka berjudul The Principles of Deep Learning Theory: An Effective Theory Approach to Understanding Neural Networks merupakan hasil penelitian mereka dalam upaya untuk mengisi kesenjangan pengetahuan itu.
Ini merupakan upaya nyata pertama di dalam memberikan kerangka teoretis untuk memahami DNN.
Bagi praktisi AI, pemahaman ini dapat secara signifikan mengurangi jumlah percobaan dan kesalahan yang terjadi untuk menjalani proses learning dari DNN ini.
Ini membuat kita bisa semakin mampu memahami sifat tertentu dari suatu model DNN yang memungkinkan ia akan bekerja secara cerdas.
A Simple Notebook 