
Turunan Berantai Untuk Penurunan Otomatis
Satu dari banyaknya bagian terindah dari pustaka-pustaka deep learning seperti pytorch, tensorflow dan lain-lain adalah bagian perhitungan gradient-nya, perhitungan yang digunakan pada saat proses backpropagation. Bagaimana tidak, saya ingat betul ketika di SMA dan kuliah hasil turunannya bergantung pada ekspresi yang diturunkan. Apakah itu variabel, konstanta, atau kombinasi keduanya. Pada saat akhir perkuliahan, tepatnya pada saat mengerjakan skripsi, saya berpikir, rasanya tidak mungkin jika ini dilakukan secara manual, karena untuk setiap ekspresi baru, turunannya harus dihitung ulang secara manual. ...