Backpropagation

Backpropagation কেন দরকার

এই কোর্সের আগের প্রতিটা চ্যাপ্টারই এই মুহূর্তের দিকে তৈরি হচ্ছিল। Forward propagation একটা ইনপুটকে একটা প্রেডিকশনে পরিণত করে। Loss function সেই প্রেডিকশনকে একটা মাত্র সংখ্যায় পরিণত করে যা এটা কতটা ভুল ছিল তা মাপে। Gradient descent বলে: সেই সংখ্যাটা নিন, প্রতিটা weight-এর জন্য একটা gradient হিসাব করুন, আর প্রতিটা weight-কে loss কমাতে এর gradient-এর বিপরীতে ঠেলে দিন। কিন্তু একটা ফাঁক আছে যা এই চ্যাপ্টারগুলোর কোনোটাই আসলে বন্ধ করেনি: নেটওয়ার্কের ভেতরে তিন লেয়ার গভীরে পোঁতা একটা weight-এর সাপেক্ষে loss-এর gradient কীভাবে হিসাব করবেন?

একদম শেষ লেয়ারের জন্য, এটা খুব কঠিন না — loss সরাসরি সেই লেয়ারের আউটপুট থেকে হিসাব করা, তাই loss আর সেই লেয়ারের weight-এর মধ্যে সম্পর্কটা মোটামুটি সরাসরি। কিন্তু পাঁচ-লেয়ারের একটা নেটওয়ার্কের প্রথম হিডেন লেয়ারের একটা weight বিবেচনা করুন। সেই weight প্রথম লেয়ারের আউটপুটকে প্রভাবিত করে, যা দ্বিতীয় লেয়ারের আউটপুটকে প্রভাবিত করে, যা তৃতীয়টাকে প্রভাবিত করে, এভাবে চলতে থাকে, একদম চূড়ান্ত প্রেডিকশন পর্যন্ত আর তারপরই loss পর্যন্ত। সেই একটা প্রাথমিক weight-এর চূড়ান্ত loss-এর উপর প্রভাব চারটা লেয়ারের ইন্টারমিডিয়েট রূপান্তরের নিচে পোঁতা।

Backpropagation ছাড়া, একটা deep নেটওয়ার্কের জন্য gradient হিসাব করা কম্পিউটেশনালি বিপর্যয়কর হতো। একটা সরল পদ্ধতি — একটা weight সামান্য ঠেলে, পুরো forward pass আবার চালিয়ে, loss কতটা বদলেছে সেটা দেখে — নেটওয়ার্কের প্রতিটা weight-এর জন্য আলাদাভাবে পুনরাবৃত্তি করতে হতো, প্রতি weight-এ একটা পুরো forward pass। দশ লক্ষ weight-এর একটা নেটওয়ার্কের শুধু একটা gradient ধাপ হিসাব করতেই দশ লক্ষ অতিরিক্ত forward pass দরকার হতো। Backpropagation ঠিক একই gradient হিসাব করে নেটওয়ার্কের মধ্য দিয়ে শুধু একটা backward pass ব্যবহার করে, যতই weight থাকুক না কেন।

Chain Rule-এর ইনটুইশন

Backpropagation-এর কার্যকারিতা আসে ক্যালকুলাসের একটা মাত্র অংশ থেকে: chain rule। Chain rule বর্ণনা করে কীভাবে এমন একটা ফাংশনের ডেরিভেটিভ হিসাব করতে হয় যা বেশ কয়েকটা ছোট ফাংশনকে একসাথে কম্পোজ করে বানানো — ঠিক সেই পরিস্থিতি যা একটা deep নেটওয়ার্ক তৈরি করে, কারণ প্রতিটা লেয়ারের আউটপুট সরাসরি পরের লেয়ারের হিসাবে খাওয়ায়।

একটা সহজ চেইন কল্পনা করুন: $x$ $y$-কে প্রভাবিত করে, আর $y$ $z$-কে প্রভাবিত করে। যদি জানতে চান $x$-এ একটা ছোট পরিবর্তন শেষ পর্যন্ত $z$-কে কতটা প্রভাবিত করে, chain rule বলে দুইটা স্থানীয় প্রভাবকে একসাথে গুণ করুন:

$$\frac{dz}{dx} = \frac{dz}{dy} \cdot \frac{dy}{dx}$$

$\frac{dy}{dx}$ মাপে $x$-এ প্রতি ইউনিট পরিবর্তনে $y$ কতটা বদলায় — একটা নিখুঁত স্থানীয় সম্পর্ক, চেইনের একটা ধাপ। $\frac{dz}{dy}$ মাপে $y$-এ প্রতি ইউনিট পরিবর্তনে $z$ কতটা বদলায় — আরেকটা নিখুঁত স্থানীয় সম্পর্ক, পরের ধাপ। এদের একসাথে গুণ করলে $x$ থেকে $z$ পর্যন্ত পুরো সম্মিলিত প্রভাব পাওয়া যায়, যদিও $x$ কখনো সরাসরি $z$-কে স্পর্শ করে না।

একটা নিউরাল নেটওয়ার্ক ঠিক এই ধরনের একটা চেইন, শুধু অনেক বেশি লিংকসহ: loss নির্ভর করে আউটপুট লেয়ারের অ্যাক্টিভেশনের উপর, যা নির্ভর করে আউটপুট লেয়ারের ওয়েটেড সামের উপর, যা নির্ভর করে আগের লেয়ারের অ্যাক্টিভেশনের উপর, যা নির্ভর করে সেই লেয়ারের ওয়েটেড সামের উপর, এভাবে চলতে থাকে, একদম ইনপুট পর্যন্ত। Backpropagation এই পুরো চেইন জুড়ে, লেয়ারে লেয়ারে, chain rule বারবার প্রয়োগ করে বের করে কীভাবে যেকোনো weight-এর একটা পরিবর্তন — নেটওয়ার্কের যেকোনো জায়গায় — শেষ পর্যন্ত একদম শেষে loss-কে প্রভাবিত করে।

Gradient Flow

Backpropagation আউটপুট লেয়ার থেকে শুরু করে gradient হিসাব করে আর ইনপুট লেয়ারের দিকে পেছনের দিকে কাজ করে — forward propagation-এর বিপরীত দিক, যেখান থেকে ঠিক নামটা এসেছে।

প্রক্রিয়াটা শুরু হয় আউটপুট লেয়ারের অ্যাক্টিভেশনের সাপেক্ষে loss কীভাবে বদলায় সেটা হিসাব করে — এটা সাধারণত সরল, কারণ loss function (Loss Functions চ্যাপ্টার থেকে) সরাসরি সেই অ্যাক্টিভেশন আর সত্যিকারের লেবেলের ভিত্তিতে সংজ্ঞায়িত। এই রাশিটাকে আউটপুট লেয়ারের "error signal" বলা যাক।

সেখান থেকে, backpropagation একবারে একটা লেয়ার পেছনের দিকে যায়। প্রতিটা লেয়ারে, এটা chain rule ব্যবহার করে দুইটা জিনিস হিসাব করে: এই লেয়ারের প্রতিটা weight loss-এ কতটা অবদান রেখেছে (সেই weight আপডেট করতে ব্যবহৃত), আর প্রতিটা নিউরনের ইনপুট loss-এ কতটা অবদান রেখেছে (আরও পেছনে পাঠানোর জন্য একটা error signal, এর আগের লেয়ারে)।

$$\delta^{(l)} = \left( W^{(l+1)} \right)^T \delta^{(l+1)} \odot f'(z^{(l)})$$

এই সূত্রটা ঘন দেখাতে পারে, কিন্তু এর ভেতরের আইডিয়াটা সহজ: $\delta^{(l+1)}$ হলো পরের লেয়ারে (আউটপুটের কাছাকাছি) ইতিমধ্যে হিসাব করা error signal, $W^{(l+1)}$ হলো লেয়ার $l$-কে লেয়ার $l+1$-এর সাথে যুক্ত করা weight ম্যাট্রিক্স, আর $f'(z^{(l)})$ হলো লেয়ার $l$-এ অ্যাক্টিভেশন ফাংশনের ডেরিভেটিভ। এদের একসাথে গুণ করলে "পরের লেয়ার কতটা ভুল ছিল" "এই লেয়ার কতটা ভুল ছিল"-তে রূপান্তরিত হয় — ঠিক একটা chain-rule ধাপ, একবারে একটা সংখ্যার বদলে একসাথে একটা পুরো লেয়ারের নিউরনে প্রয়োগ করা।

এই backward pass প্রতিটা লেয়ারকে ঠিক একবার স্পর্শ করে, উল্টো ক্রমে — আউটপুট লেয়ারের error হিসাব হয়, শেষের-আগের লেয়ারের error হিসাব করতে ব্যবহৃত হয়, যা তৃতীয়-শেষ লেয়ারের error হিসাব করতে ব্যবহৃত হয়, এভাবে চলতে থাকে, যতক্ষণ না একদম প্রথম হিডেন লেয়ারের নিজস্ব error signal থাকে। প্রতিটা লেয়ারের শুধু তার ঠিক পরের লেয়ার থেকে হস্তান্তরিত error signal, প্লাস নিজস্ব স্থানীয় weight আর অ্যাক্টিভেশন ডেরিভেটিভ দরকার — কোনো লেয়ারের তার নিকটতম প্রতিবেশীর চেয়ে বেশি দূরে পেছনে বা সামনে পৌঁছানোর দরকার নেই।

Weight Updates

একবার একটা নির্দিষ্ট লেয়ারে error signal $\delta^{(l)}$ হিসাব হয়ে গেলে, সেই লেয়ারের weight-এর জন্য আসল gradient পাওয়া একটা সংক্ষিপ্ত শেষ ধাপ: error signal-কে সেই লেয়ারে খাওয়ানো অ্যাক্টিভেশন দিয়ে গুণ করুন।

$$\frac{\partial L}{\partial W^{(l)}} = \delta^{(l)} \cdot \left( a^{(l-1)} \right)^T$$

এখানে $a^{(l-1)}$ হলো আগের লেয়ার থেকে আসা অ্যাক্টিভেশন — সেই একই মান যা forward pass-এর সময় এই লেয়ারের ওয়েটেড সাম হিসাব করতে ব্যবহৃত হয়েছিল। স্বজ্ঞাতভাবে, এটা বোঝা যায়: loss-এ একটা weight-এর প্রভাব নির্ভর করে দুইটা জিনিসের উপর, এই লেয়ারের আউটপুট কতটা ভুল ছিল ($\delta^{(l)}$) আর সেই ইনপুট আসলে কতটা জোরালোভাবে উপস্থিত ছিল প্রথম জায়গায় ($a^{(l-1)}$) — শূন্যের কাছাকাছি একটা ইনপুটের সাথে যুক্ত একটা weight নিজের মান যাই হোক না কেন error-এ বেশি অবদান রাখতে পারত না।

একটা একই ধরনের, সহজ হিসাব শুধু $\delta^{(l)}$ থেকে সরাসরি প্রতিটা লেয়ারের bias-এর জন্য gradient দেয়, কারণ একটা bias কোনো ইনকামিং অ্যাক্টিভেশনকে গুণ করে না।

এখন পুরো নেটওয়ার্ক জুড়ে প্রতিটা weight আর bias-এর gradient হিসাব হয়ে গেলে, Gradient & Gradient Descent চ্যাপ্টারের আপডেট ধাপ সরাসরি প্রয়োগ হয়, লেয়ারে লেয়ারে:

$$W^{(l)}_{\text{new}} = W^{(l)}_{\text{old}} - \eta \cdot \frac{\partial L}{\partial W^{(l)}}$$

একসাথে মিলিয়ে, একটা পুরো ট্রেনিং ধাপ দেখতে এরকম: forward propagation একটা প্রেডিকশন হিসাব করে, loss function এটা কতটা ভুল ছিল তা মাপে, backpropagation সেই error-কে প্রতিটা লেয়ারের মধ্য দিয়ে পেছনে প্রবাহিত করে পথে gradient হিসাব করে, আর gradient descent সেই gradient ব্যবহার করে একসাথে প্রতিটা weight আর bias আপডেট করে। এই চক্রটা বারবার পুনরাবৃত্তি করুন, অনেক ট্রেনিং উদাহরণ জুড়ে, আর নেটওয়ার্কের weight-গুলো ধীরে ধীরে এমন মানের দিকে সরে যায় যা সঠিক প্রেডিকশন তৈরি করে।

Visualization

একটা ছোট কনক্রিট নেটওয়ার্কের মধ্য দিয়ে backpropagation ট্রেস করলে বিমূর্ত প্রবাহটা কনক্রিট হয়ে ওঠে। একটা নেটওয়ার্ক নিন একটা ইনপুট $x$ সহ, weight $w_1$ আর অ্যাক্টিভেশন $a_1$-সহ একটা হিডেন নিউরন, আর weight $w_2$-সহ একটা আউটপুট নিউরন যা প্রেডিকশন $\hat{y}$ তৈরি করে, squared error loss $L = (\hat{y} - y)^2$ ব্যবহার করে সত্যিকারের মান $y$-এর বিরুদ্ধে ট্রেন করা।

Forward pass ক্রমানুসারে হিসাব করে: $z_1 = w_1 x$, তারপর $a_1 = f(z_1)$, তারপর $\hat{y} = w_2 a_1$, তারপর $L = (\hat{y} - y)^2$।

Backpropagation ঠিক এই একই চেইন উল্টো ক্রমে হাঁটে:

• ধাপ ১ — loss থেকে prediction: $\frac{\partial L}{\partial \hat{y}} = 2(\hat{y} - y)$। এটা মাপে প্রেডিকশন সামান্য সরলে loss কতটা বদলাত — শুরুর error signal।
• ধাপ ২ — prediction থেকে output weight: $\frac{\partial L}{\partial w_2} = \frac{\partial L}{\partial \hat{y}} \cdot a_1$। Chain rule ধাপ ১-এর error signal-কে $w_2$-তে খাওয়ানো অ্যাক্টিভেশন দিয়ে গুণ করে — ঠিক Weight Updates সূত্র, এই একটা weight-এ প্রয়োগ করা।
• ধাপ ৩ — prediction থেকে hidden activation: $\frac{\partial L}{\partial a_1} = \frac{\partial L}{\partial \hat{y}} \cdot w_2$। এটা error signal পেছনে চলতে থাকা, এখন আউটপুটের বদলে হিডেন লেয়ারের অ্যাক্টিভেশনের ভাষায় প্রকাশ করা।
• ধাপ ৪ — hidden activation থেকে hidden weight: $\frac{\partial L}{\partial w_1} = \frac{\partial L}{\partial a_1} \cdot f'(z_1) \cdot x$। আরেকটা chain-rule ধাপ, অ্যাক্টিভেশন-স্তরের error-কে $w_1$-এর জন্য একটা gradient-এ রূপান্তরিত করা, নেটওয়ার্কের সবচেয়ে প্রাথমিক weight।

প্যাটার্নটা খেয়াল করুন: প্রতিটা ধাপের শুধু আগের ধাপে হিসাব করা error signal দরকার, প্লাস একটা নিখুঁত স্থানীয় তথ্য (একটা অ্যাক্টিভেশন, একটা weight, বা একটা অ্যাক্টিভেশন ডেরিভেটিভ) যা চেইনের সেই বিন্দুতে ঠিক পাওয়া যায়। ধাপ ৪-এর কোনোভাবে সরাসরি loss পর্যন্ত "পুরো পথ পেছনে পৌঁছানোর" দরকার হয়নি — chain rule সেই তথ্যটা পেছনে বহন করেছে, একবারে একটা স্থানীয় গুণ, ঠিক যেমনটা Chain Rule-এর ইনটুইশন সেকশনে বর্ণনা করা হয়েছে।

Summary