Chapter 18 of 28

A Complete Worked Example

One image, traced by hand through every layer

16 min read

Created ২ আগ, ২০২৬

ভূমিকা (Motivation)

এখন পর্যন্ত আমরা CNN থিওরির প্রতিটি অংশ — কনভোলিউশন, অ্যাক্টিভেশন, পুলিং, ফ্ল্যাটেন, fully connected লেয়ার, সফটম্যাক্স — আলাদা আলাদাভাবে শিখেছি। এই চ্যাপ্টারটি সেগুলোকে একটি নির্দিষ্ট পাতায় সাজিয়ে একটি একক, অত্যন্ত ছোট ছবির ওপর নিজে হাতে গাণিতিকভাবে রান করে দেখাবে, যার প্রতি পদেই বাস্তব সংখ্যা ব্যবহৃত হবে। আপনি যদি কোনো হেল্প বা সাহায্য ছাড়া নিজে খাতায় এই ট্রেস বা হিসাবটি সম্পন্ন করতে পারেন, তবে বুঝতে হবে আপনি CNN-এর সম্পূর্ণ ফরওয়ার্ড পাস প্রক্রিয়াটি নিখুঁতভাবে বুঝে গেছেন — পরীক্ষার খাতায় সামান্য আলাদা সংখ্যা দিয়ে এই প্রশ্নটি জিজ্ঞেস করা অন্যতম কমন একটি বিষয়।

ইনপুট ইমেজ (The Input Image)

এখানে আমাদের একটি ওজনের বা অতি ক্ষুদ্র $5\times5$ গ্রে-স্কেল ছবি দেওয়া আছে, যার প্রতিটি মান মূলত এক একটি পিক্সেলের তীব্রতা (pixel intensity):

I =
[1  0  1  2  1]
[0  2  1  0  1]
[1  1  0  2  0]
[2  0  1  1  0]
[0  1  2  0  1]

ধাপ ১: কনভোলিউশন (Convolution)

আমরা ছবির ওপর দিয়ে ১ স্ট্রাইড ও কোনো প্যাডিং ছাড়াই একটি $3\times3$ সাইজের খাঁড়া কিনারা সনাক্তকারী (vertical-edge-detecting) কার্নেল স্লাইড করব:

K =
[ 1  0  -1]
[ 1  0  -1]
[ 1  0  -1]

আউটপুটের স্থানিক আকার

O = \left\lfloor \frac{5 - 3 + 0}{1} \right\rfloor + 1 = 3

উপরে-বামে থাকা প্রথম আউটপুট মানটি ক্যালকুলেট করা। ছবির উপরে-বামে থাকা প্রথম $3\times3$ প্যাচের (প্রথম ৩টি সারি, প্রথম ৩টি কলাম) ওপর কার্নেলটি বসান:

Patch =        Kernel =
[1 0 1]        [ 1  0 -1]
[0 2 1]        [ 1  0 -1]
[1 1 0]        [ 1  0 -1]

প্রতিটি উপাদান আলাদাভাবে গুণ করে সবকিছু যোগ করা হলো:

(1{\cdot}1)+(0{\cdot}0)+(1{\cdot}{-1}) + (0{\cdot}1)+(2{\cdot}0)+(1{\cdot}{-1}) + (1{\cdot}1)+(1{\cdot}0)+(0{\cdot}{-1})

= (1+0-1) + (0+0-1) + (1+0+0) = 0 - 1 + 1 = 0

কার্নেলটিকে সব ৯টি পজিশনে স্লাইড করে (সুবিধার জন্য বায়াস ০ ধরে নিয়ে) বাকি ফিচার ম্যাপটি পূরণ করলে পাওয়া যায়:

Z =
[ 0  -2   2]
[ 1  -1   3]
[ 0  -1   1]

ধাপ ২: অ্যাক্টিভেশন (ReLU)

প্রতিটি উপাদানে $f(x) = \max(0, x)$ প্রয়োগ করা হলো — প্রতিটি ঋণাত্মক মান শূন্যে ক্ল্যাম্প হয়ে যায়, পজিটিভগুলো অপরিবর্তিত থাকে:

A =
[0  0  2]
[1  0  3]
[0  0  1]

ধাপ ৩: পুলিং (Max Pool, 2×2, stride 1)

Pooled আউটপুট আকার

O = \left\lfloor \frac{3-2+0}{1} \right\rfloor + 1 = 2

প্রতিটি আউটপুট সেল $A$ -এর একটি $2\times2$ উইন্ডোর মধ্যে সবচেয়ে বড় মানটি নেয়:

\begin{aligned} P(1,1) &= \max(0, 0, 1, 0) = 1 \\ P(1,2) &= \max(0, 2, 0, 3) = 3 \\ P(2,1) &= \max(1, 0, 0, 0) = 1 \\ P(2,2) &= \max(0, 3, 0, 1) = 3 \end{aligned}

P =
[1  3]
[1  3]

সহজ কথা: Max pooling প্রতিটি লোকাল উইন্ডো থেকে শুধুমাত্র সবচেয়ে শক্তিশালী বা সক্রিয় মানটি রাখে, এবং সেই উইন্ডোর ঠিক কোন জায়গায় সংকেতটি ছিল তা বর্জন করে। এটিই মূলত স্থানিক নমনীয়তা (translation tolerance) তৈরি করে — ছবির গুরুত্বপূর্ণ ফিচারটি সামান্য নড়াচড়া করলেও পুলিংয়ের আউটপুট একই থাকে।

ধাপ ৪: ফ্ল্যাটেন (Flatten)

এই $2\times2$ সাইজের পুলড ম্যাপটিকে সারি বরাবর সোজা করে একটি একক ভেক্টরে রূপান্তর করা হয় যাতে সেটিকে ডেন্স বা fully connected লেয়ারে পাঠানো যায়:

v = [1,\ 3,\ 1,\ 3] \qquad (\text{দৈর্ঘ্য } 4)

ধাপ ৫: Fully Connected লেয়ার (Fully Connected Layer)

ধরা যাক ক্লাসিফায়ার হেড-এ ২টি আউটপুট নিউরন আছে (২টি ক্লাস), এবং নিচের ওজন ম্যাট্রিক্স ও বায়াস ০ ধরা হলো:

W = \begin{bmatrix} 0.5 & -0.2 & 0.1 & 0.3 \\ -0.1 & 0.4 & 0.2 & -0.3 \end{bmatrix}

FC লেয়ারের প্রাক-অ্যাক্টিভেশন

z^{FC} = Wv = \begin{bmatrix} (0.5{\cdot}1)+(-0.2{\cdot}3)+(0.1{\cdot}1)+(0.3{\cdot}3) \\ (-0.1{\cdot}1)+(0.4{\cdot}3)+(0.2{\cdot}1)+(-0.3{\cdot}3) \end{bmatrix} = \begin{bmatrix} 0.5-0.6+0.1+0.9 \\ -0.1+1.2+0.2-0.9 \end{bmatrix} = \begin{bmatrix} 0.9 \\ 0.4 \end{bmatrix}

ধাপ ৬: সফটম্যাক্স (Prediction)

Softmax প্রোবাবিলিটি

\hat{y}_1 = \frac{e^{0.9}}{e^{0.9}+e^{0.4}} = \frac{2.4596}{2.4596+1.4918} = \frac{2.4596}{3.9514} \approx 0.6224

চূড়ান্ত প্রেডিকশন: ক্লাস ১-এর সম্ভাবনা ≈ ৬২.২%, এবং ক্লাস ২-এর সম্ভাবনা ≈ ৩৭.৮%। অর্থাৎ মডেলটি Class 1 প্রেডিক্ট করেছে।

সহজ সেল্ফ-চেক

Softmax-এর আউটপুটগুলোর যোগফল সর্বদা ১ হতে হবে। এখানে, ০.৬২২৪ + ০. ৩৭৭৬ = ১.০০০০ — একদম সঠিক। পরীক্ষার হলে উত্তর জমা দেওয়ার আগে এই ২ সেকেন্ডের চেকটি রান করলে অনেক অনাকাঙ্ক্ষিত হিসাবের ভুল এড়ানো যায়।

ধাপ ৭: লস হিসাব করা (Computing the Loss)

যদি ছবির আসল সঠিক লেবেল ক্লাস ১ হয় (ওয়ান-হট $y = [1, 0]$ ), তবে ক্রস-এন্ট্রপি লস শুধুমাত্র সঠিক ক্লাসের জন্য মডেল কত প্রোবাবিলিটি প্রেডিক্ট করেছিল তা দেখে:

এই উদাহরণের জন্য ক্রস-এন্ট্রপি লস

L = -\log(0.6224) \approx 0.474

সংখ্যাসহ সম্পূর্ণ CNN ফরওয়ার্ড পাস পাইপলাইন (Full CNN Forward Pass Pipeline with Annotated Numbers) — একই ৫x৫ ছবি প্রথম থেকে শেষ পর্যন্ত ট্রেস করা হয়েছে: কনভোলিউশন একটি ৩x৩ ফিচার ম্যাপ দেয়, ReLU নেগেটিভগুলো শূন্য করে, max pooling এটিকে ২x২ আকারে সংকুচিত করে, ফ্ল্যাটেন ৪ দৈর্ঘ্যের ভেক্টর দেয়, এবং FC + সফটম্যাক্স ক্লাস ১-এর জন্য ৬২.২% চূড়ান্ত সম্ভাবনা তৈরি করে।

খাতায় লিখে প্র্যাকটিস করুন

এই একই সিকোয়েন্স — Conv → ReLU → Pool → Flatten → FC → Softmax → Loss — ভিন্ন ভিন্ন কার্নেল ও ইনপুট ম্যাট্রিক্স দিয়ে CNN পরীক্ষায় সবচেয়ে বেশি জিজ্ঞাসিত সংখ্যাভিত্তিক সমস্যাগুলোর একটি। ধাপ এড়িয়ে যাওয়ার চেষ্টা না করে প্রতিটি মধ্যবর্তী ম্যাট্রিক্স স্পষ্টভাবে লিখে ফেলার অভ্যাস গড়ে তুলুন।

মূল বিষয়গুলো (Key Takeaways)

Key Takeaways

কনভোলিউশন ইনপুটের ওপর দিয়ে একটি কার্নেল স্লাইড করায়, প্রতিটি আউটপুট পজিশনের জন্য একটি ওয়েটেড সাম হিসাব করে: ৩×৩ কার্নেল, ১ স্ট্রাইড ও কোনো প্যাডিং ছাড়া একটি ৫×৫ ইনপুট একটি ৩×৩ ফিচার ম্যাপ তৈরি করে।
ReLU প্রতিটি ঋণাত্মক অ্যাক্টিভেশনকে শূন্যে ক্ল্যাম্প করে দেয় এবং পজিটিভ মানগুলোকে অপরিবর্তিত পাস করে দেয়।
Max pooling প্রতিটি লোকাল উইন্ডোতে শুধুমাত্র সবচেয়ে শক্তিশালী মানটি রাখে, স্থানিক আকার সংকুচিত করে এবং সামান্য translation tolerance যোগ করে।
ফ্ল্যাটেনিং চূড়ান্ত পুলড ফিচার ম্যাপকে একটি একক ভেক্টরে রূপান্তর করে যাতে এটি একটি fully connected লেয়ারে প্রবেশ করতে পারে।
FC লেয়ার ফ্ল্যাটেন করা ফিচারগুলোর ওপর একটি স্ট্যান্ডার্ড ওয়েটেড-সাম-প্লাস-বায়াস প্রয়োগ করে, ঠিক একটি পারসেপ্ট্রনের মতোই।
সফটম্যাক্স raw আউটপুট স্কোরগুলোকে এমন একটি প্রোবাবিলিটি বিন্যাসে রূপান্তর করে যার যোগফল ১।
ক্রস-এন্ট্রপি লস সঠিক ক্লাসকে দেওয়া কম আত্মবিশ্বাসকে শাস্তি দেয়, এবং সফটম্যাক্সের আউটপুট জানা থাকলে হিসাব করা সহজ।

ইন্টারভিউ কর্নার

Quick Check

1. একটি ৫x৫ ইনপুটকে ৩x৩ কার্নেল, ১ স্ট্রাইড ও কোনো প্যাডিং ছাড়া কনভলভ করা হলে আউটপুট ফিচার ম্যাপের আকার কত হবে?

2. ওপরের বাস্তব উদাহরণে, ReLU কীভাবে Z-এর -২ এবং -১ মানগুলোকে A-তে ০ করে দিল?

3. সর্বশেষ ধাপে সফটম্যাক্সের আউটপুট মানগুলোর যোগফল কেন হুবহু ১ হতে হবে?

বাস্তবে এর ব্যবহার

এই ছয়-ধাপের ট্রেস — কনভোলিউশন, অ্যাক্টিভেশন, পুলিং, ফ্ল্যাটেন, fully connected, সফটম্যাক্স — আসলে আপনি এ পর্যন্ত ব্যবহার করা প্রতিটি ইমেজ ক্লাসিফায়ারের ফরওয়ার্ড পাসেরই হুবহু প্রতিরূপ, শুধু অনেক বড় ম্যাট্রিক্স, অনেক বেশি লেয়ার এবং প্রতি লেয়ারে অনেক বেশি ফিল্টার নিয়ে। PyTorch ও TensorFlow-এর মতো ফ্রেমওয়ার্কগুলো ঠিক এই একই অপারেশন সিকোয়েন্স রান করে; প্রোডাকশন স্কেলে শুধু সংখ্যাগুলোর আকার পরিবর্তিত হয়, আপনি নিজে হাতে যে মূল মেকানিক্স ট্রেস করেছেন তা নয়।