Chapter 6 of 28

Mathematical Foundations of CNNs

Convolution, padding, stride, and the formulas behind them

20 min read

Created ২ আগ, ২০২৬

ভূমিকা (Motivation)

এতক্ষণ পর্যন্ত আমরা যে সমস্ত সহজাত ধারণাগুলো বা intuitions অর্জন করেছি — যেমন "ফিল্টারগুলো ছবির ওপর দিয়ে স্লাইড করে যায়," "পুলিং ফিচার ম্যাপকে ছোট করে দেয়," "গভীর লেয়ারগুলো আরও বিমূর্ত বা অ্যাবস্ট্রাক্ট প্যাটার্ন দেখে" — এগুলোর প্রতিটির নিচেই আসলে নিখুঁত ও সুনির্দিষ্ট গাণিতিক হিসাব বা পাটিগণিত কাজ করে চলেছে। পরীক্ষায় কোনো আউটপুট সাইজ হিসাব করতে না পারার কারণে নম্বর কাটা গেলে, অথবা কোনো ইন্টারভিউতে প্যারামিটার কাউন্টের গণ্ডগোল পাকিয়ে ফেললে তার মূল কারণ হলো পেছনের গাণিতিক হিসাবগুলো ঠিকঠাক মুখস্থ বা আড়ালে না থাকা। এই চ্যাপ্টারটি হলো মূলত সেই কাজের ফর্মুলা শিট: একটি CNN বাস্তবে যে প্রতিটি সমীকরণ চালায়, এখানে তার প্রতিটি সংজ্ঞায়িত করা হয়েছে এবং খুব সহজ ভাষায় ব্যাখ্যা করা হয়েছে, যাতে এখানের কোনো কিছু আর আপনার কাছে রহস্যময় না থাকে।

একটি বাস্তব জীবনের উদাহরণ (A Real-Life Scenario)

ভাবুন তো, আপনি একটি টেকনিক্যাল ইন্টারভিউতে বসে আছেন। ইন্টারভিউয়ার বোর্ডে একটি $7 \times 7$ গ্রে-স্কেল ছবি এঁকে বললেন, "আমরা একটি $3 \times 3$ ফিল্টার প্রয়োগ করছি, কোনো প্যাডিং নেই (no padding), স্ট্রাইড ১," এবং জিজ্ঞেস করলেন: "আউটপুটের আকার বা সাইজ কত হবে?" সেখানে কোনো কিছু গুগলে সার্চ করার বা বই খোলার সময় নেই — হয় আপনি ফর্মুলাটি খুব ভালোভাবে জানেন, নয়তো আন্দাজে ঢিল মারবেন। এই চ্যাপ্টারটি ঠিক এজন্যই যাতে এ ধরনের প্রশ্ন (এবং এর সাথে সম্পর্কিত অন্য বিষয়গুলো: এই লেয়ারে কতগুলো প্যারামিটার আছে, পুলিং ইমেজের শেপের কী পরিবর্তন করে, লজিটগুলোর ওপর সফটম্যাক্স বসানোর পর কোন লস ফাংশন জোড়া দেওয়া হয়) আপনাকে আর কখনোই অপ্রস্তুত অবস্থায় ধরতে না পারে।

ডিসক্রিট কনভোলিউশন — মূল অপারেশন (Discrete Convolution)

2D ডিসক্রিট কনভোলিউশন

S(i,j) = (I * K)(i,j) = \sum_{m}\sum_{n} I(i+m,\, j+n)\, K(m,n)

সহজ analogy: স্ট্যাম্প বা স্টেনসিল

কনভোলিউশনকে একটা ছোট্ট স্টেনসিল বা রাবার স্ট্যাম্পের মতো ভাবুন, যেটাতে একটা নির্দিষ্ট প্যাটার্ন খোদাই করা আছে (ধরুন, একটা কোণা বা edge)। এই স্ট্যাম্পটা আপনি ছবির ওপর বাম-ওপর কোণা থেকে শুরু করে ধীরে ধীরে ডানে, তারপর এক লাইন নিচে নামিয়ে আবার বাম থেকে ডানে — এভাবে সরাতে থাকেন। প্রতিটা জায়গায় স্ট্যাম্প বসিয়ে আপনি প্রশ্ন করছেন: "এই জায়গার ছবির অংশটা কি আমার স্ট্যাম্পের প্যাটার্নের মতো দেখতে?" মিলে গেলে বড় সংখ্যা পাবেন, না মিললে ছোট বা negative সংখ্যা। পুরো ছবি জুড়ে এই "মিল খোঁজার" ফলাফলগুলো একসাথে করলেই feature map তৈরি হয়।

কনভোলিউশন বনাম ক্রস-কোরিলেশন (Convolution vs. Cross-Correlation)

গাণিতিকভাবে, "আসল" কনভোলিউশন অপারেশনে ইনপুটের ওপর দিয়ে স্লাইড করার আগে কার্নেলটিকে উল্টে বা ফ্লিপ করে (flip) নিতে হয়। তবে প্রায় প্রতিটি ডিপ লার্নিং ফ্রেমওয়ার্কই (যেমন PyTorch, TensorFlow) বাস্তবে কোনো ফ্লিপিং ছাড়াই কাজ করে — যাকে মূলত ক্রস-কোরিলেশন (cross-correlation) বলা হয় — কিন্তু diplomas বা তবুও এদের নাম দিয়ে রেখেছে "কনভোলিউশন।" বাস্তবে এই পার্থক্যে কোনো এসে যায় না, কারণ নেটওয়ার্কটি লস কমানোর জন্য ফিল্টারের উল্টানো সংস্করণটি নিজে থেকেই শিখে নেয়। তবে এটি পরীক্ষার ভাইভা বোর্ডে ট্রিক করার জন্য অন্যতম একটি প্রিয় প্রশ্ন।

হাতে-কলমে একটা ছোট উদাহরণ

সংখ্যা দিয়ে সরাসরি দেখলে ব্যাপারটা আরো পরিষ্কার হয়। ধরুন একটা ছোট্ট $3\times3$ ইনপুট আর একটা $2\times2$ কার্নেল আছে:

I = \begin{bmatrix} 1 & 2 & 0 \\ 0 & 1 & 3 \\ 2 & 1 & 0 \end{bmatrix}, \qquad K = \begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}

কার্নেলটাকে ইনপুটের বাম-ওপর কোণায় বসিয়ে element-wise গুণ করে যোগ করুন: $(1{\times}1) + (2{\times}0) + (0{\times}0) + (1{\times}1) = 1 + 0 + 0 + 1 = 2$ । এখন কার্নেলটা এক ঘর ডানে সরিয়ে একই কাজ করুন: $(2{\times}1)+(0{\times}0)+(1{\times}0)+(3{\times}1) = 2+0+0+3 = 5$ । এভাবে কার্নেলটা প্রতিটা সম্ভাব্য অবস্থানে বসিয়ে (stride 1, no padding হলে মোট $2\times2 = 4$ টা অবস্থান) একটা ছোট আউটপুট ম্যাট্রিক্স পাওয়া যায়:

S = \begin{bmatrix} 2 & 5 \\ 1 & 1 \end{bmatrix}

লক্ষ্য করুন — পুরো প্রক্রিয়াটা আসলে শুধু "গুণ করে যোগ করা"-কেই বারবার, ভিন্ন ভিন্ন জায়গায় প্রয়োগ করা। কোনো জাদু নেই, শুধু repetitive arithmetic — আর এই সরল repetition-টাই কম্পিউটারের জন্য অত্যন্ত দ্রুত করা সম্ভব, যেটা CNN-কে বাস্তবে কাজ করার মতো দ্রুত বানায়।

ফিচার ম্যাপ (Feature Maps)

ফিচার ম্যাপের সংজ্ঞা

F

প্যাডিং (Padding)

প্যাডিংয়ের সংজ্ঞা

P=0

সহজ analogy: ছবির ফ্রেম

একটা ছবিকে ফ্রেমে বাঁধানোর কথা ভাবুন — ফ্রেমের কারণে ছবির কোণার অংশটাও মাঝের অংশের মতোই সুন্দরভাবে দেখা যায়, কিছু বাদ পড়ে যায় না। Zero-padding ঠিক এই কাজটাই করে: ছবির চারপাশে কাল্পনিক শূন্য-মূল্যের পিক্সেল যোগ করে দেয়, যাতে কোণার আসল পিক্সেলগুলোও কেন্দ্রের পিক্সেলের মতো সমান সংখ্যক বার কার্নেলের নিচে পড়ে। এটা ছাড়া ছবির কিনারার তথ্য বারবার "কম গুরুত্ব" পেয়ে হারিয়ে যেতে থাকে।

স্ট্রাইড (Stride)

স্ট্রাইডের সংজ্ঞা

S

সহজ analogy: হাঁটার পদক্ষেপ

ছবি স্ক্যান করাকে হাঁটার সাথে তুলনা করা যায়। Stride ১ মানে প্রতি পায়ে মাত্র এক ঘর করে এগোনো — ধীর কিন্তু কোনো জায়গা বাদ পড়ে না। Stride ২ মানে প্রতি পায়ে দুই ঘর করে লাফানো — দ্রুত পৌঁছানো যায়, কিন্তু মাঝের কিছু জায়গা না দেখেই টপকে যাওয়া হয়। CNN-এ শুরুর দিকের layer-এ সাধারণত ছোট stride রাখা হয় (সূক্ষ্ম detail ধরার জন্য), গভীর layer-এ কখনো কখনো বড় stride ব্যবহার করে দ্রুত downsample করা হয়।

আউটপুট আকার — যে ফর্মুলাটি আপনাকে খুব ভালোভাবে মুখস্থ রাখতে হবে (Output Size)

কনভোলিউশন আউটপুট আকার

O = \left\lfloor \frac{N - F + 2P}{S} \right\rfloor + 1

বাস্তব উদাহরণ: $N=7$ , $F=3$ , $P=0$ , $S=1$ হলে:

O = \left\lfloor \frac{7 - 3 + 0}{1} \right\rfloor + 1 = 4 + 1 = 5

অর্থাৎ $7 \times 7$ ইনপুটের ওপর $3\times3$ ফিল্টার, কোনো প্যাডিং ছাড়া এবং স্ট্রাইড ১ হলে একটি $5 \times 5$ আউটপুট পাওয়া যায়।

এই ফর্মুলাটি প্রায় প্রতিটি CNN পরীক্ষা এবং ইন্টারভিউতে জিজ্ঞেস করা হয়

এটি একদম নিখুঁতভাবে মুখস্থ রাখুন — ফ্লোর ফাংশন এবং শেষের $+1$ অংশটি সহ। পরীক্ষার হলের উত্তেজনায় শেষের $+1$ বাদ দিয়ে ভুল উত্তর দিয়ে আসা খুবই কমন একটি ভুল।

কনভোলিউশন লেয়ারের প্যারামিটার সংখ্যা (Parameters in a Conv Layer)

Conv Layer-এ প্যারামিটারের সংখ্যা

\text{Params} = \big(F_h \times F_w \times C_{in} + 1\big) \times C_{out}

পুলিং (Pooling)

ম্যাক্স পুলিং (Max Pooling)

P(i,j) = \max_{(m,n) \in \text{window}} X(i+m,\, j+n)

অ্যাভারেজ পুলিং (Average Pooling)

P(i,j) = \frac{1}{|\text{window}|}\sum_{(m,n) \in \text{window}} X(i+m,\, j+n)

কনভোলিউশনের ক্ষেত্রে আমরা যে আউটপুট সাইজের ফর্মুলাটি দেখেছি, পুলিংয়ের ক্ষেত্রেও হুবহু সেটিই প্রযোজ্য — শুধু ফিল্টার সাইজ $F$ -এর জায়গায় পুলিং উইন্ডো এবং স্ট্রাইড $S$ -এর জায়গায় পুলিংয়ের স্ট্রাইড বসাতে হবে (পুলিংয়ের ক্ষেত্রে সাধারণত প্যাডিং ০ হয়)।

সহজ analogy: ক্লাসের সবচেয়ে লম্বা ছাত্র

৪ জনের একটা দলের মধ্যে "কে সবচেয়ে লম্বা" জিজ্ঞেস করলে, বাকি তিনজনের সঠিক উচ্চতা না জেনেও শুধু সবচেয়ে লম্বা জনের নামটা মনে রাখলেই চলে — এটাই Max Pooling। আর প্রশ্ন যদি হয় "দলের গড় উচ্চতা কত", তাহলে সবার উচ্চতা যোগ করে ভাগ করতে হয় — এটাই Average Pooling। দুটো ক্ষেত্রেই ৪ জনের তথ্যকে ১টা সংখ্যায় সংক্ষিপ্ত করা হচ্ছে, শুধু "কোন তথ্যটা রাখা হচ্ছে" তার নিয়ম আলাদা।

রেলু (ReLU)

রেলু অ্যাক্টিভেশন (ReLU - Rectified Linear Unit)

f(x) = \max(0, x)

একটি 7x7 ইনপুটের ওপর 3x3 কার্নেল স্লাইড করা (Sliding a 3x3 Kernel Over a 7x7 Input) — প্রতিটি অবস্থানে, কার্নেলটি তার নিচে থাকা ইমেজের প্যাচের সাথে উপাদান-ভিত্তিক গুণ হয় এবং গুণফলগুলোর সমষ্টি একটিমাত্র আউটপুট তৈরি করে।

সফটম্যাক্স (Softmax)

\text{softmax}(z_i) = \frac{e^{z_i}}{\sum_{k=1}^{K} e^{z_k}}

ক্রস-এন্ট্রপি লস (Cross-Entropy Loss)

ক্যাটাগরিকাল ক্রস-এন্ট্রপি (Categorical Cross-Entropy)

L = -\sum_{i=1}^{K} y_i \log(\hat{y}_i)

গ্রেডিয়েন্ট ডিসেন্ট (Gradient Descent)

গ্রেডিয়েন্ট ডিসেন্ট আপডেট রুল

w_{t+1} = w_t - \eta \, \frac{\partial L}{\partial w_t}

ব্যাকপ্রোপাগেশন — চেইন রুল (Backpropagation — The Chain Rule)

ব্যাকপ্রোপাগেশনের জন্য চেইন রুল

\frac{\partial L}{\partial w^{(l)}} = \frac{\partial L}{\partial a^{(L)}} \cdot \frac{\partial a^{(L)}}{\partial a^{(L-1)}} \cdots \frac{\partial a^{(l+1)}}{\partial a^{(l)}} \cdot \frac{\partial a^{(l)}}{\partial w^{(l)}}

পেছনের দিকে গ্রেডিয়েন্ট প্রবাহের বিস্তারিত সামনে আসছে

এটি চ্যাপ্টারে আপনার শুধু এটি মনে রাখাই যথেষ্ট যে চেইন রুলই মূলত ব্যাকপ্রোপাগেশন পরিচালনা করে। তবে কনভোলিউশন ও পুলিং লেয়ারের ভেতর দিয়ে গ্রেডিয়েন্ট কীভাবে পেছনের দিকে প্রবাহিত হয় — যা ডেন্স লেয়ারের চেয়ে কিছুটা আলাদা — সে সম্পর্কে আমরা ব্যাকপ্রোপাগেশন চ্যাপ্টারে সম্পূর্ণ গাণিতিক ব্যাখ্যা সহ বিস্তারিত জানব।

সরাসরি কনভোলিউশন ইমপ্লিমেন্ট করা (Implementing Convolution Directly)

শুধু সমষ্টির (summation) সমীকরণের দিকে তাকিয়ে থাকার চেয়ে, ফর্মুলাটা চলমান কোড হিসেবে দেখলে জিনিসটা মাথায় অনেক দ্রুত গেঁথে যায়।

import numpy as np
 
def conv2d_single_channel(image, kernel, stride=1, padding=0):
    """একটি একক চ্যানেলের জন্য সাধারণ 2D কনভোলিউশন (ক্রস-কোরিলেশন)।"""
    if padding > 0:
        image = np.pad(image, padding, mode="constant")
 
    n = image.shape[0]
    f = kernel.shape[0]
    out_size = (n - f) // stride + 1
    output = np.zeros((out_size, out_size))
 
    for i in range(out_size):
        for j in range(out_size):
            row, col = i * stride, j * stride
            patch = image[row:row + f, col:col + f]
            output[i, j] = np.sum(patch * kernel)  # উপাদান-ভিত্তিক গুণ, তারপর সমষ্টি
 
    return output
 
image = np.arange(49).reshape(7, 7).astype(float)
edge_kernel = np.array([[1, 0, -1],
                         [1, 0, -1],
                         [1, 0, -1]])
 
result = conv2d_single_channel(image, edge_kernel, stride=1, padding=0)
print("আউটপুট সাইজ বা Shape:", result.shape)  # (5, 5), যা ওপরে আলোচনা করা বাস্তব উদাহরণের সাথে মিলে যায়

এখানের out_size lineটি হলো আগে আলোচনা করা আউটপুট সাইজের গাণিতিক ফর্মুলা, এবং নেস্টেড লুপের ভেতরের np.sum(patch * kernel) হলো ডিসক্রিট কনভোলিউশন অপারেশনের কোড রূপ।

মূল বিষয়গুলো (Key Takeaways)

Key Takeaways

কনভোলিউশন: $S(i,j) = \sum_m \sum_n I(i+m, j+n) K(m,n)$ — কার্নেল স্লাইড করা, উপরিপাতিত মানগুলো গুণ করা এবং সমষ্টি একটি সংখ্যায় নিয়ে আসা।
ফ্রেমওয়ার্কগুলো ফ্লিপিং ছাড়াই cross-correlation রান করে কিন্তু নাম দেয় কনভোলিউশন — модель নিজে থেকেই এর সাথে মানিয়ে নেয়।
আউটপুট আকার: $O = \lfloor (N - F + 2P) / S \rfloor + 1$ — প্রতি মাত্রা বা ডাইমেনশনের জন্য আলাদাভাবে ব্যবহার করুন।
কনভোলিউশন লেয়ারের প্যারামিটার সংখ্যা: $(F_h \times F_w \times C_{in} + 1) \times C_{out}$ ।
Max Pooling উইন্ডোর ভেতরের সর্বোচ্চ মানটি নেয়; Average Pooling গড় মানটি নেয়; দুজনেই একই আউটপুট-সাইজ ফর্মুলা ব্যবহার করে।
ReLU: $f(x) = \max(0, x)$ — অত্যন্ত সস্তা non-linearity যা ভ্যানিশিং গ্রেডিয়েন্ট এড়াতে সাহায্য করে।
Softmax লজিটগুলোকে প্রোবাবিলিটিতে রূপান্তর করে; Cross-Entropy সঠিক ক্লাসের কম সম্ভাবনাকে শাস্তি দেয়, এবং এই জোড়া মিলে $(\hat y_i - y_i)$ এর মতো চমৎকার ও সহজ ডেরিভেটিভে রূপ নেয়।
Gradient Descent: $w_{t+1} = w_t - \eta \, \partial L/\partial w_t$ — ট্রেনিংয়ের মূল আপডেট সমীকরণ।
Backpropagation চেইন রুল ব্যবহার করে প্রতিটি ওয়েটের গ্রেডিয়েন্ট অত্যন্ত দক্ষতার সাথে ক্যালকুলেট করে।

পরীক্ষার কৌশল: একটি একক ফর্মুলা শিট তৈরি করুন

ওপরের প্রধান আটটি সমীকরণ — Convolution, Output Size, Conv Parameter Count, Max/Average Pooling, ReLU, Softmax, Cross-Entropy, Gradient Descent Update — এক পাতায় লিখে রাখুন। পরীক্ষায় বা ইন্টারভিউতে আসা CNN গাণিতিক প্রশ্নগুলোর প্রায় ৮০% এই সমীকরণগুলো দিয়েই সমাধান করা যায়।

সাধারণ ভুল ধারণা (Common Mistakes)

আউটপুট সাইজের ফর্মুলায় +1 যোগ করতে ভুলে যাওয়া

$O = \lfloor (N-F+2P)/S \rfloor$ সমীকরণের শেষের $+1$ বাদ দিয়ে ফেলা খুবই কমন একটি অফ-বাই-ওয়ান (off-by-one) ভুল — সবসময় ফিল্টারের কোনো পদক্ষেপ নেওয়ার আগের প্রথম পজিশনটি হিসেবের মধ্যে রাখতে হবে।

প্যারামিটার কাউন্ট করার সময় বায়াস টার্মটি ভুলে যাওয়া

শুধু $F_h \times F_w \times C_{in} \times C_{out}$ হিসাব করে ফেলা এবং প্রতি ফিল্টারে একটি করে অতিরিক্ত $+1$ বায়াস যোগ করতে ভুলে যাওয়া আরেকটি বড় ভুল। $C_{out}$ বড় হলে এটি সামগ্রিক হিসাবে অমিল তৈরি করতে পারে।

Interview Corner

Quick Check

1. একটি 32×32 ইনপুটের ওপর 5×5 ফিল্টার, প্যাডিং 2, এবং স্ট্রাইড 1 প্রয়োগ করা হলে, আউটপুট সাইজ কত হবে?

2. Softmax এবং Cross-Entropy Loss কেন একসাথে এত ভালো কাজ করে?

বাস্তবে এটি কোথায় দেখা যায় (Where This Shows Up in Practice)

যেকোনো ফ্রেমওয়ার্কের Conv2d লেয়ার, MaxPool2d বা CrossEntropyLoss কল করার অর্থই হলো মূলত এই চ্যাপ্টারের আলোচনা করা সমীকরণগুলোর কোনো একটিকে সচল করা — এখানে কোনো কিছুই কেবল তাত্ত্বিক সাজসজ্জা নয়। এই ফর্মুলা শিটটি মাথায় রেখে, আমরা পরবর্তী চ্যাপ্টারে একটি raw ছবিকে একদম প্রথম পিক্সেল থেকে শুরু করে শেষ পর্যন্ত প্রতিটি সমীকরণ প্রয়োগ করে একটি বাস্তব উদাহরণের সাহায্যে ট্রেস করে দেখব।