Motivation: Why CNNs Were Developed

ভূমিকা (Motivation)

CNN-এর অস্তিত্বের আগে, মানুষের কাছে সবচেয়ে সহজ বুদ্ধি ছিল... যা আগে থেকেই কাজ করছে তা-ই ব্যবহার করা। মাল্টি-লেয়ার পারসেপ্ট্রন (MLP) যেহেতু নন-লিনিয়ার ফাংশন সফলভাবে শিখতে পারে তা প্রমাণ হয়েছিল, তাহলে কেন ছবিকে ভেঙে পিক্সেল ভ্যালুর একটি লম্বা তালিকা বা ভেক্টরে ফ্ল্যাটেন করে সরাসরি MLP-তে ইনপুট দেওয়া যাবে না, ঠিক যেভাবে আপনি কোনো লোন-অ্যাপ্রুভাল মডেলের জন্য আয় ও ঋণের ডেটা ইনপুট দেন? গবেষকেরা ঠিক এটাই চেষ্টা করেছিলেন। কিন্তু এটি কেবল খারাপ পারফর্মই করেনি — এটি সম্পূর্ণ মৌলিক তিনটি কারণে একদম ভেঙে পড়েছিল। আর এই ভেঙে পড়ার পেছনের কারণ বা why বুঝতে পারাটাই হলো একটি CNN বাস্তবে ঠিক কী কী সমস্যা দূর করে তা দ্রুত বোঝার সবচেয়ে সহজ পথ।

একটি বাস্তব জীবনের উদাহরণ (A Real-Life Scenario)

ধরুন, আপনি $224 \times 224$ পিক্সেল স্ক্যানের ছবি থেকে নিজে হাতে লেখা সংখ্যা বা handwritten digits সনাক্ত করার জন্য একটি সাধারণ MLP-কে ট্রেন করছেন (ধরে নিচ্ছি MNIST ডেটাসেটের সংখ্যাগুলো এর চেয়ে অনেক ছোট — তবে বাস্তব ছবির সাইজের কষ্টটুকু বোঝার জন্য আমরা একটি স্ট্যান্ডার্ড ছবি দিয়ে হিসেব করছি)। আপনার একদম প্রথম হিডেন লেয়ারটিতে, যেখানে খুবই মাঝারি আকারের ১,০০০টি নিউরন আছে, সেখানে প্রয়োজন হবে:

$$150{,}528 \times 1000 + 1000 = 150{,}529{,}000 \text{ parameters}$$

অর্থাৎ প্রথম লেয়ারেই ১৫০ মিলিয়নেরও বেশি ওয়েট (weights) — নেটওয়ার্কটি সংখ্যা সম্পর্কে কোনো কিছু শেখার আগেই! এবার ভাবুন তো এটি আপনার নিজের ল্যাপটপে ট্রেন করার কথা, অথবা আরও বড় কথা হলো, ১৫০ মিলিয়ন প্যারামিটার যাতে শুধুমাত্র ট্রেনিং সেটটিকে মুখস্থ (overfit) না করে বসে থাকে, তার জন্য প্রয়োজনীয় বিশাল পরিমাণ লেবেলযুক্ত ছবি সংগ্রহ করার কথা। এটিই হলো সেই বিশাল বড় দেয়াল যার সাথে ছবির দুনিয়ায় MLP ব্যবহার করার শুরুর দিকের প্রতিটি চেষ্টা এসে সজোরে ধাক্কা খেয়েছিল।

মূল ধারণা তৈরি করা (Building the Intuition)

ফর্মুলাতে যাওয়ার আগে, একটি সাধারণ MLP-তে ছবির ডেটা পাঠানোর সাথে সাথে যে তিনটি প্রধান সমস্যা বা রোগ বাসা বাঁধে তা সংক্ষেপে জেনে নিন:

• প্যারামিটারের সংখ্যা অতিরিক্ত বেশি: প্রতিটি ইনপুট পিক্সেল পরবর্তী লেয়ারের প্রতিটি নিউরনের সাথে যুক্ত থাকে, যার ফলে ছবির আকার বাড়ার সাথে সাথে প্যারামিটারের সংখ্যা গুণিতক হারে অবাস্তবভাবে বৃদ্ধি পায়।
• স্থানিক অবস্থান ভুলে যাওয়া: একটি MLP-তে ইমেজ ইনপুট দিতে হলে প্রথমে 2D গ্রিডকে ভেঙে একটি 1D তালিকায় ফ্ল্যাটেন করতে হয় — আর এই ফ্ল্যাটেন করার প্রক্রিয়াটি পিক্সেল $(i, j)$ যে পিক্সেল $(i, j+1)$-এর ঠিক পাশেই বসা ছিল, সেই তথ্যটি পুরোপুরি মুছে ফেলে।
• জিনিসটি একটু সরে গেলেই আর চিনতে না পারা: বিড়ালের কান যদি ছবির ওপরে বাম কোণায় থাকে আর ঠিক একই কানটি যদি নিচে ডান কোণায় সরে যায়, তবে তারা সম্পূর্ণ আলাদা আলাদা ওয়েটকে সক্রিয় করবে। ফলে MLP-র কাছে মনে হবে যে এরা দুটি সম্পূর্ণ সম্পর্কহীন প্যাটার্ন।

এদের প্রতিটিকে একটু কাছ থেকে দেখা যাক।

তিনটি বড় দুর্বলতা, বিস্তারিতভাবে

১. প্যারামিটারের অবাস্তব বিস্ফোরণ (Parameter Explosion)

$$\text{প্যারামিটার} = (\text{ইনপুট সাইজ}) \times (\text{নিউরন সংখ্যা}) + \text{নিউরন সংখ্যা}$$

যেখানে: "ইনপুট সাইজ" হলো ভেতরে আসা মোট ভ্যালু বা মানের সংখ্যা (একটি ফ্ল্যাটেন করা ছবির জন্য উচ্চতা × প্রস্থ × কালার চ্যানেল), "নিউরন সংখ্যা" হলো পরবর্তী লেয়ারের আকার, এবং শেষের অংশটি প্রতি নিউরনে একটি করে বায়াস (bias) হিসেব করে।

পেছনের যুক্তি বা Intuition: একটি ডেন্স বা fully connected লেয়ারে, প্রতিটি ইনপুটের জন্য প্রতিটি নিউরনের সাথে একটি করে নিজস্ব ওয়েট বা ওজন বরাদ্দ থাকে — এখানে কোনো শেয়ারিং বা অংশীদারিত্বের সুযোগ নেই। ইনপুটের সাইজ (বড় ছবি) অথবা লেয়ারের সাইজ (বেছি নিউরন) বাড়ালে প্যারামিটারের সংখ্যা এদের যোগফল হিসেবে নয়, বরং এদের গুণফল (product) হিসেবে বৃদ্ধি পায়।

এটি শুধুমাত্র আপনার মেমরি বা র‍্যামের অপচয় নয়। ট্রেনিং ডেটার ধারণক্ষমতার চেয়ে প্যারামিটারের সংখ্যা বেশি হওয়ার অর্থ হলো মারাত্মক ওভারফিটিং (overfitting), মারাত্মক ধীরগতির ট্রেনিং এবং এমন হার্ডওয়্যারের প্রয়োজন যা সাধারণ কাজের সীমার বাইরে চলে যায়।

২. স্থানিক তথ্যের ক্ষতি বা অপচয় (Loss of Spatial Information)

একটি MLP শুধুমাত্র একটি 1D ভেক্টর গ্রহণ করতে পারে, তাই যেকোনো ছবিকে প্রথমে ফ্ল্যাটেন (flatten) করতে হয় — অর্থাৎ পিক্সেলের প্রতি সারির এক একটি মাথা পরের লাইনের সাথে জুড়ে দিয়ে একটি লম্বা তালিকা তৈরি করা হয়। নেটওয়ার্কটি তখন এই সংখ্যাগুলোর প্রতিটিকে সম্পূর্ণ স্বাধীন ও অবিন্যস্ত ফিচার হিসেবে গণ্য করে। কিন্তু ছবির ভেতরে থাকা যেকোনো অর্থপূর্ণ ভিজ্যুয়াল প্যাটার্ন — যেমন কিনারা, টেক্সচার, আকৃতি — প্রতিটিই তৈরি হয় তার পাশের পিক্সেলগুলোর মধ্যকার সম্পর্কের ওপর ভিত্তি করে। ছবিকে ফ্ল্যাটেন করা ঠিক এই মূল্যবান সম্পর্কটিকে কেটে টুকরো টুকরো করে ফেলে, যা ছবিকে চেনার জন্য প্রধানতম কাঠামোগত ক্লু বা সাহায্যকে নষ্ট করে দেয়।

৩. ট্রান্সলেশন ইনভ্যারিয়েন্সের অভাব (No Translation Invariance)

Translation invariance-এর অর্থ হলো একটি নেটওয়ার্ক ছবির যেকোনো জায়গায় একটি ফিচার — যেমন কিনারা, চোখ বা কোনো প্যাটার্ন — উপস্থিত থাকলেও তাকে সঠিকভাবে সনাক্ত করতে পারবে।

সহজ কথা: একটি সাধারণ MLP-র কাছে "একই জিনিস, যা শুধু একটু সরে গেছে" — এমন কোনো ধারণাই নেই। বিড়ালটি যদি ছবির ওপর-বাম কোণ থেকে নিচে-ডান কোণে সরে যায়, তবে সম্পূর্ণ আলাদা ইনপুট পিক্সেল (এবং সম্পূর্ণ আলাদা ওয়েট) সক্রিয় হবে। ফলে MLP-কে "ওপর-বামের বিড়াল" এবং "নিচে-ডানের বিড়াল" সম্পূর্ণ আলাদা আলাদা ক্লাস হিসেবে নতুন করে শিখতে হবে। CNN এই ক্ষমতাটি একদম বিনামূল্যে বা খুব সহজেই পেয়ে যায়, কারণ এর একই ছোট ফিল্টারটি পুরো ছবির ওপর দিয়ে স্লাইড করে যায় এবং সব জায়গায় একই ওয়েট বারবার ব্যবহার করে।

সমাধানের মূল চাবিকাঠি (The Core Ideas That Fix This)

ওপরের তিনটি দুর্বলতার প্রতিটিই সমাধান করা হয়েছে নিচের কয়েকটি কাঠামোগত বা আর্কিটেকচারাল সিদ্ধান্তের সাহায্যে, যা আমরা এই কোর্সে বিস্তারিত শিখব:

• লোকাল রিসেপ্টিভ ফিল্ড (Local Receptive Fields) — প্রতিটি নিউরন একবারে পুরো ছবির বদলে শুধুমাত্র ছবির একটি ছোট স্থানীয় বা লোকাল অংশের দিকে তাকায়, যা স্থানিক সম্পর্কগুলোকে পুনরায় অর্থপূর্ণ করে তোলে।
• ওয়েট শেয়ারিং (Weight Sharing) — একই ছোট ফিল্টার (kernel) ছবির প্রতিটি পজিশনে বারবার ব্যবহার করা হয়, যা প্যারামিটারের সংখ্যাকে কোটি কোটি থেকে কমিয়ে মাত্র কয়েক হাজারে নামিয়ে আনে। অনেকটা একটা কুকি-কাটার (cookie cutter)-এর মতো — একই কাটার দিয়ে পুরো ডো-এর ওপর বারবার একই আকৃতির কুকি কাটা যায়, প্রতিটা জায়গার জন্য নতুন কাটার লাগে না।
• হায়ারার্কিকাল ফিচার লার্নিং (Hierarchical Feature Learning) — প্রথম দিকের লেয়ারগুলো সরল কিনারা শেখে, মাঝের লেয়ারগুলো সেগুলোকে মিলিয়ে টেক্সচার ও অংশ তৈরি করে, এবং গভীর লেয়ারগুলো সেগুলোকে জুড়ে দিয়ে সম্পূর্ণ অবজেক্ট চিনতে পারে।
• পুলিং বা সাব-স্যাম্পলিং (Pooling / Sub-sampling) — এটি শক্তিশালী সিগন্যালগুলোকে ধরে রেখে ফিচার ম্যাপের স্থানিক আকারকে ছোট করে দেয়, যা ট্রান্সলেশন ইনভ্যারিয়েন্স পেতে সাহায্য করে।

সংক্ষিপ্ত ইতিহাস (A Brief History)

CNN কোনো একক চিন্তার ঝলকানি থেকে তৈরি হয়নি — এটি বায়োসায়েন্স ও ইঞ্জিনিয়ারিংয়ের দশকের পর দশক ধরে চলা গবেষণার ফল।

মূল বিষয়গুলো (Key Takeaways)

সাধারণ ভুল ধারণা (Common Mistakes)

Interview Corner

বাস্তবে এটি কোথায় দেখা যায় (Where This Shows Up in Practice)

২০১২ সালের আগের কম্পিউটার ভিশন গবেষণার আসল চিত্রটি ছিল ঠিক এমন: অসাধারণ সব আইডিয়া থাকা সত্ত্বেও হার্ডওয়্যার ও ডেটার সীমাবদ্ধতার কারণে raw ইমেজের ওপর MLP ব্যবহার করা অসম্ভব ছিল। যখনই লোকাল কানেক্টিভিটি ও ওয়েট শেয়ারিংয়ের ধারণাকে জিপিউ (GPU) ও বড় লেবেলযুক্ত ডেটাসেটের সাথে যুক্ত করা হলো, তখনই কম্পিউটার ভিশনের পুরো গতিপথ প্রায় রাতারাতি বদলে গেল। পরের চ্যাপ্টারটি নিউরাল নেটওয়ার্কের সেই মৌলিক বিষয়গুলোকে রিফ্রেশ করবে যার ওপর ভিত্তি করে CNN গড়ে উঠেছে, এবং এর পরেই আমরা প্রবেশ করব কনভোলিউশন আসলে কীভাবে কাজ করে তার চমৎকার জগতে।