Chapter 24 of 28
Concise answers for oral exams
একটি ভাইভা পরীক্ষা মূলত আপনি বড় বড় রচনা লিখতে পারেন কিনা তার পরীক্ষা নয় — এটি যাচাই করে যে আপনি চাপের মধ্যেও মূল বিষয়গুলো কতটা সংক্ষেপে ও স্পষ্টভাবে গুছিয়ে বলতে পারেন। নিচের উত্তরগুলো অত্যন্ত সংক্ষিপ্ত করে লেখা হয়েছে: একটি মাত্র পরিষ্কার বাক্য যা আপনি আত্মবিশ্বাসের সাথে ভাইভা বোর্ডে বলতে পারেন, এবং পরীক্ষক চাইলে বাড়তি হিসেবে দ্বিতীয় আরেকটি বাক্য বলতে পারেন।
প্রথমে একটি পরিষ্কার বাক্যে উত্তর দিন, তারপর একটু থেমে পরীক্ষকের সম্মতির জন্য অপেক্ষা করুন। পরীক্ষকরা সাধারণত দীর্ঘ ও অপ্রাসঙ্গিক উত্তর পছন্দ করেন না, বরং সংক্ষিপ্ত ও নিখুঁত এক লাইনের উত্তরের প্রশংসা করেন — এটি প্রমাণ করে যে আপনি বিষয়টি খুব গভীরভাবে বোঝেন, স্রেফ মুখস্থ করে আসেননি।
Convolutional Neural Network (কনভোলিউশনাল নিউরাল নেটওয়ার্ক)।
এটি এমন একটি অপারেশন যা ইনপুটের ওপর দিয়ে একটি ছোট ফিল্টার স্লাইড করে উপাদান-ভিত্তিক গুণফল এবং তাদের সমষ্টি হিসাব করে লোকাল প্যাটার্ন সনাক্ত করে।
এটি লার্নেবল ওজনের একটি ছোট ম্যাট্রিক্স যা ইনপুটের ওপর কনভোলিউশন চালানোর সময় একটি নির্দিষ্ট প্যাটার্ন সনাক্ত করতে ব্যবহৃত হয়।
ইনপুটের ওপর ফিল্টার চালিয়ে যে আউটপুট পাওয়া যায় তাকে ফিচার ম্যাপ বলে — এটি নির্দেশ করে ছবির ঠিক কোন কোন জায়গায় ফিল্টারের প্যাটার্নটি সনাক্ত হয়েছে।
ছবির ওপর দিয়ে স্লাইড করার সময় কার্নেলটি প্রতি ধাপে ঠিক কত পিক্সেল অগ্রসর হবে তাকে স্ট্রাইড বলে।
ইনপুটের সীমানার বাইরে অতিরিক্ত পিক্সেল — সাধারণত শূন্য বা zero — যোগ করাকে প্যাডিং বলে; এটি আউটপুট ছবির আকার নিয়ন্ত্রণ করতে এবং ছবির সীমানার তথ্যগুলোকে যথাযথভাবে ব্যবহার করতে সাহায্য করে।
এটি ফিচার ম্যাপের স্থানিক আকার বা সাইজ ছোট করার (down-sampling) একটি অপারেশন; এর দুটি বহুল পরিচিত প্রকারভেদ হলো Max Pooling এবং Average Pooling।
এটি গণনাগতভাবে সস্তা এবং পজিটিভ ইনপুটের জন্য ভ্যানিশিং গ্রেডিয়েন্ট এড়ায়, যেখানে Sigmoid বা Tanh স্যাচুরেট করে ফেলে।
চূড়ান্ত মাল্টি-ডাইমেনশনাল ফিচার ম্যাপগুলোকে একটি একক 1D ভেক্টরে রূপান্তর করে, যাতে fully connected লেয়ারগুলো সেগুলো প্রসেস করতে পারে।
এটি কনভোলিউশনাল লেয়ারগুলো দ্বারা এক্সট্র্যাক্ট করা সব ফিচারকে একত্রিত করে চূড়ান্ত ক্লাসিফিকেশন সিদ্ধান্ত নেয়।
Softmax — এটি লজিটগুলোকে একটা প্রোবাবিলিটি ডিস্ট্রিবিউশনে রূপান্তর করে, যার সবগুলোর যোগফল ঠিক ১।
(Categorical বা Sparse Categorical) Cross-Entropy — কারণ এর ডেরিভেটিভ Softmax-এর সাথে মিলে খুব সহজ ও স্থিতিশীল একটা রূপে নেমে আসে।
এটি একটি রেগুলারাইজেশন কৌশল যা ওভারফিটিং প্রতিরোধ করতে ট্রেনিংয়ের সময় র্যান্ডমলি নিউরনের একটি অংশ নিষ্ক্রিয় করে দেয়।
এটি এমন একটি কৌশল যা একটি mini-batch জুড়ে লেয়ারের অ্যাক্টিভেশনকে নরমালাইজ করে, যা ট্রেনিংকে স্থিতিশীল ও দ্রুত করে তোলে।
অতিরিক্ত গভীর নেটওয়ার্কের ক্ষেত্রে ব্যাকপ্রোপাগেশনের সময় গ্রেডিয়েন্টগুলো পেছনের দিকে যেতে যেতে অত্যন্ত ছোট বা শূন্য হয়ে যায়, ফলে শুরুর লেয়ারগুলো শেখা বন্ধ করে দেয় — modern CNN-এ ReLU activations এবং ResNet-এর skip connections-এর সাহায্যে এই সমস্যার সমাধান করা হয়।