Datasets, Samples & Features

What is a Dataset?

আগের চ্যাপ্টারে একটা কথা বারবার শুনেছেন: "মডেল ডেটা থেকে শেখে।" Supervised learning-এর লেবেল করা ডেটা লাগে, unsupervised-এর লেবেল ছাড়া ডেটা, semi-supervised-এর একটু একটা আর অনেকটা আরেকটা। কিন্তু "ডেটা" জিনিসটা মডেলের কাছে পৌঁছানোর সময় আসলে দেখতে কেমন — সেটা কেউ বলেনি। এই চ্যাপ্টারটা ঠিক সেই কথাটাই।

Dataset মানে হলো উদাহরণের একটা সংগ্রহ, যেখান থেকে মডেল শেখে। এলোমেলো তথ্যের স্তূপ না — গোছানো একটা সংগ্রহ, যেখানে প্রতিটা উদাহরণকে একই কায়দায়, একই মাপগুলো দিয়ে বর্ণনা করা হয়েছে, যাতে একটার সাথে আরেকটা তুলনা করা যায়।

সবচেয়ে সহজে বোঝার উপায় হলো একটা এক্সেল শিট কল্পনা করা। ধরুন একটা ব্যাংকের পুরনো লোনের রেকর্ড:

পুরো টেবিলটাই dataset। প্রতিটা সারি (row) একজন লোন আবেদনকারী। প্রতিটা কলাম তার সম্পর্কে মাপা একটা জিনিস। ব্যস, এতটুকুই — আর পরে যত ML কনসেপ্ট শিখবেন, প্রায় সবগুলোই এই ছবিটার ভাষাতেই সংজ্ঞায়িত।

এখন একটা কথা আগেই বলে রাখি, নাহলে পরে গুলিয়ে যাবে: সব ডেটা কিন্তু এমন সুন্দর টেবিল হয়ে আসে না। একটা ছবি আসলে পিক্সেলের উজ্জ্বলতার গ্রিড। একটা অডিও ক্লিপ হাজার হাজার সংখ্যার সিকোয়েন্স। একটা বাক্য শুধু কিছু শব্দ। কোনোটাই এক্সেল শিট হয়ে আসে না।

কিন্তু আসল কথাটা হলো — মডেলের কাছে পৌঁছানোর আগে এগুলো সবাইকে টেবিলে রূপান্তর করা হয়। হাতে লেখা একটা সংখ্যার ২৮×২৮ সাদাকালো ছবি হয়ে যায় ৭৮৪টা সংখ্যার একটা সারি (প্রতি পিক্সেলে একটা)। দশ সেকেন্ডের অডিও হয়ে যায় হাজার হাজার সংখ্যার সারি। একটা বাক্য হয়ে যায় শব্দগুলোর প্রতিনিধিত্ব করা সংখ্যার সারি। মানে, এক্সেল শিটের এই মানসিক ছবিটা শুধু টেবিল-আকৃতির ডেটার জন্য না — এটাই সেই আকৃতি যেটায় সবকিছু বদলে নেওয়া হয়।

Sample / Instance / Observation

এখানে এমন একটা জিনিস আছে যেটায় প্রায় সব শিক্ষার্থী প্রথমবার হোঁচট খায়: sample, instance, observation, example, data point, record, আর row — এই সাতটা শব্দ একদম একই জিনিস বোঝায়।

Dataset-এর একটামাত্র আইটেম। টেবিলের একটা সারি। একজন লোন আবেদনকারী। একটা ছবি। একটা ইমেইল।

এগুলো কনসেপ্টের সূক্ষ্ম ভ্যারিয়েশন না — বিভিন্ন কমিউনিটির বিভিন্ন অভ্যাস, এই যা। পরিসংখ্যানের লোকেরা বলে "observation"। ডেটাবেসের লোকেরা বলে "record"। ML ইঞ্জিনিয়াররা সাধারণত বলে "sample" বা "example"। রিসার্চ পেপারে থাকে "instance" বা "data point"। ৪৫,০০০ টাকা আয় করা সেই ২৮ বছর বয়সী আবেদনকারীই একসাথে এই সাতটা শব্দের সবগুলো।

গাণিতিকভাবে একটা sample-কে সাধারণত vector হিসেবে লেখা হয় — মানে সংখ্যার একটা সাজানো তালিকা — আর চিহ্ন হিসেবে ব্যবহার হয় $x$। আমাদের প্রথম আবেদনকারী হবে:

$$x^{(1)} = [28,\; 45000,\; 3,\; 1]$$

উপরের $(1)$ মানে শুধু "১ নম্বর sample"। এটাকে ইনডেক্স হিসেবে পড়ুন, পাওয়ার হিসেবে না — $x^{(2)}$ হলো দ্বিতীয় আবেদনকারী, $x^{(3)}$ তৃতীয়, এভাবে। $n$টা sample-এর একটা dataset মানে $x^{(1)}, x^{(2)}, \ldots, x^{(n)}$ — এই পুরো সংগ্রহটা।

আরেকটা শব্দ আলাদা করে মনে রাখুন: sample size, সাধারণত $n$ দিয়ে লেখা হয় — মানে dataset-এ কতগুলো sample আছে। আমাদের ছোট্ট লোন টেবিলে $n = 4$। বাস্তবে হয়তো $n = 500{,}000$। মোটা দাগে, sample যত বেশি, মডেলের শেখার প্রমাণও তত বেশি — আর এ কারণেই "আমাদের আরও ডেটা লাগবে" কথাটা মেশিন লার্নিংয়ে সবচেয়ে বেশি শোনা যায়।

Features

Sample যদি হয় একটা সারি, তাহলে feature হলো একটা কলাম। মানে একটা sample-এর একটা মাপযোগ্য বৈশিষ্ট্য — প্রতিটা উদাহরণ সম্পর্কে আপনি যে নির্দিষ্ট জিনিসটা রেকর্ড করেছেন।

লোন টেবিলে feature গুলো হলো: বয়স, মাসিক আয়, চাকরির বছর, আর চলমান লোন। মোট চারটা feature। প্রতিটাই একই আবেদনকারীকে দেখার একেকটা আলাদা চোখ।

Feature-ই সেই জিনিস যা মডেল আসলে দেখে প্রেডিকশন করার সময়। এই কথাটা জোর দিয়ে বলা দরকার, কারণ এটাই ব্যাখ্যা করে কেন বাস্তব ML-এর এত বড় অংশ অ্যালগরিদম নিয়ে না, ডেটা নিয়ে: মডেল শুধু ততটুকুই ব্যবহার করতে পারে যতটুকু feature-এ আছে। ধরুন লোন শোধ করার ব্যাপারে আবেদনকারীর সততা প্রচণ্ড গুরুত্বপূর্ণ, কিন্তু আপনি সেটার সাথে সম্পর্কিত কিছুই রেকর্ড করেননি — তাহলে দুনিয়ার কোনো অ্যালগরিদমই সেটা হিসেবে ধরতে পারবে না। মডেল পৃথিবীকে চেনে না, সে চেনে আপনার কলামগুলোকে।

"Sample"-এর মতো "feature"-এরও কিছু সমার্থক শব্দ আছে যেগুলোর সাথে দেখা হবেই:

Feature-এর ধরন আলাদা আলাদা হয়

সব feature সাধারণ সংখ্যা না, আর এই ধরনটা গুরুত্বপূর্ণ — কারণ মডেল শুধু অঙ্ক কষতে পারে, তাই শেষ পর্যন্ত সবকিছুই সংখ্যা হয়ে যেতে হবে।

Feature engineering, এক প্যারাগ্রাফে

যেহেতু মডেল শুধু feature-এ যা আছে তা-ই ব্যবহার করতে পারে, তাই বাস্তব ML-এর বিরাট একটা সময় খরচ হয় ভালো feature বানাতে। এই কাজটার নাম feature engineering। সহজ কিন্তু শক্তিশালী একটা উদাহরণ: মডেলকে আলাদা করে monthly_income আর monthly_loan_payment না দিয়ে, আপনি নিজে হিসাব করলেন debt_to_income = monthly_loan_payment / monthly_income আর সেটা দিলেন। তথ্যটা টেকনিক্যালি আগেও ছিল, কিন্তু অনুপাত হিসেবে মডেলের জন্য এটা ব্যবহার করা অনেক সহজ — আপনি চিন্তার একটা অংশ ওর হয়ে করে দিলেন। ভালো feature প্রায়ই ফ্যান্সি অ্যালগরিদমকে হারিয়ে দেয়, আর নতুনরা এটাকে ধারাবাহিকভাবে কম গুরুত্ব দেয়।

Labels

লোন টেবিলে ফিরে যান আর শেষ কলামটা দেখুন: শোধ করেছে? — হ্যাঁ, হ্যাঁ, না, হ্যাঁ।

এই কলামটা বাকিগুলোর চেয়ে ধরনেই আলাদা। বয়স, আয়, চাকরির বছর, চলমান লোন — এগুলো আবেদনকারীকে বর্ণনা করে ফলাফল জানার আগে। "শোধ করেছে?" নিজেই সেই ফলাফল। নতুন কারও জন্য এটাই মডেলের প্রেডিক্ট করার কথা, আর ট্রেইনিংয়ের সময় এটাই সেই সঠিক উত্তর যেটা আমাদের কাছে আগে থেকেই আছে।

এটাই label: একটা sample-এর সাথে জুড়ে থাকা জানা সঠিক উত্তর।

Supervised learning চ্যাপ্টারের সেই "উত্তরমালা"-র আইডিয়াটাই এটা, এবার তার আসল নামসহ। "Labeled data" পড়লে বুঝবেন প্রতিটা sample-এর এই উত্তর-কলামটা পূরণ করা আছে। "Unlabeled data" মানে সেই কলামটা নেই বা ফাঁকা — আবেদনকারীর তথ্য আছে, কিন্তু ফলাফলটা নেই।

গাণিতিকভাবে, একটা sample-এর feature গুলো যদি vector $x^{(i)}$ হয়, তাহলে তার label লেখা হয় $y^{(i)}$:

$$\big(x^{(i)},\; y^{(i)}\big) \quad \text{where} \quad x^{(i)} = [28,\, 45000,\, 3,\, 1], \;\; y^{(i)} = \text{Yes}$$

প্রতিটা labeled sample এরকম একটা $(x, y)$ জোড়া — প্রশ্ন আর তার উত্তর, একসাথে বাঁধা। একটা supervised training set আসলে এরকম জোড়ার একটা লম্বা তালিকা ছাড়া কিছু না।

Target Variable

এবার এমন একটা পার্থক্য, যেটায় অনেকেই গুলিয়ে ফেলেন — কারণ দুটো শব্দ খুব কাছাকাছি বসে আছে: label আর target variable।

Target variable হলো কলামটা — যে জিনিসটা আপনি ঠিক করেছেন আপনার মডেল প্রেডিক্ট করবে। লোন টেবিলে target variable হলো "শোধ করেছে?" — ধারণা হিসেবে, প্রতিটা আবেদনকারীর জন্য যেটা প্রেডিক্ট করা হচ্ছে।

আর label হলো ওই কলামের একটামাত্র ঘর — একটা নির্দিষ্ট sample-এর জন্য জানা নির্দিষ্ট উত্তর। ৩ নম্বর আবেদনকারীর label হলো "না"।

মানে: target variable হলো আপনি dataset-কে যে প্রশ্নটা করছেন। আর label গুলো হলো সেই প্রশ্নের আলাদা আলাদা উত্তর, প্রতি সারিতে একটা। দৈনন্দিন কথায় মানুষ দুটোকে মিলিয়ে ফেলে, আর বেশিরভাগ সময় তাতে সমস্যাও হয় না। কিন্তু কোনটা কোনটা জানা থাকলে ডকুমেন্টেশন আর পেপার পড়া অনেক সহজ হয়ে যায়।

শেষ সারিটায় একটু থামুন, কারণ বাস্তবে ওটাই সবচেয়ে গুরুত্বপূর্ণ। ট্রেইন করা লোন মডেল যখন লাইভে যায়, একজন নতুন আবেদনকারী আসে — আপনার কাছে তার বয়স, আয়, চাকরির বছর, চলমান লোন সব আছে, কিন্তু "শোধ করেছে?" নেই, কারণ সেটা তো এখনো ঘটেইনি। এটাই তো মডেলের পুরো উদ্দেশ্য। ট্রেইনিংয়ের সময় ওই কলামটা ছিল যাতে মডেল সেখান থেকে শিখতে পারে; প্রেডিকশনের সময় ওটা থাকে না, আর মডেল সেটাই বলে দেয়।

Target variable-এর ধরনটাই আবার ঠিক করে দেয় আপনার সমস্যাটা কী ধরনের — যেটা সরাসরি আগের চ্যাপ্টারের সাথে জুড়ে যায়:

Feature Space

এতক্ষণ আপনি একটা টেবিল কল্পনা করছিলেন। এবার সেই ছবিটা ঘুরিয়ে দেখুন, কারণ একই ডেটাকে দেখার আরেকটা উপায় আছে — আর ওই উপায়টাই মেশিন লার্নিংয়ের বেশিরভাগ ভিজ্যুয়াল ইনটুইশনের দরজা খুলে দেয়।

লোন dataset থেকে শুধু দুইটা feature নিন: বয়স আর মাসিক আয়। একটা গ্রাফ আঁকুন, যেখানে x-অক্ষে বয়স আর y-অক্ষে আয়। প্রতিটা আবেদনকারী — মানে প্রতিটা sample — তার দুইটা মান অনুযায়ী একটা বিন্দু হয়ে বসে যাবে। ৪৫,০০০ আয় করা ২৮ বছর বয়সী মানুষটা বসবে (২৮, ৪৫০০০) জায়গায়।

এই দ্বিমাত্রিক তলটাই হলো feature space: feature-এর মানগুলোর সব সম্ভাব্য কম্বিনেশনের স্পেস, যেখানে প্রতিটা sample একটা বিন্দু।

$$x \in \mathbb{R}^{d}$$

এটা পড়ুন এভাবে: "প্রতিটা sample $x$ হলো $d$-মাত্রিক বাস্তব স্পেসের একটা বিন্দু," যেখানে $d$ হলো feature-এর সংখ্যা। দুইটা feature মানে একটা তলের উপর বিন্দু ($\mathbb{R}^2$)। তিনটা feature মানে ত্রিমাত্রিক আয়তনে ভাসমান বিন্দু ($\mathbb{R}^3$)। আর ৭৮৪টা feature — আমাদের হাতে লেখা সংখ্যার ছবিটা — মানে $\mathbb{R}^{784}$-এর বিন্দু, যেটা কেউ কল্পনা করতে পারে না, কিন্তু গণিতটা হুবহু একইভাবে কাজ করে।

A dataset table and its feature spaceIllustration coming soon

এই দ্বিতীয় দৃষ্টিভঙ্গিটার দরকার কী? কারণ এটা শেখার প্রক্রিয়াটাকে জ্যামিতিতে বদলে দেয়, আর জ্যামিতি এমন জিনিস যেটা নিয়ে আপনি চোখে দেখে চিন্তা করতে পারেন।

Scatter plot-টার দিকে তাকালে সম্ভবত খেয়াল করবেন, "শোধ করেছে" বিন্দুগুলো আর "খেলাপি" বিন্দুগুলো মোটামুটি আলাদা এলাকায় বসে আছে — বেশি বয়স আর বেশি আয়ের লোকেরা উপরে-ডানে জড়ো হয়েছে। এই দুই দল যদি স্পেসের আলাদা আলাদা অংশে থাকে, তাহলে মডেলের কাজটা হয়ে যায় একদম নির্দিষ্ট আর চোখে দেখার মতো: এমন একটা সীমানা খুঁজে বের করো যেটা এদের আলাদা করে। এটা কোনো উপমা না। একটা classifier আক্ষরিক অর্থেই এটাই হিসাব করে, আর এ কারণেই সামনের decision boundaries আর linear separability চ্যাপ্টারগুলো পুরোপুরি এই ছবিটার উপর দাঁড়িয়ে আছে।

Dimensionality

Dimensionality মানে শুধু আপনার dataset-এ কতগুলো feature আছে, লেখা হয় $d$ (কখনো $p$) দিয়ে। লোন টেবিলে $d = 4$। ২৮×২৮ সাদাকালো ছবিতে $d = 784$। জিন এক্সপ্রেশনের একটা dataset-এ হয়তো $d = 20{,}000$।

শুনতে নিছক হিসাবরক্ষণের সংখ্যা মনে হয়। কিন্তু তা না — এটা একটা dataset-এর সবচেয়ে ফলপ্রসূ বৈশিষ্ট্যগুলোর একটা, কারণ এই সংখ্যাটা বড় হলে অদ্ভুত সব জিনিস ঘটতে শুরু করে।

সবাই ভাবে: feature বেশি মানে তথ্য বেশি, মানে মডেল ভালো। একটা নির্দিষ্ট সীমা পর্যন্ত কথাটা ঠিক, তারপর ব্যাপারটা তীব্রভাবে উল্টে যায়।

এই সমস্যাগুলোকে একসাথে বলা হয় curse of dimensionality — একটা নাটকীয় নাম, কিন্তু ব্যাপারটা সত্যি: একটা সীমার পর feature যোগ করলে মডেল ভালো না হয়ে খারাপ হয়, যদি না সাথে অনেক বেশি ডেটাও যোগ করেন।

তাহলে dimensionality বেশি হয়ে গেলে আসলে কী করবেন? দুই ধরনের উপায় আছে:

দুটোই পড়ে dimensionality reduction-এর ভেতরে, যেটার সাথে আগের চ্যাপ্টারে unsupervised learning টাস্ক হিসেবে অল্প পরিচয় হয়েছিল। এখন আপনি ঠিক বুঝতে পারছেন কেন এটা দরকার: এটাই curse of dimensionality-র সরাসরি জবাব।

Real-world Examples

শব্দগুলো মাথায় গেঁথে যায় অনেক সহজে, যখন একই চারটা আইডিয়া — sample, feature, label, target variable — সত্যিই ভিন্ন ভিন্ন ধরনের ডেটায় বসিয়ে দেখা যায়। নিচে পাঁচটা উদাহরণ, ইচ্ছা করেই এমন বেছে নেওয়া যেগুলো উপর থেকে দেখতে একেবারেই আলাদা।

১. হাতে লেখা সংখ্যা চেনা (ছবি)

ক্লাসিক MNIST dataset: হাতে লেখা সংখ্যার ৭০,০০০টা ছোট সাদাকালো ছবি, প্রতিটা ২৮×২৮ পিক্সেল।

খেয়াল করার মতো জিনিস: ওই ৭৮৪টা feature কেউ হাতে ডিজাইন করেনি। "২১৯ নম্বর পিক্সেলের উজ্জ্বলতা" মানুষের কাছে অর্থহীন, কিন্তু কাঁচা পিক্সেল গ্রিডটাই মডেলের কাজ চালানোর জন্য যথেষ্ট — নেটওয়ার্ক নিজেই এই কাঁচা feature থেকে ভেতরে ভেতরে কাজের feature বানিয়ে নেয়।

২. বাড়ির দাম প্রেডিক্ট করা (tabular)

এখানে feature-এর ধরনগুলো মেশানো: আয়তন continuous, বেডরুম count, এলাকার নাম nominal categorical। বাস্তব পাইপলাইনে মডেল ডেটা দেখার আগেই সংখ্যাগুলো scale করতে হবে আর categorical-টা encode করতে হবে।

৩. স্প্যাম শনাক্তকরণ (টেক্সট)

টেক্সটেই "সবকিছুকে টেবিলে বদলাও" ধাপটা সবচেয়ে স্পষ্ট দেখা যায়। ইমেইল নিজে সংখ্যা না, তাই শেখা শুরুর আগেই একটা রূপান্তর ধাপ (bag-of-words, TF-IDF, বা শেখা embedding) সেটাকে একটা সারিতে বদলে দেয়। খুব বেশি dimensionality-রও এটা স্বাভাবিক আবাসস্থল — আর curse of dimensionality-র স্বাদ পাওয়ার স্বাভাবিক জায়গা।

৪. রোগীর ঝুঁকি প্রেডিকশন (স্বাস্থ্যসেবা)

এই উদাহরণটার সাথে একটা সতর্কবার্তা আছে যেটা গেঁথে নেওয়া দরকার। ধরুন কেউ currently_taking_diabetes_medication কলামটা feature হিসেবে ঢুকিয়ে দিল। Accuracy দেখতে অসাধারণ লাগবে — আর মডেলটা হবে সম্পূর্ণ অকেজো, কারণ ওই তথ্যটা তো ডায়াগনোসিসের পরেই জানা যায়। একদম বইয়ের উদাহরণের মতো data leakage, আর ঠিক এমন জায়গায় যেখানে ভুলের দাম সবচেয়ে বেশি।

৫. কাস্টমার সেগমেন্টেশন (লেবেল ছাড়া)

শেষ উদাহরণটা আছে একটা কথা বোঝানোর জন্য: sample, feature, feature space, dimensionality — সবগুলো এখানেও পুরোপুরি খাটে। শুধু label কলাম আর target variable-টাই নেই। ওই অনুপস্থিতিটাই একে unsupervised বানায় — আর এটা দেখায় যে এই চ্যাপ্টারের বেশিরভাগ শব্দই আসলে ডেটার গঠন নিয়ে, কেউ উত্তর দিয়ে রেখেছে কিনা তার উপর নির্ভর করে না।

Summary