Random Variables

১. Random Variable-এর পরিচিতি

এতক্ষণ যতগুলো চ্যাপ্টার পড়েছো, সবগুলোই ইভেন্ট নিয়ে কথা বলেছে — "ডাইসে জোড় সংখ্যা উঠল," "রোগীর টেস্ট পজিটিভ এলো," "কার্ডটা টেক্কা।" ইভেন্ট মানে হ্যাঁ/না স্টেটমেন্ট — হয় ঘটবে, নাহলে ঘটবে না। কিন্তু বেশিরভাগ সময় তুমি যেটা নিয়ে আসলে মাথা ঘামাও সেটা হ্যাঁ/না না — সেটা একটা সংখ্যা। কয়টা হেড উঠল? মানুষটার উচ্চতা কত? আজকে লাইনে কয়টা ডিফেক্টিভ পার্ট বের হলো? Random variable হলো সেই টুল, যেটা "একটা অনিশ্চিত ফলাফল"-কে "একটা সংখ্যা, যা নিয়ে তুমি হিসাব-নিকাশ করতে পারো"-তে বদলে দেয়। এই চ্যাপ্টার এই টুলটাকে একদম গোড়া থেকে বানাবে, আর এরপরের পুরো কোর্সের জন্য এটাই সবচেয়ে গুরুত্বপূর্ণ যন্ত্র — প্রতিটা ডেটাসেট, প্রতিটা ফিচার, মডেলের প্রতিটা প্রেডিকশন, ভেতরে ভেতরে একটা random variable।

Random Variable কী?

Random variable হলো এমন একটা নিয়ম, যেটা র‍্যান্ডম এক্সপেরিমেন্টের প্রতিটা সম্ভাব্য ফলাফলকে একটা সংখ্যার সাথে জুড়ে দেয়। ফরমালি বলতে গেলে, এটা একটা ফাংশন $X$, যেটা স্যাম্পল স্পেস $S$ থেকে একটা আউটকাম নেয় আর সেটাকে একটা রিয়েল নাম্বারে ম্যাপ করে। নাম শুনে মনে হতে পারে এটা কোনো জাদুকরী "র‍্যান্ডম" জিনিস, কিন্তু আসলে এটা মোটেও অপ্রত্যাশিত কিছু না — এটা একটা ফাংশন, একটা নির্দিষ্ট, স্পষ্ট নিয়ম, যেটা এমন কিছুর উপর প্রয়োগ করা হয় যা অনিশ্চিত।

উদাহরণ দিয়ে বোঝা যাক। একটা কয়েন তিনবার টস করো। স্যাম্পল স্পেস $S$-এ ৮টা আউটকাম আছে: $\{HHH, HHT, HTH, THH, HTT, THT, TTH, TTT\}$। এদের একটাও নিজে থেকে সংখ্যা না — "HTH" জিনিসটা তুমি অ্যাভারেজ করতে পারবে না। ধরো $X$ = "কয়টা হেড উঠল।" এখন প্রতিটা আউটকাম একটা সংখ্যা পেয়ে যায়: $X(HHH) = 3$, $X(HTH) = 2$, $X(TTT) = 0$, ইত্যাদি। হঠাৎ করেই তুমি সংখ্যাভিত্তিক প্রশ্ন করতে পারছো — "$X$-এর গড় মান কত?", "এটা কতটা ছড়ানো?" — যেগুলো "HTH"-এর মতো স্ট্রিং নিয়ে ভাবার সময় অর্থহীন ছিল।

Random Variable কেন গুরুত্বপূর্ণ

Random variable ছাড়া প্রোবাবিলিটি থিওরি একেকটা আউটকাম, একেকটা ইভেন্ট, আলাদা আলাদাভাবে বর্ণনা করতে থাকত — সবগুলোকে জোড়া লাগানোর কোনো সংখ্যাভিত্তিক ভাষাই থাকত না। Random variable ঠিক সেই ভাষাটা দেয়: একবার একটা অনিশ্চিত পরিমাণকে random variable হিসেবে লিখে ফেললে, তুমি এর গড় মান (expectation), কতটা ছড়ানো (variance), দুটো এমন পরিমাণ একসাথে কীভাবে চলে (covariance) — সব হিসাব করতে পারো, প্লট করতে পারো, ট্রান্সফর্ম করতে পারো, অন্য random variable-এর সাথে মেলাতে পারো, একটা ফর্মুলায় ঢুকাতে পারো — যেটা "HTH"-এর মতো কাঁচা আউটকাম দিয়ে কখনোই সম্ভব না।

এই একই কারণে মেশিন লার্নিং-এ random variable এত গুরুত্বপূর্ণ: একটা ডেটাসেটের প্রতিটা কলাম, একটা ছবির প্রতিটা পিক্সেল, একটা মডেলের প্রতিটা প্রেডিক্টেড স্কোর — সবকিছুকেই random variable ধরা হয়, ঠিক এই কারণে যে এটাই তোমাকে ডেটার উপর গড়, ছড়ানো, আর সম্পর্ক হিসাব করার সুযোগ দেয়।

Random Variable বনাম Random Experiment

এই দুইটা আইডিয়া গুলিয়ে ফেলা সহজ, কিন্তু এগুলো একই পরিস্থিতির দুইটা আলাদা লেয়ার:

শেষ সারিটা নিয়ে একটু ভাবো: একই ৩-কয়েন-টস এক্সপেরিমেন্ট থেকে তুমি $X$ = কয়টা হেড, বা $Y$ = ১ যদি প্রথম টসটা হেড হয় নাহলে ০, বা $Z$ = আউটকাম কতবার H থেকে T-তে সুইচ করল — এরকম যেকোনো কিছু ডিফাইন করতে পারো। একই এক্সপেরিমেন্ট, তিনটা সম্পূর্ণ আলাদা random variable, একই অনিশ্চয়তা সম্পর্কে তিনটা আলাদা সংখ্যাভিত্তিক প্রশ্নের উত্তর।

Random Variable বনাম Outcome

Outcome হলো এক্সপেরিমেন্টের একটা নির্দিষ্ট ফলাফল (যেমন, "HTH" স্ট্রিংটা)। Random variable হলো একটা ফাংশন, যেটা একটা আউটকামের উপর প্রয়োগ হয়ে একটা সংখ্যা দেয় (যেমন $X(HTH) = 2$)। Outcome হলো কাঁচা ইনপুট; random variable-এর মান হলো সংখ্যাভিত্তিক আউটপুট। "$X$" বলতে গিয়ে অনেক সময় ভুলে আউটকামটাকেই বোঝানো হয়ে যায় — কিন্তু এই পার্থক্যটা স্পষ্ট রাখা জরুরি: $X$ হলো নিয়ম, আর $X(\text{আউটকাম})$, অথবা এক্সপেরিমেন্ট আসলেই ঘটে যাওয়ার পর সেই নিয়ম থেকে বেরিয়ে আসা নির্দিষ্ট সংখ্যা $x$।

Random Variable-এর নোটেশন

একটা শক্ত, ধারাবাহিক নোটেশন-অভ্যাস তোমাকে এই চ্যাপ্টারের বাকি অংশে অনেক কনফিউশন থেকে বাঁচাবে:

বাস্তব জীবন আর মেশিন লার্নিং থেকে উদাহরণ

২. Random Variable-এর ধরন

সব random variable একইভাবে আচরণ করে না। এই চ্যাপ্টারের বাকি অংশে — আর এই পুরো কোর্সের বাকি অংশে — সবচেয়ে গুরুত্বপূর্ণ ভাগাভাগিটা হলো একটা random variable discrete না continuous, কারণ এটার উপর নির্ভর করে কোন টুলগুলো খাটবে (PMF নাকি PDF, যোগফল নাকি ইন্টিগ্রাল, ইত্যাদি)।

Discrete Random Variable

একটা random variable discrete হয়, যদি সেটা শুধু গণনাযোগ্য (countable) কিছু মান নিতে পারে — মানে তুমি চাইলে সবগুলো এক এক করে লিস্ট করতে পারবে (তালিকাটা অসীম হলেও), আর পরপর দুইটা সম্ভাব্য মানের মাঝে ফাঁক থাকবে। গণনা করা জিনিসগুলো ক্লাসিক উদাহরণ: ২টা ডিফেক্টিভ আইটেম থাকতে পারে, বা ৩টা, কিন্তু কখনোই ২.৪টা না।

Continuous Random Variable

একটা random variable continuous হয়, যদি সেটা কোনো রেঞ্জের (রিয়েল নাম্বারের একটা ইন্টারভাল) মধ্যে যেকোনো মান নিতে পারে, একদম কোনো ফাঁক ছাড়া। দুইটা সম্ভাব্য মানের মাঝে অসীম সংখ্যক আরও মান সম্ভব। মাপজোখ করা জিনিসগুলো ক্লাসিক উদাহরণ: উচ্চতা, ওজন, সময়, তাপমাত্রা — এগুলো, নীতিগতভাবে, একটা রেঞ্জের ভেতরে যেকোনো মান নিতে পারে, যেকোনো নির্ভুলতা পর্যন্ত।

Discrete বনাম Continuous Random Variable

প্রতিটা ধরনের উদাহরণ

Random Variable-এর ধরন কীভাবে চিনবে

একটা প্রশ্নই জিজ্ঞেস করো: "আমি কি নীতিগতভাবে সব সম্ভাব্য মান এক এক করে লিস্ট করতে পারব, মাঝে স্পষ্ট ফাঁক রেখে?" যদি হ্যাঁ হয় — লিস্টটা লম্বা বা টেকনিক্যালি অসীম হলেও (যেমন "০, ১, ২, ৩, ..." চিরকাল) — variable-টা discrete। আর যদি সম্ভাব্য মানগুলো নাম্বার লাইনের একটা কন্টিনিউয়াস অংশ পুরোপুরি ভরে ফেলে, কোনো ফাঁক ছাড়াই, তাহলে সেটা continuous।

৩. Discrete Random Variable

সংজ্ঞা

একটা discrete random variable $X$ হলো এমন একটা random variable, যার সম্ভাব্য মানের সেটটা গণনাযোগ্য। প্রতিটা সম্ভাব্য মান $x$-এর একটা প্রোবাবিলিটি $P(X = x)$ থাকে, আর — সবচেয়ে গুরুত্বপূর্ণ কথা — এই প্রোবাবিলিটিগুলো আসল, আলাদা আলাদা অর্থবহ সংখ্যা, শূন্য না।

সম্ভাব্য মান

একটা discrete random variable যত মান নিতে পারে সেই সেটটা প্রায়ই লেখা হয় $\{x_1, x_2, x_3, \ldots\}$ আকারে। এটা ফাইনাইট হতে পারে (যেমন $\{0, 1, 2, 3\}$, ৩টা টসে হেড সংখ্যার জন্য) অথবা countably ইনফাইনাইট (যেমন $\{0, 1, 2, 3, \ldots\}$, "প্রথম অভিযোগ আসার আগে কয়টা কাস্টমার কল এলো" — এর কোনো স্বাভাবিক উচ্চসীমা নেই)।

প্রোবাবিলিটি অ্যাসাইনমেন্ট

প্রতিটা discrete random variable-এর সাথে একটা নিয়ম থাকে, যা প্রতিটা সম্ভাব্য মানকে প্রোবাবিলিটি দেয় — এই অ্যাসাইনমেন্ট নিয়মটাই এই চ্যাপ্টারের পরের অংশে ফরমালি বলা হয়েছে Probability Mass Function (সেকশন ৫) নামে। আপাতত মূল আইডিয়াটা মনে রাখো: প্রতিটা মান $x_i$-এর নিজের প্রোবাবিলিটি $P(X = x_i)$ থাকে, আর যেহেতু সম্ভাব্য মানগুলো গণনাযোগ্য, তুমি এই প্রোবাবিলিটিগুলো এক এক করে লিস্ট করে ফেলতে পারো।

উদাহরণ

হেড সংখ্যা। একটা ফেয়ার কয়েন ৩ বার টস করো, আর $X$ = হেড সংখ্যা। সম্ভাব্য মান $\{0, 1, 2, 3\}$, প্রোবাবিলিটিসহ:

$$P(X=0) = \frac{1}{8}, \quad P(X=1) = \frac{3}{8}, \quad P(X=2) = \frac{3}{8}, \quad P(X=3) = \frac{1}{8}$$

ডাইস আউটকাম। একটা ফেয়ার ৬-মুখী ডাইস রোল করো, আর $X$ = যেই সংখ্যা উঠল। সম্ভাব্য মান $\{1, 2, 3, 4, 5, 6\}$, প্রতিটার প্রোবাবিলিটি $\frac{1}{6}$ — একটা uniform discrete random variable, কারণ প্রতিটা মান সমান সম্ভাবনার।

ডিফেক্টিভ প্রোডাক্টের সংখ্যা। একটা ফ্যাক্টরি ৪টা ইউনিটের একটা ব্যাচ চেক করে, আর $X$ = কয়টা ডিফেক্টিভ পাওয়া গেল। সম্ভাব্য মান $\{0, 1, 2, 3, 4\}$, আর — ডাইস রোলের মতো না — এই প্রোবাবিলিটিগুলো প্রায় নিশ্চিতভাবেই সমান না: ফ্যাক্টরির ডিফেক্ট রেট কম হলে ০টা ডিফেক্টিভ পাওয়ার সম্ভাবনা ৪টাই ডিফেক্টিভ পাওয়ার চেয়ে অনেক বেশি হওয়া উচিত। এই ডিস্ট্রিবিউশনটা তুমি নিচের ইন্টারঅ্যাক্টিভ সেকশনে নিজে বানাবে।

৪. Continuous Random Variable

সংজ্ঞা

একটা continuous random variable $X$ হলো এমন একটা random variable, যা রিয়েল নাম্বারের একটা ইন্টারভালের (বা ইন্টারভালগুলোর মিলন) যেকোনো মান নিতে পারে। Discrete random variable-এর মতো না — এর সম্ভাব্য মানগুলো এক এক করে লিস্ট করা যায় না — দুইটা সম্ভাব্য মানের মাঝে সবসময় অসীম সংখ্যক আরও মান থাকে।

সম্ভাব্য মান

Continuous random variable সাধারণত একটা পুরো ইন্টারভাল জুড়ে মান নেয়, যেমন $(-\infty, \infty)$, $[0, \infty)$, বা একটা বাউন্ডেড রেঞ্জ যেমন $[0, 100]$। যা এই রেঞ্জটাকে "continuous" বানায় তা হলো এতে কোনো ফাঁক নেই: এই রেঞ্জের প্রতিটা রিয়েল সংখ্যাই আসলেই সম্ভব।

Continuous রেঞ্জ

সেকশন ২-এর পার্থক্যটা বোঝার একটা সহজ উপায়: একটা discrete random variable-এর সম্ভাব্য মানগুলো দেখতে নাম্বার লাইনের উপর কতগুলো বিন্দুর মতো, মাঝে ফাঁকা জায়গাসহ। একটা continuous random variable-এর সম্ভাব্য মানগুলো দেখতে একটা অখণ্ড লাইন-সেগমেন্টের মতো (বা রশ্মি, বা পুরো লাইন) — শক্ত, কিছুই বাদ না দিয়ে।

একটা ইন্টারভালের উপর প্রোবাবিলিটি

যেহেতু একটা continuous random variable-এর সম্ভাব্য মান একটা অখণ্ড রেঞ্জ তৈরি করে, স্বাভাবিক প্রশ্নটা হলো "এই নির্দিষ্ট মানটার প্রোবাবিলিটি কত?" না, বরং "মানটা এই রেঞ্জের মধ্যে কোথাও পড়ার প্রোবাবিলিটি কত?" — যেমন $P(60 \le X \le 65)$, একজন মানুষের ওজন কিলোগ্রামে ৬০ থেকে ৬৫-এর মধ্যে পড়ার জন্য। এটাই ঠিক সেই প্রশ্ন, যেটার উত্তর দেওয়ার জন্য Probability Density Function বানানো হয়েছে (সেকশন ৬), আর এটা হিসাব হয় একটা এরিয়া হিসেবে, লুকআপ না।

Continuous Variable-এর জন্য P(X = x) = 0 কেন

এই চ্যাপ্টারের সবচেয়ে অবাক করা ফ্যাক্টটা প্রথমবার যারা পড়ছে তাদের জন্য: একটা continuous random variable-এর জন্য $P(X = x) = 0$ প্রতিটা আলাদা মান $x$-এর জন্য — এমনকি যেই মানগুলো আসলেই সম্ভব, তাদের জন্যও।

ইনটুইশনটা এরকম: ধরো একজন মানুষের সঠিক উচ্চতা ১৫০ সেমি আর ২০০ সেমি-এর মধ্যে অসীম সংখ্যক মানের যেকোনোটা হতে পারে — শুধু পূর্ণ সেন্টিমিটার না, মাঝের প্রতিটা দশমিকও, চিরকাল ধরে। যদি সেই অসীম সংখ্যক মানের প্রতিটাকেই সামান্য পজিটিভ প্রোবাবিলিটি দেওয়া হয়, তাহলে প্রোবাবিলিটিগুলো যোগ করলে ১-এর চেয়ে অনেক বড় (আসলে অসীম) কিছু হয়ে যাবে — যা প্রোবাবিলিটির মূল নিয়ম ভাঙে (সব প্রোবাবিলিটি মিলে ঠিক ১ হতে হবে)। এই কনট্রাডিকশন এড়ানোর একমাত্র উপায় হলো প্রতিটা আলাদা বিন্দুকে ঠিক শূন্য প্রোবাবিলিটি দেওয়া। প্রোবাবিলিটি জমা হয় শুধু একটা পুরো ইন্টারভাল দেখলে — তাই $P(a \le X \le b)$ একটা আসল পজিটিভ সংখ্যা হতে পারে, যদিও $P(X = a)$ আর $P(X = b)$ আলাদা আলাদাভাবে শূন্য।

উদাহরণ

নিচের প্লেগ্রাউন্ডটা ট্রাই করো — সেকশন ৬ আর ৭-এর জন্য বানানো — "এরিয়া, বিন্দু না" আইডিয়াটা সরাসরি দেখার জন্য: ইন্টারভালের দুই প্রান্ত কাছাকাছি টেনে আনো, আর দেখো প্রোবাবিলিটি ঠিক ০-এর দিকে কমে যায়, যদিও কার্ভের উচ্চতা পুরোটা সময় স্পষ্টভাবে পজিটিভ থাকে।

৫. Probability Mass Function (PMF)

PMF কী?

Probability Mass Function (PMF) হলো সেই টুল, যা একটা discrete random variable-এর প্রতিটা সম্ভাব্য মানকে একটা প্রোবাবিলিটি দেয়। এটা লেখা হয় $p(x)$ বা $p_X(x)$, আর এটা প্রতিটা সম্ভাব্য $x$-এর জন্য ঠিক একটা প্রশ্নের উত্তর দেয়: "এই নির্দিষ্ট মানে কতটুকু প্রোবাবিলিটি 'মাস' বসে আছে?"

$$p_X(x) = P(X = x)$$

যেখানে: $p_X(x)$ হলো $x$-এর একটা প্লেইন ফাংশন — যেকোনো সম্ভাব্য মান দাও, এটা সেই মানের সাথে ঠিক সমান হওয়ার প্রোবাবিলিটি ফেরত দেবে।

Discrete Random Variable-এর জন্য PMF

PMF শুধু discrete random variable-এর জন্যই ডিফাইন করা হয় — এই কারণেই এই চ্যাপ্টার জুড়ে "PMF" আর "discrete" একসাথে চলে, ঠিক যেমন "PDF" আর "continuous" চলে (সেকশন ৬)।

PMF-এর বৈশিষ্ট্য

প্রতিটা বৈধ PMF-কে দুইটা শর্ত পূরণ করতে হয়, আর যখনই তোমাকে একগুচ্ছ সংখ্যা দেওয়া হয় আর জিজ্ঞেস করা হয় "এটা কি একটা বৈধ PMF?", দুটোই চেক করা উচিত:

$$p_X(x) \ge 0 \quad \text{প্রতিটা সম্ভাব্য } x \text{-এর জন্য}, \qquad \sum_{x} p_X(x) = 1$$

যেখানে: প্রথম শর্তটা নেগেটিভ প্রোবাবিলিটি বাদ দেয় (যা কখনোই অর্থবহ না), আর দ্বিতীয়টা বলে — প্রতিটা সম্ভাব্য মানের প্রোবাবিলিটি যোগ করলে ঠিক ১ হতে হবে — কারণ random variable-টা নিশ্চিতভাবে কোনো একটা মান নেবেই।

PMF টেবিল

একটা PMF দেখানোর সবচেয়ে সরাসরি উপায় হলো একটা টেবিল, যেখানে প্রতিটা সম্ভাব্য মানের পাশে তার প্রোবাবিলিটি লেখা থাকে — যেমন সেকশন ৩-এর ডিফেক্টিভ-প্রোডাক্ট উদাহরণে:

PMF গ্রাফ

গ্রাফিক্যালি, একটা PMF আঁকা হয় উলম্ব বার (বা কখনো আলাদা আলাদা বিন্দু, "স্টেম প্লট" বলা হয়) দিয়ে, প্রতিটা সম্ভাব্য মানের জন্য একটা, উচ্চতা সেই মানের প্রোবাবিলিটির সমান — ইচ্ছাকৃতভাবে না একটা জোড়া লাগানো, কন্টিনিউয়াস কার্ভ, কারণ মাঝখানের মানগুলো (যেমন $x = 0.5$) মোটেও সম্ভব না।

PMF দিয়ে প্রোবাবিলিটি হিসাব

যেহেতু PMF সরাসরি একটা মানের $P(X=x)$ দেয়, একটা রেঞ্জের প্রোবাবিলিটি হিসাব করা মানে শুধু একটা যোগফল: $P(a \le X \le b) = \sum_{x=a}^{b} p_X(x)$।

উদাহরণ। উপরের ডিফেক্টিভ-প্রোডাক্ট PMF ব্যবহার করে, $P(X \le 1) = p(0) + p(1) = 0.660 + 0.260 = 0.920$ — ব্যাচে সর্বোচ্চ একটা ডিফেক্টিভ ইউনিট পাওয়ার সম্ভাবনা ৯২%।

সাব-টপিক

P(X = x)। এটাই PMF-এর পুরো কাজ: প্রতিটা সম্ভাব্য $x$-এর জন্য, এটা একটা সংখ্যা ফেরত দেয় — সেই মানের ঠিক প্রোবাবিলিটি।

বৈধ PMF-এর শর্ত। উপর থেকে আবার বলি: সব জায়গায় নন-নেগেটিভ, আর সব সম্ভাব্য মানের যোগফল ঠিক ১।

PMF মানের যোগফল। শুধু একটা টেকনিক্যাল নিয়ম না — এটা বোঝায় যে random variable-টা তার কোনো একটা সম্ভাব্য মানে নিশ্চিতভাবে পড়বেই, তাই সবগুলোর মোট প্রোবাবিলিটি ঠিক ১ হতে হবে, বেশিও না কমও না।

PMF ব্যাখ্যা করা। একটা লম্বা বার মানে সেই মান বেশি সম্ভাব্য; একটা ছোট বার মানে সেটা বিরল। বারের উচ্চতা তুলনা করা মানে সরাসরি প্রোবাবিলিটি তুলনা করা — এই কারণেই PMF গ্রাফ একটা discrete ডিস্ট্রিবিউশনের আকৃতি বুঝতে এত দ্রুত সাহায্য করে।

"Sum of two dice" প্রিসেটটা ট্রাই করো, আর এর PMF আকৃতি (একটা ত্রিভুজ, ৭-এ চূড়া) "Single die roll" প্রিসেটের সাথে (ফ্ল্যাট, কারণ প্রতিটা ফেস সমান সম্ভাবনার) তুলনা করো — একই ডাইস, কিন্তু সম্পূর্ণ আলাদা PMF আকৃতি, কারণ দুই ডাইস যোগ করলে মাঝামাঝি মান বেশি উপায়ে পাওয়া যায়, চরম মানের চেয়ে।

৬. Probability Density Function (PDF)

PDF কী?

Probability Density Function (PDF) হলো PMF-এর continuous-variable ভার্সন। এটা লেখা হয় $f(x)$ বা $f_X(x)$, কিন্তু — এটাই এই জিনিসটা সম্পর্কে সবচেয়ে গুরুত্বপূর্ণ কথা — $f(x)$ কোনো প্রোবাবিলিটি না। এটা একটা ডেনসিটি: $x$-এর প্রতি ইউনিটে প্রোবাবিলিটি। তুমি আসল প্রোবাবিলিটি পাও শুধু $f(x)$-এর নিচে কোনো ইন্টারভালে এরিয়া মেপে।

Continuous Random Variable-এর জন্য PDF

PDF শুধু continuous random variable-এর জন্যই ডিফাইন করা হয়, ঠিক যেভাবে PMF শুধু discrete-এর জন্য ডিফাইন করা হয়েছিল।

কার্ভের নিচের এরিয়া হিসেবে প্রোবাবিলিটি

$$P(a \le X \le b) = \int_a^b f(x)\, dx$$

ইনটুইশন: এই ইন্টিগ্রালটা ঠিক "কার্ভ $f(x)$-এর নিচের এরিয়া, $x=a$ থেকে $x=b$ পর্যন্ত।" যেভাবে বারের উচ্চতা যোগ করলে discrete রেঞ্জের প্রোবাবিলিটি পাওয়া যায়, ঠিক সেভাবে এরিয়ার অসীম ছোট ছোট উলম্ব স্লাইস যোগ করলে (ইন্টিগ্রেট করলে) continuous রেঞ্জের প্রোবাবিলিটি পাওয়া যায়।

PDF-এর বৈশিষ্ট্য

$$f_X(x) \ge 0 \text{ প্রতিটা } x \text{-এর জন্য}, \qquad \int_{-\infty}^{\infty} f_X(x)\, dx = 1$$

যেখানে: ডেনসিটি কখনো নেগেটিভ হতে পারে না, আর পুরো কার্ভের নিচের মোট এরিয়া, সব সম্ভাব্য মান জুড়ে, ঠিক ১ হতে হবে — "PMF মান যোগ করলে ১" এর সরাসরি continuous ভার্সন।

PDF গ্রাফ

একটা PDF আঁকা হয় একটা মসৃণ (বা অন্তত কন্টিনিউয়াস) কার্ভ দিয়ে, random variable-এর রেঞ্জ জুড়ে। যেখানে কার্ভ বেশি উঁচু, সেখানকার কাছাকাছি মানগুলো প্রতি ইউনিট প্রস্থে তুলনামূলক বেশি সম্ভাব্য; যেখানে কম, সেখানে তুলনামূলক বিরল। কার্ভ কখনো x-অক্ষের নিচে যায় না।

PDF থেকে প্রোবাবিলিটি হিসাব

$X$ কোনো রেঞ্জে পড়ার প্রোবাবিলিটি বের করতে, দুই প্রান্তের মাঝে কার্ভের নিচের অংশটা শেড করো, আর সেই শেড করা এরিয়ার সাইজটাই হলো প্রোবাবিলিটি — ঠিক এটাই নিচের প্লেগ্রাউন্ডে তুমি নিজে করতে পারবে, ইন্টারভাল টেনে আর শেড করা এরিয়া (আর মিলে যাওয়া সংখ্যা) একসাথে বদলাতে দেখে।

সাব-টপিক

f(x)। ডেনসিটি ফাংশনটা নিজে — একটা নির্দিষ্ট $x$-এ কার্ভের উচ্চতা, মাপা হয় "$x$-এর প্রতি ইউনিটে প্রোবাবিলিটি" হিসেবে, নিজে একটা প্রোবাবিলিটি না।

কার্ভের নিচের এরিয়া। যেই মেকানিজম ডেনসিটিকে প্রোবাবিলিটিতে বদলায়। এরিয়া না থাকলে, প্রোবাবিলিটিও নেই — কার্ভের নিচে ঠিক একটা $x$-এ একটা উলম্ব লাইনের প্রস্থ শূন্য, তাই এরিয়াও শূন্য।

একটা ইন্টারভালের উপর প্রোবাবিলিটি। একটা continuous PDF-এর জন্য একমাত্র অর্থবহ প্রোবাবিলিটি প্রশ্ন — "$a$ থেকে $b$-এর মধ্যে," কখনো "ঠিক $x$" না।

PDF বনাম PMF।

৭. Cumulative Distribution Function (CDF)

CDF কী?

Cumulative Distribution Function (CDF), লেখা হয় $F(x)$, এমন একটা ফাংশন যা discrete আর continuous — দুটো random variable-এর জন্যই কাজ করে — এটা সবসময় বলে দেয় $X$ কোনো নির্দিষ্ট মান $x$-এর সমান বা তার কম হওয়ার প্রোবাবিলিটি কত, সবচেয়ে ছোট সম্ভাব্য মান থেকে শুরু করে $x$ পর্যন্ত জমা করে।

CDF-এর সংজ্ঞা

$$F_X(x) = P(X \le x)$$

যেখানে: তুমি যেকোনো রিয়েল সংখ্যা $x$ বসাও, $F_X(x)$ তোমাকে ফেরত দেবে সেই বিন্দু বা তার নিচে random variable-টা পড়ার মোট প্রোবাবিলিটি — নাম্বার লাইনে বাম থেকে ডানে যেতে যেতে এখন পর্যন্ত জমে থাকা যোগফল।

Discrete Variable-এর জন্য CDF

একটা discrete random variable-এর জন্য, CDF বানানো হয় $x$-এর সমান বা কম প্রতিটা সম্ভাব্য আউটকামের PMF মান যোগ করে:

$$F_X(x) = \sum_{x_i \le x} p_X(x_i)$$

এটা CDF-কে একটা স্টেপ ফাংশন বানায় — এটা প্রতিটা সম্ভাব্য মান $x_i$-এ ঠিক $p(x_i)$ পরিমাণ লাফ দেয়, আর মাঝে সব জায়গায় একদম ফ্ল্যাট থাকে (কারণ একটা সম্ভাব্য মান থেকে পরেরটার মাঝে কোনো প্রোবাবিলিটি জমা হয় না)।

Continuous Variable-এর জন্য CDF

একটা continuous random variable-এর জন্য, CDF হলো PDF-এর চলমান ইন্টিগ্রাল, $-\infty$ থেকে $x$ পর্যন্ত:

$$F_X(x) = \int_{-\infty}^{x} f_X(t)\, dt$$

এটা CDF-কে একটা মসৃণ, কন্টিনিউয়াস কার্ভ বানায় (নিচের PDF-এর মসৃণতার সাথে মিলিয়ে), স্টেপ ফাংশন না — কোনো আলাদা লাফ নেই, কারণ কোনো একক বিন্দু পজিটিভ প্রোবাবিলিটি বহন করে না (সেকশন ৪)।

CDF গ্রাফ

দুই ক্ষেত্রেই, CDF গ্রাফের সামগ্রিক আকৃতি একই: এটা একদম বামে ০-এ শুরু হয় (বা কাছাকাছি যায়), ডানে এগোতে থাকলে বাড়ে — বা ফ্ল্যাট থাকে — আর একদম ডানে ১-এ শেষ হয় (বা কাছাকাছি যায়)। এটা কখনো কমতে পারে না, কারণ ডানে যাওয়ার সাথে সাথে প্রোবাবিলিটি শুধু জমা হয়, কখনো কমে না।

CDF দিয়ে প্রোবাবিলিটি হিসাব

CDF রেঞ্জের প্রোবাবিলিটি হিসাবকে একটা সাধারণ বিয়োগে নামিয়ে আনে, discrete আর continuous দুই ক্ষেত্রেই:

$$P(a < X \le b) = F_X(b) - F_X(a)$$

ইনটুইশন: $F_X(b)$ হলো "$b$ পর্যন্ত সবকিছু," আর $F_X(a)$ হলো "$a$ পর্যন্ত সবকিছু।" বিয়োগ করলে $a$-এর নিচের ওভারল্যাপিং অংশটা বাদ যায়, শুধু $a$ আর $b$-এর মাঝে সরাসরি পড়ার প্রোবাবিলিটিটা থেকে যায়।

সাব-টপিক

F(x) = P(X ≤ x)। CDF-এর সংজ্ঞায়িত ইকুয়েশন — সবসময় "সমান বা কম" স্টেটমেন্ট, কখনো শুধু "সমান" না।

CDF-এর বৈশিষ্ট্য। কখনো কমে না, ০ থেকে ১-এর মধ্যে থাকে, আর discrete আর continuous দুই ক্ষেত্রেই right-continuous (এমন কোনো লাফ নেই যা "খুব আগেই" দেখা যায়)।

PMF আর CDF-এর সম্পর্ক। একটা $x$-এ PMF-এর আলাদা মানটা সমান হয় সেই বিন্দুতে CDF-এর লাফের সাইজ-এর: $p_X(x) = F_X(x) - F_X(x^-)$, যেখানে $F_X(x^-)$ হলো $x$-এর ঠিক আগে CDF-এর মান। উপরের সেকশন ৫-এর প্লেগ্রাউন্ডে CDF প্যানেলটা আবার দেখো — প্রতিটা স্টেপের উচ্চতা ঠিক সেই $x$-মানের PMF বারের সমান।

PDF আর CDF-এর সম্পর্ক। PDF হলো CDF-এর ডেরিভেটিভ: $f_X(x) = \frac{d}{dx} F_X(x)$। সমতুল্যভাবে, CDF হলো PDF-এর চলমান ইন্টিগ্রাল (জমা এরিয়া) — ডিফারেনশিয়েট করলে সেকশন ৬-এর ইন্টিগ্রেশনটা "উল্টে" যায়, ঠিক যেভাবে ক্যালকুলাসে সাধারণত ডেরিভেটিভ আর ইন্টিগ্রাল একে অপরকে উল্টায়। সেকশন ৬-এর প্লেগ্রাউন্ডে, $F(c)$ আর $F(d)$ সরাসরি বাম প্রান্ত থেকে প্রতিটা বিন্দু পর্যন্ত চলমান এরিয়া হিসেবে দেখানো হয়েছে।

৮. Random Variable Transformation

Random Variable-এর Transformation কী?

একটা transformation একটা বিদ্যমান random variable $X$ নেয় আর তার উপর একটা ফাংশন প্রয়োগ করে নতুন random variable $Y$ বানায়: $Y = g(X)$। $X$-এর ডিস্ট্রিবিউশন যাই হোক না কেন, $Y$-এর নিজের, সাধারণত ভিন্ন, একটা ডিস্ট্রিবিউশন থাকবে — transformation শুধু মান রিলেবেল করে না, পুরো প্রোবাবিলিটির চিত্রটাই বদলে দিতে পারে।

Discrete Variable-এর Transformation

একটা discrete $X$-এর জন্য, $Y = g(X)$-এর PMF বের করা মানে, প্রতিটা সম্ভাব্য $y$-এর জন্য, সেই নির্দিষ্ট $y$-তে পৌঁছানো প্রতিটা $x$-এর প্রোবাবিলিটি যোগ করা:

$$P(Y = y) = \sum_{x:\, g(x) = y} P(X = x)$$

এই যোগফলটা গুরুত্বপূর্ণ হয় যখনই $g$ ওয়ান-টু-ওয়ান না — একাধিক আলাদা $x$ মান একই $y$-তে পড়তে পারে, আর তাদের প্রোবাবিলিটিগুলো মিলে যায়।

Continuous Variable-এর Transformation

একটা continuous $X$-এর জন্য, $Y = g(X)$-এ ট্রান্সফর্ম করতে সাধারণত হিসাব করতে হয় ফাংশনটা $x$-এর ইন্টারভালগুলো $y$-এর ইন্টারভালে কীভাবে টেনে বড় বা ছোট করে — ফরমালি, একটা মসৃণ, ইনভার্টিবল $g$-এর জন্য $f_Y(y) = f_X(g^{-1}(y)) \left| \frac{d}{dy} g^{-1}(y) \right|$। এই "চেঞ্জ অফ ভেরিয়েবল" ফর্মুলার পুরো ডেরিভেশন একটা অ্যাডভান্সড কোর্সের বিষয়; এখানে যেটা গুরুত্বপূর্ণ তা হলো এর মূল আইডিয়া: $y$-তে যাওয়ার সময় x-অক্ষ টেনে বড় করলে ডেনসিটি কমে যায় (একই মোট এরিয়া একটা বড় রেঞ্জে ছড়িয়ে পড়ে), আর সংকুচিত করলে ডেনসিটি বেড়ে যায় — মোট এরিয়া ১ রাখার জন্যই ডেনসিটি ঠিক এভাবে অ্যাডজাস্ট হয়।

সহজ উদাহরণ

Discrete উদাহরণ। ধরো $X$ একটা ফেয়ার ডাইস রোল, $\{1,\ldots,6\}$, প্রতিটার প্রোবাবিলিটি $\frac{1}{6}$। $Y = 1$ যদি $X$ জোড়, $Y=0$ যদি $X$ বিজোড়। যেহেতু তিনটা $x$ মান $Y=1$-এ ম্যাপ হয় (২, ৪, ৬) আর তিনটা $Y=0$-এ (১, ৩, ৫): $P(Y=1) = \frac{3}{6} = \frac{1}{2}$ আর $P(Y=0) = \frac{1}{2}$ — একটা সম্পূর্ণ নতুন, অনেক সহজ দুই-মানের random variable, পুরোপুরি আসল ডাইস রোল থেকে বানানো।

Continuous উদাহরণ। ধরো $X$ uniformly distributed $[0, 1]$-এ (কনস্ট্যান্ট ডেনসিটি $f_X(x)=1$), আর $Y = 2X$। $X$-এর প্রতিটা সম্ভাব্য মান তার দ্বিগুণে টেনে বড় হয়, তাই $Y$ রেঞ্জ করে $[0, 2]$-এ — কিন্তু যেহেতু একই মোট প্রোবাবিলিটি (এরিয়া ১) এখন দ্বিগুণ চওড়া একটা রেঞ্জে ছড়াতে হয়, $Y$-এর ডেনসিটি অর্ধেক উঁচু হতে হবে: $f_Y(y) = \frac{1}{2}$, $y \in [0,2]$-এর জন্য। রেঞ্জ বড় করা ডেনসিটিকে সংকুচিত করেছে, ঠিক যেমনটা জেনারেল ফর্মুলা বলে দেয়।

৯. Random Variable-এর ফাংশন

g(X)

Random variable-এর উপর প্রয়োগ করা যেকোনো ফাংশন — $X^2$, $\sqrt{X}$, $\log(X)$, $3X + 5$ — আরেকটা random variable তৈরি করে। সবচেয়ে কমন আর কাজের বিশেষ ক্ষেত্রটা হলো linear transformation, কারণ এটা এত প্রেডিক্টেবলভাবে আচরণ করে যে এর নিজের নাম আর নিজের শর্টকাট নিয়ম প্রাপ্য।

Linear Transformation

একটা linear transformation-এর ফর্ম $Y = aX + b$, ধ্রুবক $a$ আর $b$-এর জন্য। এই একটা ফর্ম দিয়ে অনেক দৈনন্দিন অপারেশন কভার হয়: ইউনিট বদলানো (সেলসিয়াস থেকে ফারেনহাইট), একটা স্কোর রিস্কেল করা, একটা variable-কে তার মিন-এর চারপাশে সেন্টার করা, একটা ফিচারকে মেশিন লার্নিং মডেলে দেওয়ার আগে স্ট্যান্ডার্ডাইজ করা।

Scaling ও Shifting

• Shifting ($Y = X + b$): $X$-এর প্রতিটা সম্ভাব্য মান একই নির্দিষ্ট পরিমাণ $b$ দিয়ে সরে যায়। ডিস্ট্রিবিউশনের আকৃতি একদমই বদলায় না — শুধু নাম্বার লাইনে বামে বা ডানে সরে যায়।
• Scaling ($Y = aX$): $X$-এর প্রতিটা সম্ভাব্য মান $a$ দিয়ে গুণ হয়। ডিস্ট্রিবিউশনের আকৃতি টেনে বড় হয় ($|a| > 1$ হলে) বা সংকুচিত হয় ($|a| < 1$ হলে), আর উল্টে যায় ($a < 0$ হলে)।

Transformation-এর ডিস্ট্রিবিউশনে প্রভাব

একটা ডিস্ট্রিবিউশনের সবচেয়ে কাজের দুইটা সামারি সংখ্যা — expectation আর variance, সম্পূর্ণভাবে সেকশন ১৫ আর ১৬-এ কভার করা হয়েছে — একটা linear transformation-এর অধীনে সহজ, প্রেডিক্টেবল উপায়ে বদলায়, আর এখানে এটা প্রিভিউ করার মতো, কারণ এটা এই সেকশনের সরাসরি ফলাফল:

১০. Random Vector

Random Vector কী?

এতক্ষণ, প্রতিটা random variable প্রতি আউটকামে একটা সংখ্যা প্রোডিউস করেছে। একটা random vector এটাকে জেনারেলাইজ করে একাধিক সংখ্যা প্রোডিউস করে, একসাথে বান্ডল করে: $\mathbf{X} = (X_1, X_2, \ldots, X_n)$। প্রতিটা $X_i$ নিজে একটা সাধারণ random variable, কিন্তু vector-টা এদের একটা মিলিত অবজেক্ট হিসেবে ধরে, কারণ বাস্তবে এগুলো সাধারণত একই আসল আউটকাম বর্ণনা করে আর একসাথে স্টাডি করার মতো — এদের একে অপরের সাথে সম্পর্কসহ।

Scalar Random Variable বনাম Random Vector

একাধিক Random Variable একসাথে

$X_1$ আর $X_2$-কে আলাদা আলাদাভাবে, একে একে স্টাডি করলে সম্ভাব্য গুরুত্বপূর্ণ তথ্য হারিয়ে যায়: এরা একসাথে চলে কিনা, বিপরীতভাবে চলে কিনা, নাকি একে অপরের সাথে কোনো সম্পর্কই নেই। একটা random vector হলো সেই নোটেশন, যেটা এই সম্পর্কের তথ্যটা অক্ষত রাখে, সেকশন ১১–১৪-তে যা কভার করা হয়েছে তার ভিত্তি তৈরি করে (জয়েন্ট, মার্জিনাল, কন্ডিশনাল ডিস্ট্রিবিউশন, আর ইনডিপেন্ডেন্স)।

ফিচার ভেক্টর একটা Random Vector হিসেবে

এটাই ঠিক সেই জিনিস যাকে মেশিন লার্নিং ফিচার ভেক্টর বলে। একটা ডেটাসেটের একটা সারি — ধরো একজন মানুষের (বয়স, আয়, শিক্ষাবর্ষ) — একটা random vector: প্রতিটা কলাম একটা কম্পোনেন্ট random variable, আর পুরো সারিটা সেই random vector-এর একটা রিয়েলাইজেশন (একটা নির্দিষ্ট আউটকাম)। একাধিক ইনপুট ফিচার নেয় এমন প্রতিটা মডেল, ফরমালি, random vector-এর উপর কাজ করছে।

Multivariate Random Variable-এর পরিচিতি

"Multivariate" মানে শুধু "একের বেশি random variable একসাথে জড়িত" — সেকশন ১১ থেকে ১৪ পর্যন্ত পুরো বিষয়টা এটাই। এই চ্যাপ্টারের বাকি অংশ, এখান থেকে, একটা একক random variable আলাদাভাবে স্টাডি করা থেকে সরে যায় দুই বা ততোধিক random variable একসাথে কীভাবে সম্পর্কিত সেটা স্টাডি করার দিকে — যেখানে আসল ডেটাসেটের জন্য সবচেয়ে কাজের মেশিনারি থাকে।

১১. Joint Random Variable

Joint Random Variable

যখন দুইটা (বা বেশি) random variable একই এক্সপেরিমেন্ট থেকে আসে, তাদের জয়েন্ট ডিস্ট্রিবিউশন বর্ণনা করে তারা একসাথে নির্দিষ্ট মানের কম্বিনেশন নেওয়ার প্রোবাবিলিটি — শুধু আলাদা আলাদাভাবে না। এটা সেকশন ১০-এর random vector-এর স্বাভাবিক পরবর্তী ধাপ: জয়েন্ট ডিস্ট্রিবিউশন হলো আসলে একটা random vector দিয়ে হিসাব করার উপায়।

Joint PMF

দুইটা discrete random variable $X$ আর $Y$-এর জন্য, joint PMF হলো:

$$p_{X,Y}(x,y) = P(X = x, Y = y)$$

যেখানে: এই একটা সংখ্যাই হলো প্রোবাবিলিটি যে $X$ সমান $x$ আর, একই সময়ে, $Y$ সমান $y$ — দুটো variable-এর উপরই একসাথে একটা জয়েন্ট কন্ডিশন, দুটো আলাদা কন্ডিশন আলাদাভাবে না।

Joint PDF

দুইটা continuous random variable-এর জন্য, joint PDF $f_{X,Y}(x,y)$ সেকশন ৬-এর সিঙ্গেল-ভেরিয়েবল PDF-এর মতোই ডেনসিটির ভূমিকা রাখে, কিন্তু এখন একটা দ্বিমাত্রিক অঞ্চলের উপর: $P((X,Y) \in A) = \iint_A f_{X,Y}(x,y)\, dx\, dy$, $x$-$y$ প্লেনের যেকোনো অঞ্চল $A$-এর জন্য।

Joint CDF

Joint CDF দুই দিকেই একসাথে প্রোবাবিলিটি জমা করে: $F_{X,Y}(x,y) = P(X \le x, Y \le y)$ — প্রোবাবিলিটি যে $X$ বেশি হলেও $x$ আর $Y$ বেশি হলেও $y$, একসাথে।

Joint Probability

"Joint probability" হলো এদের যেকোনোটার জন্য জেনারেল টার্ম — দুই বা তার বেশি random variable-এর মান একসাথে নিয়ে একটা প্রোবাবিলিটি স্টেটমেন্ট, একে একে না।

সাব-টপিক

P(X = x, Y = y)। Joint PMF-এর সংজ্ঞায়িত পরিমাণ — কমাটা পড়ো "আর" হিসেবে: দুটো কন্ডিশনই একসাথে সত্যি হওয়ার প্রোবাবিলিটি।

f(x, y)। Joint PDF — একমাত্রার বদলে দুই মাত্রার উপর একটা ডেনসিটি, আসল প্রোবাবিলিটি পেতে একটা লাইন-সেগমেন্ট না, একটা এরিয়ার উপর ইন্টিগ্রেট করা হয়।

Joint Distribution। $X$ আর $Y$ একসাথে কীভাবে আচরণ করে তার সম্পূর্ণ বর্ণনা — $x$ আর $y$-এর প্রতিটা কম্বিনেশনের জন্য প্রতিটা joint PMF বা PDF মান।

Joint Distribution থেকে প্রোবাবিলিটি। একক variable-এর মতোই, $X$ আর $Y$-এর মিলিত রেঞ্জের প্রোবাবিলিটি পাওয়া যায় জয়েন্ট ডিস্ট্রিবিউশনকে সংশ্লিষ্ট অঞ্চলের উপর যোগ (discrete) বা ইন্টিগ্রেট (continuous) করে।

"Independent features" প্রিসেট দিয়ে শুরু করো আর লক্ষ্য করো ইনডিপেন্ডেন্স ব্যানারটা সবুজ হয়ে যায়। তারপর "Strongly dependent"-এ বদলাও আর কন্ডিশনাল PMF প্যানেলের উপরে X=0, X=1, X=2 বাটনগুলোতে ক্লিক করো — দেখো $Y$-এর ডিস্ট্রিবিউশন কতটা তীব্রভাবে বদলায় কোন $X$-এ কন্ডিশন করছো তার উপর নির্ভর করে। এই বদলে যাওয়া কন্ডিশনাল ডিস্ট্রিবিউশনটাই dependence — চোখের সামনে দেখা।

১২. Marginal Distribution

Marginal Distribution কী?

$X$ আর $Y$-এর একটা joint distribution থাকলে, $X$-এর একার marginal distribution হলো $Y$-কে সম্পূর্ণ বাদ দিয়ে বের করা $X$-এর নিজের ডিস্ট্রিবিউশন — "$Y$-কে পুরোপুরি উপেক্ষা করলে $X$ দেখতে কেমন?" এটাকে "marginal" বলা হয়, কারণ উপরের প্লেগ্রাউন্ডের মতো একটা joint PMF টেবিলে, এই টোটালগুলো ঐতিহ্যগতভাবে টেবিলের মার্জিনে (সারি আর কলামের টোটাল) লেখা হয়।

Marginal PMF

$$p_X(x) = \sum_{y} p_{X,Y}(x, y)$$

ইনটুইশন: $Y$ যাই হোক না কেন, $X = x$ হওয়ার প্রোবাবিলিটি বের করতে, $(x,y)$-এর joint প্রোবাবিলিটি প্রতিটা সম্ভাব্য $y$ জুড়ে যোগ করো — $X$ যেভাবেই $x$ হোক না কেন, তার সাথে যেই $Y$ মানই আসুক না কেন, সবগুলো।

Marginal PDF

$$f_X(x) = \int_{-\infty}^{\infty} f_{X,Y}(x,y)\, dy$$

একই আইডিয়ার continuous ভার্সন: $Y$-এর প্রতিটা সম্ভাব্য মানের উপর joint ডেনসিটি ইন্টিগ্রেট করো, দ্বিমাত্রিক joint ডেনসিটিকে $X$-এর একার এক-মাত্রার মার্জিনাল ডেনসিটিতে নামিয়ে আনো।

Joint Distribution থেকে Marginal Distribution বের করা

উপরের প্লেগ্রাউন্ডের joint PMF টেবিলে, প্রতিটা সারির টোটাল (সেই সারি জুড়ে যোগফল) ঠিক সেই সারির $x$-মানের জন্য $p_X(x)$, আর প্রতিটা কলামের টোটাল ঠিক সেই কলামের $y$-মানের জন্য $p_Y(y)$ — তুমি যেই সারি আর কলাম টোটালগুলো দেখছো, সেগুলোই হলো মার্জিনাল ডিস্ট্রিবিউশন, স্লাইডার টানার সাথে সাথে লাইভ হিসাব করা।

সাব-টপিক

Discrete Variable-এর জন্য Summation। অন্য variable-এর প্রতিটা মানের উপর যোগ করলে সেটা বাদ পড়ে যায় আর একক-variable মার্জিনাল PMF পাওয়া যায়।

Continuous Variable-এর জন্য Integration। একই আইডিয়ার continuous ভার্সন — অন্য variable-এর প্রতিটা মানের উপর ইন্টিগ্রেট করো।

Joint বনাম Marginal Distribution।

১৩. Conditional Distribution

Conditional Random Variable

একটা conditional distribution বর্ণনা করে একটা random variable কীভাবে আচরণ করে যখন আরেকটা random variable-এর মান আগে থেকে জানা থাকে — এটা আগের চ্যাপ্টার Conditional Probability & Independence-এ শেখা conditional probability-র সরাসরি random-variable ভার্সন, শুধু একক ইভেন্টের বদলে পুরো ডিস্ট্রিবিউশনের উপর প্রয়োগ করা।

Conditional PMF

$$p_{Y \mid X}(y \mid x) = \frac{p_{X,Y}(x, y)}{p_X(x)}, \qquad p_X(x) > 0 \text{ হলে}$$

যেখানে: এটা ঠিক $(x,y)$-এর joint প্রোবাবিলিটি, $x$ একা কতটা সম্ভাব্য ছিল তা দিয়ে ভাগ করা — শুধু $X = x$ এমন আউটকামগুলোতে মনোযোগ সীমিত করা, তারপর সেই সীমিত অংশের মধ্যে $Y$-এর মধ্যে প্রোবাবিলিটি মাস কীভাবে ছড়ানো তা জিজ্ঞেস করা।

Conditional PDF

$$f_{Y \mid X}(y \mid x) = \frac{f_{X,Y}(x,y)}{f_X(x)}, \qquad f_X(x) > 0 \text{ হলে}$$

সরাসরি প্রোবাবিলিটির বদলে ডেনসিটি দিয়ে একই ভাগ — $(x,y)$-এ joint ডেনসিটি, $x$-এ মার্জিনাল ডেনসিটি দিয়ে রিস্কেল করা, যাতে ফলাফল কন্ডিশনাল ডেনসিটি $f_{Y\mid X}(\cdot \mid x)$, $y$-এর উপর ঠিক ১-এ ইন্টিগ্রেট হয়, যেমনটা যেকোনো বৈধ PDF-এর হওয়া উচিত।

Conditional Distribution

সেকশন ১১-এর প্লেগ্রাউন্ডে, একটা $X$ মান বাছাই করে দুইটা কন্ডিশনাল PMF কার্ড পড়াটাই ঠিক এই হিসাবটা, লাইভ করা: joint টেবিলের প্রতিটা সারিকে সেই সারির নিজের টোটাল (তার মার্জিনাল প্রোবাবিলিটি) দিয়ে ভাগ করলে, $Y$-এর একটা ডিস্ট্রিবিউশন পাওয়া যায় যেটা সেই একটা নির্দিষ্ট $X$-মানের জন্য নির্দিষ্ট।

Joint, Marginal ও Conditional Distribution-এর সম্পর্ক

এই তিনটা আইডিয়া একটা মাত্র, মনে রাখার মতো ইকুয়েশনে মিলে যায় — আগের চ্যাপ্টারের একই multiplication-rule প্যাটার্ন, এখন পুরো ডিস্ট্রিবিউশনে প্রয়োগ করা:

$$p_{X,Y}(x,y) = p_X(x) \cdot p_{Y \mid X}(y \mid x)$$

১৪. Random Variable-এর Independence

Independent Random Variable

দুইটা random variable $X$ আর $Y$ independent হয়, যদি একটার মান জানা অন্যটার সম্পর্কে একদমই কোনো নতুন তথ্য না দেয় — আগের চ্যাপ্টারের independent ইভেন্ট থেকে independent random variable-এর সরাসরি এক্সটেনশন।

Independence-এর সংজ্ঞা

$$p_{X,Y}(x,y) = p_X(x)\, p_Y(y) \quad \text{প্রতিটা } x, y \text{-এর জন্য}$$

(Continuous ক্ষেত্রে: $f_{X,Y}(x,y) = f_X(x)\,f_Y(y)$ প্রতিটা $x,y$-এর জন্য।)

যেখানে: Independence-এর জন্য চাই joint distribution সমান হবে দুটো মার্জিনালের গুণফলের, প্রতিটা $x$ আর $y$-এর কম্বিনেশনে — শুধু গড়ে না, আর শুধু কয়েকটা সুবিধাজনক কম্বিনেশনে না।

Independent Variable-এর Joint Distribution

যখন $X$ আর $Y$ independent, তাদের joint PMF/PDF শুধু দুইটা আলাদা, একক ডিস্ট্রিবিউশনের গুণফল ছাড়া কিছু না — পুরো দ্বিমাত্রিক joint টেবিল শুধু সারি টোটাল আর কলাম টোটাল থেকেই আবার বানানো যায়, কোনো এক্সট্রা তথ্য ছাড়াই।

Independent বনাম Dependent Random Variable

Conditional Independence

আগের চ্যাপ্টারের ইভেন্টের মতোই, দুইটা random variable সামগ্রিকভাবে dependent হতে পারে, কিন্তু একটা তৃতীয় random variable $Z$ জানা থাকলে conditionally independent হয়ে যেতে পারে: $p_{X,Y \mid Z}(x,y \mid z) = p_{X \mid Z}(x \mid z)\, p_{Y \mid Z}(y \mid z)$, প্রতিটা $z$-এর জন্য। এটা ঠিক Naive Bayes-এর পিছনের অনুমান (আগের চ্যাপ্টারের ML সেকশনে কভার করা হয়েছে): ফিচারগুলোকে conditionally independent ধরা হয় ক্লাস লেবেল দেওয়া থাকলে, যদিও সামগ্রিকভাবে এরা কোরিলেটেড হতে পারে।

উদাহরণ

১৫. Random Variable-এর Expectation

Expected Value কী?

একটা random variable-এর expected value (বা expectation, বা mean) হলো একটা মাত্র সংখ্যা, যা সামারাইজ করে "এর ডিস্ট্রিবিউশন কোথায় কেন্দ্রীভূত" — যদি তুমি আন্ডারলাইং এক্সপেরিমেন্টটা বিপুল সংখ্যকবার রিপিট করো আর ফলাফলের গড় নাও, তাহলে লং-রান যেই গড় মানটা পাবে।

Discrete Random Variable-এর Expectation

$$E[X] = \sum_{x} x \cdot p_X(x)$$

যেখানে: যোগ করার আগে প্রতিটা সম্ভাব্য মান $x$-কে তার নিজের প্রোবাবিলিটি $p_X(x)$ দিয়ে ওয়েট করা হয় — বেশি ঘটা মানগুলো গড়টাকে নিজেদের দিকে বেশি টানে।

Continuous Random Variable-এর Expectation

$$E[X] = \int_{-\infty}^{\infty} x \cdot f_X(x)\, dx$$

একই ওয়েটেড-অ্যাভারেজ আইডিয়া, যোগফলের বদলে ইন্টিগ্রাল আর PMF-এর বদলে PDF দিয়ে — ডেনসিটি $f_X(x)$ ঠিক discrete ক্ষেত্রে $p_X(x)$-এর মতো একই ওয়েটিং ভূমিকা রাখে।

Expected Value ব্যাখ্যা করা

$E[X]$ অগত্যা এমন একটা মান না, যা $X$ আসলেই নিতে পারে — এটা একটা কমন কনফিউশনের জায়গা। ৩টা ফেয়ার কয়েন টসে হেড সংখ্যার expected value $E[X] = 1.5$, যদিও "১.৫টা হেড" কোনো একক ৩-টসের সেটে সম্ভব আউটকাম না। $E[X]$ অনেক রিপিটিশনের লং-রান গড় বর্ণনা করে, কোনো একক নির্দিষ্ট ট্রায়ালের প্রেডিকশন না।

Expectation-এর Linearity

প্রোবাবিলিটির সবচেয়ে শক্তিশালী, সবচেয়ে বেশি ব্যবহৃত ফ্যাক্টগুলোর একটা: expectation linear, মানে এটা যোগফল আর কনস্ট্যান্ট গুণের উপর পরিষ্কারভাবে ভাগ হয় — আর, লক্ষণীয়ভাবে, এটা তখনও সত্যি যখন জড়িত random variable-গুলো একে অপরের উপর dependent:

$$E[aX + bY + c] = a\,E[X] + b\,E[Y] + c$$

যেখানে: $a$, $b$, $c$ যেকোনো কনস্ট্যান্ট। এটা $X$ আর $Y$ independent, কোরিলেটেড, বা যেকোনো কিছু হোক না কেন কাজ করে — এই ফ্যাক্টটাই expectation-কে এই চ্যাপ্টারের অন্য বেশিরভাগ পরিমাণের চেয়ে অনেক সহজে হিসাব করার মতো বানায়, যেগুলোর সাধারণত independence সম্পর্কে জানা লাগে।

সাব-টপিক

E[X]। Random variable-টার নিজের expected value — এর ভরকেন্দ্র।

E[g(X)]। $X$-এর কোনো ফাংশনের expected value, $g(x)$-কে (নিজে $x$ না) $X$-এর নিজের প্রোবাবিলিটি বা ডেনসিটি দিয়ে ওয়েট করে হিসাব করা: $E[g(X)] = \sum_x g(x)\,p_X(x)$, বা continuous $X$-এর জন্য সংশ্লিষ্ট ইন্টিগ্রাল। এভাবেই ঠিক পরের সেকশনে variance-এর জন্য দরকার $E[X^2]$ হিসাব করা হয়।

Weighted Average হিসেবে Expected Value। $E[X]$ বোঝার সবচেয়ে পরিষ্কার উপায়: এটা একটা গড়, যেখানে প্রতিটা সম্ভাব্য মানকে কতটা সম্ভাব্য তা দিয়ে ওয়েট করা হয়, একটা প্লেইন অ্যারিথমেটিক গড়ের মতো সব মানকে সমান গুরুত্ব না দিয়ে।

ব্যবহারিক উদাহরণ। একটা ইন্স্যুরেন্স কোম্পানি একটা পলিসি প্রাইস করে সব পলিসিহোল্ডারের উপর $E[\text{পেআউট}]$ দিয়ে। একটা ক্যাসিনো গেমের "হাউস এজ" ঠিক $-E[\text{প্লেয়ারের নেট জয়}]$। একটা রেকমেন্ডেশন সিস্টেম $E[\text{ক্লিক} \mid \text{ইউজার, আইটেম}]$ অনুমান করে কনটেন্ট র‍্যাঙ্ক করার জন্য।

১৬. Variance ও Standard Deviation

Random Variable-এর Variance

$E[X]$ বলে দেয় একটা ডিস্ট্রিবিউশন কোথায় কেন্দ্রীভূত, কিন্তু সেই কেন্দ্রের চারপাশে মানগুলো কতটা ছড়ানো তার কিছুই বলে না। Variance এই ফাঁকটা পূরণ করে: এটা মিন থেকে স্কয়ার্ড দূরত্বের expected value।

$$\text{Var}(X) = E[(X - E[X])^2] = E[X^2] - (E[X])^2$$

যেখানে: প্রথম ফর্মটা সরাসরি সংজ্ঞা — প্রতিটা মানের মিন থেকে স্কয়ার্ড দূরত্বের গড় নাও। দ্বিতীয় ফর্ম, $E[X^2] - (E[X])^2$, অ্যালজেব্রাইকভাবে একই, কিন্তু প্রায় সবসময় হিসাব করা অনেক সহজ, কারণ এতে শুধু $E[X]$ আর $E[X^2]$ লাগে (দুটোই সেকশন ১৫-এর সাধারণ expectation), মিন-কেন্দ্রিক নতুন কোনো হিসাব লাগে না।

Standard Deviation

$$\text{SD}(X) = \sqrt{\text{Var}(X)}$$

যেখানে: স্কয়ার রুট নিলে variance-এর ইউনিট ($X$-এর ইউনিটের বর্গ — যেমন "টাকা²") আবার $X$-এর নিজের ইউনিটে ফিরে আসে (যেমন "টাকা") — এই কারণেই সাধারণত variance না, standard deviation-টাই সরাসরি রিপোর্ট আর ব্যাখ্যা করা হয়।

Variance ব্যাখ্যা করা

একটা বড় variance মানে মানগুলো, গড়ে, মিন থেকে দূরে — বেশি ছড়ানো, কম প্রেডিক্টেবল ডিস্ট্রিবিউশন। ঠিক ০ variance মানে প্রতিটা আউটকামই ঠিক মিন-এর সমান — এমন একটা random variable যা আসলে random-ই না, এই অর্থে যে এটা কখনো মিন থেকে সরে না।

Standard Deviation ব্যাখ্যা করা

Standard deviation হলো "মিন থেকে সাধারণ দূরত্ব," আসল variable যেই ইউনিটে মাপা হয়েছে সেই একই ইউনিটে — এই কারণেই একটা উচ্চতা ডিস্ট্রিবিউশনের SD সেন্টিমিটারে রিপোর্ট করা হয়, "সেন্টিমিটার স্কয়ার"-এ না। একটা ছোট SD মানে বেশিরভাগ মান মিন-এর কাছাকাছি জমে থাকে; একটা বড় SD মানে মান প্রায়ই মিন থেকে অনেক দূরে পাওয়া যায়।

সাব-টপিক

Var(X)। উপরে সংজ্ঞায়িত variance-টা নিজে।

E[X²]। $X$-এর "সেকেন্ড মোমেন্ট" — $X$ স্কয়ারের expected value, ঠিক অন্য যেকোনো $E[g(X)]$-এর মতো হিসাব করা হয়, সেকশন ১৫ থেকে, $g(x) = x^2$ দিয়ে। এই পরিমাণটাই শর্টকাট variance ফর্মুলাকে এত সুবিধাজনক বানায়।

Variance ও Standard Deviation-এর সম্পর্ক। SD শুধুই $\sqrt{\text{Var}}$; সমতুল্যভাবে, $\text{Var} = \text{SD}^2$। এরা ছড়ানো সম্পর্কে ঠিক একই তথ্য বহন করে, শুধু আলাদা ইউনিটে প্রকাশ করা।

Scaling-এর প্রভাব। সেকশন ৯-এর transformation নিয়ম থেকে সরাসরি চালিয়ে: $\text{Var}(aX+b) = a^2\,\text{Var}(X)$, আর তাই $\text{SD}(aX+b) = |a|\,\text{SD}(X)$। $a$ দিয়ে স্কেল করলে standard deviation ঠিক $|a|$ দিয়ে টানা হয়; $b$ দিয়ে শিফট করলে কোনো প্রভাব নেই।

১৭. Covariance ও Correlation

Covariance

Covariance মাপে দুইটা random variable একসাথে একই দিকে চলে কিনা। এটা variance-এর স্বাভাবিক দুই-variable এক্সটেনশন — একটা variable-এর নিজের বিপরীতে ছড়ানো মাপার বদলে, এটা মাপে একটা variable-এর মিন থেকে বিচ্যুতি আরেকটার সাথে কতটা মেলে।

$$\text{Cov}(X,Y) = E[(X - E[X])(Y - E[Y])] = E[XY] - E[X]E[Y]$$

যেখানে: দ্বিতীয়, শর্টকাট ফর্মটাই আবার ব্যবহারিকভাবে সহজ — $E[XY]$ (গুণফলের expectation), $E[X]$, আর $E[Y]$ থেকে হিসাব করা, যেগুলো সবই সরাসরি joint আর marginal distribution থেকে আসে।

Positive বনাম Negative Covariance

Zero Covariance

Correlation

যেহেতু covariance-এর কাঁচা সাইজ $X$ আর $Y$ যেই ইউনিটে মাপা হয়েছে তার উপর নির্ভর করে (উচ্চতা সেন্টিমিটার থেকে মিটারে বদলালে covariance-এর সংখ্যা বদলে যায়, যদিও আসল সম্পর্কটা মোটেও বদলায়নি), correlation covariance-কে $-1$ আর $1$-এর মধ্যে একটা ইউনিটহীন সংখ্যায় রিস্কেল করে:

$$\rho_{X,Y} = \frac{\text{Cov}(X,Y)}{\text{SD}(X)\,\text{SD}(Y)}$$

যেখানে: দুটো standard deviation দিয়ে ভাগ করলে ইউনিটগুলো সম্পূর্ণভাবে বাতিল হয়ে যায়, লিনিয়ার সম্পর্কের শক্তি আর দিক-এর একদম বিশুদ্ধ মাপ থেকে যায়: $\rho = 1$ একটা নিখুঁত পজিটিভ লিনিয়ার সম্পর্ক, $\rho = -1$ একটা নিখুঁত নেগেটিভ, আর $\rho = 0$ মানে কোনো লিনিয়ার সম্পর্কই নেই।

Covariance বনাম Correlation

সাব-টপিক

Cov(X,Y)। উপরে সংজ্ঞায়িত covariance-টা নিজে — যেখান থেকে correlation হিসাব করা হয়, সেই বিল্ডিং ব্লক।

Pearson Correlation। উপরের নির্দিষ্ট, সবচেয়ে কমন correlation ফর্মুলা, Karl Pearson-এর নামে; এটা শুধু লিনিয়ার সম্পর্ক ধরে (উপরের Warning দেখো)।

Variable-দের সম্পর্ক। Covariance আর correlation হলো দুইটা স্ট্যান্ডার্ড টুল, যা দিয়ে একটা মাত্র সংখ্যায় বলা যায় দুইটা random variable-এর মান একসাথে কতটা চলে।

ML-এ ফিচার সম্পর্ক। ফিচার কোরিলেশন ম্যাট্রিক্স — একটা ডেটাসেটের প্রতিটা কলাম জোড়ার $\rho$ মানের টেবিল — এক্সপ্লোরেটরি ডেটা অ্যানালাইসিসের একটা স্ট্যান্ডার্ড প্রথম ধাপ, রিডান্ডেন্ট ফিচার (খুব বেশি $|\rho|$) বা অপ্রত্যাশিত সম্পর্ক খুঁজে বের করতে ব্যবহৃত হয়।

সেকশন ১১-এর প্লেগ্রাউন্ডে ফিরে গিয়ে "Mild positive relationship" প্রিসেট ট্রাই করো — লক্ষ্য করো Cov(X,Y) আর correlation দুটোই পজিটিভ, কিন্তু তাদের সর্বোচ্চ মানের কাছাকাছি না — প্রিসেটের সেলগুলোর "কিছুটা, পুরোপুরি না" সম্পর্কের সাথে মিলে।

১৮. মেশিন লার্নিং-এ Random Variable

এই পুরো চ্যাপ্টারের মেকানিজম — PMF, PDF, CDF, joint/marginal/conditional distribution, independence, expectation, variance, covariance — মেশিন লার্নিং থেকে আলাদা রাখা কোনো বিমূর্ত গণিত না। এটাই মেশিন লার্নিং যে ভোকাবুলারি দিয়ে তৈরি, ঠিক সেটা।

Random Variable হিসেবে ফিচার

একটা ট্রেনিং ডেটাসেটের প্রতিটা কলাম — বয়স, পিক্সেল ব্রাইটনেস, শব্দ ফ্রিকোয়েন্সি — একটা random variable ধরা হয়, যা একটা আন্ডারলাইং (সাধারণত অজানা) ডিস্ট্রিবিউশন থেকে স্যাম্পল করা। একটা মডেল "সেই" বয়স কলামটাকে ফিক্সড লিস্ট হিসেবে দেখে না; স্ট্যাটিস্টিক্যালি, এটা প্রতিটা সারির বয়সকে একটা বয়স random variable থেকে বের হওয়া একটা রিয়েলাইজড মান হিসেবে ধরে।

Random Variable হিসেবে Target Variable

তুমি যে লেবেল বা টার্গেট প্রেডিক্ট করতে চাও — "স্প্যাম নাকি না," "বাড়ির দাম," "পরের শব্দ" — সেটাও একটা random variable, প্রায়ই লেখা হয় $Y$। সুপারভাইজড লার্নিং, এই ভাষায়, হলো conditional distribution $P(Y \mid X)$ (সেকশন ১৩)-এর কাছাকাছি কিছু শেখার কাজ — ইনপুট ফিচার দেওয়া থাকলে টার্গেটটা দেখতে কেমন।

Random Variable-এর স্যাম্পল হিসেবে ডেটাসেট

$n$-সারির একটা ডেটাসেটকে একই আন্ডারলাইং random vector-এর (সেকশন ১০) $n$টা independent রিয়েলাইজেশন হিসেবে ধরা হয় — প্রতিটা সারি $(X_1, \ldots, X_p, Y)$-এর একটা স্যাম্পল।

ফিচারের Probability Distribution

একটা ফিচার মোটামুটি uniform, তীক্ষ্ণভাবে পিকড, স্কিউড, নাকি মাল্টি-মোডাল (এর PMF বা PDF আকৃতি) — এটা বোঝা সরাসরি মডেলিং সিদ্ধান্তে প্রভাব ফেলে — যেমন, একটা ফিচারকে নির্দিষ্ট মডেলে দেওয়ার আগে লগ-ট্রান্সফর্ম দরকার কিনা, বা এক্সট্রিম ভ্যালুর জন্য স্পেশাল হ্যান্ডলিং দরকার কিনা।

Continuous বনাম Discrete ফিচার

ফিচারের Joint Distribution

আসল ডেটাসেটে প্রায় কখনোই ফিচার independent থাকে না — বয়স আর আয়, উদাহরণস্বরূপ, সাধারণত কোরিলেটেড (সেকশন ১৭)। এমন মডেল যা ফিচারগুলোর joint distribution হিসাবে নেয় (প্রতিটাকে আলাদাভাবে না ধরে), এমন ইন্টারঅ্যাকশন ধরতে পারে যা একটা নিষ্পাপ independent মডেল সম্পূর্ণ মিস করবে।

Conditional Distribution

প্রায় প্রতিটা প্রেডিক্টিভ মডেল, মূলত, একটা conditional distribution অনুমান করছে: একটা ক্লাসিফায়ার অনুমান করে $P(\text{class} \mid \text{features})$, একটা রিগ্রেশন মডেল অনুমান করে $E[Y \mid X]$ ($X$ দেওয়া থাকলে $Y$-এর conditional distribution-এর মিন), আর একটা জেনারেটিভ মডেল সম্পূর্ণ conditional distribution $P(\text{output} \mid \text{input})$ অনুমান করে, শুধু এর মিন না।

ML-এ Expected Value

মডেল ট্রেইন করতে ব্যবহৃত loss function নিজেই expectation। Squared error মিনিমাইজ করে মডেল ট্রেইন করা, ফরমালি, ট্রেনিং ডিস্ট্রিবিউশন জুড়ে $E[(Y - \hat{Y})^2]$-এর একটা অনুমান মিনিমাইজ করা — সেকশন ১৬-এর variance-এর সংজ্ঞাটাই, একটা কাঁচা random variable-এর বদলে prediction error-এ প্রয়োগ করা।

ML-এ Variance

(bias-variance অর্থে) একটা হাই-variance মডেল এমন প্রেডিকশন দেয় যা কোন নির্দিষ্ট ট্রেনিং সেট দেখেছে তার উপর নির্ভর করে দারুণভাবে দুলতে থাকে — এটা সরাসরি এই চ্যাপ্টারের variance-এর সাথে সম্পর্কিত, কারণ এটা মাপে ট্রেনিং ডেটার আলাদা আলাদা র‍্যান্ডম স্যাম্পল জুড়ে মডেলের আউটপুট কতটা ছড়ানো।

ফিচার অ্যানালাইসিসে Covariance

Principal Component Analysis (PCA), সবচেয়ে বেশি ব্যবহৃত ডাইমেনশনালিটি-রিডাকশন টেকনিকগুলোর একটা, সরাসরি একটা ডেটাসেটের covariance matrix-এর উপর কাজ করে — প্রতিটা ফিচার জোড়ার $\text{Cov}(X_i, X_j)$ মানের (সেকশন ১৭) একটা পূর্ণ গ্রিড — যেই দিকগুলোতে ডেটা সবচেয়ে বেশি ভ্যারি করে তা খুঁজে বের করার জন্য।

১৯. Practice Problems

সমাধান দেখার আগে নিজে চেষ্টা করো — প্রতিটা প্রশ্ন এই চ্যাপ্টারের একটা নির্দিষ্ট স্কিল টার্গেট করে।

১. Discrete বনাম Continuous চেনা। প্রতিটাকে ক্লাসিফাই করো: (ক) একটা রচনায় বানান ভুলের সংখ্যা, (খ) ১০০ মিটার দৌড়ের সঠিক সময়, (গ) একটা পরিবারে সন্তানের সংখ্যা, (ঘ) একটা বোতলে পানির সঠিক আয়তন।
সমাধান: (ক) discrete, (খ) continuous, (গ) discrete, (ঘ) continuous — (ক) আর (গ) গণনা; (খ) আর (ঘ) মাপজোখ।

২. একটা PMF বানানো। একটা ব্যাগে ৩টা লাল আর ২টা নীল বল। একটা বল তোলো; $X = 1$ যদি লাল, $X = 0$ যদি নীল। PMF বানাও।
সমাধান: $P(X=1) = \frac{3}{5} = 0.6$, $P(X=0) = \frac{2}{5} = 0.4$। চেক: $0.6 + 0.4 = 1$ ✓ বৈধ PMF।

৩. PMF থেকে প্রোবাবিলিটি হিসাব। সেকশন ৫-এর ডিফেক্টিভ-ইউনিট PMF ব্যবহার করে ($p(0){=}0.66, p(1){=}0.26, p(2){=}0.06, p(3){=}0.015, p(4){=}0.005$), $P(X \ge 2)$ বের করো।
সমাধান: $P(X \ge 2) = 0.06 + 0.015 + 0.005 = 0.08$।

৪. একটা PDF ব্যাখ্যা করা। একটা PDF দেওয়া আছে $f(x) = 2x$, $0 \le x \le 1$-এর জন্য, বাকি জায়গায় ০। এটা বৈধ কিনা কনফার্ম করো, আর $f(0.9) = 1.8$ মানে কী ব্যাখ্যা করো।
সমাধান: $\int_0^1 2x\, dx = [x^2]_0^1 = 1$ ✓ বৈধ। $f(0.9) = 1.8$ একটা ডেনসিটি, প্রোবাবিলিটি না — মানে $X$-এর মান ০.৯-এর কাছাকাছি হওয়ার ডেনসিটি বেশি, ০.১-এর কাছাকাছি হওয়ার চেয়ে (যেখানে $f(0.1) = 0.2$), তাই রেঞ্জের উপরের দিকের মানগুলো তুলনামূলক বেশি সম্ভাব্য।

৫. PDF থেকে প্রোবাবিলিটি হিসাব। প্রবলেম ৪-এর $f(x) = 2x$, $[0,1]$-এ ব্যবহার করে $P(0.5 \le X \le 1)$ বের করো।
সমাধান: $\int_{0.5}^{1} 2x\, dx = [x^2]_{0.5}^{1} = 1 - 0.25 = 0.75$।

৬. একটা CDF বানানো। প্রবলেম ২-এর বল-তোলার $X$ ব্যবহার করে, $x = 0$ আর $x = 1$-এর জন্য $F(x)$ বানাও।
সমাধান: $F(0) = P(X \le 0) = 0.4$। $F(1) = P(X \le 1) = 0.4 + 0.6 = 1.0$।

৭. Expected Value হিসাব। একটা ফেয়ার ডাইস রোলের জন্য, $E[X]$ হিসাব করো।
সমাধান: $E[X] = \frac{1+2+3+4+5+6}{6} = \frac{21}{6} = 3.5$।

৮. Variance হিসাব। দুইটা কয়েন টস; $X$ = হেড সংখ্যা, $P(X{=}0){=}0.25, P(X{=}1){=}0.5, P(X{=}2){=}0.25$। $\text{Var}(X)$ বের করো।
সমাধান: $E[X] = (0)(0.25)+(1)(0.5)+(2)(0.25) = 1$। $E[X^2] = (0)(0.25)+(1)(0.5)+(4)(0.25) = 1.5$। $\text{Var}(X) = 1.5 - 1^2 = 0.5$।

৯. Standard Deviation হিসাব। প্রবলেম ৮-এর variance ব্যবহার করে $\text{SD}(X)$ বের করো।
সমাধান: $\text{SD}(X) = \sqrt{0.5} \approx 0.707$।

১০. Covariance হিসাব। দুইটা random variable-এর joint PMF: $P(0,0){=}0.4, P(0,1){=}0.1, P(1,0){=}0.1, P(1,1){=}0.4$। $\text{Cov}(X,Y)$ বের করো।
সমাধান: $E[X]=E[Y]=0.5$ প্রতিটা। $E[XY] = (1)(1)(0.4) = 0.4$ (শুধু $(1,1)$ সেলটাই কন্ট্রিবিউট করে, কারণ বাকি জায়গায় $XY=0$)। $\text{Cov}(X,Y) = 0.4 - (0.5)(0.5) = 0.15$ — পজিটিভ, তাই $X$ আর $Y$ একসাথে চলার প্রবণতা রাখে।

১১. Joint ও Marginal Distribution প্রবলেম। প্রবলেম ১০-এর joint PMF ব্যবহার করে, marginal $P(X=0)$ আর conditional $P(Y=1 \mid X=0)$ বের করো।
সমাধান: $P(X=0) = 0.4 + 0.1 = 0.5$। $P(Y=1 \mid X=0) = \frac{P(X{=}0,Y{=}1)}{P(X{=}0)} = \frac{0.1}{0.5} = 0.2$।

Chapter Summary

শেখার সুপারিশকৃত ক্রম