কনভোলিউশন = ম্যাট্রিক্স

1D Convolution

Input x = [x₁, x₂, x₃, x₄], kernel k = [k₁, k₂]। Output y_i = k₁ x_i + k₂ x_{i+1}।

Toeplitz ম্যাট্রিক্স

যে ম্যাট্রিক্সের প্রতিটি diagonal-এ একই মান। Convolution সবসময় এমন একটি ম্যাট্রিক্স দিয়ে গুণ — কিন্তু আমরা সেই ম্যাট্রিক্স কখনো explicitly বানাই না (অনেক ০, অপচয়)।

Parameter sharing

• Fully-connected: H·W·H'·W' parameter।
• Convolution: শুধু k×k parameter — পুরো ছবিতে একই।
• এটিই CNN-এর efficiency-এর মূল।
• Translation invariance — filter সব জায়গায় একই কাজ করে।

2D Convolution

Input I (H×W), kernel K (k×k)। Output:

Stride, padding, dilation

• Stride: কত pixel এক ধাপে এগোবে।
• Padding: কিনারে ০ যোগ — output আকার রক্ষা।
• Dilation: kernel-এ ফাঁক — receptive field বাড়ায়।
• Output size: ⌊(H + 2p − k)/s⌋ + 1।