← পাঠ্যসূচি
100%
অধ্যায় 13.4
নিম্ন-র্যাঙ্ক আসন্ন মান
Low-rank Approximation
Eckart–Young উপপাদ্য — কম্প্রেশনের গাণিতিক ভিত্তি
≈ ১০ মিনিট
একটি ১০০০×১০০০ ছবি মানে ১০ লাখ সংখ্যা। কিন্তু SVD-এর প্রথম ৫০টি singular value-ই হয়তো ছবির ৯৯% "তথ্য" ধরে রাখে। বাকিগুলো প্রায় শূন্য — এদের ছেঁটে ফেললে স্টোরেজ ১০× কমে কিন্তু ছবি প্রায় একই থাকে।
Sum-of-outer-products রূপ
প্রতিটি পদ একটি rank-1 ম্যাট্রিক্স। বড় σ-যুক্ত পদগুলোই A-এর মূল কাঠামো বহন করে।
Truncated SVD
শুধু প্রথম k পদ রাখলে rank-k আসন্ন মান।
Eckart–Young উপপাদ্য
Aₖ হলো A-এর **সর্বোত্তম** rank-k আসন্ন মান — Frobenius ও spectral উভয় norm-এ:
ভুল = ছেঁটে ফেলা singular value-গুলোর বর্গের যোগফল।
ছবি কম্প্রেশন উদাহরণ
- ১০০০×১০০০ ছবি = ১০⁶ সংখ্যা।
- k=৫০ truncated SVD ≈ ১০⁵ সংখ্যা।
- ১০× কম স্টোরেজ, চাক্ষুষভাবে প্রায় একই।
AI-প্রসঙ্গ
- Recommender: user-item ম্যাট্রিক্সের low-rank approximation = latent factor model।
- LSA/LDA: টেক্সটে latent topic আবিষ্কার।
- LoRA: pre-trained weight + low-rank update — fine-tuning-এর বিপ্লব।
- Noise reduction: ছোট σ = noise ধরে ফেলে দেওয়া।
মূল ভাবনা
- 1.A = Σ σᵢ uᵢ vᵢᵀ — rank-1 পদের যোগ।
- 2.Aₖ = প্রথম k পদ = সর্বোত্তম rank-k আসন্ন মান।
- 3.ভুল² = বাদ পড়া σ-এর বর্গের যোগ।
- 4.কম্প্রেশন, denoising, LoRA-এর ভিত্তি।
নিজেকে যাচাই করো
প্রশ্নে ক্লিক করে উত্তর দেখো — তবে আগে নিজে চেষ্টা করো।
প্রশ্ন 1।Eckart–Young কী বলে?
উত্তর:Truncated SVD সর্বোত্তম rank-k আসন্ন মান।
প্রশ্ন 2।‖A - Aₖ‖_F² = ?
উত্তর:Σ_{i>k} σᵢ²।
প্রশ্ন 3।ছবি কম্প্রেশনে কোন σ ফেলা হয়?
উত্তর:ছোট σ — কম তথ্য বহন করে।
ইন্টারেক্টিভ কুইজ
মূল ভাবনার উপর দ্রুত যাচাই — সঠিক বিকল্পটি বাছাই করো।
প্রশ্ন 1।“নিম্ন-র্যাঙ্ক আসন্ন মান” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 2।“নিম্ন-র্যাঙ্ক আসন্ন মান” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 3।“নিম্ন-র্যাঙ্ক আসন্ন মান” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 4।“নিম্ন-র্যাঙ্ক আসন্ন মান” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
উত্তর দেওয়া হয়েছে: 0/4