টেনসর বিভাজন
Tensor Decompositions
CP, Tucker — এবং বইয়ের সমাপ্তি
≈ ১০ মিনিট
Matrix-এর SVD আমরা জানি। 3D, 4D tensor-এর জন্য? CP ও Tucker — high-dimensional data বিশ্লেষণের শক্তি। এবং এখানেই আমাদের গাণিতিক যাত্রার সমাপ্তি — কিন্তু তোমার শুরু।
Tensor কেন?
Matrix = 2D। বাস্তব data প্রায়ই higher-order: user × item × time, image (H × W × C × N), 3D conv weight। Tensor decomposition দরকার।
CP Decomposition
Rank-R CP: R-টি rank-1 tensor-এর যোগফল। SVD-এর natural generalization।
Tucker Decomposition
- G = core tensor।
- U, V, W = factor matrix।
- HOSVD = Tucker-এর বিশেষ ক্ষেত্র।
- PCA-এর tensor version।
CP vs Tucker
- CP: কম parameter, rank নির্ণয় NP-hard।
- Tucker: flexible, multilinear rank সহজ।
- CP unique (শর্তসাপেক্ষে), Tucker না।
ML-এ প্রয়োগ
- Recommender: user × item × context।
- NN compression: weight low-rank।
- Video (space × time) analysis।
- Knowledge graph embedding।
- Quantum simulation।
আধুনিক সংযোগ
- Tensor Network (MPS) — physics থেকে ML-এ।
- Transformer KV cache compression।
- LoRA-র tensor extension গবেষণায়।
Part 20 থেকে Part 21-এ যাত্রা
Tensor decomposition দিয়ে আমরা ম্যাট্রিক্সের সীমা পেরিয়ে high-order data-র জগতে পা রাখলাম। কিন্তু এখনো বহু গভীর প্রশ্ন বাকি: random matrix-গুলোর spectrum কেমন? quantum গণনায় ম্যাট্রিক্সের ভূমিকা কী? non-linear manifold-এ ডেটা থাকলে কীভাবে dimension কমাবো? এই সব আধুনিক frontier-ই Part 21-এর বিষয়।
মূল ভাবনা
- 1.Tensor = high-order array।
- 2.CP: rank-1 outer product যোগফল।
- 3.Tucker: core × factor matrices।
- 4.Modern AI-তে সর্বত্র।
নিজেকে যাচাই করো
প্রশ্নে ক্লিক করে উত্তর দেখো — তবে আগে নিজে চেষ্টা করো।
প্রশ্ন 1।CP vs Tucker?
প্রশ্ন 2।Tensor rank কেন কঠিন?
প্রশ্ন 3।NN compression-এ?
ইন্টারেক্টিভ কুইজ
মূল ভাবনার উপর দ্রুত যাচাই — সঠিক বিকল্পটি বাছাই করো।