অধ্যায় 20.2

ম্যাট্রিক্স নর্ম

Matrix Norms

Frobenius, Spectral

≈ ৮ মিনিট

ম্যাট্রিক্সের "আকার" কীভাবে মাপি? Norm — এই প্রশ্নের উত্তর। ML-এ regularization, optimization — সব norm-নির্ভর।

Norm-এর শর্ত

  • ‖A‖ ≥ 0, = 0 ⟺ A = 0।
  • ‖cA‖ = |c| · ‖A‖।
  • ‖A + B‖ ≤ ‖A‖ + ‖B‖।
  • Matrix-এ: ‖AB‖ ≤ ‖A‖ · ‖B‖।

Frobenius norm

  • সমস্ত entry-র Euclidean norm।
  • Singular value-এর sum of squares।
  • Differentiable।
  • NN weight regularization (L2)।

Spectral norm

  • সর্বোচ্চ singular value।
  • A কতটুকু stretch করে।
  • GAN-এ spectral normalization।
  • Lipschitz constant।

অন্যান্য norm

  • ‖A‖_1 = max column sum।
  • ‖A‖_∞ = max row sum।
  • Nuclear ‖A‖_* = Σσ_i — low-rank promoting।

ML-এ প্রয়োগ

  • Weight decay = ‖W‖_F²।
  • Gradient clipping ‖g‖ ≤ τ।
  • Lipschitz network = spectral bounded।
  • Matrix completion = nuclear norm min।
উদাহরণ
Defective ম্যাট্রিক্সে Jordan ব্লক

A = [[5, 1], [0, 5]] — λ = 5 (algebraic multiplicity 2)।

(A − 5I) = [[0, 1], [0, 0]] → rank 1, null-space dim = 1 (geometric multiplicity 1)।

শুধু একটি eigenvector v₁ = (1, 0)। ডায়াগোনালাইজ করা যায় না।

Generalized eigenvector: (A − 5I)v₂ = v₁ → v₂ = (0, 1)।

Jordan form: J = [[5, 1], [0, 5]] — এটি একটি একক Jordan block।

A = PJP⁻¹ যেখানে P = [v₁ | v₂] = I — এই বিশেষ ক্ষেত্রে A নিজেই Jordan form।

মূল ভাবনা

  • 1.Norm = matrix-এর আকার।
  • 2.Frobenius = sqrt(Σσ²)।
  • 3.Spectral = σ_max।
  • 4.Nuclear = Σσ।

নিজেকে যাচাই করো

প্রশ্নে ক্লিক করে উত্তর দেখো — তবে আগে নিজে চেষ্টা করো।

প্রশ্ন 1‖I_n‖_F?
উত্তর:√n।
প্রশ্ন 2‖A‖_2 = ‖A‖_F কখন?
উত্তর:Rank 1 matrix-এ।
প্রশ্ন 3Spectral norm কেন?
উত্তর:GAN-এ Lipschitz bound, training stable।
প্রশ্ন 4কখন একটি ম্যাট্রিক্স diagonalizable নয়?
উত্তর:যখন কোনো eigenvalue-এর geometric multiplicity < algebraic multiplicity — অর্থাৎ যথেষ্ট স্বাধীন eigenvector নেই।
প্রশ্ন 5Jordan form-এর গুরুত্ব?
উত্তর:যেকোনো square matrix (জটিল সংখ্যায়) Jordan form-এ আনা যায়। এতে A-এর গঠন সম্পূর্ণ ধরা পড়ে — eigenvalue, multiplicity, এবং chain দৈর্ঘ্য।

ইন্টারেক্টিভ কুইজ

মূল ভাবনার উপর দ্রুত যাচাই — সঠিক বিকল্পটি বাছাই করো।

প্রশ্ন 1“ম্যাট্রিক্স নর্ম” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 2“ম্যাট্রিক্স নর্ম” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 3“ম্যাট্রিক্স নর্ম” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 4“ম্যাট্রিক্স নর্ম” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
উত্তর দেওয়া হয়েছে: 0/4