অধ্যায় 6.5

সিউডো-ইনভার্স

Pseudo-inverse

যখন আসল ইনভার্স নেই — তখনও কিছু একটা চাই

≈ ১২ মিনিট

Ax = b-এর হয় কোনো সমাধান নেই, নয়তো অসীম সমাধান — এমন অবস্থায়ও মেশিন লার্নিং-এর সমস্যাগুলো একটি ‘সবচেয়ে ভালো’ উত্তর চায়। সেই উত্তরের নাম pseudo-inverse, বা A⁺।

কেন দরকার

  • A আয়তাকার (m ≠ n) — সাধারণ ইনভার্স অর্থহীন।
  • A বর্গাকার কিন্তু singular।
  • Ax = b-এর সঠিক সমাধান নেই, কিন্তু ‘least-squares’ approximate চাই।

এই সব অবস্থায় Moore-Penrose pseudo-inverse A⁺ ব্যবহৃত হয়।

সংজ্ঞা — চারটি শর্ত

  1. A A⁺ A = A
  2. A⁺ A A⁺ = A⁺
  3. (A A⁺)ᵀ = A A⁺
  4. (A⁺ A)ᵀ = A⁺ A

প্রতিটি A-এর জন্য ঠিক একটিই A⁺ এই চার শর্ত মেটায়।

দুটি বিশেষ রূপ

A লম্বা (m > n), পূর্ণ কলাম-র‍্যাঙ্ক হলে:

A চওড়া (m < n), পূর্ণ সারি-র‍্যাঙ্ক হলে:

Least-squares সমাধান

Ax = b-এর সঠিক সমাধান না থাকলে — আমরা চাই ‖Ax − b‖ সবচেয়ে ছোট করা x। উত্তর:

প্রয়োগ

  • Linear regression — w = (XᵀX)⁻¹Xᵀy আসলে w = X⁺y।
  • Recommendation systems — অসম্পূর্ণ ম্যাট্রিক্সের approximate inverse।
  • Computer vision — overdetermined সমীকরণে best-fit।
  • Neural networks — কিছু solver-এ initialization।

ধর্ম

  • A invertible হলে A⁺ = A⁻¹।
  • (A⁺)⁺ = A।
  • (Aᵀ)⁺ = (A⁺)ᵀ।
  • Rank A = Rank A⁺।

মূল ভাবনা

  • 1.A⁺ — যেকোনো A-এর জন্য সংজ্ঞায়িত ‘সবচেয়ে কাছের’ ইনভার্স।
  • 2.Least-squares সমাধান x̂ = A⁺b।
  • 3.Linear regression-এর হৃদয়।
  • 4.SVD দিয়ে সবচেয়ে নিরাপদভাবে বের করা যায়।

নিজেকে যাচাই করো

প্রশ্নে ক্লিক করে উত্তর দেখো — তবে আগে নিজে চেষ্টা করো।

প্রশ্ন 1A invertible হলে A⁺ = ?
উত্তর:A⁻¹।
প্রশ্ন 2লম্বা A (m > n), পূর্ণ কলাম-র‍্যাঙ্ক — A⁺-এর সূত্র?
উত্তর:(AᵀA)⁻¹ Aᵀ।
প্রশ্ন 3Ax = b-এর least-squares সমাধান?
উত্তর:x̂ = A⁺ b।
প্রশ্ন 4Linear regression-এ A⁺-এর ভূমিকা কী?
উত্তর:ভার w = X⁺y সরাসরি দেয়।

ইন্টারেক্টিভ কুইজ

মূল ভাবনার উপর দ্রুত যাচাই — সঠিক বিকল্পটি বাছাই করো।

প্রশ্ন 1“সিউডো-ইনভার্স” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 2“সিউডো-ইনভার্স” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 3“সিউডো-ইনভার্স” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 4“সিউডো-ইনভার্স” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
উত্তর দেওয়া হয়েছে: 0/4