← পাঠ্যসূচি
100%
অধ্যায় 15.3
কনভেক্সিটি
Convexity
এক চূড়া — যেখানে gradient descent অবশ্যই global minimum পায়
≈ ৮ মিনিট
সব optimization সমান কঠিন নয়। Convex ফাংশনে শুধু একটিই উপত্যকা — local minimum মানেই global minimum। Non-convex (যেমন neural net loss) এ অসংখ্য উপত্যকা, saddle, plateau — তবু আমরা কাজ চালিয়ে নিই।
Convex set
একটি set C convex যদি যেকোনো দুটি বিন্দু x, y ∈ C-এর মাঝের সব বিন্দু (line segment) C-তে থাকে।
Convex function
অর্থাৎ chord সবসময় function-এর উপরে। গ্রাফ একটি "bowl"।
Convexity যাচাই
- এক ভেরিয়েবল: f″(x) ≥ 0।
- বহু ভেরিয়েবল: Hessian ∇²f positive semi-definite (সব λ ≥ 0)।
- Convex-এর যোগ, max — convex; affine composition — convex।
কেন গুরুত্বপূর্ণ
- Convex problem: local min = global min।
- Gradient descent অবশ্যই (উপযুক্ত η-তে) global-এ পৌঁছায়।
- তত্ত্ব শক্তিশালী, convergence rate প্রমাণযোগ্য।
Convex উদাহরণ
- Linear regression: ½‖Xw − y‖²।
- Logistic regression।
- SVM (hinge loss)।
- Ridge, Lasso।
উদাহরণ
Convex বনাম non-convex
f(x) = x² convex (f'' = 2 > 0)।
g(x) = x³ − 3x non-convex (g'' = 6x বদলায়)।
Convex-এ local minimum = global; non-convex-এ অনেক local minima থাকতে পারে।
মূল ভাবনা
- 1.Convex set + convex function।
- 2.Hessian PSD ⇔ convex।
- 3.Convex-এ local = global।
- 4.Linear/Logistic regression convex, deep net নয়।
নিজেকে যাচাই করো
প্রশ্নে ক্লিক করে উত্তর দেখো — তবে আগে নিজে চেষ্টা করো।
প্রশ্ন 1।Convex function-এর geometric অর্থ?
উত্তর:Chord function-এর উপরে; bowl-আকৃতি।
প্রশ্ন 2।Hessian দিয়ে convexity যাচাই?
উত্তর:∇²f positive semi-definite।
প্রশ্ন 3।Convex problem-এর সুবিধা?
উত্তর:Local min = global min।
প্রশ্ন 4।Convex check via Hessian?
উত্তর:PSD হলেই convex।
প্রশ্ন 5।Deep learning loss সাধারণত?
উত্তর:Non-convex।
ইন্টারেক্টিভ কুইজ
মূল ভাবনার উপর দ্রুত যাচাই — সঠিক বিকল্পটি বাছাই করো।
প্রশ্ন 1।“কনভেক্সিটি” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 2।“কনভেক্সিটি” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 3।“কনভেক্সিটি” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
প্রশ্ন 4।“কনভেক্সিটি” অধ্যায়ের মূল ভাবনাগুলোর মধ্যে নিচের কোনটি অন্তর্ভুক্ত?
উত্তর দেওয়া হয়েছে: 0/4