#noindex 대략, 어떤 [[제약,constraint]] / 제약조건 내에서, [[목적함수,objective_function]]의 최대최소를 찾는 그런 방법? optimum을 찾는 방법은 아니고, optimum이 되기 위한 조건을 찾는 방법. 즉, 최적해의 필요조건을 찾는 방법. - from https://untitledtblog.tistory.com/96 첫부분, chk $L(\vec{x},\lambda)=f(\vec{x})+\sum (... tbw)$ = Thomas 13e ko p735; tmp - 더 나은 설명으로 교체할 것 = ...이 방법은 제약조건 $g(x,y,z)=0$ 을 만족하는 변수 중에서 함수 $f(x,y,z)$ 의 [[극대값,]](curr see [[극값,extremum]])은 $\nabla f = \lambda \nabla g$ 를 만족하는 [[곡면,surface]] $g=0$ 위의 [[점,point]]에서 얻어진다는 것이다. 여기서 $\lambda$ 는 적당한 상수이다. ('''라그랑주 승수'''라고 부른다.) = tmp; ㄷㄱㄱ Week 14-1 = (거기에 같은 내용 중복, del ok) 다음 constrained NLP를 생각 Maximize $z=f(\vec{x})$ Subject to $g_j(\vec{x}) \le b_j \;\;\;\text{for }\; j=1,2,\ldots,k$ 그러면 NLP의 '''Lagrangian function'''은 이렇게 정의. $L(\vec{x},\vec{\lambda})=f(\vec{x})+\sum_{j=1}^k \lambda_j \left[ b_j - g_j(\vec{x}) \right]$ with $\lambda_j \ge 0$ for $\forall j$ 우변의 오른쪽의 시그마 항은 'penalty term'으로 해석된다. = 3D의 경우, 오장헌 = $f(x,y,z)=c$ (c는 상수) 라는 제한조건(곡면?) 안에서 $g(x,y,z)$ 의 [[최대,maximum]] 혹은 [[최소,minimum]]를 구하려면? $\nabla f$ (벡터)는 $f=c$ 의 접평면에 수직인 벡터, $\nabla g$ 는 $\nabla f$ 와 관련없는 임의의 벡터. 그런데 최대/최소 조건이 있으면 관계가 특별해진다. $\nabla g$ 는 최대/최소점에서는 $\nabla f$ 와 평행하게 된다. 식으로 나타내면 $\nabla f \parallel \nabla g$ $\nabla f = \lambda \nabla g\;\;(\lambda:\text{scalar})$ 따라서 $\nabla f(x_0,y_0,z_0) = \lambda \nabla g(x_0,y_0,z_0)$ $f(x_0,y_0,z_0)=c$ 이런 식이 네 개, 변수도 $x_0,y_0,z_0,\lambda$ 네 개인 연립방정식이 된다. (c는 상수) 식들을 명시적으로 표현하면 $f_x=\lambda g_x,\,f_y=\lambda g_y,\,f_z=\lambda g_z,\,f(x_0,y_0,z_0)=c$ // http://kocw.net/home/cview.do?cid=dc4db5e5ae7b20d0 6-2 ---- tmp links ko: https://untitledtblog.tistory.com/96 1. geometric 설명 2. [[전미분,total_differential]] 설명 https://blog.naver.com/mindo1103/90154212128 (Stewart) https://ratsgo.github.io/convex%20optimization/2018/01/25/duality/ https://mathphysics.tistory.com/498?category=688910 - 중간부터 https://blog.naver.com/lyb0684/221332307807 https://sasamath.com/blog/articles/finding-lengths-of-axis-ellipse-lagrangian-method/ https://freshrimpsushi.github.io/posts/lagrangian-multiplier-in-optimization-theory/ https://aerospacekim.tistory.com/14 tmp bmks en: https://tutorial.math.lamar.edu/classes/calciii/lagrangemultipliers.aspx https://medium.com/@andrew.chamberlain/a-simple-explanation-of-why-lagrange-multipliers-works-253e2cdcbf74 https://machinelearningmastery.com/a-gentle-introduction-to-method-of-lagrange-multipliers/ Understanding Lagrange Multipliers Visually - YouTube https://www.youtube.com/watch?v=5A39Ht9Wcu0 related: [[최적화,optimization]] maybe related: ...rel? [[전미분,total_differential]] [[기울기벡터,gradient_vector]] [[선형계획법,linear_programming]] '''LM'''을 더 일반화 한 방법: [[KKT_조건,KKT_condition]] 이것('''LM''')으로 [[코시-슈바르츠_부등식,Cauchy-Schwartz_inequality]] 증명 가능. 표현 Lagrange multiplier: 라그랑주 승수, 라그랑주 곱셈자 Lagrange multiplier method: 라그랑주 승수법, 라그랑주 곱셈자방법 (기타: 라그랑지 곱수) Ggl:"lagrange undetermined multiplier" ---- [[WpKo:라그랑주_승수법]] [[WpEn:Lagrange_multiplier]] [[WpJa:ラグランジュの未定乗数法]] https://mathworld.wolfram.com/LagrangeMultiplier.html Up: [[다변수미적분,multivariable_calculus]] [[최적화,optimization]] multiplier { WtEn:multiplier }