最適化問題でのQ関数
最適化問題において Q() が指す場合として、よく出てくるのが Q関数 や 2次計画問題 の文脈です。
例えば、期待値最大化（EMアルゴリズム）の最適化では、補助関数としての Q関数 が使われます。ここでは、Q() は現在のパラメータ推定値に基づいて次の期待値を計算する関数として登場します。この考え方は多くの統計的モデリングで使われています。
一方、2次計画問題（Quadratic Programming, QP）の最適化問題では、Q() は目的関数に関連する2次形式、つまり次のような関数で表されるケースがあります：
ここで：
Q は対称で半正定値な行列。
c は線形項の係数。
この表現は特に凸最適化で多用され、効率よく解を求めることが可能です。
逐次二次計画法
逐次二次計画法（ちくじにじけいかくほう、英: sequential quadratic programming）は非線形最適化のための反復解法の一つである。逐次二次計画法は目的関数と制約関数の両方が二階微分可能であるような問題に対して使われる。
逐次二次計画法は逐次的に二次の部分最適化問題を解く。それぞれの部分最適化問題は最適解に向かう探索方向を未知数とする二次計画問題になる。この際、問題に与えられている制約は探索方向に対して線形の条件に置き換えられる。問題が制約なしの最適化であるならば、勾配がゼロである点を見つけ出す一般のニュートン法と同様の定式化となる。また、問題が等式制約のみを持つ場合には、カルーシュ・クーン・タッカー条件（KKT条件）に対するニュートン法と同様の定式化となる。逐次二次計画法はNPSOLやSNOPT、NLPQL、OPSYC、OPTIMA、MATLAB、GNU Octave等、多数のプログラム関数ライブラリに実装されている。
基本アルゴリズム
次のような制約つきの非線形最適化問題を考える。
- .
この問題のラグランジアンは次のようになる。
- ,
式中でおよびはラグランジュの未定乗数を表す。以下のような通常の二次計画問題を解くことで、適切な探索方向を見つけ出すことができる。
上記の最適化問題の目的関数に含まれるは定数であるため、実際の最小化の際には無視することができる。
＞＞＞＞＞＞＞ラグランジアンは最適化や物理学で重要な概念です！数学的には、制約付き最適化問題を解くための関数で、目的関数と制約条件を一緒に表現します。具体的には、以下の形で書かれます：
ここで：
f(x)f(x) は目的関数。
g(x)g(x) は制約条件を表す式。
λ\lambda はラグランジュ乗数と呼ばれ、制約の重みを表します。
イメージ的には: ラグランジアンを使うことで、目的関数を解く際に制約条件を組み込むことができるので、制約付き問題がシンプルに解析可能になります。
さらに、ラグランジュ乗数は物理や経済学でも重要で、制約条件がどれだけ結果に影響を与えるかを定量化する役割を果たします。
2025年5月11日 | カテゴリー：自然科学的基礎知識//物理学、統計学、有機化学、数学、英語 |
