您好、欢迎来到现金彩票网!
当前位置:盛宏彩票 > 方向向量 >

支持向量机(三):图解KKT条件和拉格朗日乘子法

发布时间:2019-05-11 09:49 来源:未知 编辑:admin

  支持向量机求解最优化参数的过程中需要用到拉格朗日乘子法和KKT条件,本文用清晰易懂的图解法说明拉格朗日乘子法和KKT条件的含义,希望能够帮助你理解这种最优化思想。

  等高线如下图,同心圆为等高线,圆的半径越大,等高线也越大,即f(x,y)值越大。

  梯度方向是函数增加最快的方向,即等高线的法向量方向,图示的绿色箭头为梯度方向。

  上图,当f(x,y)的等高线与约束条件的边界直线相切时,f(x,y)有最小值。

  如上图,拉格朗日乘子α的含义是约束条件边界直线的法向量与目标函数等高线的法向量是共线向量,结合约束边界直线在C点的定义(g(x,y)=0),即KKT条件,表示为:

  目标函数的梯度可以表示为约束条件的梯度展开的向量空间,系数为拉格朗日乘子α和β。若再增加限制条件,结论是一致的。

  当目标函数的最优解在约束条件的边界直线内时,拉格朗日乘子α0,如下图:

http://monokkeli.net/fangxiangxiangliang/193.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有