共轭函数 Conjugate Function

定义

对于原函数\(f(x),x \in D\),其共轭函数为

\[f^*(y)=\sup_{x \in D}(<y,x>-f(x)) \]

其中注意\(<y,x>\)

  • 对于标量:\(y \cdot x\)
  • 对于向量:\(y^Tx\)
  • 对于矩阵:\({\rm tr}(yx)\)
    并且\(<y,x>-f(x) < -\infty\),即一定有上界

几何表示

对于共轭函数的每一个自变量\(y=\bar y\),其取值相当于一条直线与原函数之差的最大值
对\(x\)求导得到最大值

\[\frac {\partial (<y,x>-f(x))} {\partial x}=0 \ \Rightarrow f'(x)=y \]

下边给出几个函数与他们的共轭函数
共轭函数 Conjugate Function

意义

共轭函数的主要作用就是
一个函数即便不是凸函数,但通过共轭法获得一个凸函数,很方便求解全局最优解的问题

参考链接
凸优化中的共轭函数
共轭函数的意义

上一篇:C#的基础—C#中的方法(3)


下一篇:【深度学习笔记】4.前馈神经网络