1、交集 Intersection
若 S 1 , S 2 S_1,S_2 S1,S2为凸,则 S 1 ∩ S 2 S_1 \cap S_2 S1∩S2为凸
扩展:若 S α S_{\alpha} Sα为凸集,则 ∀ a ∈ A , ∩ α ∈ A S α \forall \space a \in A, {\underset {\alpha \in A}{\operatorname {\cap} }} S_{\alpha} ∀ a∈A,α∈A∩Sα为凸集
2、仿射函数 Affine function
定义: a f u n c t i o n f : R n → R m i s a f f i n e i f i t i s a s u m o f a l i n e a r f u n c t i o n a n d a c o n s t r a n t a \space function \space f:R^n \rightarrow R^m \space is \space affine \space if \space it \space is \space a \space sum \space of \space a \space linear \space function \space and \space a \space constrant a function f:Rn→Rm is affine if it is a sum of a linear function and a constrant
数学描述为:
f
:
R
n
→
R
m
是
仿
射
函
数
,
当
f
(
x
)
=
A
x
+
b
,
A
∈
R
m
×
n
,
b
∈
R
m
f:R^n \rightarrow R^m是仿射函数,当f(x)=Ax+b,A \in R^{m \times n},b \in R^m
f:Rn→Rm是仿射函数,当f(x)=Ax+b,A∈Rm×n,b∈Rm
定理:若
S
∈
R
n
S \in R^n
S∈Rn为凸集,
f
:
R
n
→
R
m
f:R^n \rightarrow R^m
f:Rn→Rm为仿射函数,则:
f
(
S
)
=
{
f
(
x
)
∣
x
∈
S
}
f(S)=\{f(x) \mid x \in S\}
f(S)={f(x)∣x∈S}为凸
逆仿射(inverse affine): g : R n → R m g:R^n \rightarrow R^m g:Rn→Rm是仿射函数,则 g − 1 ( S ) = { x ∣ g ( x ) ∈ S } g^{-1}(S)=\{x \mid g(x) \in S\} g−1(S)={x∣g(x)∈S}
定理:缩放与移位是保持凸性的
S
为
凸
集
,
α
S
=
{
α
x
∣
x
∈
S
}
,
S
+
a
=
{
x
+
a
∣
x
∈
S
}
都
为
凸
S
1
,
S
2
为
凸
集
,
S
1
+
S
2
=
{
x
+
y
∣
x
∈
S
1
,
y
∈
S
2
}
,
S
1
×
S
2
=
{
(
x
,
y
)
∣
x
∈
S
1
,
y
∈
S
2
}
都
为
凸
S为凸集,\alpha S=\{\alpha x \mid x \in S\},S+a=\{x+a \mid x \in S\}都为凸 \\ S_1,S_2为凸集,S_1+S_2=\{x+y\mid x \in S_1,y \in S_2\},\\ S_1 \times S_2=\{(x,y)\mid x\in S_1,y\in S_2\} 都为凸
S为凸集,αS={αx∣x∈S},S+a={x+a∣x∈S}都为凸S1,S2为凸集,S1+S2={x+y∣x∈S1,y∈S2},S1×S2={(x,y)∣x∈S1,y∈S2}都为凸
Ex1:线性矩阵的不变形 LMI( linear matrix inequality)
A
(
X
)
=
x
1
A
1
+
⋯
+
x
n
A
n
⪯
B
⇔
A
(
X
)
−
B
⪯
0
半
负
定
B
,
A
i
,
x
i
∈
S
m
(
对
称
矩
阵
)
A(X)=x_1A_1+\cdots +x_nA_n \preceq B \\ \Leftrightarrow A(X)-B \preceq 0\space\space 半负定\\ B,A_i,x_i \in S^m(对称矩阵)
A(X)=x1A1+⋯+xnAn⪯B⇔A(X)−B⪯0 半负定B,Ai,xi∈Sm(对称矩阵)
定义仿射变换
f
(
x
)
=
B
−
A
(
x
)
f(x)=B-A(x)
f(x)=B−A(x),
S
+
n
S^n_+
S+n为凸集,
f
−
1
(
S
+
n
)
=
{
x
∣
B
−
A
(
x
)
⪰
0
}
f^{-1}(S^n_+)=\{x \mid B-A(x) \succeq 0\}
f−1(S+n)={x∣B−A(x)⪰0}为凸
结论:故 A ( X ) − B ⪯ 0 A(X)-B \preceq 0 A(X)−B⪯0为凸集
Ex2:椭球是球的仿射映射
ε
=
{
x
∣
(
x
−
x
c
)
T
p
−
1
(
x
−
x
c
)
≤
1
}
,
P
∈
S
+
+
n
单
位
球
{
u
∣
∣
∣
u
∣
∣
2
≤
1
}
令
f
(
u
)
=
p
1
2
u
+
x
c
,
其
中
p
1
2
p
1
2
=
p
\varepsilon = \{x \mid (x-x_c)^Tp^{-1}(x-x_c) \leq 1\},P \in S^n_{++}\\ 单位球 \space\space \{u \mid ||u||_2 \leq 1\}\\ 令f(u)=p^{\frac{1}{2}}u+x_c,其中p^{\frac{1}{2}}p^{\frac{1}{2}}=p\\
ε={x∣(x−xc)Tp−1(x−xc)≤1},P∈S++n单位球 {u∣∣∣u∣∣2≤1}令f(u)=p21u+xc,其中p21p21=p
构造新集合
{
f
(
u
)
∣
∣
∣
u
∣
∣
2
≤
1
}
=
{
p
1
2
u
+
x
c
∣
∣
∣
u
∣
∣
2
≤
1
}
\{f(u)\mid ||u||_2 \leq 1\}\\ =\{p^{\frac{1}{2}}u+x_c \mid ||u||_2 \leq 1\}\\
{f(u)∣∣∣u∣∣2≤1}={p21u+xc∣∣∣u∣∣2≤1}
令
x
=
p
1
2
u
+
x
c
x=p^{\frac{1}{2}}u+x_c
x=p21u+xc,即
u
=
p
−
1
2
(
x
−
x
c
)
,
P
∈
S
+
+
n
u=p^{-\frac{1}{2}}(x-x_c),P\in S^n_{++}
u=p−21(x−xc),P∈S++n,则上式:
=
{
x
∣
∣
∣
p
−
1
2
(
x
−
x
c
)
∣
∣
2
≤
1
}
=
{
x
∣
(
x
−
x
c
)
T
P
−
1
(
x
−
x
c
)
≤
1
}
=\{x\mid ||p^{-\frac{1}{2}}(x-x_c)||_2 \leq 1\} \\ =\{x\mid (x-x_c)^TP^{-1}(x-x_c) \leq 1\}
={x∣∣∣p−21(x−xc)∣∣2≤1}={x∣(x−xc)TP−1(x−xc)≤1}
这里无法证明下式:
∣
∣
p
−
1
2
(
x
−
x
c
)
∣
∣
2
≤
1
(
x
−
x
c
)
T
(
p
−
1
2
)
T
(
p
−
1
2
)
(
x
−
x
c
)
≤
1
无
法
证
明
(
p
−
1
2
)
T
(
p
−
1
2
)
=
P
−
1
||p^{-\frac{1}{2}}(x-x_c)||_2 \leq 1 \\ (x-x_c)^T(p^{-\frac{1}{2}})^T(p^{-\frac{1}{2}})(x-x_c) \leq 1\\ 无法证明(p^{-\frac{1}{2}})^T(p^{-\frac{1}{2}})=P^{-1}
∣∣p−21(x−xc)∣∣2≤1(x−xc)T(p−21)T(p−21)(x−xc)≤1无法证明(p−21)T(p−21)=P−1
3、透视函数 Perspection function
透视函数 P : R n + 1 → R n P:R^{n+1} \rightarrow R^n P:Rn+1→Rn, d o m P = R n × R + + dom P=R^n \times R_{++} domP=Rn×R++, R + + 为 整 数 , d o m 为 d o m a i n , 定 义 域 R_{++}为整数,dom为domain,定义域 R++为整数,dom为domain,定义域
数学描述为:
P
(
z
,
t
)
=
z
t
,
z
∈
R
n
,
t
∈
R
+
+
P(z,t)=\frac{z}{t},z\in R^n,t\in R_{++} \\
P(z,t)=tz,z∈Rn,t∈R++
定理:任意一个凸集经过透视函数之后仍为凸集
Ex1:
R
n
+
1
R^{n+1}
Rn+1内的线段
X
=
{
x
~
,
x
n
+
1
}
∈
{
R
n
,
R
+
+
}
,
Y
=
{
y
~
,
y
n
+
1
}
∈
{
R
n
,
R
+
+
}
θ
≥
0
,
线
段
可
表
示
为
:
θ
x
+
(
1
−
θ
)
y
证
明
:
R
n
+
1
线
段
⟶
P
R
n
线
段
x
⟶
P
P
(
x
)
,
y
⟶
P
P
(
y
)
θ
x
+
(
1
−
θ
)
y
⟶
P
P
(
θ
x
+
(
1
−
θ
)
y
)
P
(
θ
x
+
(
1
−
θ
)
y
)
=
θ
x
~
+
(
1
−
θ
)
y
~
θ
x
n
+
1
+
(
1
−
θ
)
y
n
+
1
=
θ
x
n
+
1
θ
x
n
+
1
+
(
1
−
θ
)
y
n
+
1
x
~
x
n
+
1
+
(
1
−
θ
)
y
n
+
1
θ
x
n
+
1
+
(
1
−
θ
)
y
n
+
1
y
~
y
n
+
1
⟶
P
μ
P
(
x
)
+
(
1
−
μ
)
P
(
y
)
,
0
≤
μ
≤
1
上
式
属
于
n
维
空
间
中
的
线
段
,
线
段
是
凸
集
X=\{\widetilde{x},x_{n+1}\} \in \{R^n,R_{++}\},Y=\{\widetilde{y},y_{n+1}\}\in \{R^n,R_{++}\}\\ \theta \geq 0,线段可表示为:\theta x+(1-\theta)y\\ 证明:R^{n+1}线段 \stackrel{P}{\longrightarrow} R^n线段\\ x \stackrel{P}{\longrightarrow} P(x),y \stackrel{P}{\longrightarrow} P(y)\\ \theta x+(1-\theta)y \stackrel{P}{\longrightarrow} P(\theta x+(1-\theta)y)\\ P(\theta x+(1-\theta)y)=\frac{\theta \widetilde{x}+(1-\theta)\widetilde{y}}{\theta x_{n+1}+(1-\theta)y_{n+1}}\\ =\frac{\theta x_{n+1}}{\theta x_{n+1}+(1-\theta)y_{n+1}} \frac{\widetilde{x}}{x_{n+1}}+\frac{(1-\theta) y_{n+1}}{\theta x_{n+1}+(1-\theta)y_{n+1}} \frac{\widetilde{y}}{y_{n+1}}\\ \stackrel{P}{\longrightarrow} \mu P(x)+(1-\mu)P(y),0 \leq \mu \leq 1 \\ 上式属于n维空间中的线段,线段是凸集
X={x
,xn+1}∈{Rn,R++},Y={y
,yn+1}∈{Rn,R++}θ≥0,线段可表示为:θx+(1−θ)y证明:Rn+1线段⟶PRn线段x⟶PP(x),y⟶PP(y)θx+(1−θ)y⟶PP(θx+(1−θ)y)P(θx+(1−θ)y)=θxn+1+(1−θ)yn+1θx
+(1−θ)y
=θxn+1+(1−θ)yn+1θxn+1xn+1x
+θxn+1+(1−θ)yn+1(1−θ)yn+1yn+1y
⟶PμP(x)+(1−μ)P(y),0≤μ≤1上式属于n维空间中的线段,线段是凸集
Ex2:任意凸集的反透视映射仍是凸集
P
−
1
(
C
)
=
{
(
x
,
t
)
∈
R
n
+
1
∣
x
t
∈
C
,
t
>
0
}
(
x
,
t
)
∈
P
−
1
(
C
)
,
(
y
,
s
)
∈
P
−
1
(
C
)
,
0
≤
θ
≤
1
P
−
1
(
(
x
,
t
)
,
(
y
,
s
)
)
=
θ
x
+
(
1
−
θ
)
y
θ
t
+
(
1
−
θ
)
s
=
(
θ
t
θ
t
+
(
1
−
θ
)
s
)
x
t
+
(
1
−
θ
t
θ
t
+
(
1
−
θ
)
s
)
y
s
⟶
P
−
1
μ
P
(
x
,
t
)
+
(
1
−
μ
)
P
(
y
,
s
)
∈
C
P^{-1}(C)=\{(x,t) \in R^{n+1} \mid \frac{x}{t} \in C,t>0\} \\ (x,t) \in P^{-1}(C), (y,s) \in P^{-1}(C), 0 \leq \theta \leq 1 \\ P^{-1}((x,t),(y,s))=\frac{\theta x+(1-\theta)y}{\theta t+(1-\theta)s}\\ =(\frac{\theta t}{\theta t+(1-\theta)s})\frac{x}{t}+(1-\frac{\theta t}{\theta t+(1-\theta)s})\frac{y}{s}\\ \stackrel{P^{-1}}{\longrightarrow} \mu P(x,t)+(1-\mu)P(y,s) \in C
P−1(C)={(x,t)∈Rn+1∣tx∈C,t>0}(x,t)∈P−1(C),(y,s)∈P−1(C),0≤θ≤1P−1((x,t),(y,s))=θt+(1−θ)sθx+(1−θ)y=(θt+(1−θ)sθt)tx+(1−θt+(1−θ)sθt)sy⟶P−1μP(x,t)+(1−μ)P(y,s)∈C
Ex3:将仿射函数与透视函数结合
⟶
\longrightarrow
⟶线性分段函数
g
:
R
n
⟶
R
m
+
1
为
仿
射
映
射
g
(
x
)
=
[
A
C
T
]
x
+
[
b
d
]
,
A
∈
R
m
×
n
,
b
∈
R
m
,
C
∈
R
n
,
d
∈
R
P
:
R
m
+
1
⟶
R
m
线
性
分
段
函
数
:
P
:
R
n
⟶
R
m
=
P
∙
g
f
(
x
)
=
A
x
+
b
C
T
x
+
d
,
d
o
m
f
=
{
x
∣
C
T
x
+
d
>
0
}
两
个
线
性
变
换
的
除
法
也
可
以
保
持
凸
性
g:R^n \longrightarrow R^{m+1} 为仿射映射\\ g(x)=\left[ \begin{matrix} A \\ C^T \end{matrix} \right]x+\left[ \begin{matrix} b \\ d \end{matrix} \right],A\in R^{m \times n},b\in R^m,C\in R^n,d\in R \\ P:R^{m+1} \longrightarrow R^m\\ 线性分段函数:P:R^n \longrightarrow R^m=P \bullet g\\ f(x)=\frac{Ax+b}{C^Tx+d},dom \space f=\{x \mid C^Tx+d > 0\}\\ 两个线性变换的除法也可以保持凸性
g:Rn⟶Rm+1为仿射映射g(x)=[ACT]x+[bd],A∈Rm×n,b∈Rm,C∈Rn,d∈RP:Rm+1⟶Rm线性分段函数:P:Rn⟶Rm=P∙gf(x)=CTx+dAx+b,dom f={x∣CTx+d>0}两个线性变换的除法也可以保持凸性