全部笔记的汇总贴(视频也有传送门):中科大-凸优化
一、凸集与凸函数的关系 α ? s u b l e v e l ?? s e t \alpha - sublevel\;
set α?sublevelset
若 f : R n → R f:\R^n\rightarrow\R f:Rn→R,定义其 α ? s u b l e v e l ?? s e t \alpha - sublevel\;
set α?sublevelset为 C α = { x ∈ d o m ?? f ∣ f ( x ) ≤ α } C_\alpha=\{x\in dom\;
f|f(x)\le\alpha\} Cα?={ x∈domf∣f(x)≤α}
凸函数的所有的 α ? s u b l e v e l ?? s e t \alpha - sublevel\;
set α?sublevelset都是凸集。
证明: ? x , y ∈ C α , f ( x ) ≤ α , f ( y ) ≤ α , x ∈ d o m ?? f , y ∈ d o m ?? f f ( θ x + ( 1 ? θ ) y ) ≤ θ f ( x ) + ( 1 ? θ ) f ( y ) ≤ θ α + ( 1 ? θ ) α = α θ x + ( 1 ? θ ) y ∈ C α \forall x,y\in C_\alpha,f(x)\le\alpha,f(y)\le\alpha,x\in dom\; f,y\in dom\; f\\f(\theta x+(1-\theta)y)\le\theta f(x)+(1-\theta)f(y)\\\le\theta \alpha+(1-\theta)\alpha\\=\alpha\\\theta x+(1-\theta)y\in C_\alpha ?x,y∈Cα?,f(x)≤α,f(y)≤α,x∈domf,y∈domff(θx+(1?θ)y)≤θf(x)+(1?θ)f(y)≤θα+(1?θ)α=αθx+(1?θ)y∈Cα?若函数的 α ? s u b l e v e l ?? s e t \alpha - sublevel\; set α?sublevelset都是凸集,则 f f f不一定是凸函数。
文章图片
二、拟凸函数(Quasi Convex Function) f : R n → R f:\R^n\rightarrow\R f:Rn→R
Q u a s i ?? C o n v e x : S α = { x = d o m ?? f ∣ f ( x ) ≤ α } ???? 凸 , ? α Q u a s i ?? C o n c a v e : S α ′ = { x = d o m ?? f ∣ f ( x ) ≥ α } ???? 凸 , ? α Q u a s i ?? L i n e a r : S α ′ ′ = { x = d o m ?? f ∣ f ( x ) = α } ???? 凸 , ? α Quasi\; Convex :S_\alpha=\{x=dom\; f|f(x)\le\alpha\}\; \; 凸,\forall\alpha\\Quasi\; Concave :S'_\alpha=\{x=dom\; f|f(x)\ge\alpha\}\; \; 凸,\forall\alpha\\Quasi\; Linear :S''_\alpha=\{x=dom\; f|f(x)=\alpha\}\; \; 凸,\forall\alpha QuasiConvex:Sα?={ x=domf∣f(x)≤α}凸,?αQuasiConcave:Sα′?={ x=domf∣f(x)≥α}凸,?αQuasiLinear:Sα′′?={ x=domf∣f(x)=α}凸,?α
y = e x y=e^x y=ex同时满足上面三条性质。
凸 ? \Rightarrow ? 拟凸, ?????????????? \; \; \; \; \; \; \; 拟凸 ? \nRightarrow ?凸
也称为单模态函数(Unimodal Function)
文章图片
f : R n → R f:\R^n\rightarrow\R f:Rn→R为凸,则 d o m ?? f dom\; f domf为凸, ? x , y ∈ d o m ?? f , 0 ≤ θ ≤ 1 \forall x,y\in dom\; f,0\le\theta\le1 ?x,y∈domf,0≤θ≤1 θ f ( x ) + ( 1 ? θ ) f ( y ) ≥ f ( θ x + ( 1 ? θ ) y ) \theta f(x)+(1-\theta)f(y)\ge f(\theta x+(1-\theta)y) θf(x)+(1?θ)f(y)≥f(θx+(1?θ)y)
f : R n → R f:\R^n\rightarrow\R f:Rn→R为拟凸,则 d o m ?? f dom\; f domf为凸, ? x , y ∈ d o m ?? f , 0 ≤ θ ≤ 1 \forall x,y\in dom\; f,0\le\theta\le1 ?x,y∈domf,0≤θ≤1 max ? { f ( x ) , f ( y ) } ≥ f ( θ x + ( 1 ? θ ) y ) \max\{f(x),f(y)\}\ge f(\theta x+(1-\theta)y) max{ f(x),f(y)}≥f(θx+(1?θ)y)
文章图片
例
向量的长度 x ∈ R n x\in\R^n x∈Rn: x x x中最后一个非零元素的位置例
f ( x ) = { max ? { i , x i ≠ 0 } ?????? x ≠ 0 0 ???????????????????????????????????????????????? x = 0 { f ( x ) ≤ α } ? 对 所 有 i = ? α ? + 1 , ? ? , n , x i = 0 f(x)=\left\{ \begin{array}{l} \max\{i,x_i\neq0\}\; \; \; x\neq0\\ \\0\; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; \; x=0\end{array} \right. \\\{f(x)\le\alpha\}\Rightarrow 对所有i=\lfloor \alpha\rfloor+1,\cdots,n,x_i=0 f(x)=????max{ i,xi??=0}x?=00x=0?{ f(x)≤α}?对所有i=?α?+1,?,n,xi?=0
线性分数函数 f ( x ) = a T x + b c T x + d ???? d o m ?? f = { x ∣ c T x + d > 0 } f(x)=\frac{a^Tx+b}{c^Tx+d}\; \; dom\; f=\{x|c^Tx+d>0\} f(x)=cTx+daTx+b?domf={ x∣cTx+d>0}(不一定凸,但是拟凸)【#|中科大-凸优化 笔记(lec18)-拟凸函数(上)】下一章传送门:中科大-凸优化 笔记(lec19)-拟凸函数(下)
S α = { x ∣ c T x + d > 0 , a T x + b c T x + d ≤ α } = { x ∣ c T x + d > 0 , a T x + b ≤ α ( c T x + d ) } ( 线 性 不 等 式 ? 多 面 体 ) S_\alpha=\{x|c^Tx+d>0,\frac{a^Tx+b}{c^Tx+d}\le\alpha\}\\=\{x|c^Tx+d>0,a^Tx+b\le\alpha(c^Tx+d)\}\\(线性不等式\Rightarrow多面体) Sα?={ x∣cTx+d>0,cTx+daTx+b?≤α}={ x∣cTx+d>0,aTx+b≤α(cTx+d)}(线性不等式?多面体)
推荐阅读
- #|【字节跳动】-复盘-一面+二面+三面+hr面+交叉面
- #|Java多线程那些事,对Java并发编程2w余字的总结,超详细(从入门到完全掌握)
- #|JavaCV-FFmpeg软封装多线程实现录制或推送rtsp流
- MATLAB完整学习过程|Matlab中脚本的运用
- #|Python剑指offer打卡-4
- #|机器学习入门三
- #|Docker部署(MySQL)
- #|【Task12】LeetCode腾讯精选打卡
- #|《Quartz 2D编程指南》之【graphics context】图形上下文的作用、分类、状态的保持、恢复、 上下文的矩阵操作(修改上下文的形变)